ハーバードビジネスレビューのレビュー-AIの世界で求められること 4/4

ダイヤモンド社のHarvard Business Review(HBR) 9月号についてのレビュー後編です。前回からはAIの苦手なことをかんがえることで、どのようなスキルが今後重宝されるかについて考えています。

AIについては今回が最終回で、倫理や人間らしさという点でどのようなスキルが必要とされるかを考えていきます！

人間の倫理について考える
人に求められるスキル5：AIが出した答えを確認/判断する
まとめ

人間の倫理について考える

最後に考えたいのは、人間の倫理は人間自身が考えなければならないという点です。

何が正しい判断なのか、だれも決めることができず、長年決着がつかない問題は多くあります。

国家や民族、宗教間の問題も、それぞれにとって求める正解が異なるため、みんなが納得する1つのわかりやすい答えは出てきません。

どこかに必ず不平等や不公平が発生します。この判断や責任をAIに任せることは可能でしょうか？

機械に任せることができない人間の責任

また、もしAIが全世界のバランスを考慮して最も適切な回答ができるとしても、その判断に全てを任せるというのは想像するのは、AIに支配された世界のようでぞっとします。

仮想現実という要素も追加されますが、マトリックスのようなコンピューターに管理された世界が理想と感じる人は少ないでしょう。

機械に任せるというのは負担を減らすので便利ですが、大事な根幹部分を機械に任せて思考や責任を放棄することは、同時に人間らしさや魅力、生きる意味も手放すことを意味するでしょう。

そして、そもそも機械は完璧ではなく、エラーがつきものとなります。機械学習するAIはそのアップデートにより、そのエラーの予測が更に難しく、想定外の影響を及ぼす可能性を増やします。

AIの使用者はそのエラーによるリスクを管理する責任があります。

機械学習とそれ以前のデジタル技術の大きな違いは、複雑化する判断を独力で行い、新たなデータに呼応して継続的に適応していく能力だ。（中略）しかし、こうしたアルゴリズムが常に円滑に機能するとは限らない。常に倫理的な、あるいは正確な選択をするとも限らない。
ボリス・バイッチ氏, I.グレン・コーエン氏, テオドロス・エフゲニュー氏, サラ・ゲルケ氏、友納仁子氏訳
機械学習による損失を回避する5つのポイント ,　 Harvard Business Review9月号

身近なAI活用でも発生する倫理の問題

よく身近で議論される倫理の思考実験ではトロッコ問題がありますね。

5人が作業中の線路へ侵入してきたトロッコを、あなたの目の前のジョイント切り替えにより、1人が作業中の線路へ進行方向を変えることで、犠牲者を選べてしまう状況で何を選択するのか。

本来被害が無かったはずの人を自らの手で犠牲者としてよいのか、救える5人の命があるのに傍観者として責任を放棄していいのか、人の命を単純に数で判断してよいのか、様々な要素があり絶対解はありません。

この問題はおとぎ話ではなく、現実の世界でも十分想定される問題となります。

自律的な判断を行う製品・サービスは、倫理的なジレンマを解消する必要がある。これはリスク、規制、製品開発の面で、また別の課題をもたらす。(中略)そこには、道徳的推論をいかに自動化するかという難問が含まれる。
ボリス・バイッチ氏, I.グレン・コーエン氏, テオドロス・エフゲニュー氏, サラ・ゲルケ氏、友納仁子氏訳
機械学習による損失を回避する5つのポイント ,　 Harvard Business Review9月号

AIの普及により重要度が増す倫理に関する議論

自動運転が更に発展した世界で、周辺を走る自動車の暴走（地震等による建物の崩壊でもいいかもしれません）により、ドライバーが危険に晒される場合を想定します。

この時に、回避をするというのが人工知能に求められる機能となりますが、その回避先が歩行者が大勢いる歩道しかなかった時に、自動運転はどのような動きが求められるでしょうか。

もし仮に、「設計されたアルゴリズムにより犠牲者やけが人が出た場合に責任を取るのは誰か」という議論は自動運転の能力が向上すればするほど、より重要度が増してくるでしょう。

人に求められるスキル5：AIが出した答えを確認/判断する

AIの出した答えが本当に正しいか確認/判断をする責任は人間にあります。

機械にその責任を押し付けることは出来ないためです。

そのために必要なことは継続的な監視と判断のための適切な基準の作成に分けることが可能です。

AIの変化と結果を継続的に監視する

AIはその複雑なシステムにより、アルゴリズムの変化がいつ起こるかは予想しづらく、またそのプロセスを後から検証することも困難です。

アルゴリズムの変化をどこまで制限するかも重要なポイントとなります。

リーダーが機械学習の採用を決めた場合、次に考えるべき重要な問いは、機械学習が持続的に発展することを認めるか、それとも試験済みでロックされたバージョンを定期的に導入するかということである。
ボリス・バイッチ氏, I.グレン・コーエン氏, テオドロス・エフゲニュー氏, サラ・ゲルケ氏、友納仁子氏訳
機械学習による損失を回避する5つのポイント ,　 Harvard Business Review9月号

また、例えこの発展がロックされていても環境や時代の変化、データのクオリティや、そもそものエラーにより、危険性を完全に除去することはできません。

そのため、AIの運用が目的に沿ったものとなっている、想定外のリスクや問題を引き起こしていないかを定期的に監視することが必要です。

適切な体制と、確認時期、確認方法、対象とするデータ、判断基準を含めた手順書の設定が運用前に求められます。

この適切な監視のためには、AIに対して期待するベネフィットは何であるかの明確化と、それに対してどれだけのリスクが許容されるかの範囲設定が重要となります。

前半部分はAIが適切に価値をもたらしているか判断する上で重要となります。この前提設定が曖昧であると、AIの使用を継続するべきかの判断もできません。

また、ベネフィットが曖昧であると、リスクが適正な範囲に含まれているかの比較判断もできなくなるので注意が必要です。

後者のリスクについては倫理に関する複雑な問題となり、どのような判断基準を作るかはAI使用者にとって重要な課題となります。

判断のための適切な基準を作り上げていく

判断を行き当たりばったりの不完全なものとしないために、AI使用者には考えるべきポイントを網羅した多角的な視点による判断基準の明文化が必要となります。

この基準がないと、判断者の独断や偏見により、公平性の欠落や一方的な搾取を招きかねません。

企業がこうした新しいリスクを管理するに当たり、グーグルやマイクロソフトなどがすでに実践しているように、倫理的なものを含めた独自のガイドラインを策定する必要があるだろう。有益なガイドラインにするために、通常はかなり具体的に（たとえば、どの公平性の定義を適用するかなど）定める必要があり、懸案されるリスクに応じて調整しなければならない。
ボリス・バイッチ氏, I.グレン・コーエン氏, テオドロス・エフゲニュー氏, サラ・ゲルケ氏、友納仁子氏訳
機械学習による損失を回避する5つのポイント ,　 Harvard Business Review9月号

また、この倫理的な考え方は時代とともに変わっていくという特徴があります。

そのため、基準を1度策定して終わりではなく、定期的な見直しが求められます。

AIのアルゴリズムの変化のみでなく、時代の変化という面についても柔軟に対応してくことが必要となるのです。

AIの倫理の問題を突き詰めると「正義とは何か」に踏み込んでいくことになり、その答えを導くのは簡単ではありません。
自分が不利な立場に立たされた時、そのルールを正当化できるのかと自問して、許されないと思うのならば考え直す必要がありそうです。
北川　拓也氏、
データとAIの力でウェルビーイングな社会を実現する ,　 Harvard Business Review9月号

AIに関する初の国際的な政策ガイドライン「AIに関するOECD原則(総務省翻訳版)」は、この難しい議論の全容を掴む上で参考になると思います。どのような議論が今後されていくかも勉強になりそうですね。

特にⅣ章の「1.1. 包摂的な成長、持続可能な開発及び幸福」と「1.2. 人間中心の価値観及び公平性」が今回の記事に関連度が高いです。

また、この基準を考える上で、答えが無い問いを粘り強く考えて求めていく姿勢が重要となります。

日本の教育は答えがある与えられた問について取り組む姿勢は身に付くのですが、上記の姿勢を身につけるカリキュラムは不足している印象です。日本の教育には哲学が不足しているという問題指摘もたまに耳にしますよね。

教えるハードルが高いので、学校の教育にも取り入れにくいのかなとも感じています。

与えられないのであれば、自主的に練習して鍛えていくしかありません。

むしろ、他の人がやっていないからこそ、差別化に繋がり今後の人生を助けるスキルになると言えますね!