身の周りにどんどん増えているAI

皆さんは、身の周りにどれだけAIが使われているか、考えてみたことがありますか？

iPhoneのSiriやAmazonのAlexaなどの音声アシスタント、Google翻訳、オンラインショッピングでAmazonから出されるレコメンドなど、既に私たちの日々の生活に欠かせない機能を始め、インターネット上の検索やSNSなどでも多くのAIが使われています。

ビジネスにおいても、投資の世界ではAI株価予測やAIトレーディングが行われていますし、銀行の融資でも、企業向けの資金調達から個人向けの住宅ローン審査などにAI審査が使われ始めています。米国で始まったAmazon Goに類似する無人コンビニや無人レジは日本でも少しずつ増える兆しを見せていますが、こういった“無人”は、人がやっていたことをAIに置き換えていくことで実現しています。人事労務関係でも、人材採用における書類選考や社員の退職や休職の予測などにAIが使われるようになってきています。今後は、車やドローン、ロボットなどの自動運転が物流業界を大きく変革していくでしょうし、頻繁にニュースになっている高齢ドライバーによる事故に対しても解決の糸口になっていくことでしょう。

このように、社会生活の中でこれまで人が行っていたことをAIが代行したり効率化したり変革したりする世界になると、当然、私たちはAIが導き出す答えに影響を受けるようになります。例えば、銀行から融資を受けようとする時や企業に就職を希望して採用試験を受けようとする時を想像してみてください。融資を断られたり、書類選考で不合格になったりした場合、もしかしたら、融資にNGを出したのも書類選考でNGとしたのもAIが判断したのかもしれません。もし、あなたが、なぜ融資を受けられないのか、なぜ書類選考で不合格になったのかを問い合わせした時に、担当者から

「AIがそのように判断したからです。私たちは、その答えを信用しただけです。なぜNGという答えになったかはわかりませんけどね」

と説明されたとしたら、あなたは納得できますか？できませんよね！

なぜ、AIの活用には “AI倫理” が必要なの？

これからの世の中では、こういったあなた自身が影響を受ける形で加速度的にAIが使われていくことは疑う余地もありません。物凄い勢いで加速していくことでしょう。ですから、人とAIが協調して生きるこれからの時代においては、「AIが導き出した答えを人がどのように判断し、どのように使うべきか」 ということは、避けてはとおれない重要な仕組み作りなんです。その仕組みをどのように作っていくかで、社会のあり方が大きく影響を受けてしまうでしょう。

「AIが導き出した答えを人がどのように判断し、どのように使うべきか」　に対する考え方が、“AI倫理” なのです。AIは、これまでにできなかったことを可能にし、人間社会の繁栄に大きく貢献できる可能性があります。一方で、従来の概念ではとらえきれない事象が発生して既存の規範ではカバーできないことが現れる可能性があります。また、不適切な活用により人間社会の利益に反する可能性もあります。

人間にとって大事な価値観を守りつつ、AIの技術的な発展も阻害しないようにしていくことが必要です。

そのためには、法令遵守に加えて、AIによって新たに生じる事象に対応し、かつ、人々の価値観の多様性を意識した “AI倫理” が必要なのです。

このAI倫理に関しては、2015年頃から、各国の様々な機関で熱い議論が進められ、多くの「AI倫理原則」が出されました。スタンフォード大学の人間中心AI研究所の調査によると、2015年から2020年にかけて、117件もの「AI原則」が発表されています。

私は、前職の富士通でAI事業に携わっていた時に、総務省のAIネットワーク社会推進会議で 「AIの開発および利活用における倫理」　に関する原則策定に携わりました。このAI倫理に関する議論は、現在は、原則を実践していくためのガイドラインを始めとするAIガバナンスに関する議論としてより具体的な内容に移行しています。現在私は、経済産業省の「AI原則の実践の在り方に関する検討会」に委員として参画するとともに、「一般社団法人AIビジネス推進コンソーシアム」でリスクベース・アプローチを取り入れた実践方法に取り組んでいます。

AIが悪さをするって、例えばどういう事が起こっているの？

“AI倫理“を語る時に、よく用いられる有名な事例が３つあります。

一つ目は、2015年にGoogle社で開発した写真分類ソフトで発生した事例です。

黒人の女性をゴリラと判定してしまい大問題となりました。これは悪意があったわけではなく、AIのアルゴリズムや学習用データが原因で発生しました。

二つ目は、2016年に発生したMicrosoft社のTay(テイ）というチャットボットで起こった事例です。

Tay(テイ）は会話をしながら学習するチャットボットですが、一部のユーザが意図的にヘイト発言を繰り返した結果、テイはそれを学習してしまい、数時間後にはテイ自体が差別発言を連発するようになってしまいました。

三つ目は、2018年に発生したAmazon社のAI人材採用システムの事例です。

Amazon社が、2014年から履歴書を審査するプログラムの開発に取り組んだのですが、ソフトウェア開発など技術開発の職種において、このシステムが、女性を差別するというAIの欠陥を持っていることが判明し、システムの利用を停止せざるを得なくなりました。このシステムでは、AIに10年間にわたって提出された履歴書のパターンを学習させたのですが、技術職のほとんどが男性からの応募だったことで、AIは男性を採用するほうが好ましいと認識してしまいました。

女性の差別を引き起こしたAmazon社のAI人材採用システムの件はよく取り上げられますが、2019年には、ゴールドマン・サックス社がアップルカードの利用者の信用スコアを算出する際、女性に不当に低いスコアが付けられ、クレジットカード限度額に差が生じていることが問題になり、大きな非難を受けました。

米国ではBlack Lives Matter運動の影響もあって黒人と白人の差別につながる危険性のある顔認証AI事業からの撤退や提供停止の動きも起こっています。また、AIアシスタントによるジェンダーバイアス観点の指摘はAppleのSiriやAmazon Alexaだけでなく、昨年は高輪ゲートウェイ駅のAI駅員 さくらさんにも非難の声が上がりました。

 “AI倫理“ を自分事として考える

日本ではまだ “AI倫理” を意識している人は多くないのが実態です。でも、AIの判断結果によって影響を受ける社会で生きていく私たちにとって、AI倫理を自分事として考えることが重要になっていくことは疑う余地もありません。自らの身を守るためにも。AIを開発・利活用してサービスを提供する企業側だけでなくサービスを使うユーザ側も、公平性や透明性に対する感度を高め、アカウンタビリティに対する問題意識を持つことが必要です。

先日、お知らせ https://www.sowinsight.com/news/ai-webinar_20211122/ でアナウンスさせて頂きましたウェビナー「AIビジネスのリスクとチャンスを捉えるためにーAI倫理・AIガバナンスの現在地ー」を開催しました。　登壇させて頂いた私自身も、まさに自分事としてAI倫理を見つめる様々な刺激を頂けた、とても貴重な機会になりました。100名を超える参加者の方々にとっても、そのようなきっかけになっていれば嬉しく思います。

ウェビナーでは、まず、東京大学 未来ビジョン研究センターの松本さんに、ウェビナーを主催したAIビジネス推進コンソーシアムのAI倫理ワーキンググループが実際に活用している「リスクチェーンモデル」について講演頂きました。

続いて、私自身も委員になっている経済産業省の「AI原則の実践の在り方に関する検討会」の主査をされている経済産業省の泉さんから、DX時代のガバナンスの考え方である「ガバナンス・イノベーション」を絡めて、「AIガバナンス・ガイドライン」についてとても分かりやすく説明をして頂きました。

そして、私も前職でAI倫理に関して協働させて頂いていた富士通の荒堀さんから、富士通におけるAIガバナンスの取り組みについて実体験を上手―く盛り込みながらリアルにお話頂きました。

その上で、AI倫理ワーキンググループで取り組んできた２年の活動を振り返り、メンバー全員から生の声を皆さんにお伝えし参考にして頂きたい想いを込めて、ミニパネルディスカッションを行いました。これは、色々と試行錯誤しながら、まさにアジャイル型で2年の間、自分事としてAI倫理に取り組んだメンバーが自分達の体験を語らせて頂いた内容で、活動をしてきた私自身にも貴重な振り返りになりました。

最後に行ったのが、東京大学の松本さん、経済産業省の泉さん、富士通の荒堀さん、そして中条が参加したパネルディスカッション。ファシリテーターは、グリッド社の代表取締役かつAIビジネス推進コンソーシアムの理事長をされている曽我部さん。　登壇頂いた泉さんからウェビナー後に、「とても深く、とても真剣で、とても当事者意識のあるものでした」 という嬉しいコメントを頂きましたが、私も同様の想いでした。

私がこのウェビナーで、企業でAI倫理に関わる方たちにお伝えしたメッセージを最後にお話します。

♠ 今はまだ黎明期のAI倫理やガバナンスも、5年後10年後にはDX時代の企業活動に必須な対応になると思います。

♠ 私は、AI倫理をESG経営の視点で捉えて、ESG経営のS：社会、G：ガバナンスの取り組みとして推進していくことが必要だと考えています。

♠ ミレニアル世代、Z世代の人たちがエシカル・倫理への意識が高いことは調査結果からも明確に現れています。AIも含め企業が倫理的な問題にどのように向き合っているかは、企業価値の向上にとってより大きなインパクトを与えるでしょう。

kaoru.chujo@sowinsight.com （中条 薫）