人工知能（AI）はビジネスのあり方を変えつつあるが、この新しい技術は、人々の接し方、信頼関係、相互作用のあり方をも変える可能性を秘めている。

最近の生成AIは、企業がデータに基づいて予測を行い、新しいテキスト・画像・音声を生成することを可能にする。しかし、AIモデルの学習に使用されるデータに反映されている現実世界の偏見が、再生産される可能性もある、とニューヨーク大学のMeredith Broussard（メレディス・ブルサード）教授が、VMware Explore 2023の責任あるAIに関するパネルディスカッションで指摘した。

AIが一般的な倫理に背く可能性の根底にあるのは、「テクノショービニズム」（技術至上主義）、つまり技術やデジタルによるソリューションが、常に最も優れた解決策であるという過信、偏見である。しかし、その道具がどれほど技術的に発達したものであろうと、その仕事に適した道具を使う方が、通常ははるかに理にかなっている、とBroussard氏は主張した。

「人々は、最新の技術革新に関わることで、多くの地位や権力を得られると想像します。しかし、すべての技術でそうなるわけではありません。しばしば、流行の技術が失敗に終わり、自分の顔に泥を塗る結果になることもあります」と氏は言う。

AIの役割は「人間を支援すること」であり、人間にとって代わることではない、と氏は述べる。「AI技術の限界について現実的になることが、適切なスタートになります」

AIモデルからバイアスを取り除く

VMwareのAIラボ担当バイスプレジデント、Chris Wolf（クリス・ウルフ）氏は、AIモデルの訓練に使用するデータからバイアスを特定し、取り除くことが優先事項であると説明する。「AI倫理は本当に重要です」とパネルディスカッションで語った。彼のチームは、AIモデルがどのように訓練され、どのようなデータソースが使用され、どのようなバイアスが存在するかを理解することに取り組んでいる。「我々は、AIの正しさやAIの結果の説明可能性を顧客が理解できるように支援したいと考えています」と語った。

業界もまた、AIを使用する際に倫理を優先することの重要性を認識している。ガートナーのアナリストである Bart Willemsen（バート・ウィレムセン）氏とJo Karajanov（ジョー・カラヤノフ）氏によると、企業は透明性、説明責任、サイバーセキュリティ、プライバシー、リスク管理、偏見、事実基盤の浸食、環境/社会の持続可能性、人間搾取といった観点から AI に取り組むべきだという。彼らは最近、このトピックに関する研究レポートを共同執筆した。「生成AIは大きな可能性を秘めていますが、同時に、誰を、どのように、何を信頼するのかを混乱させ、人々がどのように交流し、どのように扱われるかに影響を与え、地球環境に影響を与える可能性も抱えています」と警告している。

また、企業がAIの偏見とリスク管理に関して「適切な管理」を実施し、AI倫理の取り組みが「事実基盤の侵食を増加させるもの、環境や社会に有害なもの、あるいは人間の搾取に少しでもつながるもの」を避けるようにすることを推奨する、と書いている。

AIに含まれる差別の特定

Broussard氏は、テクノロジーは客観的で中立的で不偏不党であるという信頼が、技術至上主義者の偏見によって犠牲になっていると主張した。「AIシステム、つまり自動化されたシステムは、デフォルトで差別をします」「それが起きているかどうかは問題ではありません。どのように起きているかが問題なのです」

例えば、住宅ローン承認アルゴリズムを例に考えてみよう。2021年の調査では、住宅ローン申請の承認または拒否に使用されるアルゴリズムは、白人の借り手と比較して、有色人種の借り手を拒否する可能性がはるかに高いことが判明した。

このモデルに使用されたデータは、過去に住宅ローンを承認された人のデータに基づくものであり、そのデータには、米国における金融差別、住宅ローン融資にみえる偏向、居住地域の分化現象といった負の遺産が含まれていた。「このモデルが偏った判断を下していても不思議ではありません」とBroussard氏は言う。

最初のステップは、問題があることを認めることである。そうすれば、「その程度を数学的に把握し…（中略）…より公平になるようにモデルの出力を微調整することができます」と氏は言う。

AIを活用するビジネスリーダーは「現実を直視」し、職場での人種、性別、障害についての議論を歓迎する必要がある、と氏は言う。「これらのことはオフィスでは話題にしない傾向がありますが、私たちはこのような議論をする必要があります。差別が起こっていないふりをすることは、誰のためにもなりません」と述べた。

AI biases, ‘technochauvinism’ threaten progress, encourage discrimination