ホワイトハウスは21日、米国の大手AI企業7社（Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAI）に対し、AI開発において自主的に安全性、セキュリティ、信頼性の確保を図るよう要請、合意を得たと発表した。

「即座に各社の合意が得られました。この取り組みは、今後AIの基本とすべき3つの原則――安全性、セキュリティ、信頼性――を重視するとともに、責任あるAIの開発に向けた重要な一歩となるものです（抄訳）」と発表にはある。

取り組みの内容

安全性に関する取り組みでは3つの重要分野に注力する。リリース前に製品の安全性を確保すること、セキュリティを最優先にシステムを構築すること、人々の信頼を得ることだ。以下の詳細が含まれる。

・AIシステムのリリース前に社内および社外によるセキュリティテストを実施する。
・AIのリスク管理に関し、広く業界や政府、市民社会、学術界と情報を共有する。
・サードパーティによるAIシステムの脆弱性の発見・報告を促進する。
・AIで生成したコンテンツについて、利用者が確実にそれと認識できる電子透かしシステム等の堅牢な技術的仕組みを開発する。
・AIシステムの機能と限界、適切な使用の仕方、不適切な使用の仕方を公表する。

バイデン・ハリス政権は「（AI業界への規制をかける）大統領令の策定を進めるとともに、超党派の立法を目指す」と述べている。

効果は未知数

責任あるAIの開発に関するこうした誓約に効果があるのかをめぐり、サイバーセキュリティの専門家の間では議論が起きている。

Vulcan Cyber社の上級技術者、Mike Parkin（マイク・パーキン）氏は自主性に任せる仕組みの限界、とりわけ法的・倫理的な一線を越えた活動を続ける脅威アクターへの対策において限界があると強調する。

「ルールに従う意思のある組織であれば、生成AIが誤った情報を配信しないようにガードレールを設置することは可能です。ですが、まさにその目的でAIを使用している脅威アクターの場合は？　答えはノーです」と氏。

「自主性に任せる仕組みは『普通の使い方』の範囲内では機能するかもしれませんが、合法的に活動している組織においてだけなのです。AIツールを一般に提供している大手企業のいずれかで欠陥が発生することよりも、敵対国やサイバー犯罪組織が独自の能力を構築し、一般市民に対してそれを利用することの方をはるかに強く懸念しています」と述べている。

Ontinue社でデータサイエンス担当ディレクターを務めるTheus Hossmann（テウス・ホスマン）氏も、AI企業によるセキュリティ投資の推進を歓迎する一方で、現在のガイドラインは曖昧だと指摘する。

「『セキュリティ』セクションの取り組みのうち、2つは『サイバーセキュリティと内部脅威に対する防御策に投資、独自のモデルやリリース前のモデルの重みデータを保護する』『サードパーティによる問題・脆弱性の発見、報告を奨励する』というものです。自社の知的財産を外部からの攻撃や内部の脅威から守るのは、どのような企業でも当然ためになることです。脆弱性の発見・報告の奨励についても同じことが言えます」

さらに、AI業界に対して拘束力のある規制の導入がなされれば、それが真の試金石になるだろうと示唆した。「それよりも興味深いのは、AI業界が（医療分野におけるHIPAA法（医療保険の相互運用性と説明責任に関する法律）のような）拘束力のある法律によって厳しい規制のある業界になっていくのかどうかです」と述べている。

一方、Coalfire社のフィールドCISO、Dave Randleman（デイヴ・ランデルマン）氏は「（今回の合意は）社会的メッセージの表明にすぎない」と考えている。

「これに署名した企業はすべて、結局は互いに競合している同業他社です。AIによる生産性向上は凄まじいものです。ライバル企業に対抗し、他社よりも優れたAI製品を生み出すために利用できるものなら何でも利用されるでしょう。当社が最も懸念しているのは、多くのAIアプリケーションが知的財産として特許で保護され、企業秘密とされることで透明性を欠いた状態になっていることです」と語った。

Google, Microsoft and Amazon among 7 AI giants making ‘voluntary’ safety pledge