Amazon Web Services（AWS）のCISO（最高情報セキュリティ責任者）を務めるChris Betz（クリス・ベッツ）氏がこのところ顧客からよく受ける質問の第1位は、「生成AIが広まる中で、セキュリティをどうすればいいか」というものだ。氏の説明によると、AWSのアプローチはこれまでと同じ、クラウドセキュリティに関する同社の基本的な考え方に基づいたものだという。生成AIを活用してセキュリティ対策を強化したり、生成AI使用のための顧客向けプラットフォームを構築したりしていてもそれは変わらない。

生成AIのセキュリティに関する懸念について、顧客が投げかけてくる質問は大きく分けて2つある。1つは、AWSでは生成AIのセキュリティをどうしているか。もう1つは、生成AIモデルを構築したいのだが、他のAWSユーザーの事例を踏まえると、セキュリティについて何を考慮すべきかというものだ。

1.
1つ目の質問については、データセキュリティの話から始めることが多いという。データを安全に管理・保管する重要性をここで強調する。生成AIモデルのトレーニングデータの可用性、効率性の確保もその一環だ。また、生成AIにも他のドメインと同じ、基本的なデータセキュリティ戦略が適用されている。

2.
次に、プロンプトと応答の安全な取り扱いなど、生成AIとのやり取りに関する話に進む。ここでも機密性の高い顧客データを保護する必要性を強調する。プロンプトに含まれる可能性があるためだ。

3.
3つ目の話題は生成AIモデルというものの認識についてだ。「モデルとは、コードです」と氏は言う。「つまり、他のあらゆるコードと同じように動くということです。生成AIモデルをどこから入手するかには注意しなくてはなりません」。また、あらゆるソフトウェアコードと同様に、慎重に――サプライチェーンリスクや潜在的な脆弱性を考慮に入れて――扱うべきであり、自社のインフラがこうした問題を適切に管理できるようになっているかを確認する必要があるとした。

4.
最後はだいたい、生成AIの出力の精度がいかに重要かという話で締めくくる。Betz氏は各種のセキュリティメカニズムに加えて、生成AIの入出力に対するフィルタリングやガードレールを実装し、出力の正確性や信頼性、安全性を保証するように勧めている。

AWSの責任共有モデル―生成AIの時代に

Betz氏は、近年AIの発展が進んでいるが、それによってAWSの責任共有モデルの基本的な考え方が変わったりはしていないと強調する。AWSは従来と同様に、パブリッククラウドで提供している全サービスを実行するインフラの保護を担うとともに、その責任を真剣に受け止めていると語った。

「インフラの一部は当社が管理するもので、この部分についてはつつがなく実行されると信頼していただく必要があります。また、お客様の管理による部分もあり、この領域を可能な限り安全な方法で運用いただくために必要なものについても、当社が提供を担っています」

AWSはこれまでに、生成AIのアプリケーションやモデル、モデルのトレーニング環境のための各種サービスを複数レイヤーにわたって提供するプラットフォームを構築している。Amazon Bedrock（基盤モデルを使用して生成AIアプリケーションを構築するためのマネージドサービス）、CodeWhisperer（IDEとコマンドラインのためのAI搭載生産性向上ツール）、Amazon Q（生成AI搭載アシスタント）などのサービスだ。

「土台となるプラットフォームが安全かつ安定していることを保証するのは、例によって当社の担当です」と氏。「これまでと同様、信頼できるプラットフォームの提供については当社が責任を担います。また、お客様に安全な運用が可能になるツールを提供することもそうです。いずれもお客様のデータはお客様のものであるという前提のもとに行われています」

生成AI利用のためのプラットフォームの保護

Betz氏によると、AWSはパブリッククラウドのインフラおよびプラットフォームを提供する事業者として、顧客が保有するデータ、環境、生成AIなどの新興技術に関するツール群に対し、一貫したセキュリティを提供しているという。

氏はAWSが生成AI向けに提供しているセキュリティ要素／サービスのうち、重要なものについていくつか概説してくれた。ID認証・管理、データの安全性と正確な配置・保存のためのデータ保護、データレジリエンス、データ管理、アカウントのロギング、監査などがある。

AWSではさらに、Amazon Simple Storage Service（Amazon S3）のように、守備範囲が明確で、堅牢なセキュリティコントロールがすでに組み込まれている、既存のサービスモデルも使用している。

画像はAWSのCISO、Chris Betz氏。（出典：AWS）

AWS CISO answers most frequently asked questions about genAI security