Amazon Bedrock による生成 AI データの保護
データセキュリティとプライバシー
生成 AI アプリを構築している多くの組織は、モデルのパーソナライズや学習に使用するデータをどのように保護するかについて懸念しています。これは、プロンプトインジェクション などの攻撃を試みる脅威アクターからだけでなく、モデル改善のためにデータを使用する可能性のある基盤モデルプロバイダーからも保護する必要があります。利用規約だけでは組織にとって十分な保証にならない場合があります。 Amazon Bedrock では、どのモデルプロバイダーも顧客のデータやプロンプトから学習することはできません。
デフォルトのデータセキュリティ
Amazon Bedrockは、サービスへの暗号化された接続のみを許可し (転送中の暗号化)、モデルのパーソナライズに保存されたデータの暗号化を要求します (保存時の暗号化)。
VPC エンドポイントを使用して、インターネットを経由せずに VPC から直接 Bedrock エンドポイントにアクセスできます。オンプレミスからは、Amazon DirectConnect を使用してプライベートにアクセスすることもできます。
Amazon Bedrock のアーキテクチャ
Bedrock を使用する場合、モデルプロバイダーは S3 バケットにモデルを書き込むことしかできず、顧客のプロンプトやパーソナライズされたモデルにはアクセスできません。
Amazon Bedrock のガードレール
Amazon Bedrock のガードレール
は、プロンプトとその応答を分析し、リクエストや出力が望ましくない場合、応答を「申し訳ありませんが、それには答えられません」に切り替えます。
主なリスクと軽減
- 直接アクセスした場合、基盤モデルプロバイダーがモデルをパーソナライズするために使用したプロンプトやデータから学習してしまう可能性がある
- モデルは、プロンプトインジェクションによって混乱し、組織がユーザーと共有したくない情報 (政治家に関する意見、犯罪の方法、投資アドバイス、内部/機密情報など) を提供する可能性があります。ガードレール は、プロンプトとその応答を分析することでこのリスクを軽減します。
評価のガイダンス
- 生成 AI アプリケーションを構築していますか？何を使用していますか？
- Bedrock を使用していない場合、データがモデルの学習に使用されないようにするためのセキュリティ対策は何ですか？
- Bedrock を使用している場合、ガードレール を設定しましたか？