Gemini for Google Workspace が悪意のあるコンテンツやプロンプト インジェクション攻撃からユーザーを保護する仕組みをご紹介します。
生成 AI における悪意のあるコンテンツとプロンプト インジェクション
メールやコンテンツを標的とする脅威にはマルウェアやフィッシング攻撃などがありますが、同様に生成 AI ツールを標的とするセキュリティ脅威も存在します。プロンプト インジェクションとは、生成 AI ツールから意図しない回答や有害な回答を引き出そうとする試みです。攻撃者がプロンプト インジェクションを実行する方法としては、クエリを直接送信する方法だけでなく、悪意のあるコンテンツをユーザーと共有する方法もあります。後者の場合、ユーザーが気がつかずに生成 AI ツール（Gemini アプリや Gemini for Workspace）のプロンプトで悪意のあるコンテンツを参照してしまうことで、プロンプト インジェクションが発生します。
Google は高度なセキュリティ対策により危険なコンテンツや不審なコンテンツを特定し、Gemini ユーザーを保護します。
悪意のあるコンテンツやプロンプト インジェクションが Google で検出される仕組み
悪意のあるコンテンツやプロンプト インジェクションからユーザーを保護するため、Gemini サイドパネルでは、悪意のあるアクティビティが検出されると、一部の回答が除外またはブロックされることがあります。
プロンプトに関連して悪意のある可能性があるアクティビティが検出されたとき
- Gemini サイドパネルに、コンテンツにセキュリティ上のリスクがあることを示す警告が表示されます。
- コンテンツがまったく使用されず、回答が生成されないこともあります。
- コンテンツの一部のみが回答の生成に使用され、悪意のあるコンテンツは Gemini によって除外されることもあります。
たとえば、Gemini in Gmail で複数のメール メッセージの要約をリクエストしたときに、そのうちの 1 つに悪意のあるコンテンツが含まれていた場合、安全上の理由から Gemini がプロンプトに回答しないことがあります。
安全ではないコンテンツを回避する
知らない人のコンテンツを使用する際は注意する
- 他のツール（Gmail など）からコンテンツを受け取る際は Google からの警告に注意してください。
- 信頼できない情報源からのリンクをクリックしないようにしてください。
- Google ドライブ内のファイルなど、不明な送信者から共有されたコンテンツを使用する際は、十分に注意してください。
Gmail で悪意のあるメールを報告する
Gmail で偽のメールや URL を受信した場合は、フィッシングとして報告できます。フィッシングとは、本物を装った偽のメール、メッセージ、広告、ウェブサイトなどを通じて個人情報の不正入手を試みることです。たとえば、銀行から送信されたメールのように見せかけて、銀行口座に関する個人情報を求めてくることがあります。Gmail でフィッシング メールを報告する方法をご確認ください。
Google ドキュメントと Google ドライブで不正なドキュメントを報告する
ドキュメントやドライブで不正なドキュメント、ファイル、画像などのコンテンツを見つけた場合は、報告できます。不正なコンテンツを報告する方法をご確認ください。
Gemini for Google Workspace での悪意のある行為を報告する
回答が不正確または安全でないと思われる場合は、フィードバックを送信してください。Gemini for Google Workspace に関する問題を報告する方法をご確認ください。