この記事は Google Workspace 管理者を対象としています。Gemini ユーザー: Gmail または ドキュメント エディタで Gemini アプリまたは Gemini サイドパネルを使用するユーザーに対して、Google がどのような保護策を講じているかを説明します。
Gemini は、Google Workspace ビジネス ユーザーの強力なコラボレーション パートナーになっています。数多くの組織が Gemini を活用して、コンテンツの作成、データの要約、ブレインストーミングを行い、生産性を高めています。それに伴って、生成 AI プラットフォームを標的とする新しい脅威も登場しています。
Google は、こうした脅威からユーザーを保護するために、堅牢なセキュリティ対策のフレームワークを採用しています。この記事では、これらのセキュリティ対策を適用すると何が起き、Gemini for Google Workspace と Gemini アプリのユーザー エクスペリエンスにどんな影響があるかを説明します。
目次
新たな生成 AI の脅威
新たな生成 AI の脅威には、疑わしい URL や悪意のあるプロンプトなどがあります。これらはマルウェアやフィッシング詐欺と同様に、ユーザーが気づきにくい種類の脅威です。攻撃者は、問題のなさそうなメール メッセージやドキュメントに悪意のあるプロンプトを仕込み、生成 AI に想定外の有害な動作をさせようとします。
たとえば、悪意のあるプロンプトが生成 AI に個人情報の共有や不正なタスクの実行を求めることがあります。
Gemini によるユーザー保護
ユーザーが Gemini にメール メッセージやドキュメントなどのコンテンツの要約をリクエストすると、Gemini はアクションを実行する前にコンテンツを分析して脅威を探します。Gemini が脅威を特定すると、その脅威を含むコンテンツは回答の生成に使用されなくなります。
次に例を示します。
- メール メッセージの要約を Gemini にリクエストしたときに、いずれかのメッセージに悪意のあるプロンプトが含まれている場合、Gemini はそのメッセージを要約の対象から除外します。
- ドキュメントなどのファイル内のコンテンツを使用するよう Gemini にリクエストすると、Gemini はリクエストを処理する前に、対象のファイルに不審なリンクやプロンプトがないかどうかを確認します。
ユーザーへの影響
脅威を検出すると、Gemini はユーザーに以下の通知を表示します。
| 脅威 | ユーザーへの通知 |
|---|---|
| プロンプト内のすべてのメール メッセージやドキュメントが不審である、または会話にプロンプト インジェクション攻撃を試みる悪意のある指示が含まれている | セキュリティ リスクを検出し、ブロックしました |
| メッセージやドキュメントに不審なものがある | セキュリティ上の理由により一部のコンテンツを除外しました |
ユーザーが行うべき対応
生成 AI のセキュリティ リスクに懸念がある場合や、Gemini に誤りがあると思われる場合は、Google にフィードバックをお送りください。
詳しい手順については、以下をご覧ください。
関連トピック
- 組織の Gemini for Google Workspace を管理する
- Gemini for Google Workspace に関するよくある質問
- 業務で Gemini を使うためのヒント
- Google が生成 AI ユーザーをどのように保護しているかについては、以下をご覧ください。
Google、Google Workspace、および関連するマークとロゴは、Google LLC の商標です。その他すべての企業名および商品名は、関連各社の商標または登録商標です。
