Artikel ini ditujukan untuk administrator Google Workspace. Pengguna Gemini: Pelajari cara Google melindungi Anda saat Anda menggunakan Aplikasi Gemini atau panel samping Gemini dengan Gmail atau editor Dokumen.
Gemini telah menjadi partner kolaborasi yang efektif bagi pengguna bisnis Google Workspace. Ribuan organisasi mengandalkan Gemini untuk membuat konten, meringkas data, berdiskusi, dan meningkatkan produktivitas. Pada saat yang sama, ancaman baru mulai menarget platform AI generatif.
Untuk memberikan perlindungan terhadap ancaman ini, Google menggunakan framework tindakan keamanan yang kuat. Artikel ini menjelaskan apa yang terjadi saat tindakan keamanan tersebut diterapkan, dan bagaimana hal tersebut mungkin memengaruhi pengalaman pengguna Gemini untuk Google Workspace dan Aplikasi Gemini.
Di halaman ini
- Tentang ancaman yang muncul terhadap AI generatif
- Cara Gemini membantu melindungi pengguna
- Yang dapat diharapkan pengguna
- Yang harus dilakukan pengguna
Tentang ancaman yang muncul terhadap AI generatif
Ancaman yang muncul terhadap AI generatif mencakup URL yang mencurigakan dan perintah berbahaya. Serupa dengan scam phishing dan malware, ancaman ini mungkin sulit dikenali oleh pengguna. Penyerang mencoba menyembunyikan perintah berbahaya dalam pesan email atau dokumen yang tampak sah, dengan tujuan membuat AI generatif melakukan sesuatu yang tidak diinginkan atau berbahaya.
Misalnya, perintah berbahaya mungkin meminta AI generatif membagikan informasi pribadi, atau melakukan tugas yang tidak sah.
Cara Gemini membantu melindungi pengguna
Saat pengguna meminta Gemini meringkas konten seperti pesan email atau dokumen, Gemini akan menganalisis konten tersebut untuk menemukan ancaman sebelum mengambil tindakan. Saat mengidentifikasi ancaman dalam konten, Gemini akan mengecualikan konten tersebut agar tidak digunakan untuk membuat respons.
Contoh:
- Jika Anda meminta Gemini meringkas pesan email, dan salah satu pesan tersebut berisi perintah berbahaya, pesan tersebut akan dikecualikan dari ringkasan Gemini.
- Jika Anda meminta Gemini menggunakan konten dalam file, seperti dokumen, Gemini akan memeriksa file tersebut untuk menemukan link atau perintah yang mencurigakan sebelum memproses permintaan Anda.
Yang dapat diharapkan pengguna
Saat ancaman terdeteksi, Gemini akan menampilkan jenis notifikasi berikut kepada pengguna:
| Ancaman | Notifikasi untuk pengguna |
|---|---|
| Semua pesan email atau dokumen dalam perintah mencurigakan, atau percakapan berisi petunjuk berbahaya yang mencoba melakukan serangan injeksi perintah | Risiko keamanan diidentifikasi dan diblokir |
| Beberapa pesan atau dokumen mencurigakan | Beberapa konten dikecualikan karena alasan keamanan |
Yang harus dilakukan pengguna
Pengguna harus mengirimkan masukan ke Google jika mereka mengkhawatirkan risiko keamanan AI generatif, atau jika mereka merasa Gemini melakukan kesalahan.
Untuk mengetahui petunjuknya, buka:
Topik terkait
- Mengelola Gemini untuk Google Workspace untuk organisasi Anda
- Gemini untuk Google Workspace FAQ
- Tips penggunaan Gemini dalam pekerjaan atau peran Anda
- Pelajari cara Google melindungi pengguna AI generatif di:
Google, Google Workspace, serta merek dan logo yang terkait adalah merek dagang Google LLC. Semua nama perusahaan dan produk lainnya adalah merek dagang masing-masing perusahaan yang terkait.
