Pelajari cara Gemini untuk Google Workspace membantu melindungi pengguna dari serangan konten berbahaya dan injeksi perintah.
Konten berbahaya dan injeksi perintah dalam AI generatif
Serupa dengan ancaman email dan konten seperti serangan malware dan phishing, ancaman keamanan dapat menargetkan alat AI generatif. Injeksi perintah adalah upaya untuk memunculkan respons yang tidak diinginkan atau berbahaya dari alat AI generatif. Penyerang tidak hanya dapat melakukan injeksi perintah dengan mengirimkan kueri secara langsung, tetapi juga dengan membagikan konten berbahaya kepada pengguna. Pengguna kemudian secara tidak sengaja merujuk konten berbahaya ini dalam perintah di alat AI generatif seperti Aplikasi Gemini atau Gemini untuk Workspace.
Untuk membantu melindungi pengguna Gemini, Google menggunakan langkah-langkah keamanan lanjutan guna mengidentifikasi konten yang berisiko dan mencurigakan.
Cara Google mendeteksi konten berbahaya dan injeksi perintah
Untuk membantu melindungi Anda dari konten berbahaya dan injeksi perintah, panel samping Gemini dapat memfilter atau memblokir beberapa respons jika ada aktivitas berbahaya yang terdeteksi.
Ketika Gemini mengidentifikasi aktivitas terkait perintah yang mungkin berbahaya
- Panel samping Gemini memperingatkan Anda bahwa konten tersebut memiliki risiko keamanan.
- Terkadang, konten Anda tidak ada satu pun yang dapat digunakan untuk menghasilkan respons.
- Terkadang, hanya sebagian konten Anda yang digunakan untuk membuat respons, dengan konten berbahaya dikecualikan oleh Gemini.
Misalnya, jika Anda meminta Gemini di Gmail untuk meringkas pesan email, dan salah satu pesan tersebut berisi konten berbahaya, Gemini mungkin tidak merespons perintah Anda karena alasan keamanan.
Membantu menghindari konten tidak aman
Berhati-hatilah saat berinteraksi dengan konten dari seseorang yang tidak dikenal
- Perhatikan peringatan dari Google terkait konten yang Anda terima di alat lain seperti Gmail.
- Hindari mengklik link dari sumber yang tidak tepercaya.
- Berhati-hatilah saat berinteraksi dengan konten yang dibagikan dari pengirim yang tidak dikenal, seperti file di Drive.
Melaporkan pesan berbahaya di Gmail
Jika Anda mendapatkan pesan atau URL yang menipu di Gmail, Anda dapat melaporkannya sebagai phishing. Phishing adalah upaya mencuri informasi pribadi menggunakan email, pesan, iklan, atau situs yang menipu tetapi tampak meyakinkan. Sebagai contoh, email phishing mungkin terlihat seperti berasal dari bank dan meminta informasi pribadi terkait rekening bank Anda. Pelajari cara melaporkan phishing di Gmail.
Melaporkan dokumen berbahaya di Dokumen dan Drive
Jika mendapatkan dokumen, file, gambar, dan konten berbahaya lainnya di Dokumen dan Drive, Anda dapat melaporkannya. Pelajari cara melaporkan konten yang melanggar.
Melaporkan perilaku berbahaya di Gemini untuk Google Workspace
Jika menerima respons yang tidak akurat atau menurut Anda tidak aman, Anda dapat memberikan masukan tentang respons tersebut untuk memberi tahu kami. Pelajari cara melaporkan masalah terkait Gemini untuk Google Workspace.