Läs mer om användarskydd mot skadligt innehåll och promptinjektion i Gemini for Google Workspace.
Skadligt innehåll och promptinjektion i generativ AI
I likhet med hot mot e-post och innehåll i form av skadlig kod och nätfiske, kan säkerhetshot riktas mot verktyg för generativ AI. Promptinjektion är ett försök att framkalla ett oavsiktligt eller skadligt svar från verktyg för generativ AI. Angripare kan utföra promptinjektion både genom att skicka sökfrågor direkt och genom att dela skadligt innehåll med en användare som sedan oavsiktligt hänvisar till det skadliga innehållet i promptar i verktyg för generativ AI, till exempel Gemini Apps eller Gemini for Workspace.
Google använder avancerade säkerhetsåtgärder för att identifiera riskabelt och misstänkt innehåll och skydda Gemini-användare.
Så här identifierar Google skadligt innehåll och promptinjektion
Geminis sidopanel kan filtrera eller blockera vissa svar om skadlig aktivitet upptäcks och på så sätt skydda dig mot skadligt innehåll och promptinjektion.
När Gemini identifierar aktivitet som kan vara skadlig i samband med en prompt
- Du får en varning i sidopanelen i Gemini om att innehållet har säkerhetsrisker.
- Ibland går det inte att generera ett svar med något av ditt innehåll.
- Ibland används bara en del av ditt innehåll för att generera ett svar och skadligt innehåll utesluts av Gemini.
Om du till exempel ber Gemini i Gmail att sammanfatta e-postmeddelanden, och ett av meddelandena har skadligt innehåll, kanske Gemini inte svarar på din prompt av säkerhetsskäl.
Bidra till att undvika osäkert innehåll
Var försiktig när du interagerar med innehåll från någon du inte känner
- Var uppmärksam på varningar från Google om innehåll som du får i andra verktyg, till exempel Gmail.
- Undvik att klicka på länkar från opålitliga källor.
- Var försiktig när du interagerar med delat innehåll från okända avsändare, till exempel filer på Drive.
Rapportera skadliga meddelanden i Gmail
Om du får ett vilseledande meddelande eller en vilseledande webbadress i Gmail kan du rapportera meddelandet eller webbadressen som nätfiske. Nätfiske är ett försök att stjäla personliga uppgifter med bedrägliga e-postmeddelanden, meddelanden, annonser eller webbplatser som verkar vara legitima. Ett nätfiskemeddelande kan till exempel se ut som att det kommer från din bank och begär personlig information om ditt bankkonto. Läs mer om att rapportera nätfiske i Gmail.
Rapportera skadliga dokument i Dokument och Drive
Om du får skadliga dokument, filer, bilder och annat innehåll i Dokument och Drive kan du rapportera dem. Läs mer om att rapportera otillåtet innehåll.
Rapportera skadligt beteende i Gemini for Google Workspace
Om du får ett svar som är felaktigt eller som känns osäkert kan du berätta det för oss genom att ge feedback om svaret. Läs mer om att rapportera ett problem med Gemini for Google Workspace.