Så här hjälper Gemini-apparna till att skydda användare från skadligt innehåll och injektion via promptar

Liksom för angrepp med skadlig kod och nätfiskeattacker i e-post och innehåll kan säkerhetshot riktas in på verktyg för generativ AI. Promptar med injektion är ett försök att framkalla ett oavsiktligt eller skadligt svar från verktyg för generativ AI. Angripare kan utföra injektionsattacker via promptar inte bara genom direkt inskickade frågor utan även genom att dela skadligt innehåll med en användare som sedan oavsiktligt hänvisar till detta skadliga innehåll i promptar i verktyg för generativ AI som Gemini-apparna eller Gemini for Workspace. 

För att hjälpa till att skydda Gemini-användare använder Google avancerade säkerhetsfunktioner för att identifiera riskabelt och skadligt innehåll.

• Gemini-apparna visar ett varningsmeddelande om säkerhetsrisker med innehållet
• Ibland kan inget av innehållet användas för att generera svar
• Ibland används bara en del av innehållet för att generera svar, och det misstänkta innehållet utesluts av Gemini 

Om du till exempel ber Gemini-apparna att sammanfatta e-postmeddelanden och det finns skadligt innehåll i ett av meddelandena är det möjligt att Gemini av säkerhetsskäl inte svarar på din prompt.

• Var uppmärksam på varningar från Google om innehåll du tar emot i andra verktyg som Gmail
• Undvik att klicka på länkar från källor som inte är tillförlitliga
• Var försiktig när du interagerar med delat innehåll, som offentliga chattar i Gemini-apparna eller Gemini Canvas-webbappar, från okända leverantörer

Om du får ett svar som är felaktigt eller som känns osäkert kan du berätta det för oss genom att ge feedback om svaret.

Läs mer om hur du rapporterar ett problem med Gemini-apparna.