Finn ut hvordan Gemini-apper bidrar til å beskytte brukerne mot skadelig innhold og angrep med forespørselsinjeksjon.
Skadelig innhold og forespørselsinjeksjon i generativ AI
Som med e-post- og innholdstrusler som skadelig programvare og nettfiskingsangrep kan sikkerhetstrusler målrettes mot verktøy for generativ AI. Forespørselsinjeksjon er forsøk på å generere utilsiktede eller skadelige svar fra verktøy for generativ AI. Angriperne kan utføre forespørselsinjeksjon ikke bare ved å sende inn forespørsler direkte, men også ved å dele skadelig innhold med brukere, som deretter utilsiktet henviser til dette skadelige innholdet i forespørsler i verktøy for generativ AI, som Gemini-apper og Gemini for Workspace.
For å bidra til å beskytte Gemini-brukerne bruker Google avanserte sikkerhetstiltak for å identifisere risikabelt og mistenkelig innhold.
Slik hjelper Google til med å oppdage skadelig innhold og forespørselsinjeksjon
For å bidra til å beskytte deg mot skadelig innhold og forespørselsinjeksjon kan Gemini-apper blokkere noen inndata hvis mistenkelig aktivitet oppdages.
Når Gemini identifiserer potensielt mistenkelig aktivitet relatert til en forespørsel
- Gemini-apper gir et varsel om at innholdet har sikkerhetsrisikoer.
- Iblant kan ingenting av innholdet brukes til å generere svaret.
- Iblant brukes bare noe av innholdet til å generere svaret, og det mistenkelige innholdet ekskluderes av Gemini.
Hvis du for eksempel ber Gemini-apper om å oppsummere e-postmeldinger og en av meldingene har skadelig innhold, svarer kanskje ikke Gemini på forespørselen av sikkerhetsgrunner.
Bidra til å unngå utrygt innhold
Følg med når du samhandler med innhold fra noen du ikke kjenner
- Merk deg advarsler fra Google om innhold du mottar i andre verktøy, for eksempel Gmail.
- Ikke klikk på linker fra upålitelige kilder.
- Vær forsiktig når du bruker eller samhandler med delt innhold, for eksempel offentlige chatter i Gemini-apper eller Gemini Canvas-nettapper, fra ukjente leverandører.
Skadelig innhold og forespørselsinjeksjon i generativ AI
Hvis du får et svar som du mener er unøyaktig eller utrygt, kan du gi oss beskjed ved å sende en tilbakemelding om svaret.