Finn ut hvordan Gemini for Google Workspace beskytter brukerne mot skadelig innhold og angrep med injeksjon av forespørsler.
Skadelig innhold og injeksjon av forespørsler i generativ AI-verktøy
På samme måte som e-post- og innholdstrusler som skadelig programvare og nettfiskingsangrep kan sikkerhetstrusler også rettes mot generativ AI-verktøy. Injeksjon av forespørsler er et forsøk på å fremprovosere utilsiktede eller skadelige svar fra generativ AI-verktøy. Angripere kan injisere forespørsler ikke bare ved å sende inn spørsmål direkte, men også ved å dele skadelig innhold med brukere, som så utilsiktet kan henvise til dette skadelige innholdet i forespørsler til generativ AI-verktøy som Gemini-apper eller Gemini for Workspace.
For å beskytte Gemini-brukerne har Google avanserte sikkerhetstiltak for å identifisere risikabelt og mistenkelig innhold.
Slik oppdager Google skadelig innhold og injeksjon av forespørsler
For å beskytte deg mot skadelig innhold og injeksjon av forespørsler kan Gemini-sidepanelet filtrere eller blokkere noen svar hvis skadelig aktivitet oppdages.
Når Gemini identifiserer potensielt skadelig aktivitet i forbindelse med en forespørsel
- Gemini-sidepanelet advarer deg om at innholdet utgjør en sikkerhetsrisiko.
- I noen tilfeller kan ikke noe av innholdet brukes til å generere et svar.
- I noen tilfeller brukes bare deler av innholdet til å generere et svar, mens Gemini ekskluderer det skadelige innholdet.
Hvis du for eksempel ber Gemini i Gmail om å oppsummere noen e-poster, og én av dem har skadelig innhold, kan det hende at Gemini ikke svarer på forespørselen av sikkerhetshensyn.
Unngå utrygt innhold
Vær forsiktig når du samhandler med innhold fra personer du ikke kjenner
- Legg merke til advarsler fra Google om innhold du mottar i andre verktøy, for eksempel Gmail.
- Ikke klikk på linker fra upålitelige kilder.
- Vær forsiktig når du samhandler med delt innhold fra ukjente avsendere, for eksempel filer i Disk.
Rapporter skadelige e-poster i Gmail
Hvis du mottar en villedende e-post eller nettadresse i Gmail, kan du rapportere den som nettfisking. Nettfisking er forsøk på å stjele personopplysninger ved å bruke villedende e-poster, meldinger, annonser eller nettsteder som ser legitime ut. En nettfiskings-e-post kan for eksempel se ut som om den er fra banken din og be om privat informasjon om bankkontoen din. Finn ut hvordan du rapporterer nettfisking i Gmail.
Rapporter skadelige dokumenter i Dokumenter og Disk
Hvis du mottar skadelige dokumenter, filer eller bilder eller annet skadelig innhold i Dokumenter og Disk, kan du rapportere dem. Finn ut hvordan du rapporterer støtende innhold.
Rapporter skadelig atferd i Gemini for Google Workspace
Hvis du får et svar du mener er unøyaktig eller utrygt, kan du sende oss en tilbakemelding om det. Finn ut hvordan du rapporterer et problem med Gemini for Google Workspace.