Meer informatie over hoe Gemini Apps gebruikers helpt te beschermen tegen schadelijke content en promptinjectieaanvallen.
Schadelijke content en promptinjectie in generatieve AI
Net als e-mail- en contentdreigingen zoals malware en phishing-aanvallen, kunnen beveiligingsdreigingen generatieve AI-tools targeten. Promptinjectie is een poging om een onbedoelde of schadelijke reactie te ontlokken van generatieve AI-tools. Aanvallers kunnen promptinjectie uitvoeren niet alleen door rechtstreeks query's in te dienen, maar ook door schadelijke content te delen met een gebruiker. Die gebruiker verwijst dan onbedoeld naar deze schadelijke content in prompts in generatieve AI-tools zoals Gemini apps of Gemini voor Workspace.
Om Gemini-gebruikers te helpen beschermen, gebruikt Google geavanceerde beveiligingsmaatregelen om risicovolle en verdachte content te identificeren.
Hoe Google helpt schadelijke content en promptinjectie te detecteren
Om je te helpen beschermen tegen schadelijke content en promptinjectie, kunnen Gemini Apps sommige invoer blokkeren als verdachte activiteit gedetecteerd wordt.
Als Gemini activiteit identificeert behorend bij een prompt die verdacht kan zijn
- Gemini Apps bieden een waarschuwingsmelding dat de content beveiligingsrisico's bevat
- Soms kan niets van de content gebruikt worden om een reactie te genereren
- Soms kan maar een beetje van de content gebruikt worden om een reactie te genereren, waarbij de verdachte content uitgesloten wordt door Gemini
Als je bijvoorbeeld Gemini Apps vraagt om e-mailberichten samen te vatten en een van deze berichten bevat schadelijke content, kan Gemini mogelijk om veiligheidsredenen niet op je prompt reageren.
Help onveilige content te vermijden
Let op bij interacties met content van iemand die je niet kent
- Let op waarschuwingen van Google over content die je ontvangt in andere tools, zoals Gmail
- Klik niet op links van onbetrouwbare bronnen
- Wees voorzichtig bij interacties met gedeelde content, zoals openbare Gemini Apps-gesprekken of web-apps van Gemini Canvas, afkomstig van onbekende aanbieders
Schadelijke content en promptinjecties in generatieve AI
Als je een reactie krijgt die niet klopt of waarvan je denkt dat deze onveilig is, kun je feedback over die reactie geven om dit te melden.
Meer informatie over hoe je een probleem met Gemini Apps meldt.