Ontdek hoe Gemini voor Google Workspace gebruikers beschermt tegen schadelijke content en prompt-injectieaanvallen.
Schadelijke content en prompt-injectie in generatieve AI
Net als bij e-mail- en contentbedreigingen, zoals malware- en phishing-aanvallen, kunnen beveiligingsdreigingen generatieve AI-tools targeten. Bij prompt-injectie wordt er geprobeerd om generatieve AI-tools onbedoelde of schadelijke reacties te laten geven. Aanvallers kunnen prompts niet alleen injecteren door rechtstreeks zoekopdrachten in te dienen, maar ook door schadelijke content te delen met een gebruiker die deze dan onbedoeld gebruikt in prompts in generatieve AI-tools, zoals Gemini Apps en Gemini voor Workspace.
Google gebruikt geavanceerde beveiligingsmaatregelen om risicovolle en verdachte content te herkennen en zo Gemini-gebruikers te beschermen.
Hoe Google schadelijke content en prompt-injectie opspoort
Het Gemini-zijvenster kan bepaalde reacties filteren of blokkeren als er schadelijke activiteit wordt waargenomen. Zo wordt je beschermt tegen schadelijke content en prompt-injectie.
Wanneer Gemini activiteit met betrekking tot een mogelijk schadelijke prompt vaststelt
- In het Gemini-zijvenster staat dat de content beveiligingsrisico's bevat.
- Soms kan geen van je content worden gebruikt om een reactie te genereren.
- Soms wordt maar een deel van je content gebruikt om een reactie te genereren, waarbij Gemini de schadelijke content uitsluit.
Als je Gemini in Gmail bijvoorbeeld vraagt om e-mailberichten samen te vatten en een van die berichten schadelijke content bevat, reageert Gemini om veiligheidsredenen misschien niet op je prompt.
Onveilige content vermijden
Let op bij het gebruik van content van iemand die je niet kent
- Let op waarschuwingen van Google voor content die je krijgt in andere tools, zoals Gmail.
- Klik niet op links van onbetrouwbare bronnen.
- Wees voorzichtig met gedeelde content van onbekende afzenders, zoals bestanden in Drive.
Schadelijke berichten in Gmail melden
Als je een misleidend bericht of een misleidende URL in Gmail krijgt, kun je dit melden als phishing. Bij phishing wordt geprobeerd om persoonlijke informatie te stelen via misleidende e-mails, berichten, advertenties of websites die er legitiem uitzien. Een phishingmail kan bijvoorbeeld afkomstig lijken van je bank en om privé-informatie over je bankrekening vragen. Meer informatie over hoe je phishing meldt in Gmail.
Schadelijke documenten in Documenten en Drive melden
Als je schadelijke documenten, bestanden, afbeeldingen en andere content krijgt in Documenten en Drive, kun je deze melden. Meer informatie over hoe je ongeoorloofde content meldt.
Schadelijk gedrag in Gemini voor Google Workspace melden
Als je een reactie krijgt die niet klopt of waarvan je denkt dat deze onveilig is, kun je feedback over die reactie geven om dit te melden. Meer informatie over hoe je een probleem met Gemini voor Google Workspace meldt.