Découvrez comment Gemini pour Google Workspace contribue à protéger les utilisateurs contre les contenus malveillants et les attaques par injection de requête.
Contenus malveillants et injection de requête dans l'IA générative
Tout comme il existe des menaces liées aux e-mails ou au contenu, telles que les logiciels malveillants ou les attaques par hameçonnage, les outils d'IA générative peuvent être la cible de menaces de sécurité. L'injection de requête est une technique visant à provoquer une réponse imprévue ou dangereuse de la part des outils d'IA générative. Les pirates informatiques peuvent injecter des requêtes en les soumettant directement, mais aussi en partageant du contenu malveillant avec un utilisateur. Cet utilisateur fait ensuite référence à ce contenu malveillant involontairement lors de requêtes dans des outils d'IA générative, comme les applications Gemini ou Gemini pour Workspace.
Pour contribuer à protéger les utilisateurs de Gemini, Google applique des mesures de sécurité avancées afin d'identifier les contenus risqués et suspects.
Comment Google détecte les contenus malveillants et l'injection de requête
Pour contribuer à vous protéger contre les contenus malveillants et l'injection de requête, le panneau latéral Gemini peut filtrer ou bloquer certaines réponses si une activité malveillante est détectée.
Que se passe-t-il lorsque Gemini identifie une activité liée à une requête potentiellement malveillante ?
- Le panneau latéral Gemini vous avertit que le contenu représente un risque de sécurité.
- Parfois, aucune partie du contenu ne peut être utilisée pour générer une réponse.
- Parfois, seule une partie du contenu est utilisée pour générer une réponse, et Gemini exclut le contenu malveillant.
Par exemple, si vous demandez à Gemini dans Gmail de résumer des e-mails et que l'un d'eux présente du contenu malveillant, il est possible que Gemini ne réponde pas à votre requête pour des raisons de sécurité.
Contribuer à éviter le contenu dangereux
Faites attention lorsque vous interagissez avec le contenu d'une personne que vous ne connaissez pas
- Tenez compte des avertissements de Google concernant le contenu que vous recevez dans d'autres outils, comme Gmail.
- Évitez de cliquer sur des liens provenant de sources non fiables.
- Faites preuve de prudence lorsque vous interagissez avec du contenu partagé par des expéditeurs inconnus, comme des fichiers dans Drive.
Signaler des messages malveillants dans Gmail
Si vous recevez un message ou une URL de nature trompeuse dans Gmail, vous pouvez le signaler comme tentative d'hameçonnage. L'hameçonnage consiste à tenter de voler des informations personnelles par le biais d'e-mails, de messages, d'annonces ou de sites Web trompeurs qui semblent légitimes. Un e-mail d'hameçonnage peut, par exemple, ressembler à un message de votre banque dans lequel des informations privées sur votre compte bancaire vous sont demandées. Découvrez comment signaler une tentative d'hameçonnage dans Gmail.
Signaler des documents malveillants dans Docs et Drive
Si vous recevez des documents, des fichiers, des images ou d'autres contenus malveillants dans Docs ou Drive, vous pouvez les signaler. Découvrez comment signaler du contenu abusif.
Signaler un comportement malveillant dans Gemini pour Google Workspace
Si vous recevez une réponse inexacte ou qui ne vous semble pas fiable, vous pouvez nous le signaler en envoyant des commentaires. Découvrez comment signaler un problème concernant Gemini pour Google Workspace.