Saiba como o Gemini para Google Workspace ajuda a proteger os usuários contra conteúdo malicioso e ataques de injeção de comandos.
Conteúdo malicioso e injeção de comandos na IA generativa
Assim como as ameaças de e-mail e de conteúdo (malware e ataques de phishing, por exemplo), as ameaças de segurança podem ser direcionadas a ferramentas de IA generativa. A injeção de comandos é uma tentativa de fazer as ferramentas de IA generativa criarem respostas indesejadas ou prejudiciais. Além de realizarem injeções de comandos enviando consultas diretamente, os invasores também podem compartilhar conteúdo malicioso com um usuário, que depois pode citar de forma não intencional as informações que recebeu em comandos para as ferramentas de IA generativa, como os apps do Gemini e o Gemini para Workspace.
Para proteger os usuários do Gemini, o Google usa medidas de segurança avançadas para identificar conteúdo arriscado e suspeito.
Como o Google detecta conteúdo malicioso e injeção de comando
Para proteger você contra conteúdo malicioso e injeção de comandos, o painel lateral do Gemini pode filtrar ou bloquear algumas respostas se uma atividade maliciosa for detectada.
Quando o Gemini identifica uma atividade relacionada a um comando que pode ser malicioso:
- O painel lateral do Gemini avisa que o conteúdo tem riscos de segurança.
- Às vezes, nenhum conteúdo é usado para gerar uma resposta.
- E às vezes, apenas parte dele é usada para gerar uma resposta, com o conteúdo malicioso excluído pelo Gemini.
Por exemplo, se você pedir para o Gemini no Gmail resumir mensagens de e-mail e uma delas tiver conteúdo malicioso, o Gemini poderá não responder à solicitação por motivos de segurança.
Ajudar a evitar conteúdo que não é seguro
Cuidado ao interagir com conteúdo de alguém que você não conhece
- Preste atenção aos avisos do Google sobre o conteúdo que você recebe em outras ferramentas, como o Gmail
- Evite clicar em links de fontes não confiáveis
- Cuidado ao interagir com conteúdo compartilhado de remetentes desconhecidos, como arquivos no Drive
Denunciar mensagens maliciosas no Gmail
Se você receber uma mensagem ou um URL enganoso no Gmail, denuncie o conteúdo como phishing. O phishing é uma tentativa de roubar informações pessoais usando e-mails, mensagens, anúncios ou sites enganosos que parecem legítimos. Por exemplo, um e-mail de phishing pode parecer ter sido enviado pelo seu banco e solicitar informações particulares sobre sua conta. Saiba como denunciar phishing no Gmail.
Denunciar documentos maliciosos nos apps Documentos e Drive
Se você receber documentos, arquivos, imagens e outros conteúdos maliciosos nos apps Documentos e Drive, denuncie. Saiba como denunciar conteúdo abusivo.
Denunciar comportamento malicioso no Gemini para Google Workspace
Se você receber uma resposta imprecisa ou achar que ela não é segura, envie um feedback para nossa equipe. Saiba como informar um problema com o Gemini para Google Workspace.