Este artigo é destinado a admins do Google Workspace. Se você é usuário do Gemini, saiba como é a proteção do Google nos apps do Gemini, no painel lateral do Gemini com o Gmail ou nos Editores de Arquivos Google.
O Gemini se tornou um parceiro de colaboração importante para os usuários comerciais do Google Workspace. Milhares de organizações usam o Gemini para criar conteúdo, resumir dados, fazer brainstorming e aumentar a produtividade. Ao mesmo tempo, novas ameaças surgiram contra plataformas de IA generativa.
Para se defender, o Google usa um sistema robusto de medidas de segurança. Neste artigo, explicamos o que acontece quando essas medidas de segurança são aplicadas e como elas podem afetar a experiência do usuário com o Gemini para Google Workspace e os apps do Gemini.
Nesta página
- Sobre as novas ameaças à IA generativa
- Como o Gemini ajuda a proteger os usuários
- O que os usuários podem esperar
- O que os usuários precisam fazer
Sobre as novas ameaças à IA generativa
As novas ameaças à IA generativa incluem URLs suspeitos e comandos maliciosos. Assim como os malwares e golpes de phishing, essas ameaças podem ser difíceis de detectar. Os invasores tentam ocultar comandos maliciosos em documentos ou e-mails que parecem legítimos para que a IA generativa faça algo indesejado ou prejudicial.
Por exemplo, comandos maliciosos podem pedir que a IA generativa compartilhe informações pessoais ou realize tarefas não autorizadas.
Como o Gemini ajuda a proteger os usuários
Quando os usuários pedem ao Gemini para resumir conteúdo como mensagens de e-mail ou documentos, ele analisa se há ameaças antes de entrar em ação. Quando o Gemini identifica ameaças no conteúdo, ele impede que esse conteúdo seja usado para gerar uma resposta.
Exemplo:
- Se você pedir para o Gemini resumir e-mails e um deles tiver pedidos maliciosos, essa mensagem será excluída do resumo do Gemini.
- Se você pedir ao Gemini para usar o conteúdo em arquivos, como documentos, ele vai verificar se há links ou comandos suspeitos antes de processar sua solicitação.
O que os usuários podem esperar
Quando as ameaças são detectadas, o Gemini mostra os seguintes tipos de notificação aos usuários:
| Ameaça | Notificação aos usuários |
|---|---|
| Todas as mensagens de e-mail ou documentos em um comando são suspeitos ou uma conversa contém instruções maliciosas que tentam um ataque de injeção de comando | Um risco à segurança foi identificado e bloqueado |
| Algumas mensagens ou documentos são suspeitos | Parte do conteúdo foi excluída por motivos de segurança |
O que os usuários precisam fazer
Os usuários devem enviar feedback ao Google se tiverem dúvidas sobre riscos à segurança da IA generativa ou se acharem que o Gemini cometeu um erro.
Para conferir instruções, acesse:
Temas relacionados
- Gerenciar o Gemini para Google Workspace na sua organização
- Perguntas frequentes sobre o Gemini para Google Workspace
- Dicas para usar o Gemini no seu trabalho ou cargo
- Saiba como o Google protege os usuários de IA generativa:
Google, Google Workspace e marcas e logotipos relacionados são marcas registradas da Google LLC. Todos os outros nomes de empresas e produtos são marcas registradas das empresas às quais eles estão associados.
