Эта статья предназначена для администраторов Google Workspace. Пользователи Gemini могут узнать, как Google обеспечивает защиту при работе с приложениями Gemini или боковой панелью Gemini в Gmail или редакторах Документов.
Сервис Gemini стал для бизнес-пользователей Google Workspace надежным партнером с множеством возможностей. С его помощью тысячи организаций создают контент, составляют сводки данных, генерируют идеи и повышают эффективность работы. В то же время платформы генеративного искусственного интеллекта начали подвергаться новым угрозам.
Для защиты от них Google использует надежную систему мер безопасности. В этой статье объясняется, что происходит при принятии этих мер и как они могут повлиять на удобство использования Gemini для Google Workspace и приложений Gemini.
Содержание
- О новых угрозах для генеративного ИИ
- Как Gemini помогает защитить пользователей
- Чего ожидать пользователям
- Что нужно делать пользователям
О новых угрозах для генеративного ИИ
Новые угрозы для генеративного ИИ включают подозрительные URL-адреса и вредоносные запросы. Подобно вредоносному ПО и фишинговому мошенничеству, эти угрозы сложно обнаружить. Злоумышленники пытаются замаскировать вредоносные запросы под безопасно выглядящие сообщения или документы, добиваясь того, чтобы генеративный ИИ выполнял нежелательные или опасные действия.
Например, вредоносные запросы могут вынудить генеративный ИИ отправить личные данные или выполнить несанкционированную задачу.
Как Gemini помогает защитить пользователей
Когда пользователи обращаются к Gemini, чтобы составить краткий пересказ контент (например, электронного письма или документа), Gemini анализирует его на предмет угроз, прежде чем выполнять какие-либо действия. Если угроза обнаружена, Gemini не использует этот контент для генерирования ответа.
Пример:
- Если вы просите Gemini пересказать электронные письма, в одном из которых есть вредоносный запрос, Gemini не использует это письмо для создания сводки.
- Если вам нужно, чтобы сервис использовал контент из файлов (например, документов), перед обработкой Gemini проверяет их на наличие подозрительных ссылок или запросов.
Чего ожидать пользователям
Если обнаружены угрозы, в Gemini показываются уведомления следующих типов:
| Угроза | Уведомление для пользователей |
|---|---|
| Все электронные письма или документы в запросе вызывают подозрение или в чате есть вредоносные инструкции, указывающие на попытку атаки с внедрением запросов. | Обнаружена угроза безопасности. Выполнена ее блокировка. |
| Некоторые сообщения или документы вызывают подозрение. | Некоторый контент исключен из обработки из соображений безопасности. |
Что нужно делать пользователям
Пользователям нужно уведомлять Google, если им кажется, что есть угроза безопасности, связанная с генеративным ИИ, или если Gemini, по их мнению, ошибается.
Инструкции вы найдете в следующих статьях:
Статьи по теме
- Как управлять Gemini для Google Workspace для организации
- Часто задаваемые вопросы о Gemini для Google Workspace
- Советы по использованию Gemini для вашей сферы обязанностей или должности
- Узнать о том, как Google защищает пользователей генеративного ИИ, можно в следующих статьях:
Google, Google Workspace, а также другие связанные знаки и логотипы являются товарными знаками компании Google LLC. Все другие названия компаний и продуктов являются товарными знаками соответствующих компаний.
