Дізнайтеся, як Gemini для Google Workspace допомагає захищати користувачів від атак у вигляді впровадження шкідливого контенту й шкідливих запитів.
Акати у вигляді впровадження шкідливого контенту й шкідливих запитів у генеративний ШІ
Як і електронна пошта, яку можна зламати за допомогою зловмисного програмного забезпечення й фішингу), інструменти генеративного ШІ також можуть стати ціллю атак. Упровадження запитів – це спроба отримати непередбачену або шкідливу відповідь від інструментів генеративного ШІ. Зловмисники можуть надсилати не лише запити напряму, а й шкідливий контент, який користувач потім випадково згадує в запитах до генеративного ШІ в додатках Gemini, Gemini для Workspace тощо.
Щоб захистити користувачів Gemini, Google використовує передові системи безпеки, які виявляють потенційно небезпечний і підозрілий контент.
Що відбувається, якщо Google виявляє впровадження шкідливих запитів і контенту
Якщо виявлено шкідливі дії, бічна панель Gemini може відфільтрувати або заблокувати певні відповіді.
Що відбувається, якщо Gemini виявляє дії, пов’язані з потенційно шкідливим запитом
- На бічній панелі Gemini з’являється попередження про ризики для безпеки.
- Інколи весь наданий вами контент може бути не прийнятий для створення відповіді.
- Інколи використовується лише частина контенту, а шкідливі дані виключаються.
Наприклад, якщо ви попросите Gemini у Gmail підсумувати електронні повідомлення, а одне з них міститиме шкідливий контент, Gemini може не відповісти на ваш запит із міркувань безпеки.
Як уникнути небезпечного контенту
Будьте обачні, взаємодіючи з контентом від невідомих користувачів
- Звертайте увагу на попередження від Google щодо контенту, який ви отримуєте з інших інструментів, наприклад із Gmail.
- Не натискайте посилання з ненадійних джерел.
- Обережно поводьтеся з контентом від невідомих відправників, наприклад із файлами на Диску.
Як поскаржитися на шкідливі повідомлення в Gmail
Якщо ви отримали підозріле повідомлення або URL-адресу в Gmail, можете поскаржитися на фішинг. Фішинг – це спроба отримати особисту інформацію через оманливі електронні листи, повідомлення, оголошення або сайти, які здаються надійними. Наприклад, ви можете отримати електронний лист, який оформлений так, неначе його відправили з вашого банку, і містить запит надати конфіденційну інформацію про банківський рахунок. Дізнайтеся, як повідомити про фішинг у Gmail.
Як поскаржитися на шкідливі документи в Документах і на Диску
Якщо ви отримали шкідливі документи, файли, зображення й інший контент у Документах і на Диску, можете поскаржитися на них. Дізнайтеся, як це зробити.
Як поскаржитися на шкідливу поведінку в Gemini для Google Workspace
Якщо ви отримали неточну відповідь або вважаєте, що вона небезпечна, можете повідомити нас про це, залишивши відгук. Дізнайтеся, як це зробити.