Як додатки Gemini допомагають захистити користувачів від шкідливого контенту й зловмисних запитів

Зловмисники не лише вдаються до атак фішингу й зловмисного програмного забезпечення в електронних листах і контенті, а й можуть загрожувати безпеці в інструментах генеративного ШІ. Зловмисний запит – це спроба отримати небажані чи шкідливі відповіді від інструментів генеративного ШІ. Зловмисники можуть здійснювати цю атаку, надсилаючи не лише запити безпосередньо інструментам генеративного ШІ, а й шкідливий контент користувачам, які потім несвідомо використовують ці матеріали в запитах, наприклад до додатків Gemini або Gemini для Workspace.

Щоб захистити користувачів Gemini, Google вживає посилених заходів безпеки для виявлення небезпечного й підозрілого контенту.

• Додатки Gemini попереджають, коли виявляють контент, який загрожує безпеці.
• Іноді прийнятного контенту, який можна використати для генерування відповіді, немає зовсім.
• Інколи для створення відповіді використовується лише частина контенту, оскільки Gemini виключає підозрілі матеріали.

Наприклад, якщо ви попросите додатки Gemini підсумувати електронні листи й один із них міститиме шкідливий контент, Gemini може не відповісти на ваш запит через загрозу безпеці.

• Звертайте увагу на сповіщення від Google щодо контенту, який ви отримуєте через інші інструменти, зокрема Gmail.
• Не переходьте за посиланнями з ненадійних джерел.
• Обережно взаємодійте з таким загальнодоступним контентом від невідомих постачальників, як чати в додатках Gemini чи вебдодатки Gemini Canvas.

Якщо ви отримали неточну відповідь або вважаєте, що вона небезпечна, можете повідомити нас про це, залишивши відгук.

Дізнайтеся, як повідомити про проблему з додатками Gemini.