Află cum contribuie Aplicațiile Gemini la protejarea utilizatorilor împotriva conținutului rău intenționat și a atacurilor prin injectarea solicitărilor.
Conținutul rău intenționat și injectarea solicitărilor în AI-ul generativ
În mod similar cu amenințările asupra e-mailului și a conținutului, precum atacurile de tip malware și phishing, amenințările la adresa securității pot viza instrumentele de AI generativ. Injectarea solicitărilor este o încercare de a obține un răspuns neintenționat sau dăunător de la instrumentele de AI generativ. Atacatorii pot să realizeze injectarea solicitărilor nu numai prin trimiterea directă a solicitărilor, ci și prin trimiterea de conținut rău intenționat către utilizator, care apoi folosește acest conținut în solicitări în instrumente de AI generativ precum Aplicațiile Gemini sau Gemini for Workspace.
Pentru a proteja utilizatorii Gemini, Google folosește măsuri de securitate avansate pentru identificarea conținutului riscant și suspect.
Cum contribuie Google la detectarea conținutului rău intenționat și a injectării solicitărilor
Pentru a te proteja împotriva conținutului rău intenționat și a injectării solicitărilor, Aplicațiile Gemini pot bloca anumite date de intrare dacă detectează activități suspecte.
Când Gemini identifică posibile activități suspecte asociate cu o solicitare
- Aplicațiile Gemini afișează o notificare de avertizare privind riscurile de securitate ale conținutului
- Uneori, niciun fragment de conținut nu poate fi folosit pentru a genera un răspuns
- Uneori, doar o parte a conținutului este folosită pentru a genera răspunsul, iar conținutul suspect este exclus de Gemini
De exemplu, dacă soliciți ca Aplicațiile Gemini să rezume e-mailuri și unul dintre acele mesaje include conținut rău intenționat, este posibil ca Gemini să nu răspundă solicitării tale din motive de siguranță.
Contribuie la evitarea conținutului nesigur
Ai grijă când interacționezi cu conținut de la persoane necunoscute
- Ține cont de avertismentele de la Google privind conținutul pe care îl primești în alte instrumente, precum Gmail
- Evită clicurile pe linkuri de la surse care nu sunt de încredere
- Ai grijă când interacționezi cu conținut distribuit, cum ar fi chaturile publice din Aplicațiile Gemini sau aplicațiile web Gemini Canvas, de la furnizori necunoscuți
Conținutul rău intenționat și injectarea solicitărilor în AI-ul generativ
Dacă primești un răspuns incorect sau pe care îl consideri nesigur, ne poți trimite feedback despre acel răspuns pentru a ne informa.
Află cum să raportezi o problemă legată de Aplicațiile Gemini.