วิธีที่ Google ช่วยปกป้องผู้ใช้ Gemini จากเนื้อหาที่เป็นอันตรายและการแทรกพรอมต์

บทความนี้มีไว้สำหรับผู้ดูแลระบบ Google Workspace สำหรับผู้ใช้ Gemini โปรดดูวิธีที่ Google ปกป้องคุณเมื่อคุณใช้แอป Gemini หรือแผงด้านข้างของ Gemini กับ Gmail หรือเครื่องมือแก้ไขเอกสาร

Gemini ได้กลายเป็นพาร์ทเนอร์ด้านการทำงานร่วมกันที่ทรงประสิทธิภาพสำหรับผู้ใช้แบบธุรกิจของ Google Workspace ซึ่งองค์กรหลายพันแห่งใช้ Gemini เพื่อสร้างเนื้อหา สรุปข้อมูล ระดมความคิด และเพิ่มประสิทธิภาพการทำงาน ในขณะเดียวกัน ภัยคุกคามใหม่ๆ ก็เริ่มมุ่งเป้าไปที่แพลตฟอร์ม Generative AI

Google ใช้เฟรมเวิร์กมาตรการรักษาความปลอดภัยที่มีประสิทธิภาพเพื่อป้องกันภัยคุกคามเหล่านี้ บทความนี้อธิบายสิ่งที่จะเกิดขึ้นเมื่อมีการนำมาตรการรักษาความปลอดภัยดังกล่าวไปใช้ และผลกระทบที่อาจเกิดขึ้นกับประสบการณ์ของผู้ใช้ Gemini สำหรับ Google Workspace และแอป Gemini

เกี่ยวกับภัยคุกคามใหม่ๆ ต่อ Gen AI

ภัยคุกคามใหม่ๆ ต่อ Gen AI ได้แก่ URL ที่น่าสงสัยและพรอมต์ที่เป็นอันตราย ซึ่งผู้ใช้อาจจับสังเกตภัยคุกคามเหล่านี้ได้ยาก เช่นเดียวกับการหลอกลวงที่เป็นมัลแวร์และฟิชชิง ผู้โจมตีจะพยายามซ่อนพรอมต์ที่เป็นอันตรายในข้อความอีเมลหรือเอกสารที่ดูถูกต้องปกติ โดยมีเป้าหมายเพื่อให้ Gen AI ทำสิ่งที่ไม่ได้ตั้งใจหรือเป็นอันตราย

เช่น พรอมต์ที่เป็นอันตรายอาจขอให้ Gen AI แชร์ข้อมูลส่วนบุคคลหรือทำงานที่ไม่ได้รับอนุญาต

วิธีที่ Gemini ช่วยปกป้องผู้ใช้

เมื่อผู้ใช้ขอความช่วยเหลือจาก Gemini ให้สรุปเนื้อหา เช่น ข้อความอีเมลหรือเอกสาร Gemini จะวิเคราะห์เนื้อหาดังกล่าวเพื่อหาภัยคุกคามก่อนที่จะดำเนินการ และเมื่อ Gemini ตรวจพบภัยคุกคามในเนื้อหา ก็จะไม่นำเนื้อหานั้นมาใช้สร้างคำตอบ

ตัวอย่าง

หากคุณขอความช่วยเหลือจาก Gemini ให้สรุปข้อความอีเมล และข้อความใดข้อความหนึ่งมีพรอมต์ที่เป็นอันตราย ระบบจะไม่รวมข้อความนั้นในสรุปของ Gemini
หากคุณป้อนพรอมต์ให้ Gemini ใช้เนื้อหาในไฟล์ เช่น เอกสาร Gemini จะตรวจสอบไฟล์เหล่านั้นเพื่อหาลิงก์หรือพรอมต์ที่น่าสงสัยก่อนที่จะดำเนินการตามคำขอของคุณ

สิ่งที่ผู้ใช้จะได้รับ

เมื่อตรวจพบภัยคุกคาม Gemini จะแสดงการแจ้งเตือนประเภทต่อไปนี้ต่อผู้ใช้

ภัยคุกคาม	การแจ้งเตือนไปยังผู้ใช้
ข้อความอีเมลหรือเอกสารทั้งหมดในพรอมต์น่าสงสัย หรือการสนทนามีวิธีการที่เป็นอันตรายซึ่งพยายามทำการโจมตีแบบแทรกพรอมต์	พบความเสี่ยงด้านความปลอดภัยและได้บล็อกความเสี่ยงดังกล่าวแล้ว
ข้อความหรือเอกสารบางรายการน่าสงสัย	เนื้อหาบางส่วนถูกยกเว้นเนื่องจากเหตุผลด้านความปลอดภัย

สิ่งที่ผู้ใช้ควรทำ

ผู้ใช้ควรส่งความคิดเห็นถึง Google หากมีข้อกังวลเกี่ยวกับความเสี่ยงด้านความปลอดภัยของ Gen AI หรือหากคิดว่า Gemini ทำงานผิดพลาด

โปรดดูวิธีการที่หัวข้อต่อไปนี้

หัวข้อที่เกี่ยวข้อง

จัดการ Gemini สำหรับ Google Workspace ให้กับองค์กร
คำถามที่พบบ่อยเกี่ยวกับ Gemini สำหรับ Google Workspace
เคล็ดลับการใช้ Gemini ในงานหรือบทบาทของคุณ
ดูวิธีที่ Google ปกป้องผู้ใช้ Gen AI ในบริการต่างๆ ต่อไปนี้

_{Google, Google Workspace และเครื่องหมายและโลโก้ที่เกี่ยวข้องเป็นเครื่องหมายการค้าของ Google LLC ชื่อบริษัทและชื่อผลิตภัณฑ์อื่นๆ ทั้งหมดเป็นเครื่องหมายการค้าของ บริษัทที่เกี่ยวข้อง}

ข้อมูลนี้มีประโยชน์ไหม

เราจะปรับปรุงได้อย่างไร