다음은 Google Workspace관리자를 위한 도움말입니다. Gemini 사용자의 경우, Gemini 앱 또는 Gmail이나 Docs 편집기의 Gemini 측면 패널을 사용할 때 Google이 사용자를 보호하는 방법을 알아보세요.
Gemini는 Google Workspace 비즈니스 사용자를 위한 강력한 협업 파트너가 되었습니다. 수천 개의 조직이 Gemini를 활용하여 콘텐츠를 만들고, 데이터를 요약하고, 브레인스토밍하고, 생산성을 높이고 있습니다. 동시에 생성형 AI 플랫폼을 공격 목표로 하는 새로운 위협이 등장하기 시작했습니다.
이러한 위협에 대응하기 위해 Google은 강력한 보안 조치 프레임워크를 사용합니다. 이 도움말에서는 이러한 보안 조치가 적용되었을 때의 상황과 Google Workspace를 위한 Gemini 및 Gemini 앱의 사용자 환경에 미칠 수 있는 영향에 대해 설명합니다.
이 페이지의 내용
생성형 AI에 대한 새로운 위협
생성형 AI에 대한 새로운 위협에는 의심스러운 URL과 악성 프롬프트 등이 있습니다. 멀웨어 및 피싱 사기와 마찬가지로 이러한 위협은 사용자가 발견하기 어려울 수 있습니다. 공격자는 생성형 AI가 의도하지 않거나 유해한 작업을 하도록 유도하려는 목적으로 정상적으로 보이는 이메일 메시지나 문서에 악성 프롬프트를 숨기려고 시도합니다.
예를 들어 악성 프롬프트는 생성형 AI에 개인 정보를 공유하거나 승인되지 않은 작업을 실행하도록 요청할 수 있습니다.
Gemini가 사용자를 보호하는 방법
사용자가 Gemini에게 이메일 메시지 또는 문서와 같은 콘텐츠를 요약해 달라고 요청하면 Gemini는 작업을 수행하기 전에 해당 콘텐츠에 위협 요소가 있는지 분석합니다. Gemini가 콘텐츠에서 위협을 감지하면 해당 콘텐츠가 대답을 생성하는 데 사용되지 않도록 제외합니다.
예를 들면 다음과 같습니다.
- Gemini에게 이메일 메시지를 요약해 달라고 요청한 경우 악성 프롬프트가 포함된 메시지가 있으면 해당 메시지는 Gemini의 요약에서 제외됩니다.
- Gemini에 문서 등의 파일에 포함된 콘텐츠를 사용하도록 요청하면 Gemini는 해당 파일에 의심스러운 링크나 프롬프트가 있는지 확인한 후 요청을 처리합니다.
사용자에게 표시되는 알림
위협이 감지되면 Gemini는 사용자에게 다음과 같은 유형의 알림을 표시합니다.
| 위협 | 사용자 알림 |
|---|---|
| 프롬프트의 모든 이메일 메시지 또는 문서가 의심스럽거나 대화에 프롬프트 인젝션 공격을 시도하는 악성 요청 사항이 포함되어 있음 | 보안 위험이 식별되어 차단되었습니다 |
| 일부 메시지 또는 문서가 의심스러움 | 보안상의 이유로 일부 콘텐츠가 제외되었습니다 |
사용자가 취해야 할 조치
생성형 AI 보안 위험이 우려되거나 Gemini가 실수를 했다고 생각하는 경우, 사용자는 Google에 의견을 보내야 합니다.
자세한 안내는 다음을 참고하세요.
관련 주제
- 조직의 Google Workspace를 위한 Gemini 관리하기
- Google Workspace를 위한 Gemini FAQ
- 업무 또는 역할을 수행하는 데 Gemini를 사용할 때 도움이 되는 팁
- Google이 다음 서비스에서 생성형 AI 사용자를 보호하는 방법 알아보기
Google, Google Workspace 및 관련 마크와 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표입니다.
