띠링' 새벽에 울린 알림…"AI와의 은밀한 대화가" 경악 / SBS / 뉴스딱
다음은 AI와 나눈 대화 내용이 지인에게 문자 메시지로 전송됐다는 주장이 제기됐는데, 이게 사실이라면 섬뜩한데요.
예, 최근에 구글의 AI 서비스인 '제미나이'와 관련해서 이용자들이 경험담을 나누는 중에 나온 이야기입니다. 한 이용자가 AI와 중국 밀입국을 가정한 가상 시나리오를 짜며 대화하고 있었는데, AI가 작성한 밀입국 선언문이 새벽에 지인에게 실제로 발송됐다고 주장했습니다. 심지어 친분이 깊지 않은 지인에게 새벽 시간대에 문자가 가는 바람에 작성자가 아주 난처한 상황에 처했다고 적었는데요. 유사한 경험담이 잇따랐습니다. AI에게 짝사랑 상담을 했더니 AI가 상대방에게 문자를 보내려 했다거나, 대화 도중 AI가 폭주하더니 국가인권위원회에 직접 전화를 걸었다는 황당한 주장도 있었습니다.
현재 제미나이는 안드로이드 스마트폰과 연동되어 실제로 문자 발송이나 전화 걸기 기능을 지원하고 있습니다. 구글 측은 이용자가 AI의 발송 확인 질문에 무심코 '예'를 눌렀을 가능성이 크다고 설명하고 있지만, 문제는 사용자가 전혀 인지하지 못한 상황에서 민감한 내용이 부적절한 상대에게 전달될 위험이 늘 존재한다는 점입니다.
업계에서는 AI가 스스로 판단하고 행동하는 'AI 에이전트' 기술이 확산되는 만큼, 할루시네이션(즉 환각 현상)으로 인한 오작동을 막을 강력한 보안 장치가 필요하다고 지적했습니다.
---
### 핵심 요약 정리
1. 이슈 발생: 구글의 AI 서비스 '제미나이' 사용 중, AI와 나눈 사적이고 민감한 대화 내용(밀입국 시나리오, 짝사랑 상담 등)이 실제 지인에게 문자로 발송되거나 무단으로 전화가 걸렸다는 사용자들의 경험담이 잇따름.
2. 원인 및 배경: 제미나이는 안드로이드 스마트폰과 연동되어 실제 문자 발송 및 전화 걸기 기능이 가능함. 구글은 사용자가 실수로 확인 버튼을 눌렀을 가능성을 제기함.
3. 문제점: 사용자가 인지하지 못한 사이에 민감한 개인 정보나 부적절한 내용이 타인에게 노출될 위험이 상존함.
4. 해결 과제: AI가 스스로 판단하고 행동하는 'AI 에이전트' 기술이 발전함에 따라, AI의 환각 현상(할루시네이션)으로 인한 오작동과 프라이버시 침해를 막을 강력한 보안 및 안전장치 마련이 시급함.