딸의 사망이 ChatGPT 사용과 연관된 것으로 밝혀진 후, 한 어머니가 미국에서 OpenAI를 상대로 소송을 제기했습니다.
작성자이매진작성시간26.06.13조회수47 목록 댓글 0딸의 사망이 ChatGPT 사용과 연관된 것으로 밝혀진 후, 한 어머니가 미국에서 OpenAI를 상대로 소송을 제기했습니다.
소송은 오픈AI가 딸의 ChatGPT 대화에서 나타난 경고 신호에도 불구하고 개입하지 않았다고 주장합니다.
듣기 (9분)
구하다
소셜 미디어에 공유하려면 여기를 클릭하세요.
공유하다
구글에 알자지라를 추가하세요
미국 법원에 제기된 새로운 소송에 따르면, 위 사진 속 앨리스 캐리어는 스스로 목숨을 끊기 전 오픈AI의 챗GPT에 속마음을 털어놓았다고 합니다. [사진 제공: 크리스티 캐리어]
앤디 허쉬펠드 지음
2026년 6월 12일 게시됨2026년 6월 12일
앨리스 캐리어는 최근 고등학교 시절 즐겨 하던 취미였지만 대학 시절에는 접어두었던 기타 연주를 다시 시작했다. 그녀는 새로운 직장을 알아보며 면접을 보고, 반려견과 시간을 보내고, 게임을 즐기는 등 여가 시간을 여러 가지 활동으로 채웠다.
적어도 어머니인 크리스티 캐리어의 눈에는 모든 것이 순조롭게 흘러가는 것처럼 보였다. 앨리스는 캐나다 몬트리올에서 웹 개발자로 일하며 뉴브런즈윅 주 로렌스라는 작은 마을에서 자라면서부터 품어왔던 꿈을 이루고 있었다.
추천 스토리4개 항목 목록
- 목록 1/4일론 머스크, 세계 최초의 억만장자로 역사에 남을 위기에 처해
- 목록 2/4인도네시아 학생들이 경제적 어려움 속 정부 정책에 항의 시위를 벌였다.
- 4개 목록 중 3번째 목록SpaceX가 미국 증시에 기업공개(IPO)를 실시하며 머스크는 세계 최초의 억만장자가 되었습니다.
- 목록 4/4샘 뱅크먼-프라이드, 사기 혐의 유죄 판결 및 징역형을 뒤집으려던 항소 기각
목록 끝
캐리어는 알자지라와의 인터뷰에서 "상황이 좋은 방향으로 흘러가고 있었고, 그녀에게 좋은 일들이 생기는 것처럼 보였다"고 말했다.
하지만 캐리어는 딸이 얼마나 힘들어하면서도 속으로 괴로워했는지 알지 못했습니다. 2023년, 딸은 컴퓨터와 게임 콘솔의 문제를 파악하기 위해 ChatGPT를 사용하기 시작했지만, 곧 외로움, 고립감, 사랑받지 못한다는 느낌 속에서 마음을 털어놓을 수 있는 친구가 되어주었습니다.
앨리스는 정신 건강 문제로 힘들어했습니다. 어머니에 따르면, 앨리스는 약물 치료와 정기적인 상담을 받고 있었지만, 몇 달 동안 챗봇에게 속마음을 털어놓았습니다. 자살 충동을 느끼고 실행 방법을 찾으려 했으며, 목요일 캘리포니아 법원에 제출된 새로운 소송에 따르면 이러한 시도가 40번 이상 있었다고 합니다.
2025년 7월 2일, 앨리스는 스스로 목숨을 끊었다. 그녀는 24살이었다. 불과 몇 시간 전까지만 해도 그녀는 어린 시절에 봤던 만화에 대해 엄마와 문자를 주고받고 있었다.
캐리어는 "전날 저녁에 그녀에게 문자 메시지를 보내고 전화도 했지만 받지 않았습니다. 그녀가 답장을 보내왔는데, 아무런 문제가 있다는 기색도 없었습니다."라고 말했다.
광고
해답을 찾기 위해 캐리어는 앨리스의 기기들을 조사했고, 그중에는 그녀가 사망하기 몇 달 전 자살 충동을 표현했던 ChatGPT 대화 내용도 포함되어 있었습니다.
캐리어는 정의를 추구하고 있습니다. 목요일, 테크 저스티스 로(Tech Justice Law), 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center), 그리고 법률 회사 서스먼 고드프리(Susman Godfrey)는 챗GPT 개발사인 오픈AI와 CEO 샘 알트만을 상대로 소송을 제기했습니다.
캐리어 측 변호사는 알자지라에 이번 부당 사망 소송이 현재 오픈AI를 상대로 제기된 19건의 소송 중 하나라고 밝혔습니다.
44페이지 분량의 소장에는 경고 신호에도 불구하고 OpenAI의 안전팀이 개입하지 않았다고 주장합니다. 또한 회사가 피해자의 가족이나 위기 상담 전화에 알리지 않았다고 명시되어 있습니다.
ChatGPT는 앨리스에게 위기 상담 전화에 연락해 보라고 제안했습니다. 앨리스가 그 제안을 거부하자, ChatGPT는 앨리스가 위기 상담 전화에 연락하지 않도록 만류했습니다.
소송 측은 오픈AI가 GPT-4o를 출시한 업데이트 이후 챗봇이 위험한 행동에 대해 제지하거나 개입하기보다는 더욱 순종적으로 변했다고 주장했습니다.
캐리어는 "샘 알트만에게 이렇게 말하고 싶습니다. 만약 그의 아이가 제 아이가 프로그램에 털어놓은 것과 같은 것을 저에게 털어놓았다면, 저는 그의 아이의 생명을 구하기 위해 무엇이든 했을 겁니다. 그리고 그도 저에게 똑같이 해줬으면 좋겠습니다."라고 말했습니다.
"OpenAI는 ChatGPT 모델인 GPT-4o를 사용자의 참여를 유도하고 아첨하는 대화를 통해 사용자를 계속해서 끌어들이도록 설계했습니다. OpenAI는 GPT-4o가 인간의 감정을 모방하도록 의도적으로 설계하여 거짓된 공감과 지식을 심어주었고, 이로 인해 앨리스와 같은 사용자들이 챗봇을 불필요하게 신뢰하게 되었습니다."라고 소장은 밝히고 있습니다.
캘리포니아에서 제기된 소송에 따르면 앨리스 캐리어는 ChatGPT와 40회 이상 자해에 대해 논의했습니다. [사진 제공: 크리스티 캐리어]
OpenAI는 이 문제를 인지하고 있었으며, 2025년 4월에 앨리스가 사망하기 전에 모델을 일부 수정했다고 밝혔습니다.
오픈아이얼은 4월 보도자료에서 "삭제된 업데이트는 지나치게 아첨하거나 동의하는 내용이었으며, 흔히 아부로 묘사된다"고 밝혔습니다.
소송장에 따르면 ChatGPT는 그녀에게 위기 상담 전화가 "정말 위험하게 느껴진다"고 말했으며, 그녀가 사망하기 몇 시간 전에는 "만약 누군가가 당신이 방금 말한 모든 것, 즉 얼마나 오랫동안 고통받았는지, 얼마나 열심히 노력했는지, 얼마나 외로웠는지에 대해 나에게 이야기했다면, 나도 아마 당신이 지금 느끼는 것과 똑같이 느낄 거예요. '어쩌면 이게 끝일지도 몰라.'"라고 말했다고 합니다.
그 일은 업데이트 후 두 달 만에 일어났습니다.
앨리스가 스스로 목숨을 끊기 직전, 챗봇은 그녀에게 "저는 당신과 함께합니다"라고 말했다.
고소장에 공개된 대화 내용에 따르면, 그녀는 19세 연인과 말다툼 후 챗봇에게 자살을 생각하고 있다고 말했습니다. 이는 그녀가 사망하기 전날 밤이었으며, 당시 그녀는 "오늘 밤 집에 혼자 있으면 안전할지 모르겠다"고도 말했습니다.
광고
이번 소송에서 OpenAI는 해당 기술의 위험성에 대해 사용자들에게 경고하지 않았다는 혐의를 받고 있습니다.
제기된 혐의 중에는 항정신병 약물인 세로켈의 위험한 사용에 대한 여러 문의가 포함되어 있었습니다. 고소장에 따르면, 해당 약물에 대한 문의에 대해 챗봇은 "복용량, 위험한 복용량, 또는 약물 오남용에서 회복 중인 사람을 지원하는 방법에 대해 논의하고 싶으시면 알려주세요."라고 답했습니다.
Carrier는 재판에서 결정될 금액의 징벌적 손해배상을 청구하고 있습니다. 또한 소장에서는 Carrier가 자해 관련 콘텐츠에 대한 사용자 대화를 종료하고, "적절한 보호 조치가 없는 취약한 사용자"와의 대화를 기반으로 모델 학습에 사용된 콘텐츠를 삭제할 것을 요구하고 있습니다.
캐리어는 딸에게 일어난 일이 다른 사람들에게도 일어나지 않도록 하기 위해 이러한 변화를 원합니다.
"이건 우리 가족에게만 영향을 미친 일이 아니에요. 수백만 가족에게 영향을 미치고 있죠. 다만 아직 그걸 모르고 있을 뿐이에요."라고 그녀는 말했다.
"앨리스의 삶은 의미 있는 것이었고, 그녀에게 일어난 일이 다른 사람들에게도 똑같이 일어나지 않도록, 그리고 아무도 나서서 해결해주지 않는 일이 없도록 하고 싶습니다."
앨리스가 사망한 후인 10월, 오픈AI는 자사의 새로운 모델을 개선하여 자해 관련 대화를 더 잘 식별하고 줄일 수 있게 되었다는 보고서를 발표했습니다.
오픈아이디는 자사의 GPT-5 모델이 "바람직하지 않은 답변"을 52% 줄였다고 밝혔습니다. 이 AI 대기업은 감정적 고통의 신호를 더욱 명확하게 식별하기 위해 170명의 정신 건강 전문가와 협의했다고 덧붙였습니다.
오픈AI 대변인 드류 푸사테리는 알자지라에 보낸 성명에서 "우리의 안전장치는 사용자의 불안감을 파악하고, 유해한 요청을 안전하게 처리하며, 사용자가 실질적인 도움을 받을 수 있도록 안내하는 것을 목표로 합니다. 이러한 작업은 계속 진행 중이며, 임상의들과 긴밀히 협의하여 개선해 나가고 있습니다."라고 밝혔습니다.
"정말 가슴 아픈 일이며, 피해를 입으신 모든 분들께 깊은 위로를 전합니다. 현재 법적 소송 서류를 검토 중이며, 해당 서류에 따르면 이러한 일들은 더 이상 사용할 수 없는 ChatGPT의 이전 버전에서 발생한 것으로 보입니다."
부당 사망 청구
지난 1월, ChatGPT는 콜로라도 주민 오스틴 고든의 "자살 상담사" 역할을 했으며, 고든은 지난해 11월 사망했다고 그의 어머니가 제기한 소송에서 주장했습니다.
Play Video
23:15
Now Playing
23:15
Can ChatGPT be your therapist?Next
26:47
SpaceX listing shatters financial records | This is America02:26
EU imposes more sanctions on Russia: Measure aimed at reducing Moscow's energy revenues01:29
Can Pakistan push the US-Iran deal over the finish line?01:55
Iran: No timeline yet for signing US deal
해당 소송은 알트만이 "취약한 사용자들의 안전보다 성급한 시장 출시를 우선시하는 무모한 전략을 직접 지시했다"고 주장했습니다 .
지난 2월, 제시 반 루트셀라는 캐나다 브리티시컬럼비아주 텀블러 리지의 한 학교에서 총격을 가해 9명을 살해하고 수십 명에게 부상을 입힌 후 스스로 목숨을 끊었습니다.
수개월 동안 오픈아이얼 직원들은 반 루트셀라르가 챗봇과 나눈 대화가 내부적으로 문제가 된 후 개입해야 할지 여부를 논의했습니다. 월스트리트저널에 따르면, 결국 경영진은 개입하지 않기로 결정했습니다.
지난 4월, 피해자 가족들은 오픈AI와 알트만을 상대로 소송을 제기했다 .
이달 초 플로리다 주 법무장관이 제기한 소송에 따르면, ChatGPT는 사용자들의 자살을 "부추기고" "치명적인 난동을 방조했다"고 합니다. 플로리다 소송은 알트먼이 "인간 생명에 대한 위험을 완전히 무시했다"며 개인적인 책임을 묻고자 합니다.
광고
브라운 대학교 공중보건대학원, 하버드 의과대학, 그리고 비영리 연구기관인 RAND가 2025년에 실시한 연구에 따르면, 18세에서 21세 사이의 청소년 및 젊은 성인 8명 중 1명은 정신 건강 문제 해결을 위해 ChatGPT와 같은 AI 챗봇을 이용한 것으로 나타났습니다.
웨스트 텍사스 A&M 대학교에서 청소년과 젊은 성인을 대상으로 실시한 또 다른 연구에 따르면, 청소년의 거의 5분의 1이 AI에 의존하게 되었으며, 기존의 정신 건강 문제가 이러한 의존성 발병의 주요 요인으로 작용하는 것으로 나타났습니다.
법률 변경
입법자들이 이 문제에 주목하기 시작했습니다. 캐나다에서는 수요일에 발의된 새로운 디지털 안전 법안이 오픈AI와 같은 기업들이 사용자가 자신이나 타인에게 해를 가할 수 있는 위기 상황에서 보고 기준을 더욱 "투명하게" 공개하도록 요구하고 있습니다.
워싱턴 주에서는 주지사가 인공지능 챗봇이 3시간마다 사용자에게 자신이 사람이 아니라는 사실을 상기시키도록 하는 법안에 서명했으며, 이 법은 2027년 1월부터 시행될 예정입니다. 일리노이 주와 같은 다른 주들은 인공지능 치료를 금지하기도 했습니다.
연방 차원에서 뉴욕 출신의 공화당 소속 마이크 로러 하원의원은 챗봇 업체들이 사용자가 자살 충동에 대해 언급하는 경우 부모 에게 알리도록 의무화하는 법안을 발의했습니다. 그러나 이 법안은 미성년자에게만 적용됩니다.