앤스로픽은 AI 연구소에 작업 중단을 촉구하며, 인간이 통제력을 잃을 위험이 있다고 경고했습니다.
보고서는 기술의 급속한 발전으로 인해 인공지능 시스템이 사회가 위험을 통제할 수 있는 속도보다 더 빠르게 스스로를 개선할 수 있게 될 것이라고 경고했습니다.
들어보세요 (5분)
구하다
소셜 미디어에 공유하려면 여기를 클릭하세요.
공유하다
구글에 알자지라를 추가하세요
앤트로픽은 주요 인공지능 연구소들에게 개발을 조직적으로, 그리고 검증 가능한 방식으로 일시 중단할 것을 촉구하고 있습니다. [사진: 패트릭 시손/AP 사진]
AP 통신 및 로이터통신 제공
2026년 6월 5일 게시됨2026년 6월 5일
앤트로픽은 세계 최고의 인공지능 기업들이 첨단 AI 시스템 개발을 일시적으로 중단하는 공동 방안을 마련해야 한다고 제안하며, 기술 발전 속도가 너무 빨라 인간이 통제력을 잃을 위험이 있다고 경고했습니다.
클로드 챗봇을 개발한 회사는 목요일 블로그 게시물에서 최첨단 AI가 작업을 수행하는 속도가 점점 빨라짐에 따라 "AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택권이 세상에 있다면 좋을 것"이라고 밝혔습니다.
Recommended Stories
list of 4 itemslist 1 of 4Nvidia unveils new chip to bring AI directly to personal computerslist 2 of 4Connected and Alonelist 3 of 4Google employee charged with insider trading over Polymarket betslist 4 of 4How corporations have collaborated with US military over the decadesend of list
앤트로픽은 자사 연구소가 다른 기관들과 협력하여 이 문제를 연구하고, 신뢰할 수 있는 속도 저하 또는 일시 중단을 위한 시스템 구축을 지원하기 위한 "조치"를 취할 계획이라고 밝혔지만, 구체적인 내용은 언급하지 않았습니다.
인공지능 분야의 경쟁사인 오픈AI는 수요일에 발표한 보고서에서 "규칙, 안전장치, 책임 메커니즘은 민간 기업이 단독으로 결정하는 것이 아니라 민주 정부가 궁극적으로 결정해야 한다"며 다른 접근 방식을 주장했습니다.
"인공지능 혁신의 속도에 대한 결정은 어느 한 연구소, 기업 또는 특정 이익 단체에 맡겨서는 안 된다는 것이 우리의 입장입니다."라고 성명서는 밝혔습니다.
앤트로픽은 AI 모델의 속도가 점점 빨라지고 있으며, 코딩과 같은 소프트웨어 작업을 스스로 수행하는 속도가 급격히 향상되고 있다고 밝혔습니다. 현재 추세대로 충분한 컴퓨팅 파워가 주어진다면, AI 시스템은 이른바 "재귀적 자기 개선"을 통해 스스로 후속 모델을 설계하고 개발할 수 있을 것이라고 전망했습니다.
앤트로픽은 자율 구축 AI가 과학, 의료 및 기타 분야에 이점을 가져다줄 주요 기술적 이정표가 될 것이지만, "인간이 AI 시스템에 대한 통제력을 잃을 위험을 증가시킬 수도 있다"고 밝혔습니다.
광고
일부 IT 업계 인사들은 오래전부터 그러한 시나리오에 대해 경고해 왔습니다.
앤트로픽의 이번 게시물은 토론토 대학교 연구팀이 이번 주에 발표한 또 다른 경고에 따른 것입니다. 해당 연구팀은 AI 도구를 사용하여 기기에서 기기로 확산되고 방대한 컴퓨팅 네트워크를 장악하면서 해킹 전략을 조정하는 새로운 유형의 AI "웜"을 만들 수 있음을 보여주었습니다.
"보안 문제를 야기하는 것은 가장 크고 강력한 언어 모델만이 아니라는 점을 사람들이 이해하는 것이 정말 중요하다고 생각합니다."라고 수석 연구원인 니콜라스 파페르노는 인터뷰에서 말했습니다.
Play Video
25:00
Now Playing
25:00
Can AI be controlled?Next
02:01
Ukraine steps up deep strikes in Russia: Kyiv drones target Russian oil industry01:49
Putin Speaks at St Petersburg Forum: “No Meeting With Zelenskyy”11:07
UK mortgage rates rise as war on Iran uncertainty hits housing market28:00
Is Asia facing a new currency crisis?
앤트로픽 의 공동 창립자인 잭 클라크와 연구소장인 마리나 파바로는 해당 게시글에서 이번 중단 기간을 “사회 구조 및 조화 연구”를 통해 AI 기술 발전에 발맞춰 나갈 수 있도록 하는 데 사용할 것이라고 밝혔습니다. 여기서 ‘조화’는 기술이 인간의 가치와 의도에 부합하는지 확인하는 것을 의미하는 업계 용어입니다.
제안된 협력 체계는 첨단 AI 연구소들이 글로벌 경쟁사들이 실제로 연구를 중단하거나 속도를 늦췄는지 확인할 수 있도록 하고, "악의적인 행위자가 조직적인 속도 저하를 틈타 몰래 앞서 나가는 것을 막을 수 있을 것"이라고 합니다.
회사 측은 이러한 국제적인 협력 체계가 필요하다고 밝혔습니다. 그렇지 않으면 AI 개발 속도가 둔화될 경우 "가장 신중하지 못한" 업체들이 따라잡아 기업과 정부가 AI 안전에 대한 어려운 결정을 내리는 데 부담을 가중시킬 수 있기 때문입니다.
고도화된 AI 시스템이 인간의 통제를 벗어나 사회에 해를 끼칠 수 있다는 우려가 기술이 발전함에 따라 커지고 있습니다. 앤트로픽의 미소스(Mythos) 모델은 기존 코드의 취약점을 찾아내는 능력으로 올해 초 은행 및 소프트웨어 산업을 포함한 여러 산업에 큰 파장을 일으켰습니다.
하지만 규제는 특히 주요 AI 연구소들이 위치한 미국에서 더디게 진행되어 왔습니다. 트럼프 행정부는 이번 주 초 행정 명령을 통해 연구소들이 자체적으로 가장 뛰어난 모델들을 공개하기 전에 정부의 사이버 보안 테스트를 받도록 의무화했습니다.
안전에 중점을 둡니다.
AI 연구자들은 이전에도 개발을 일시 중단할 것을 촉구했지만, 별다른 성과를 거두지 못했습니다. AI 연구소 xAI의 소유주인 일론 머스크는 비영리 단체인 미래생명연구소(Future of Life Institute)가 2023년에 제안한, 안전장치 마련을 위해 6개월간 AI 개발을 중단하자는 주장을 지지한 인물 중 한 명이었습니다.
앤트로픽은 오랫동안 안전에 중점을 둔 AI 연구소로서의 입지를 다져왔습니다. 올해 초, 앤트로픽은 미군이 자사의 모델을 국내 감시 및 완전 자율 무기에 사용하는 것을 거부했고, 이에 미국 정부는 앤트로픽을 국가 안보 블랙리스트 에 올려 2026년 하반기부터 발효되도록 했습니다.
광고
앤트로픽의 이번 발표는 앤트로픽과 챗GPT 개발사인 오픈AI가 기업공개(IPO)를 통해 주식 시장에 상장하려는 경쟁을 벌이는 가운데 나온 것으로, 이번 IPO가 성사될 경우 앤트로픽의 기업 가치는 거의 1조 달러에 달할 것으로 예상됩니다.
페이퍼넛은 보고서를 발표하기 전에 캐나다 사이버 보안 당국에 이 사실을 알렸는데, 이 보고서는 연구원들이 소프트웨어 개발자들이 저렴하게 접근하고 수정할 수 있는 "오픈 소스" AI 도구를 사용하여 실험실에서 웜을 개발한 과정을 보여줍니다.
그는 "과거에는 사이버 공격자들이 가치가 매우 높은 목표물을 집중적으로 공격했다"며 "은행 시스템, 병원, 전력망, 정수 시스템, 학교 등이 그 예"라고 말했다.
파페르노트는 인공지능 기반 해킹 도구가 컴퓨터 취약점 탐색을 가속화함에 따라 기업, 정부 기관 및 학계 연구자 간의 협력을 강화하여 대응책을 개발해야 한다는 데 동의했습니다.
"지하실에 처박아 두고 자주 확인하지 않는 오래된 노트북은 그다지 가치 있는 공격 대상처럼 보이지 않을 수 있지만, 오히려 더 가치 있는 공격 대상을 공격하기 위한 발판으로 사용될 수 있습니다."라고 그는 말했다. "사이버 공격을 감행하는 데 드는 비용이 매우 낮아졌기 때문에 인터넷에 연결된 모든 것이 이제 위험에 처해 있습니다."