페이블 5 차단, 소버린 AI를 다시 묻는다
이태호
미 정부, 앤트로픽의 신형 AI, 국가 보안정보 접근 가능성 차단
- 원자(atom)를 잠그는 자물쇠로 비트를 잠그려 하다
- 전 세계적으로 미국산 AI에 대한 불신을 자초하다
- 안드로이드폰처럼 공존형 소버린 AI 어디 없나
AI를 사용하면서 누구나 갖는 의문이 문제적 현실로 떠올랐다. 미 정부는 지난주 성능 좋은 자국산 AI, 페이블 5에 대한 미국 외에서의 접속을 중단시켰다. 미국 정부의 주요 사이트에 들어와 자료를 통째로 훔쳐 갈 것이 걱정되었기 때문이다.
이를 계기로 여러 파장이 일었는데 그중 하나가 소버린 AI에 대한 관심이다. 한국형 AI를 보편 사용하고, 외부를 겨냥한 장벽을 만들어두어야 안심이라는 정서다. 안드로이드폰처럼 운영체제는 외국제를, 디바이스는 한국 것을 쓰는 형태를 말한다.
스스로도 페이블 5의 고성능에 깊이 반했다는 Pickool 이태호 대표가 이번 파동을 계기로 소버린 AI의 갈 길을 짚어보았다. 맞아, 우리에게는 소버린 AI가 있었지. 그런데 어디 갔지? 어느 만큼 갔지? 하정우는? 임문영은? [편집자 주]
앤트로픽 홈페이지의 공지 모습, 앤트로픽은 지난 12일(현지 시각) 페이블 5 모델 서비스를 중단했다 // 사진=앤트로픽 홈페이지
지난 주말부터 테크 업계가 뜨거웠다. 앤트로픽이 AI 서비스 클로드의 최신 모델, ‘페이블(Fable) 5’모델에 대한 서비스를 일시적으로 중단한 것. 다름 아닌 미국 정부가 해당 모델에 대한 외국인 접근을 금지했기 때문이다. 차단 대상은 특정 국가 국민이 아닌 ‘모든 외국 국적자’였다. 미국 내는 물론 앤트로픽 내 외국 국적 직원도 페이블 5 모델에 대한 접근이 중단된 셈이다.
미국 정부의 이번 조치와 그에 따른 앤트로픽의 대응은, 그동안 수면 아래에 있던 소버린 AI 논의를 단숨에 끌어올렸다.
앤트로픽의 정면 반론, 따르지만 동의할 수 없다
페이블 5는 그저 더 똑똑해진 AI가 아니었다. 필자가 며칠 써 본 인상으로는, 이전 모델과는 비교할 수 없을 정도로 ‘자기 완결적인 결과물’을 내놓는 모델이었다. 이전 모델을 쓸 때는 마치 신입 후배를 다루듯 작업이 도중에 멈추지 않을지 신경 써야 했다. 틈틈이 내가 끼어들어 방향을 다시 잡아 줘야 했다. 그런데 이 모델은 일의 시작부터 긴 흐름을 끝까지 이어 갔다. 다들 물건이 나왔다고 감탄했다. 그런데 출시 1주일도 채 안 돼 갑자기 중단된 거다. 다들 당황스러울 만하다.
사건의 시작은 미국 동부 시간 6월 12일 오후 5시 21분이었다. 미국 정부는 국가 안보를 근거로 수출 통제 지침을 내렸다. 더 정확히는 ‘탈옥(Jailbreak)’, 즉 모델의 안전장치(가드레일)를 우회해서 국가 안보 사항을 빼갈까 우려했기 때문이었다.
미 정부는 외국 국적 임직원을 포함한 모든 외국 국적자의 페이블 5·미토스(Mythos) 5 접근을 즉시 중단하라고 지시했다. 앤트로픽은 그 지침에 따라 서비스를 중단했다.
앤트로픽이 순순히 받아들인 건 아니었다. 조치를 이행하면서도 단호히 반박했다. 정부가 문제 삼은 기법은 비교적 단순한 취약점이며, 공개된 다른 모델에서도 똑같이 발견되는 수준이라는 것이다. 현재로서는 어떤 업체도 완벽한 ‘탈옥’에 대해 방어를 갖추기 어렵고, 앤트로픽 역시 페이블 5 출시 당시 이를 분명히 밝혔다고 했다.
30일간 고객 데이터를 보존하도록 한 조치도 탈옥 현상을 연구·대응하기 위한 방어 조치라 설명했다. 정부가 근거로 든 보고서의 역량 수준 또한 오픈AI의 GPT-5.5를 비롯한 다른 모델에서 충분히 얻을 수 있고, 보안 담당자들이 일상적으로 다루는 정도에 불과하다고 덧붙였다. 정부 조치에는 따르되, 불만은 분명히 표현했다.
댜리오 아모데이 앤트로픽 CEO의 모습, 그는 이번 조치를 따르면서도 분명한 반대 입장을 냈다 // 사진=연합뉴스
"좁은 범위의 탈옥 가능성이 하나 발견됐다는 이유만으로, 수억 명에게 배포된 상용 모델을 회수해야 한다는 데에는 동의할 수 없다."
더해서, 같은 잣대를 업계 전반에 적용하면 모든 프런티어 모델의 신규 배포가 사실상 멈출 것이라는 경고도 함께 던졌다. 안전하지 않은 배포를 정부가 막을 권한은 인정하지만, 그 권한은 투명하고, 공정하며, 기술적 사실에 근거한 절차로 행사해야 한다는 입장이다.
일각에서는 이번 조치가 순수한 기술적 판단에서 나온 게 아니라 해석한다. 앤트로픽이 최근 국방부(Department of Defense)와 빚은 갈등의 연장선에서 나온 압박이 아니냐는 시각이다. 마침 앤트로픽이 기업공개(IPO)를 위해 비밀리에 상장신고서를 접수한 터라, 이번 사안이 신고서의 위험 요인 항목에 담길 수 있다는 관측도 나온다.
무기 수출을 막던 절차로 정보를 대했다
미국 정부가 내세운 명분은 탈옥이었지만, 그 밑에는 중국발 ‘증류(Distillation)’ 경쟁이라는, 더 큰 그림이 있었다. 증류는 성능이 뛰어난 모델에 끊임없이 질문을 던져 그 답변을 대량으로 모은 뒤, 그 추론 방식으로 더 작고 값싼 모델을 학습시키는 기법이다.
중국이 가중치를 무료로 푼 오픈웨이트 모델로 빠르게 추격하는 상황에서, 미 정부는 지금 AI를 배포한다면, 경쟁국이 최상위 모델을 학습할 수 있다고 본 셈이다.
이번 조치가 문제가 된 이유는 '방법'에 있었다. 수출 통제라는 도구는 본래 무기와 장비, 곧 '원자(Atom)'를 전제로 설계됐다. 무기는 고정된 위치가 있고, 수량이 유한하며, 건네주면 내 손에서 사라진다. 그래서 국경에서 막고, 목록으로 관리하고, 어디로 갔는지 추적하는 방식이 통한다.
그런데 AI 모델은 '비트(Bit)'다. 복제해도 원본이 줄지 않고, 한 번 새어 나가면 회수할 길이 없으며, 퍼지는 쪽이 오히려 기본값이다. 이번 사건은 원자를 잠그는 자물쇠로 비트를 잠그려 한 셈이었고, 이 사건에 따라 온 허점들은 모두 이 착오에서 비롯했다. 더 자세히 살펴보도록 하겠다.
바뀐 시대, 여전한 기준
AI와 기존 물품 수출의 차이는 여러 가지지만, 우선 '국적'이라는 기준이 성립하지 않는다는 걸 들겠다. 미국 수출 통제에는 '간주 수출(Deemed Export)'이라는 오래된 원칙이 있다. 외국 국적자가 통제 기술에 접근하면, 설령 미국 국내에서 일어난 일이라도 그 사람의 본국으로 기술이 수출된 것으로 '간주'하는 규정이다. 이번 국적 기반 차단은 사실상 이 원칙을 AI에 그대로 옮겨 놓은 것이다. 문제는 간주수출이 설계도와 장비를 물리적으로 통제할 수 있던 시대에 만들어졌다는 점이다. 결과물만 오가는 클라우드 환경에서는 '누가 그 모델을 썼는가'라는 질문 자체가 흐려진다. 구멍이 있다는 뜻. 접근 권한을 가진 법인이 대신 모델을 돌려 완성된 결과물만 넘기면, 규정상 통제 대상인 외국인은 단 한 번도 모델을 '사용'하지 않은 것으로 처리된다. 국적은 정부가 진짜로 통제하려는 것, 즉 위험과 충성을 거칠게 대신하는 지표일 뿐이다. 정작 내용물은 틈으로 빠져나간다.
결국 이번 차단을 통해 미국 모델에 대한 신뢰만 깎였다고 볼 수 있겠다. ‘AI를 어떻게 통제해야 하는가?’ 에 대해 미국이 모른다는 걸 전 세계가 알게 되었다. 사진은 클로드 메인 화면 // 사진=클로드
또 하나, 시간은 막는 쪽의 편이 아니라는 점이다. 최상위 모델 하나를 학습시키는 데는 수십억 달러가 들지만, 그 출력을 긁어모아 작은 모델로 옮기는 데 드는 비용은 그보다 적다. 막는 쪽과 따라오는 쪽의 부담은 처음부터 다르다.
통제는 모든 모델, 모든 버전에서 빈틈을 보이지 않아야 의미가 있다. 그러나 증류는 그 가운데 어느 한 군데만 열려도 성과를 거둔다. 즉 차단을 통해서 우위를 지킬 수 있다고 생각하는 건 환상이다. 정보 차단은 격차를 잠시 유지하는 수단일 뿐이다. 모델이 뛰어날수록, 증류 비용이 내려갈수록 우위에 있는 시간은 점점 짧아진다.
결국 이번 차단을 통해 미국 모델에 대한 신뢰만 깎였다고 볼 수 있겠다. ‘AI를 어떻게 통제해야 하는가?’ 에 대해 미국이 모른다는 걸 전 세계가 알게 되었다.
AI 내부 논쟁, 오픈소스 VS 폐쇄형 AI
이번 사건으로 앤트로픽만 난리가 난 게 아니다. AI 업계 사이에서 있었던 오랜 갈등이 수면 위로 올라왔다. 먼저 AI 분야의 세계적 권위자 얀 르쿤(Yann LeCun)이 바로 반응했다. 그는 "다리오 아모데이(앤트로픽 CEO)가 미토스와 페이블 등 AI 전반에 대해 조장해 온 터무니없는 공포가 드디어 부메랑이 되어 돌아왔다"라고 했다. 이어 "미국 정부가 자국 내 외국인 직원까지 포함해 비미국인의 AI 사용을 전면 금지한 것은 결국 뿌린 대로 거둔 결과"라고 꼬집었다.
르쿤은 그동안 ‘AI가 인류를 위협할 수 있다’라는 주장을 앞장서서 반박해 왔다. 반면 앤트로픽의 다리오 아모데이는 그 ‘공포 서사’를 주도한 인물이다.
르쿤이 자주 내세우는 핵심 논리는 '규제 포획(Regulatory Capture)'이다. 대규모 폐쇄형 AI 연구소들이 자기 모델의 위험성을 일부러 부풀려 정부 규제를 유도한다는 것이다. 규제 장벽이 높아지면 소수의 거대 기업이 시장을 장악하고, 기술을 투명하게 공유하는 오픈소스 진영 경쟁자들은 도태된다. 르쿤의 시각에서 이번 차단은 자신의 경고가 그대로 현실이 된 사례다.
다만 르쿤이 처한 이해관계를 고려하며 들어야 할 것이다. 그는 2025년 말에 메타를 떠나 프랑스 파리에 'AMI 랩스'를 창업했다. 현재 대세인 대규모 언어 모델(LLM) 방식에 한계가 있다고 보고, 대안인 '월드 모델' 개발에 주력하고 있다. 그 과정에서 오픈소스를 적극 옹호하며 기존 폐쇄형 연구소를 강하게 비판해 왔다. 그는 폐쇄형 진영과 맞서는 경쟁자고, 이번 비판은 경쟁사의 악재를 자기 진영의 정당성을 알리는 기회로 활용한 측면이 강하다. 게다가 그는 유럽에 거점을 두고, 대한민국의 삼성, 싱가포르의 테마섹·SEA 같은 미국 외 지역 투자자의 자금을 지원받는 처지이기도 하다.
르쿤의 오픈소스 지지는 최근 화두인 소버린 AI의 원리와 맞닿아 있기도 하다. 자체 환경에서 AI를 구동할 수 있어야만, 특정 기업이나 외국 정부가 갑자기 접근을 끊는 위험에서 벗어날 수 있기 때문이다.
이번 사태는 소버린 AI의 명분을 크게 뒷받침했다. 미국 정부가 마음만 먹으면, 미국 기업에서 일하는 외국인 직원의 접근권조차 하루아침에 끊어 버릴 수 있다는 사실을 전 세계에 똑똑히 보여 줬기 때문이다.
지난 14일 제37차 대통령 주재 수석·보좌관 회의를 주재하는 이재명 대통령 // 사진=청와대
대한민국이 나아갈 소버린 AI 길
페이블 5의 이번 중단 이후, 각국 정부와 기업은 미국산 AI에 대한 리스크를 점검했을 것이다. 현재 우리가 얼마나 미국산 AI에 의존하는지, 대체할 수단이 있는지를 따졌을 것이다. 한 번의 차단으로 미국 제품에 대한 근본적 신뢰가 흔들렸다. 미국으로서는 뼈아프다.
다만 AI를 하나의 서비스가 아니라 국가 안보의 한 축이자 미·중 패권 경쟁의 전장으로 본다면 이야기가 다르긴 하다. 미국이 F-35 같은 첨단 무기를 아무에게나 팔지 않듯, AI도 비슷한 성격을 띠게 됐다. 앤트로픽은 중국·홍콩에서는 접속되지 않고 대체로 서방·자유민주주의 진영에서만 서비스되는데, 이번 일로 그 진영 안에서도 단지 국적이 다르다는 이유로 하룻밤 새 접근이 끊길 수 있다는 점이 드러났다.
대한민국은 어떻게 나아가야 할까. 답을 찾으려면 과거의 비슷한 역사에서 찾는 것이 자연스럽다. 약 16년 전, 모바일 수요가 폭발하며 스마트폰 시대가 열리던 무렵을 떠올려 보자. 운영체제인 안드로이드와 iOS는 모두 미국 기술이다. 그러나 삼성전자는 안드로이드 진영과 협력하며 세계적 기업으로 성장했고, 그 과정에서 국내 애플리케이션 생태계도 크게 발전했다. 미국 기술을 활용했다고 해서 미국에 완전히 종속된 것은 아니었다. 아이폰 도입 이전, 독자 생태계를 고집하며 위피(WIPI) 플랫폼으로 모바일 인터넷을 묶어 두던 대한민국의 모바일 인터넷은 사실상 갇힌 생태계였다. 오히려 발전의 기회를 맞았다고 할 수 있다.
독일 지멘스도 미국 엔비디아와 협력해 디지털 트윈을 만들고, 여러 글로벌 완성차 업체가 엔비디아의 자율주행·시뮬레이션 기술에 의존하고 있다. 그렇다고 이를 기술 종속이라 비판하는 사람은 없다.
소버린 AI 개발 방향, 대체할 수 있는가?
독자적이면서, 미국의 최신 AI 수준과 비슷한 소버린 AI는 가능한가? 흔히 소버린 AI의 성공 사례로 꼽는 프랑스 미스트랄(Mistral)도, 프랑스가 독자적인 군사력과 외교력을 갖춘 강대국이었기 때문에 가능했다. 이 국가적 배경을 빼놓은 채 미스트랄의 성공 공식만 그대로 따라 하기는 어렵다.
모든 기술을 국산화하는 것은 이상적이겠지만, 현실적으로 모든 분야에서 세계 1위를 차지할 수 있는 나라는 없다.
여기서 진짜 소버린 AI가 무엇인지 명확히 정리할 필요가 있다. 선례가 한번 생기기가 어렵지, 앤트로픽에 대한 미국 정부의 이번 조치를 고려하면 오픈AI나 구글 제미나이에도 같은 일이 반복되지 말란 법이 없다.
그렇다고 인구 5천만 명만을 겨냥한, 이른바 ‘주체적 소버린 AI’를 만드는 것도 기회비용이 너무 크다. 가칭 ‘K-AI’의 목표를 너무 높게 잡다가는 인력과 시간, 예산 낭비가 될 공산이 커 보인다. 과거 독자 모델을 고집하다 시행착오를 겪은 역사가 이를 증명한다.
대신 ‘제3의 길’을 택한 대한민국발 소버린 AI는 어떨까. 정부와 사회는 그것을 만들 수 있는 놀이터만 깔아 주는 것이다. 어느 때보다 한국의 위상이 높아진 지금, 글로벌 인재가 한국으로 모일 동인을 만들고, 이들이 한국을 기반으로 오픈소스 소버린 AI를 만들도록 하는 것이다.
관(官)이 주도하는 모델이 아니라 생태계와 시장의 검증을 거친 모델이기에, ‘보여 주기식’이 아니라 실제로 쓰고 싶은 우리의 진짜 대안이 될 가능성이 크다. 더구나 ‘비트’의 시대에 벌어질 경쟁은 ‘메이드 인 OOO’가 아니라 생태계 기반의 경쟁일 것이기에, 지금까지와는 다른 접근이 필요한 상황이다.
빛의 속도로 진화하는 인공지능 시대, 환경이 바뀌고 문제가 바뀌었다면 우리의 틀과 태도, 해법과 목표도 달라져야 하지 않을까?
필자 이태호는 테크 전문 크로스보더 미디어 '픽쿨(Pickool)'의 창업자 겸 발행인이다. 창간 전에는 오라클, 가트너, KT 등에서 근무하며 전략 기획, 사업 개발 및 영업 등에 다양한 업무를 수행했다.