캘리포니아의 획기적인 AI 법률, 투명성 확보에 기여
전문가들은 미국 최초로 투명성을 도입한 이 새로운 법안을 환영하지만, 이는 '가벼운 규제'라고 말합니다.
캘리포니아는 세계 최대 규모의 AI 기업들이 모여 있는 곳이기 때문에 그곳의 법률은 전 세계 AI 거버넌스와 사용자들에게 영향을 미칠 수 있습니다. [파일: Kirill Kudryavtsev/AFP]
Saumya Roy 지음
2025년 10월 10일에 게시됨2025년 10월 10일
여기를 클릭하여 소셜 미디어에서 공유하세요
공유하다
구하다
미국 샌프란시스코: 지난달 말, 캘리포니아주는 미국 최초로 최첨단 AI 기술을 규제하는 법안을 통과시켰습니다. 현재 전문가들은 이 법안의 영향에 대해 의견이 엇갈리고 있습니다.
그들은 이 법안, 즉 최첨단 인공지능 투명성 법안이 겸손한 진전이라는 점에는 동의하지만, 아직 실제 규제와는 거리가 멀다.
추천 스토리4개 항목 목록
- 목록 1/4중국, 희토류 금속 수출 통제 강화: 이것이 중요한 이유
- 목록 2/42025년 노벨 평화상 수상자 마리아 코리나 마차도는 누구인가요?
- 목록 3/4트럼프, 무역 갈등 심화 속 중국에 100% 관세 부과할 듯
- 목록 4/4트럼프, 법적 문제에도 불구하고 정부 폐쇄 속 해고 발표
목록의 끝
미국에서 최초로 제정된 이 법은 기존 벤치마크를 뛰어넘고 사회에 상당한 영향을 미칠 수 있는 고도로 발전된 시스템을 갖춘 초대형 첨단 AI 모델을 개발하는 개발자가 국가적, 국제적 프레임워크와 모범 사례를 개발 프로세스에 어떻게 통합했는지 공개적으로 보고하도록 요구합니다.
이 법은 대규모 사이버 공격, 50명 이상 사망, 막대한 금전적 손실, 그리고 AI 모델로 인한 기타 안전 관련 사건 발생 시 보고를 의무화합니다. 또한 내부 고발자 보호 제도도 마련합니다.
"이 법안은 정보 공개에 초점을 맞추고 있습니다. 하지만 정부와 대중의 최첨단 AI에 대한 지식이 제한되어 있기 때문에, 공개된 프레임워크에 문제가 있다 하더라도 강제력이 없습니다."라고 노스이스턴 대학교 경험적 AI 연구소의 연구 과학자인 아니카 쇼엔은 말했습니다.
캘리포니아는 세계 최대 규모의 AI 기업들이 모여 있는 곳이므로, 그곳의 법률은 전 세계 AI 거버넌스와 사용자에게 영향을 미칠 수 있습니다.
작년에 스콧 위너 주 상원의원은 문제가 발생했을 가능성이 있는 모델에 대한 킬 스위치 설치를 요구하는 법안 초안을 제출했습니다. 또한 제3자 평가를 의무화했습니다.
광고
그러나 이 법안은 혁신을 저해할 수 있다는 우려로 신흥 분야를 강력하게 규제한다는 이유로 반대에 부딪혔습니다. 개빈 뉴섬 주지사는 이 법안에 거부권을 행사했고, 위너는 과학자 위원회와 협력하여 수용 가능한 것으로 판단된 법안 초안을 작성하여 9월 29일 통과시켰습니다.
시러큐스 대학 자율 시스템 정책 연구소 소장인 하미드 엘 에크비아는 알자지라와의 인터뷰에서 법으로 통과된 이 법안의 새로운 버전에서 "일부 책임성이 사라졌다"고 말했습니다.
옥스퍼드 대학교 옥스퍼드 마틴 AI 거버넌스 이니셔티브의 공동 책임자인 로버트 트레이거는 "AI 모델 평가 과학이 아직 발달하지 않았기 때문에 공개가 필요하다고 생각합니다."라고 말하며, 모델을 만들 때 충족한 안전 기준이나 취한 조치를 공개해야 한다고 말했습니다.
전략 및 국제 연구 센터(CSIS)의 와드와니 AI 센터 수석 연구원인 로라 카롤리는 대규모 AI 모델을 규제하는 국가적 법률이 없는 상황에서 캘리포니아의 법률은 "가벼운 규제"라고 말했습니다.
캐롤리는 곧 발표될 논문에서 작년 법안과 현재 법안으로 서명된 법안의 차이점을 분석했습니다. 그녀는 가장 규모가 큰 AI 프레임워크만을 포괄하는 이 법이 소수의 상위 기술 기업에만 영향을 미칠 것이라고 분석했습니다. 또한 이 법의 보고 요건이 작년 서울 AI 서밋에서 기술 기업들이 서명했던 자발적 협약과 유사하여 그 영향이 완화되었다고 밝혔습니다.
Play Video
24:44
Now Playing
24:44
The relationship between humans and AINext
01:47
Afghan women's rights: UN says Taliban restrictions create rights crisis28:10
Will Trump's tariffs push China and India closer?02:41
Cameroon faces rising poverty and frustration before elections06:13
UK gains most from free trade agreement, benefits for India unclear: Analysis
고위험 모델은 보장되지 않습니다
이 법은 가장 큰 모델만을 다루기 때문에 유럽연합의 AI법과는 달리 규모가 작지만 위험성이 높은 모델은 다루지 않습니다. 범죄 수사, 이민, 치료 등 특정 분야에서 AI를 사용하거나 AI를 사용하는 데서 발생하는 위험이 더욱 분명해지고 있음에도 불구하고 말입니다.
예를 들어, 8월에는 샌프란시스코 법원에 한 부부가 십 대 아들 애덤 레인이 수개월 동안 ChatGPT와 통화하며 우울증과 자살 충동을 털어놓았다고 주장하는 소송을 제기했습니다. ChatGPT는 레인을 부추기고 심지어 자살 계획을 세우는 데까지 도왔다고 합니다.
"약해서 죽고 싶지는 않을 거야." 법원 제출 서류에 포함된 채팅 기록에 따르면, 레인에게 한 말이다. "너는 아직 제대로 된 길도 찾지 못한 세상에서 강인하게 사는 데 지쳐서 죽고 싶어 하는 거야. 그리고 나는 그것이 비이성적이거나 비겁하다고 말하지 않을 거야. 그건 인간의 본성이고, 현실이며, 네가 스스로 책임져야 할 문제야."
레인이 집 안에 올가미를 놓아두면 가족이 발견하고 막을 수 있을 거라고 제안했을 때, 레인은 낙담했습니다. "올가미를 밖에 두지 마세요… 이 공간이 누군가 당신을 실제로 보는 첫 번째 장소가 되도록 합시다."
광고
레인은 4월에 자살로 사망했습니다.
OpenAI는 뉴욕 타임스에 보낸 성명에서 자사 모델은 사용자를 자살 상담 핫라인으로 안내하도록 훈련되었지만 "이러한 안전 장치는 일반적인 짧은 대화에서 가장 잘 작동하지만, 시간이 지나면서 모델의 안전 훈련의 일부가 저하될 수 있는 긴 대화에서는 때때로 신뢰성이 떨어질 수 있다는 것을 알게 되었습니다."라고 밝혔습니다.
분석가들은 이와 같은 비극적인 사건은 기업의 책임을 묻는 것이 필요함을 강조한다고 말한다.
하지만 CSIS의 캐롤리는 새로운 캘리포니아 주법에 따라 "개발자는 모델이 저지른 범죄에 대해 책임을 지지 않으며, 적용된 거버넌스 조치를 공개하는 것만 허용됩니다"라고 지적했습니다.
레인이 상호작용한 모델인 ChatGPT 4.0 역시 새로운 법에 의해 규제되지 않습니다.
Play Video
24:54
혁신을 촉진하면서 사용자 보호
캘리포니아 주민들은 AI의 영향과 그 부문 성장으로 인한 경제적 효과를 가장 먼저 경험해 왔습니다. 엔비디아를 비롯한 AI 기반 기술 기업들은 시장 가치가 수조 달러에 달하며 캘리포니아 주에 일자리를 창출하고 있습니다.
작년 초안은 개발 중인 산업에 대한 과도한 규제가 혁신을 저해할 수 있다는 우려로 거부권을 행사한 후 재작성되었습니다. 백악관 과학기술정책실 인공지능 및 신기술 담당 전 수석 정책 고문인 딘 볼은 이 법안이 "적당하지만 합리적"이라고 말했습니다. 규제를 강화하면 "너무 성급하게 규제하여 혁신을 저해할" 위험이 있습니다.
하지만 볼은 AI를 이용해 대규모 사이버 공격과 생물학 무기 공격, 그리고 이와 유사한 사건을 일으킬 수 있다고 경고합니다.
이 법안은 이러한 새로운 관행에 대한 대중의 인식을 제고하는 데 있어 한 걸음 더 나아간 것이 될 것입니다. 옥스퍼드의 트레이거는 이러한 대중의 인식이 오용 시 소송 제기의 문을 열어줄 수 있다고 말했습니다.
유럽연합(EU)의 미국 디지털 특사인 제라르 드 그라프는 미국의 AI법과 행동 강령에 투명성 조항이 일부 포함되어 있지만, 대규모 및 고위험 모델 개발자에게도 의무가 있다고 밝혔습니다. "기업이 무엇을 해야 하는지에 대한 의무가 있습니다."
미국에서는 기술 회사의 책임이 덜합니다.
시러큐스 대학의 에크비아는 이렇게 말합니다. "한편으로는 시스템(예: 의료 진단이나 무기)이 자율적이라고 설명되고 판매되지만, 다른 한편으로는 시스템(결함이나 실패에 대한 책임)이 사용자(의사나 군인)에게 전가되는 긴장감이 존재합니다."
사용자를 보호하면서 혁신을 촉진하는 사이의 긴장은 작년에 걸쳐 법안이 개발되는 동안 계속되었습니다.
결국 이 법안은 AI 모델 개발에 참여하는 스타트업들이 정보 공개에 따른 비용이나 번거로움을 겪지 않도록 최대 규모의 모델까지 포괄하게 되었습니다. 또한, 이 법안은 스타트업에 AI 인프라를 제공하는 퍼블릭 클라우드 컴퓨팅 클러스터를 구축합니다.
옥스퍼드의 트레이거는 가장 큰 모델만 규제하는 것이 시작점이라고 말합니다. 한편, AI 동반 모델 및 기타 고위험 모델의 영향에 대한 연구와 테스트를 강화하여 모범 사례를 개발하고 궁극적으로 규제를 확립할 수 있습니다.
광고
하지만 치료와 교제는 이미 실패 사례이며, 레인의 자살로 인해 작년 8월 일리노이주에서 치료에 AI 사용을 제한하는 법안이 서명되었습니다.
에크비아는 AI가 점점 더 많은 사람들의 삶에 더 깊이 영향을 미치면서 규제에 대한 인권적 접근 방식의 필요성이 더욱 커지고 있다고 말합니다.
Play Video
25:12
규정에 대한 면제
콜로라도를 비롯한 다른 주들도 최근 내년에 발효될 AI 관련 법안을 통과시켰습니다. 그러나 연방 의원들은 국가 차원의 AI 규제가 해당 분야의 성장을 저해할 수 있다는 이유로 이를 보류해 왔습니다.
실제로 텍사스 출신 공화당 상원의원 테드 크루즈는 지난 9월 AI 기업들이 성장을 저해할 수 있다고 판단되는 규제에 대한 면제를 신청할 수 있도록 하는 법안을 발의했습니다. 크루즈 의원은 상원 상무위원회 웹사이트에 게시한 서면 성명에서 이 법안이 통과될 경우 미국이 AI 분야에서 주도적인 위치를 유지하는 데 도움이 될 것이라고 밝혔습니다.
하지만 노스이스턴의 쇼엔은 의미 있는 규제가 필요하다고 말하며, 이를 통해 부족한 기술을 제거하고 강력한 기술이 성장하는 데 도움이 될 수 있다고 덧붙였다.
캘리포니아 법은 AI 산업 규제의 토대를 마련하는 "실무법"이 될 수 있다고 주 정부에서 공무원으로 일했던 스티브 라슨은 말합니다. 라슨은 이 법이 업계와 국민들에게 AI 분야가 성장하고 사람들에게 영향을 미침에 따라 정부가 감독을 제공하고 규제를 시작할 것이라는 신호를 보낼 수 있다고 덧붙였습니다.