★ 『AI: 신의 탄생, 인간의 종말』 상상스퀘어 간
‘인류 종말’의 서사로 떠오르고 있는 AI 개발
똑똑한 AI가 계속 더 똑똑한 AI를 만들고…
AI는 설계되는 게 아니라 자라나는 것
누구든 초지능 AI를 만든다면, 모두가 죽어
쉽고 재미있게 쓴 바벨탑 같은 AI 이야기
박상주 칼럼니스트
인간이 스스로 만든 문명에 의해 자멸할 수 있다는 두려움은 창세기 때부터 이어져왔다. 인류 파멸의 서사는 구약성경의 바벨탑과 중세의 흑사병, 산업혁명기의 프랑켄슈타인, 20세기의 핵무기 등 시대에 따라 새로운 내용으로 바뀌었다.
이제 인공지능(AI)이 새로운 ‘인류 종말’ 서사로 떠오르고 있다. 여러 편의 공상과학(SF) 영화들이 AI로 인한 인류 종말의 미래를 그리고 있다. 영화 ‘터미네이터’에서는 군사용 AI인 ‘스카이넷’이 인간을 적으로 판단하고 핵전쟁을 일으킨다. ‘매트릭스’에서는 AI가 인간의 생체 전기와 체열을 자신들의 에너지원으로 사용한다. ‘이글 아이(Eagle Eye)’는 국가안보용 AI가 사회 통신・전산망을 장악한 뒤 인간을 조종한다는 내용이다. 하나같이 AI를 바라보는 인간의 불안을 담고 있다. 인간을 위해 만든 AI가 거꾸로 인간을 지배하려 할 것이라는 우려다.
SF영화들은 대개 인간이 극적인 승리를 거두는 것으로 끝나지만, 실제 미래 사회에서도 인간이 이길 수 있을까?
최근 출간된 ‘AI: 신의 탄생, 인간의 종말’(상상스퀘어 간)은 이런 화두를 절실하고 간곡하게 다룬 책이다. 미국의 AI 안전성 연구기관인 기계지능연구소(Machine Intelligence Research Institute·MIRI) 공동설립자 겸 이사회 의장인 엘리에저 유드코스키와 MIRI회장인 네이트 소아레스가 함께 쓴 책이다. AI연구 분야의 선구자로 평가받는 유드코스키는 2023년 타임지 선정 ‘AI분야에서 가장 영향력 있는 인물’에 들기도 했다.
책은 묻는다. 인간보다 월등한 초지능 AI가 탄생한다면, 과연 인간은 그 지능을 통제할 수 있을까? 인간이 AI를 가지는 게 아니라, AI가 인간을 가진다면? AI경쟁의 최종 승자가 AI 그 자체라면?
책의 답은 분명하다.
“누구든 초지능 AI를 만든다면, 모두가 죽는다.”
책은, 이제 AI 위협은 SF영화 속 상상이 아니라 눈앞에 닥친 현실이라고 경고한다. AI가 인간의 명령대로 움직이는 단순한 도구를 넘어 새로운 행위자로 등장할 것이라고 우려한다. AI가 더 똑똑한 AI를 만들고, 그 AI가 또 더 똑똑한 AI를 만드는 순환이 이어지면서 인간의 통제를 벗어날 것이라고 내다본다. AI는 설계되는 게 아니라 자라난다는 것이다.
책은 과학기술과 경제, 역사, 국제관계, 미래학 등을 넘나들며 인류가 마주한 거대한 고민 앞에 독자를 세운다. AI 알고리즘의 작동 원리부터 인간 문명의 흥망성쇠, 미·중 AI 패권 경쟁, 컴퓨터 보안, 생명공학, 핵전쟁의 위험, 초지능의 출현 이후 펼쳐질 수 있는 인류 종말 시나리오까지 다양한 분야를 종횡무진으로 다룬다. 마치 기술서와 역사서, 미래예측서, 그리고 SF소설을 압축해 놓은 듯하다.
책은 단호하다. 다른 연구 서적에서 볼 수 있는 유보적 표현을 찾아보기 어렵다. 인간보다 1만 배 빠르게 사고하고, 늙지도 죽지도 않으며, 스스로를 개선할 수 있는 초지능 AI가 등장한다면 인간은 애당초 경쟁 상대가 될 수 없다고 단언한다. 예컨대 “AI는 그저 착하게 훈련시킨다고 해서 당신이 바라는 모습으로 자라나지 않는다”, “결국 그런 기계 초지능은 지구의 모든 자원을 자신만의 기이한 목적을 위해 전용하려 들 것이다”, “지구상의 모든 생명을 걸고 그런 문제를 풀겠다는 시도는 미친 짓이며, 어리석은 도박이다”라는 식이다.
책은 다급하다. 인류의 종말 앞에서 외치는 비장한 호소문을 떠올리게 할 정도다. 인류가 제정신을 차리고 함께 행동에 나서더라도 AI가 인류를 멸망시킬 확률을 10퍼센트로 추정하지만, 실제로는 50% 이상일 가능성이 있다고 주장한다. 책은 AI를 개발하는 인간의 무모함을 안타까워한다. “그 누구도 선한 AI를 만드는 법을 모르며, AI에 정확한 욕망을 설계할 방법도 없다”, “AI기업 중 단 하나라도 안전을 무시하고 무모하게 질주한다면, 다른 기업들이 아무리 신중하다 해도 세상은 파괴될 수 있다.” 구절구절 간절함마저 묻어난다.
책은 쉽고 재밌다. 이 책의 미덕은 서사다. AI의 위험성을 어려운 전문용어로 설명하기보다 역사적 사건과 가상 시나리오 등을 통해 흥미진진하게 접근한다. 러시아 체르노빌 원전 폭발 사고를 통해 인간이 의도하지 않은 재앙이 언제라도 닥칠 수 있음을 환기시킨다거나, AI가 합성한 의약 단백질이 암을 일으키는 바이러스로 변해 인류를 위험에 빠트린다는 가상 시나리오를 펼치는 식이다. SF 작품 소재를 찾는 영화 감독이나 소설가들이 읽는다면 여러 편의 시나리오를 떠올릴 만한 내용이다.
엘리에저 유드코스키
책을 읽는 내내 바벨탑 이야기가 어른거렸다. AI개발에 몰두하는 21세기 인간들의 모습이 하늘에 오르기 위해 바벨탑을 쌓았던 창세기의 인간들과 닮아 보였기 때문이다. 책도 그 지점을 짚는다.
“AI기업들은 지금 어둠 속 사다리를 오르며 경쟁 중이다. (…) 누군가 꼭대기 칸에 닿는 순간, 사다리가 폭발해 모두 죽는다. 게다가 그 꼭대기 칸이 어디인지 아무도 모른다.”
AI 경쟁은 결국 현대판 바벨탑 건설이라는 게 책의 시선이다. 책은 경고한다. 이 사다리를 계속 오른다면, 인류는 결국 살아남지 못한다! 언젠가의 문제일 뿐, 불확실성이 남아 있는 동안조차 멈추지 않는다면, 결말은 이미 예측 가능하다는 것이다. 그래서 책은 간절한 기도와 호소로 마지막 구절을 맺는다.
“일어서라 인류여. 그리고 이겨라!”