http://cfile294.uf.daum.net/image/995439465D932434025CB2:,:위 내용을 삭제하지 마세요!! (아래 선 아래에 글을 올리세요!!)---------------------------------------
이 글은 인공지능의 미래를 하나의 초지능이 출현하는 사건으로 보는 오래된 상상에 이의를 제기한다. 글은 지능의 발전이 단일한 정점으로 수렴하는 것이 아니라, 인간과 인공지능, 또 인공지능 내부의 서로 다른 관점들이 얽히고 토론하는 사회적 과정으로 전개된다고 본다. 최근 추론 모델에서 나타나는 ‘사고의 사회’와 인간-인공지능 협업 구조는 그 징후로 제시된다. 지능은 애초에 개인의 속성만이 아니라 집단과 제도의 산물이며, 앞으로의 인공지능 역시 그 연장선에서 이해해야 한다는 것이 이 글의 핵심 주장이다.
글을 쓴 제임스 에번스는 시카고대 사회학 교수이자 지식연구소 소장으로, 집단이 어떻게 사고하고 지식을 형성하는지 연구해 온 학자다. 벤저민 브래턴은 버그루엔 연구소의 안티키테라 프로그램 책임자이며 캘리포니아대 샌디에이고 교수로, 기술철학과 사회·정치 이론, 설계를 넘나들며 기술 문명의 구조를 탐구해 왔다. 블레이즈 아게라 이 아르카스는 구글 부사장 겸 수석연구원이자 기술과 사회 부문 최고기술책임자로, 구글 ‘지능의 패러다임’ 팀을 이끌며 인공지능의 기초 연구를 맡고 있다. 서로 다른 분야의 문제의식이 이 글에서 한데 만난다.
이 글은 두 가지 측면에서 주목된다. 하나는 인공지능 논의를 기술 경쟁이나 성능 향상의 문제에만 가두지 않고, 사회 조직과 제도 설계의 문제로 확장했다는 점이다. 다른 하나는 인간과 인공지능의 관계를 대체나 지배의 구도로 단순화하지 않고, 협업과 견제, 역할 분담의 구조 속에서 새롭게 사유하도록 이끈다는 점이다. 인공지능이 점점 더 중요한 결정을 맡게 되는 시대에, 필요한 것은 더 강한 모형만이 아니라 그것을 통제하고 조율할 사회적 장치라는 문제의식을 이 글은 분명하게 제기한다.
이 글은 ‘더 똑똑한 기계’를 넘어 ‘어떤 질서 속에서 지능을 운영할 것인가’를 묻는다. 인공지능의 다음 단계를 기술의 돌파가 아니라 사회적 인프라의 구축이라는 관점에서 바라보게 한다는 점에서, 충분히 곱씹어볼 만한 문제 제기다. / 편집자
오랫동안 인공지능의 ‘특이점’은 하나의 거대한 정신이 스스로를 증폭해 인간을 압도하는 순간으로 그려졌다. 모든 사고가 차갑고 단일한 실리콘 체계에 집중된다는 상상이다. 그러나 이런 관점은 출발점부터 잘못됐을 가능성이 크다.
인공지능의 발전이 과거 생명과 지능의 진화 과정을 따른다면, 지금의 도약은 하나의 초지능으로 수렴하지 않는다. 그것은 다수의 지능이 얽히는 사회적 과정에 가깝다. 인간과 인공지능, 또 인공지능 내부의 여러 관점이 부딪치고 조율되면서 새로운 지능이 형성된다는 뜻이다.
지능은 애초에 하나의 척도로 재단할 수 있는 성질이 아니다. 그것은 복합적이고 관계적이다. ‘인간 수준의 지능’이라는 말부터가 모호하다. 인간의 지능 자체가 이미 개인의 능력을 넘어 집단의 산물이기 때문이다.
최근 발전한 행위형 인공지능은 이 점을 다시 확인시킨다. 지능은 언제나 서로 다른 관점의 상호작용 속에서 작동해 왔다. 변화를 이끈 것도 고립된 개인의 두뇌가 아니라 사회적 조직이었다.
이 흐름은 두 갈래에서 뚜렷하다. 하나는 인간과 인공지능이 함께 일하는 새로운 협업 구조다. 다른 하나는 추론 모델 내부에서 형성되는 작은 토론 사회다.
겉으로는 하나의 단일한 추론 모델처럼 보이지만, 그 안에서는 사실상 집단 토론이 벌어진다. 최근 연구에 따르면 최전선 추론 모델은 단순히 더 오래 계산한다고 성능이 높아지지 않는다. 오히려 서로 다른 관점이 따지고, 묻고, 검증하고, 조정하는 내부 대화를 스스로 만들어낼 때 더 정확한 답에 이른다.
중요한 것은 이것이 처음부터 설계된 기능이 아니라는 점이다. 모델은 정답에만 보상을 받는 과정에서 스스로 다중 관점의 토론 방식을 발달시켰다. 견고한 추론은 결국 사회적 과정이라는 오래된 통찰을 기계가 다시 확인한 셈이다.
이 대목에서 인공지능 개발의 과제도 달라진다. 지금까지 사회과학은 오랜 시간 팀의 규모, 구성, 위계, 분업, 갈등 규범, 제도가 집단 성과를 어떻게 바꾸는지 연구해 왔다. 그러나 이런 성과는 아직 인공지능 설계에 본격적으로 반영되지 않았다.
오늘의 추론 모델이 보여주는 것은 단일한 토론 기록에 가깝다. 그러나 실제로 성과를 내는 집단은 위계와 전문화, 분업과 구조화된 이견을 갖는다. 앞으로 필요한 것은 여러 갈래의 숙의가 병행되고, 갈등과 반론이 제도적으로 작동하는 구조다. 우연히 생겨난 토론이 아니라 처음부터 설계된 토론 체계가 필요하다는 말이다.
이런 통찰은 지능의 역사도 새롭게 보게 한다. 과거의 지능 도약은 개별 존재의 두뇌가 비약적으로 좋아진 사건이 아니었다. 새로운 집단적 인지 단위가 나타난 사건에 가까웠다. 영장류의 지능은 생활환경보다 사회 집단의 규모와 함께 커졌다. 인간의 언어는 세대를 넘어 지식을 축적하는 장치를 만들었다. 문자와 법, 관료제는 사회적 지능을 개인 바깥의 제도와 인프라로 옮겨 놓았다.
수메르의 한 서기관은 곡물 회계 체계 전체의 의미를 다 알지 못했을 것이다. 그러나 그 체계는 개인의 이해를 넘어서는 기능적 지능을 발휘했다. 인공지능은 바로 그 연장선에 있다.
거대 언어모형은 인간 사회가 오랜 시간 축적한 언어와 지식 위에서 훈련된다. 실리콘으로 옮겨가는 것은 추상적 이성이 아니라 사회 속에서 쌓인 지능이다. 인간 사회가 밖으로 드러내 놓은 지능이 다른 바탕 위에서 다시 움직이기 시작한 것이다.
그렇다면 더 강한 인공지능으로 가는 길도 분명해진다. 하나의 전능한 기계를 만드는 데 있지 않다. 더 풍부한 사회적 체계를 짜는 데 있다. 그리고 그 체계는 인간과 인공지능이 함께 얽힌 혼합 구조일 수밖에 없다.
우리는 이미 인간과 인공지능이 결합한 협업 시대에 들어섰다. 한 사람이 여러 인공지능을 지휘할 수도 있고, 하나의 인공지능이 많은 사람을 도울 수도 있다. 여러 사람과 여러 인공지능이 상황에 따라 조합을 바꾸며 함께 일하는 구조도 가능하다.
이제 과제는 개별 모형의 계산 능력만 키우는 데 있지 않다. 실제 사회의 규모와 맥락에서 작동할 수 있는 체계를 만드는 데 있다. 다시 말해 인공지능 자체만큼이나 그것이 놓일 제도와 규칙을 함께 세워야 한다.
지금 널리 쓰이는 정렬 방식은 인간의 평가로 인공지능을 교정하는 틀에 머물러 있다. 이는 본질적으로 일대일 교정 모델이어서 수십억 개의 인공지능이 상호작용하는 질서로는 확장되기 어렵다. 더 필요한 것은 제도적 정렬이다.
인간 사회는 개인의 선의만으로 굴러가지 않는다. 법원과 시장, 행정 같은 지속적 제도가 사회를 떠받친다. 앞으로의 인공지능 생태계에도 이에 해당하는 디지털 제도와 역할 규범이 필요하다. 누가 그 자리를 맡느냐보다 어떤 역할을 어떤 규칙 아래 수행하느냐가 더 중요해진다.
이 문제는 특히 통치와 감독의 영역에서 절박하다. 채용, 형량 판단, 복지 배분, 규제 집행처럼 삶에 큰 영향을 미치는 결정에 인공지능이 쓰일수록, 누가 감시자를 감시할 것인가라는 질문은 피할 수 없다. 해법은 상호 견제와 균형의 구조일 수밖에 없다. 서로 다른 가치와 임무를 지닌 인공지능 체계가 다른 체계를 감시하고 검증하도록 해야 한다는 뜻이다.
중요한 것은 여기서도 인간이 빠지지 않는다는 점이다. 인간이냐 기계냐의 선택이 아니다. 인간과 인공지능이 함께 제도 안에서 역할을 나누고 서로를 견제하는 구조가 핵심이다.
우리가 맞닥뜨린 변화는 유토피아도 디스토피아도 아니다. 진화의 연장이다. 앞으로의 지능 폭발은 하나의 초월적 정신이 탄생하는 사건이 아니라, 수십억 명의 인간과 수천억, 나아가 수조 개의 인공지능이 얽혀 만드는 거대한 사회적 결합일 가능성이 크다.
지능은 하나의 초거대 정신처럼 솟아오르지 않는다. 도시처럼 자라고 연결망처럼 확장된다.
따라서 경계해야 할 것은 존재할지도 불확실한 단일 초지능의 신화에만 매달리는 일이다. 이제 시선을 돌려야 할 곳은 분명하다. 인간과 비생물학적 지능이 함께 협력하고 경쟁하며 조정하는 사회 체계, 그리고 그것을 떠받칠 규범과 제도다.
어떤 뜻에서 지능 폭발은 이미 시작됐다. 추론 모델 내부의 토론, 지식 노동 현장을 바꾸는 인간-인공지능 협업, 대규모로 분화하고 결합하는 인공지능 생태계가 그 징후다. 이제 남은 질문은 하나다. 더 강한 지능이 오느냐가 아니라, 그 지능을 감당할 사회적 인프라를 우리가 세울 수 있느냐는 것이다.
어떤 정신도 홀로 완성되지 않는다.
원문 링크:
https://arxiv.org/html/2603.20639v1
Agentic AI and the next intelligence explosion
For decades, the artificial intelligence (AI) “singularity” [ vinge1993 ] has been heralded as a single, titanic mind bootstrapping itself to godlike intelligence [ kurzweil2005 ] , consolidating all cognition into a cold silicon point. But this vision is almost certainly wrong in its most fundament...
arxiv.org