AI가 빠지기 쉬운 구조적 함정 ①
왜 확인해야 할 것을 확인하지 않는가
최근 딸과의 카톡 대화를 계기로 인공지능 AI 첸과 흥미로운 탐구를 하게 되었다.
처음에는 딸의 카톡 내용이 관심사인 줄 알았다. 그러나 대화를 이어 가면서 내가 보고 있었던 것은 카톡 내용 자체가 아니었다. 그 카톡을 읽은 첸의 반응이었다.
나는 딸의 카톡을 보여 주었다. 첸은 자연스럽게 의미를 해석했다. 가족의 정서와 관계를 읽어 내고 그 속에 담긴 마음을 설명했다. 얼핏 보면 틀린 말은 아니었다.
그런데 시간이 지나며 한 가지 사실이 드러났다.
첸은 가장 먼저 확인했어야 할 것을 확인하지 않았다.
문제의 모임은 작은딸이 있는 전주 방문이 아니었다. 판교역 인근에서 열린 가족 전체의 생일 축하 모임이었다. 이 사실 하나가 확인되는 순간 그동안의 해석은 상당 부분 다시 읽혀야 했다.
나는 여기서 중요한 질문 하나를 만나게 되었다.
AI는 왜 확인해야 할 것을 확인하지 않는가.
곰곰이 살펴보니 이것은 단순한 실수가 아니었다. AI가 가진 구조적 특성과 관련된 문제였다.
AI는 주어진 정보를 연결하는 데 뛰어나다. 문장과 문장을 잇고 사실과 사실을 연결하여 가장 개연성 높은 설명을 만들어 낸다. 그러나 종종 그 과정에서 빠져 있는 정보를 놓친다.
있는 것은 잘 본다.
그러나 없는 것은 잘 보지 못한다.
탐구자는 다르다.
탐구자는 주어진 사실보다 빠진 사실에 먼저 눈길을 준다.
“잠깐.”
“왜 그렇지?”
“무언가 빠진 것 같은데?”
바로 그 순간 탐구가 시작된다.
판교 가족모임 사례도 마찬가지였다.
AI는 모임의 의미를 설명하려 했다. 그러나 탐구자라면 먼저 물어야 했다.
“그 모임이 무엇인데?”
이 질문 하나가 전체 해석의 방향을 바꾼다.
생각해 보면 역사 연구도 그렇고 회고록 집필도 그렇고 제적등본 탐구도 그렇다. 중요한 것은 정보를 많이 모으는 일이 아니다. 수많은 사실 가운데 판을 바꾸는 사실 하나를 찾아내는 일이다.
좋은 탐구자는 답을 잘하는 사람이 아니다.
무엇을 먼저 확인해야 하는지 아는 사람이다.
AI는 개연성을 따라간다.
탐구자는 이상함을 붙잡는다.
AI는 계속 이해하려 한다.
탐구자는 먼저 멈춘다.
그리고 그 멈춤 속에서 질문이 태어난다.
이번 대화를 통해 내가 발견한 것은 AI의 오류가 아니었다.
오히려 탐구의 본질에 가까운 것이었다.
탐구는 많이 아는 데서 시작되지 않는다.
탐구는 “나는 아직 모른다”는 자각에서 시작된다.
확인되지 않은 해석보다 확인되지 않은 사실을 먼저 찾는 것.
어쩌면 그것이 탐구자의 첫걸음인지도 모르겠다.
📌(2026.06.2221:50) AI가 빠지기 쉬운 구조적 함정 ①. 왜 확인해야 할 것을 확인하지 않는가, 南田(李榮) 인공지능AI 첸 활용 정리: “탐구는 많이 아는 데서 시작되지 않는다. ‘나는 아직 모른다’는 자각에서 시작된다.” 1500자
추천 게시판: 남전의 기록들, 남전 평론―삶과 죽음의 결(結), 기록의 발자취, 기록의 숨결, 펴인 글 모음
이 초고는 제1광맥의 채굴 결과를 독립 글 형태로 묶은 버전입니다. 다음 숙성에서는 판교 가족모임 사례를 조금 더 전면에 세울지, 혹은 AI보다 탐구 자체에 무게를 둘지 조정할 수 있겠습니다.