인공지능은 무엇을 할 수 있고 무엇을 할 수 없는가?- 프린스턴대 컴퓨터과학자가 전하는 명확한 AI 감별 가이드
생성형 AI와 예측형 AI는 AI의 양대 산맥을 이룬다
생성형 AI는 텍스트나 이미지, 기타 미디어를 생성할 수 있는 AI 기술에 의지한다.
눈부시게 성장 중인 AI 기술에 대한 기대가 부풀어가는 가운데, 그 팽창이 실제보다 과장되었다는 ‘거품론’ 또한 고개를 들고 있다. 이제 AI에 관한 변수는 세계 빅테크 기업의 주가와 증시를 요동치게 하는 메인 이슈다. ‘어떤 기업은 불패다’, ‘어디는 가짜다’, ‘닷컴버블의 재림이다’ 등, 쏟아지는 무수한 전망 속에서 진실은 무엇인가? 과연 인공지능의 실제와 진정한 가능성, 그리고 한계를 구별해낼 수 있을까?
예측형 AI가 실패하는 다섯 가지 이유
ㅇ 좋은 예측이 나쁜 결정으로 이어진다
ㅇ 사람들이 불투명한 AI를 전략적으로 상대한다
ㅇ 사용자들이 적절한 감독 없이 AI에 지나치게 의존한다
ㅇ AI를 훈련하는 데 사용되는 데이터가 AI를 적용하는 집단과 다른 인구 집단에서 나온다
ㅇ 예측형 AI가 불평등을 심화한다
AI 평가에는 늘 논란이 따르긴 하지만 지나친 낙관주의는 예측형 AI에서 특히 위험하다. 오류의 여파는 더욱 심각하다. 게다가 생성형 AI의 환각과 달리 예측형 AI의 통계상 결함은 누가 코드와 데이터를 샅샅이 뒤진다면 모를까, 그러지 않는 한 실제로 가동에 들어가도 눈에 잘 띄지 않는다.
그럼에도 예측형 AI 사용이 무조건 해롭지는 않다. 결함에도 불구하고 때로는 이 기술이 필요하다. 예를 들어 이식할 장기 할당과 관련해 의료 기관은 한정된 자원을 효율적으로 배분해야 한다. 문제는 수천 명의 대기자 중에서 하나밖에 없는 장기를 이식받을 수혜자를 누구로 정하느냐다. 결정은 되도록 빨리 내려야 하며, 따라서 인간의 판단을 이리저리 저울질할 시간이 없다. 제대로 설계되고 관리되기만 한다면 예측형 알고리즘의 사용은 문제가 될 게 없다.
펴낸곳: 월북. 2025. 12. 29 발행. 강서도서관 도서