https://www.wsj.com/tech/ai/when-ai-more-harm-than-good-519a83e7?mod=ai_lead_story
As companies move quickly to adopt artificial intelligence, there are some areas where it may do more harm than good
기업들이 인공지능을 빠르게 도입함에 따라, 오히려 긍정적인 효과보다 부정적인 효과가 더 큰 영역들이 나타나고 있습니다.
요약
이 기사는 강력한 AI 모델을 잘못 적용할 경우 대규모 해고와 고객 이탈과 같은 위험이 발생할 수 있다고 경고합니다.
인공지능은 공감 능력이 요구되는 상황, 마케팅에서의 진정성 또는 규제 분야에서의 투명성 확보에는 사용되어서는 안 됩니다.
인공지능을 과도하게 자동화하는 기업은 조직 내 지식과 인재 확보 능력을 잃어버릴 위험이 있으며, 잠재적으로 경쟁업체에 뒤처질 수 있습니다.
“USA250: 세계 최고의 경제 대국 이야기”는 미국의 건국 250년을 조명하는 월스트리트저널의 1년간의 특집 시리즈입니다. 편집장 엠마 터커의 글을 통해 더 자세히 알아보세요 .
1962년 7월 6일, 에너지부는 라스베이거스 남서쪽 75마일 지점에서 수소폭탄을 폭발시켰습니다. 이는 핵무기가 토목 공사와 같은 평화적인 목적으로도 사용될 수 있음을 증명하려는 목적이었습니다. 폭발로 인한 낙진은 사우스다코타주까지 퍼졌고, 1,300만 명이 넘는 미국인들이 방사능에 노출되었습니다.
이 테스트의 모태가 된 프로젝트 플로우셰어즈는 오늘날 인간 활동의 모든 영역에 점점 더 강력한 인공지능 모델을 적용하려는 노력과 매우 유사합니다. 둘 다 인간이 무언가를 할 수 있다고 해서 최소한 시도라도 해봐야 한다는 잘못된 믿음의 산물입니다.
심지어 폭탄을 만든 사람들과 오늘날 인공지능 모델을 개발하는 사람들이 느끼는 불안감 사이에는 불편한 유사점까지 존재한다. 그들은 자신들이 풀어놓는 괴물이 너무나 위험해서 인류의 미래를 위협할 것이라고 우려한다.
오늘날 인공지능 모델을 과도하게 사용하는 것이 대규모 방사능 낙진을 일으키지는 않겠지만, 나중에 돌이켜보면 명백해 보일 여러 가지 광범위한 결과를 초래할 수 있습니다. 여기에는 대규모 해고, 분노하고 소외된 고객, 그리고 인공지능을 잘못 사용하는 기업의 막대한 가치 손실 등이 포함됩니다.
이러한 결론에 쉽게 도달한 것은 아닙니다. 지난 10년 동안 저는 AI를 개발하는 사람들과 AI를 업무에 활용하는 방법을 연구하는 최전선에 있는 사람들의 통찰력과 사례 연구를 수집해 왔습니다. 저는 모든 주요 AI 연구소의 CEO와 수석 엔지니어, 노벨상과 튜링상을 수상한 컴퓨터 과학자들, 그리고 AI 기술의 기반이 된 수십 명, 아니 수백 명의 일반인들과 이야기를 나누었습니다.
제가 배운 모든 것을 최근 저서인 "인공지능 활용법(How to AI)"에 담았습니다. 이 책은 인공지능을 어떻게 유리하게 활용할 수 있는지에 초점을 맞추고 있습니다. 하지만 중요한 한 가지를 빠뜨렸습니다. 바로 인공지능을 사용 하지 말아야 할 때입니다.
강연을 하고 독자들의 질문을 받으면서 깨달은 점이 있는데, 인공지능을 가장 능숙하게 사용하는 사람들은 인공지능이 손대서는 안 될 부분에 대해서도 똑같이 잘 알고 있다는 것입니다. 만약 그들이 토목 엔지니어였다면, 운하를 파는 과정에서 수소폭탄처럼 엄청나게 강력한 도구를 잘못된 상황에서 사용하는 것은 매우 위험하다고 말했을 것입니다.
그렇다면 언제 AI를 사용하지 말아야 할까요? 제가 나눈 대화들을 바탕으로 판단했을 때, 다음 중 하나가 여러분이 찾고 있는 것의 핵심일 때입니다.
공감
댄 레이바는 애플 과 이베이 의 전 임원으로, 고객 서비스 제공과 콜센터 직원 업무 효율화에 인공지능(AI)을 활용하는 데 선구적인 역할을 했습니다. 그는 AI가 할 수 있는 일은 많지만, 해서는 안 되는 일도 많다고 말합니다. 그중 가장 대표적인 예는 공감이 필요한 고객 응대입니다.
예를 들어 누군가 계정 해지를 요청하는 전화를 걸어온다면 AI가 처리하는 것은 식은 죽 먹기입니다. "하지만 남편의 계정을 해지하려는 미망인이라고 가정해 봅시다."라고 레이바는 말합니다. "과연 AI가 그런 응대를 처리하도록 맡기고 싶으신가요?"
나탈리 데세인은 가정의학과 정신의학 분야에서 두 가지 자격증을 보유한 전문 간호사입니다. 그녀는 진료 기록 작성부터 보험 청구에 이르기까지 다양한 업무에 6가지 이상의 AI 도구를 활용합니다. 이러한 도구들을 통해 주당 15~20시간을 절약할 수 있으며, 덕분에 혼자서 300명의 환자를 돌볼 수 있다고 합니다. 하지만 그녀는 이러한 도구들이 자신에게 가장 중요한 역할을 한다고 강조합니다. 바로 정신과 상담 시간에 환자들의 얼굴 표정을 살피고 그들의 고충을 경청하며 온전히 그들에게 집중할 수 있도록 해준다는 것입니다.
데세인 박사는 "정신과 진료에서 환자와 소통하지 않으면 많은 증상을 놓치게 됩니다."라고 말합니다. "제가 '자해 생각을 하고 계신가요?'라고 묻는 환자들이 몇 명 있는데, 만약 제가 환자를 직접 보지 않으면 정확한 답변을 얻을 수 없죠." 이제 그녀는 인공지능 기반의 녹취 및 메모 도구가 환자와의 모든 대화 내용을 꼼꼼하게 기록하고, 보험 청구 도구가 이를 보험 청구 자료로 변환해 주기 때문에 과거에는 불가능했던 수준의 직접적인 소통이 가능해졌다고 말합니다.
고객 서비스든 상담이든, 인공지능이 부재하는 부분, 그리고 그 빈자리에 인간이 존재할 수 있도록 해주는 방식이 가장 중요합니다.
확실성
제가 중소기업 관계자들을 대상으로 강연할 때, 그들의 관심을 사로잡는 가장 쉬운 방법 중 하나는 마케팅 문구를 작성하는 데 인공지능을 사용해서는 안 된다고 말하는 것입니다.
이는 인공지능을 비즈니스에 적용할 때 가장 쉽게 얻을 수 있는 이점에 대한 기존의 통념과 정면으로 배치됩니다. 문제는 인공지능이 글쓰기에 능숙하지 않다는 것이 아니라, 누구나 인공지능을 이용해 콘텐츠를 대량 생산할 수 있는 세상에서 중요한 것은 단순히 소셜 미디어와 기업 블로그에 노출되는 것이 아니라 진정성이라는 점입니다.
대기업들은 이 사실을 알고 있습니다. 아이러니하게도, 인공지능을 개발할 가능성이 가장 높은 기업들이 이제는 링크드인 등지에서 끝없이 쏟아지는 인공지능 생성 콘텐츠를 뚫고 나올 수 있는 , 실제 사람들이 쓴 진솔한 이야기를 전해줄 ‘스토리텔러’를 절실히 찾고 있습니다. 이는 또한 인공지능으로는 만들어내기 훨씬 어려운, 직접적인 메시지를 담은 짧은 영상 콘텐츠로 시청자들에게 다가가는 새로운 유형의 인플루언서가 부상하는 이유를 설명해 줍니다 .
투명도
이베이에서 결제 운영 책임자로 재직할 당시, 레이바가 생성형 AI를 회사 시스템에 통합하는 것에 대해 가장 우려했던 점 중 하나는 AI가 내린 결정들을 사후에 설명할 수 있을지 여부였습니다.
그는 이러한 점이 결제, 의료, 법률 등 고도의 규제가 적용되는 분야에서 생성형 AI를 사용하는 모든 사람에게 우려스러운 문제라고 덧붙였습니다. 엔지니어들이 수십 년 동안 "설명 가능한 AI"를 만들기 위해 노력해 왔지만, 오늘날 대규모 언어 모델의 특징은 여전히 편향된 블랙박스처럼 예측 불가능하게 의사 결정을 내린다는 점입니다.
결론에 도달한 과정을 투명하게 공개할 수 없는 경우, AI 시스템은 최소한 그 과정을 보여줄 수 있어야 하며, 그래야 인간이 사후에 검증할 수 있습니다. 마이크 월시 는 1973년부터 컴퓨터 기반 법률 조사 서비스를 제공해 온 법률 조사 회사인 렉시스넥시스(LexisNexis)의 CEO입니다. 그는 최근 제게 생성형 AI 덕분에 고객들이 판례 조사보다는 법률 문서 작성에 더 많은 시간을 할애하고 있다고 말했습니다. 고객들이 안심하고 그렇게 할 수 있는 이유는, 존재하지도 않는 판례를 지어내는 것으로 악명 높은 일반적인 챗봇과는 달리, 렉시스넥시스의 시스템은 회사 데이터베이스에 실제로 존재하는 것으로 검증된 판례만 인용하도록 되어 있기 때문입니다.
이러한 시스템을 사용하는 변호사들은 인공지능이 생성하는 결과물을 매번 검토해야 한다고 강조했습니다. 인공지능 개발자가 아닌 사용자에게 책임이 전가되는 세상에서는 달리 방법이 없기 때문입니다.
많다고 항상 좋은 건 아니다
CEO들이 인공지능(AI)이 가져올 생산성 향상에 대한 기대와 직원들이 실제로 AI의 도움을 받는다고 느끼는 정도 사이에는 엄청난 격차가 있습니다 . 이러한 격차에는 AI가 유용하게 활용될 수 있는 분야만큼이나 다양한 이유가 있습니다. 그중 하나는 AI 적용 범위의 큰 차이 입니다 . 일부 작업은 거의 전적으로 AI에 맡길 수 있지만, 대부분의 작업은 그렇지 않습니다.
인공지능이 그들의 업무를 대체할 수 있다는 생각에 너무 빨리 직원들을 해고하는 기업은 두 가지 방식으로 미래 경쟁력을 저해할 위험이 있습니다. 첫째, 기업의 핵심적인 조직 지식을 잃을 수 있습니다. 둘째, 인재 육성 시스템을 망칠 수 있습니다. 신입 엔지니어를 인공지능으로 대체하고 싶은 마음이 들 수도 있지만, 그렇게 하면 경력 엔지니어들이 회사를 떠날 때 인공지능의 결과물을 검토할 인간 인력이 더 이상 없게 됩니다.
이미 몇몇 기업들이 AI로의 전환을 선언했다가 결국 직원들을 재고용하거나 인력을 늘려야 하는 상황 이 벌어지고 있습니다. 회의론자들은 최근 IT 기업들의 대규모 해고가 AI와는 무관한 노동 시장 동향을 은폐하기 위한 것이라고 주장합니다 . 예를 들어 과잉 채용 이후 인력 감축이나 정규직에서 계약직 으로의 전환 등이 그 원인일 수 있다는 것입니다. 또한 이러한 해고가 일시적일 수 있는 또 다른 이유는 AI가 전반적인 업무 부담을 줄이기보다는 오히려 AI 활용 능력이 뛰어난 사람들에게 업무 부담을 전가하는 경우가 많기 때문입니다 .
이미 인공지능을 도입하지 못해 뒤처지는 기업들이 드러나고 있지만, 몇 년 후에는 AI에 지나치게 의존하여 뒤처지는 기업들이 더욱 분명해질 것이라고 레이바는 말합니다. 그는 "어떤 기업이 자동화에 너무 치중했는지, 그리고 어떤 기업이 다른 기업과 차별화할 수 있는 지식을 잃어버렸는지 알게 될 것"이라고 덧붙였습니다.결국 플로우셰어 프로젝트는 의도와는 정반대의 결과를 낳았습니다. 핵폭탄의 새로운 활용법을 보여주기는커녕, 핵폭탄을 절대 사용해서는 안 되는 경우를 보여준 것입니다. 인공지능이 보편화되고 당연시되는 미래에, 오늘날 모든 문제에 인공지능을 적용하려는 시도는 이와 같은 결과를 초래할 수 있습니다.