챗봇이 제안한 2만 7천 달러 매입 약속 결국 이행
캐나다 법조계 기업의 AI 관리 책임 부과 추세
토론토의 한 BMW 대리점이 인공지능(AI) 챗봇의 오류를 이유로 고객에게 제시했던 차량 매입 제안을 번복했다가 논란이 커지자 기존 제안을 그대로 이행하기로 결정했다. 이 과정에서 AI가 제시한 조건의 계약상 효력과 기업 책임 범위를 둘러싼 논란이 제기됐다.
소동 끝에 대리점 기존 매입가 복원 합의
오샤와에 거주하는 한 남성은 지난달 자신이 소유한 2021년식 BMW 차량 매입을 문의하는 과정에서 대리점의 AI 챗봇 '퀸'으로부터 2만7,162달러 79센트의 매입가를 문자 메시지로 안내받았다. 하지만 대리점은 AI 챗봇이 잘못된 금액을 제시했다며 제안을 취소하고 매입가를 2만 달러로 다시 제시했고, 이 과정에서 소비자와 분쟁이 발생했다. 대리점은 처음에는 기존 입장을 유지했지만 논란이 이어지자 AI 챗봇이 처음 제시한 금액을 지급하는 방향으로 이 남성과 합의했다.
대리점 매니저는 직원과 고객 간 소통 과정에서 착오가 있었고, 차량에 남아 있던 대출 잔액이 매입 가격으로 잘못 입력되면서 챗봇이 잘못된 금액을 안내했다고 설명했다. 대리점 측은 앞으로 차량 매입 견적은 직원이 직접 제공하도록 절차를 변경하고, 고객이 AI와 대화하고 있다는 사실을 알 수 있도록 관련 안내도 강화할 계획이라고 밝혔다.
법조계 AI 챗봇 계약 효력 및 기업 책임 인정
캐나다 법원과 법조계에서는 AI 챗봇이 제공한 정보나 계약 제안에 대해서도 기업이 책임을 져야 한다는 판단이 점차 자리 잡고 있다. 2024년 에어캐나다 소송에서 법원은 챗봇이 잘못 안내한 할인 규정을 항공사가 이행해야 한다고 판결했다.
당시 법원은 챗봇을 기업 업무를 수행하는 수단으로 보고 그 결과에 대한 책임도 기업에 있다고 판단했다. 한 민사소송 전문 변호사는 기업이 도입한 AI와 자동화 시스템은 기업을 대신해 고객과 소통하고 거래를 진행하는 역할을 수행한다며, 기업이 책임질 수 없는 권한을 AI에 부여할 경우 부당한 거래 행위로 판단될 수 있다고 설명했다.
캐나다 통계청 자료에 따르면 2025년 2분기 기준 캐나다 기업의 12%가 제품 생산이나 서비스 제공 과정에 AI를 활용하고 있다. 이 가운데 25%는 챗봇 시스템을 운영하고 있으며, 챗봇 도입 비율은 전년보다 두 배 가까이 늘어난 것으로 집계됐다.
구엘프 대학교 윤리연구소 관계자는 기업들이 비용 절감을 위해 AI 도입을 확대하고 있는 만큼, 시스템 오류로 소비자에게 피해가 발생할 경우 그 책임 역시 기업이 부담해야 한다고 밝혔다. 기업들의 디지털 전환이 빠르게 진행되는 반면 소비자 보호 제도는 이를 충분히 따라가지 못하고 있다는 지적도 나온다.
법적 책임 여부와 별개로 AI 활용 과정에서 발생하는 문제에 기업이 어떻게 대응하느냐가 소비자 신뢰를 좌우하는 요소가 될 것으로 보인다.