AI 도입 실패의 진짜 이유 — 데이터가 아니라 리더십과 업무 정의였다

AI 프로젝트가 왜 실패하는지에 대한 진단은 대개 두 갈래로 갈린다. 하나는 데이터가 정리되지 않았다는 쪽이고, 다른 하나는 도구를 도입하는 순서가 잘못됐다는 쪽이다. 둘 다 틀린 말은 아니다. 그런데 미국 비영리 연구기관 랜드연구소(RAND Corporation)가 2024년 발표한 조사는 조금 다른 곳을 가리킨다. 데이터도, 순서도 아닌 리더십이라는 것이다.

65명의 데이터 과학자에게 직접 물었다

랜드연구소는 정부와 민간 기업에서 일하는 데이터 과학자·엔지니어 65명을 인터뷰해 "AI 프로젝트 실패의 근본 원인(The Root Causes of Failure for Artificial Intelligence Projects and How They Can Succeed)" 보고서를 냈다. 이 조사는 AI 프로젝트의 80% 이상이 실패로 끝난다고 추산했는데, 이는 AI가 들어가지 않은 일반 정보기술(IT) 프로젝트 실패율의 약 두 배에 해당한다. 흔히 인용되는 매사추세츠공과대학(MIT)의 95% 실패율 통계와는 조사 방법과 표본이 다르지만, "실패가 예외가 아니라 다수"라는 방향은 같다.

보고서가 짚은 근본 원인은 다섯 가지였다. 리더십에서 비롯된 실패, 데이터 품질의 한계, 최신 기술을 좇는 바텀업(하의상달)식 접근, 배포 인프라에 대한 과소 투자, 그리고 현재 기술 수준을 넘어서는 문제에 AI를 적용하려는 시도다. 눈에 띄는 것은 이 다섯 가지 중 마지막 하나만이 순수하게 기술적인 한계이고, 나머지 넷은 모두 조직과 경영의 문제라는 점이다. 그리고 산업계 인터뷰 대상자의 84%가 리더십 문제를 실패의 1차 원인으로 꼽았다. 데이터 품질이 아니라 리더십이 가장 많이 지목된 원인이었다.

"무엇을 풀려는지"에 대한 합의가 없었다

보고서에서 구체적으로 인용된 실패 사유 중 가장 흔한 것은 "프로젝트의 의도와 목적에 대한 오해와 소통 부족"이었다. 경영진이 AI로 풀고 싶은 문제를 명확히 정의하지 못했거나, 정의했더라도 그 내용이 실무진에게 제대로 전달되지 않았다는 뜻이다. 이는 데이터가 지저분해서 생기는 문제와는 결이 다르다. 데이터는 아무리 깨끗해도 애초에 무엇을 풀려는지에 대한 합의가 없으면 그 데이터를 어디에 써야 할지조차 정해지지 않는다.

이 문제는 "업무가 문서화돼 있는가"라는 질문과도 다르다. 절차가 매뉴얼에 잘 정리돼 있어도, 그 매뉴얼이 실제 현장에서 일어나는 예외 상황과 판단들을 다 담고 있지는 않다. 담당자가 매뉴얼과 다르게 처리해온 관행, 상황에 따라 달라지는 재량 판단, 부서 간 책임이 애매한 경계 업무 같은 것들은 대개 문서 밖에 있다. AI가 이 지점에 투입되면, 문서화된 절차와 실제 업무 사이의 간극이 그대로 오류로 드러난다.

정책은 있었는데, 챗봇은 몰랐다

2024년 캐나다에서 있었던 소송 사례가 이 문제를 잘 보여준다. 캐나다 항공사 에어캐나다(Air Canada)의 웹사이트 챗봇은 한 고객에게 조부모 상을 당해 항공권을 예매하면 여행 후에도 상조 요금(bereavement fare) 할인을 신청할 수 있다고 안내했다. 그러나 에어캐나다의 실제 공식 정책은 여행 전에만 할인 신청이 가능하다고 규정하고 있었다. 회사는 챗봇의 안내가 잘못됐다며 할인 적용을 거부했지만, 브리티시컬럼비아주 민사분쟁해결심판원은 챗봇이 제공한 정보에 대해서도 회사가 책임을 진다고 판결했다. 심판원은 고객이 웹사이트의 여러 페이지를 대조하며 어느 정보가 맞는지 확인할 의무는 없다고 밝혔다.

이 사건에서 흥미로운 점은 정책 자체가 없었던 게 아니라는 것이다. 정확한 규정은 회사 웹사이트 다른 페이지에 분명히 존재했다. 문제는 그 규정을 최신 상태로 챗봇에 일관되게 반영하고, 두 채널의 정보가 어긋나지 않도록 관리할 책임을 누구도 지지 않았다는 데 있다. 데이터가 없었던 게 아니라, 그 데이터를 관리할 오너십이 없었던 사례다.

데이터 문제와 리더십 문제는 겹치지만 같지 않다

데이터 정비와 리더십 문제는 서로 배타적이지 않다. 오히려 순서상으로 보면 리더십 문제가 먼저다. 무엇을 풀 것인지, 누가 그 결과에 책임을 지는지가 정해져야 그다음에 어떤 데이터가 필요하고 어떻게 정리할지가 정해진다. 랜드연구소 보고서가 지적하는 것도 이 순서다. 기술팀이 아무리 깨끗한 데이터를 준비해도, 경영진이 애초에 풀려는 문제를 명확히 하지 않았거나 그 문제에 대한 책임 소재를 정하지 않았다면 프로젝트는 방향을 잃는다.

이 관점에서 보면 에어캐나다 사례는 데이터 품질 문제라기보다 거버넌스 문제에 가깝다. 데이터(정책 문구) 자체는 정확했지만, 그 데이터가 여러 채널에 걸쳐 일관되게 유지되도록 관리하는 책임 소재가 없었다. 같은 일은 챗봇뿐 아니라 가격 정책, 환불 규정, 계약 조건처럼 예외와 개정이 잦은 모든 업무 영역에서 반복될 수 있다.

한국 기업에 주는 시사점

한국의 중소·중견기업이 AI 도입을 검토할 때 흔히 먼저 묻는 질문은 "어떤 데이터를 정리해야 하나"다. 랜드연구소의 조사는 그 질문보다 앞서 답해야 할 질문이 있다고 말한다. 이 프로젝트로 정확히 어떤 문제를 풀려는 것인지, 그 정의에 경영진과 실무진이 같은 그림을 갖고 있는지, 그리고 그 결과에 대한 책임을 누가 지는지다. 데이터 정비는 그다음 단계이지 첫 단계가 아니다. 특히 예외 처리가 잦고 규정이 자주 바뀌는 업무일수록, AI를 들이기 전에 그 규정을 누가 최신 상태로 관리하고 여러 채널에 일관되게 반영할지부터 정해두는 편이 안전하다.