AI 도입 예산은 어떻게 편성해야 하나 — 파일럿과 스케일업 사이 자금 배분의 원칙

컨설팅펌 맥킨지(McKinsey)가 2026년 5월부터 6월까지 1,719명을 대상으로 진행한 '2026년 AI 현황(State of AI)' 조사에서 응답 기업의 93퍼센트가 애초 책정한 AI 예산을 초과했다고 답했다. 같은 조사에서 AI가 영업이익(EBIT)에 어느 정도 기여했다고 답한 비율은 37퍼센트로, 전년과 거의 차이가 없었다. 전사 차원으로 AI를 확산시키고 있다고 답한 비율은 44퍼센트로 전년 38퍼센트보다 늘었는데, 그 확산의 폭이 늘어난 만큼 손익에 찍히는 효과는 따라오지 않은 셈이다. 예산은 계속 늘어나는데 그 돈이 어디서 효과를 내고 있는지를 설명하지 못하는 회사가 다수라는 뜻이다.

우버가 보여준 극단적 사례

이 간극을 가장 선명하게 보여준 사례가 우버(Uber)다. 여러 매체 보도에 따르면 우버는 5,000명 규모 엔지니어 조직에 앤트로픽(Anthropic)의 클로드 코드(Claude Code) 등 AI 코딩 도구를 도입하면서 사내 리더보드로 팀별 사용량을 경쟁시켰다. 결과적으로 도구 도입률은 32퍼센트에서 84퍼센트로 뛰었고, 엔지니어 95퍼센트가 매달 AI 도구를 사용하며, 커밋되는 코드의 70퍼센트가 AI로 생성되고, 매주 1,800건의 코드 변경이 사람 손을 거치지 않고 이뤄지는 수준까지 올라갔다. 그런데 엔지니어 1인당 월 500~2,000달러(약 72만~290만원) 수준으로 쓰인 이 지출은 2026년 전체 예산을 네 달 만에 소진하는 결과로 이어졌다. 우버의 최고운영책임자(COO) 앤드루 맥도널드(Andrew Macdonald)는 이 지출 증가와 소비자가 체감하는 제품 혁신 사이의 연결고리를 아직 찾지 못했다고 공개적으로 인정했다. 사용량 지표는 전부 상승했지만, 그 상승이 실제 매출이나 제품 품질 개선으로 이어졌다는 증거는 아직 손에 쥐지 못했다는 뜻이다.

이 사례가 중요한 이유는 우버가 유별나게 느슨한 회사라서가 아니다. 오히려 리더보드로 사용량을 독려하는 방식은 많은 조직이 AI 도입 초기에 쓰는 흔한 수단이다. 문제는 그 지표가 '얼마나 많이 썼는가'만 측정하고 '그래서 무엇이 좋아졌는가'는 측정하지 않는다는 점이다. 예산이 소진되고 나서야 그 질문을 던지면 이미 돈은 쓰였고 되돌릴 수 없다.

리서치기업 가트너(Gartner)가 지목하는 실패 경로

리서치기업 가트너(Gartner)는 2025년 말까지 생성형 AI 프로젝트의 절반가량이 개념증명(PoC) 단계를 넘기지 못하고 중단될 것으로 전망했다. 당초 30퍼센트 수준으로 예측했던 중단율을 이후 50퍼센트 안팎으로 올려 잡은 것인데, 가트너는 그 원인을 기술 자체가 아니라 예산 계획에서 찾았다. 애초에 비용 구조를 지나치게 낙관적으로 잡거나, 모호한 기준으로 예산을 책정하거나, 운영 노하우 없이 아키텍처를 잘못 선택한 프로젝트가 중간에 예산을 초과하면서 중단된다는 것이다. 더 나아가 가트너는 2027년까지 에이전틱 AI 프로젝트의 40퍼센트 이상이 비용 급증과 불분명한 투자 대비 효과, 느슨한 리스크 관리를 이유로 폐기될 것으로 내다봤다. 파일럿을 벌이는 단계의 예산과, 그 파일럿을 조직 전체로 넓히는 단계의 예산을 같은 기준으로 설계했을 때 벌어지는 일이다.

파일럿과 스케일업을 가르는 기준

파일럿 단계의 예산과 스케일업 단계의 예산은 성격이 다른 돈이어야 한다. 파일럿 예산은 실패를 허용하는 돈이다. 특정 업무, 특정 팀으로 범위를 좁히고, 성공과 실패를 가를 측정 지표를 처음부터 정의해야 한다. 이때 지표는 도구를 얼마나 많이 썼는지가 아니라 처리 시간, 오류율, 비용, 매출 중 무엇이 실제로 움직였는지여야 한다. 우버 사례가 놓친 지점이 바로 여기다. 채택률과 사용 빈도는 늘었지만, 그것이 어떤 재무적·운영적 결과로 이어졌는지를 보여주는 지표는 처음부터 설계에 들어 있지 않았다.

스케일업 예산은 그 다음 질문에 대한 답이 있을 때만 승인하는 돈이어야 한다. 파일럿에서 확인된 가치가 사용량이 아니라 결과였는지, 그 결과가 조직 전체로 확대해도 유지될 수 있는 구조인지를 따로 검증하는 단계가 필요하다. 맥킨지는 같은 조사에서 지출을 최적화하고 책임 소재를 분명히 하며 절감분을 가장 가치가 높은 영역으로 재배분하는 역량을 갖춘 기업은 AI 관련 비용을 20~30퍼센트까지 줄일 수 있다고 추산했다. 이 수치가 의미하는 바는 단순하다. 쓰는 돈의 총량을 줄이는 것보다, 그 돈이 어디서 효과를 냈는지를 추적할 수 있는 체계를 갖추는 쪽이 먼저라는 것이다.

한국 기업에 주는 시사점

한국의 중소·중견기업 다수는 아직 파일럿 단계에 머물러 있고, 이는 오히려 기회다. 해외 대기업들이 스케일업 국면에서 겪고 있는 예산 초과와 성과 측정 공백을 먼저 목격한 뒤에 같은 단계에 진입할 수 있기 때문이다. 핵심은 예산을 책정하는 시점에 '얼마를 쓸 것인가'보다 '무엇이 확인되면 다음 단계로 넘어갈 것인가'를 먼저 정해두는 순서다. 사용량 지표로 성과를 보고하는 관행이 이미 자리잡았다면, 그 지표를 비용·매출·품질 중 하나와 연결하는 작업부터 먼저 해야 한다. 그 연결 고리가 없는 상태에서 예산만 늘리는 것은, 우버가 네 달 만에 겪은 상황을 더 작은 규모로 반복하는 것과 다르지 않다.

AI 도입 예산은 어떻게 편성해야 하나 — 파일럿과 스케일업 사이 자금 배분의 원칙

우버가 보여준 극단적 사례

리서치기업 가트너(Gartner)가 지목하는 실패 경로

파일럿과 스케일업을 가르는 기준

한국 기업에 주는 시사점

참고한 자료

글보다 직접 만져보는 게 빠릅니다