AI 파일럿이 스케일업에 실패하는 이유 — 조직 전체로 확산되지 못하는 구조적 원인

많은 기업이 AI 도입에서 겪는 좌절은 파일럿 자체의 실패가 아니다. 오히려 반대다. 특정 팀, 특정 업무에서 파일럿이 눈에 띄는 성과를 내고도, 그 성과가 회사 전체로 퍼지지 않은 채 그 팀 안에 머무는 경우가 더 흔하다. 보스턴컨설팅그룹(BCG)이 2026년 7월 발표한 최고경영자(CEO) 152명 대상 조사(매출 5억 달러 이상, 약 7,000억원 규모 기업)에서 응답자의 87퍼센트가 특정 영역에서 AI로 비용 절감이나 매출 증대 효과를 봤다고 답했다. 그런데 AI를 회사 전체의 사업 전환 작업에 포함시켰다고 답한 비율은 26퍼센트에 그쳤다. 열에 아홉은 효과를 봤다고 말하면서도, 넷 중 한 곳만 그 효과를 조직 전체의 변화로 연결시켰다는 뜻이다.

파일럿과 스케일업 사이에는 다른 문제가 있다

이 간극은 새로운 현상이 아니다. BCG가 2024년 20개 이상 업종, 59개국 최고경영진 1,000명을 대상으로 진행한 조사에서도 비슷한 그림이 나왔다. 개념증명(PoC) 단계를 넘어 실제로 눈에 보이는 가치를 만들어낼 역량을 갖췄다고 평가된 기업은 26퍼센트였고, 여러 업무 영역에 걸쳐 최고 수준의 역량을 갖추고 꾸준히 큰 가치를 내는 기업은 4퍼센트에 불과했다. 컨설팅펌 맥킨지(McKinsey)의 조사에서도 전사 차원에서 AI를 스케일업하고 있다고 답한 조직은 3분의 1 수준에 그쳤고, 응답 기업의 6분의 1은 AI를 책임지는 경영진 차원의 명확한 담당자 자체가 없다고 답했다. 세 조사 모두 병목의 위치가 같다. 파일럿을 만드는 단계가 아니라, 그 파일럿을 회사 전체의 표준 업무 방식으로 옮기는 단계에서 진행이 멈춘다.

자원을 잘못된 곳에 쓴다

BCG는 2024년 조사에서 성과를 내는 기업들이 공통으로 따르는 자원 배분 비율을 제시했다. 알고리즘과 모델 자체에 10퍼센트, 기술과 데이터 인프라에 20퍼센트, 그리고 나머지 70퍼센트를 사람과 업무 프로세스 재설계에 쓴다는 것이다. 반대로 스케일업에 실패하는 조직 다수는 이 비율을 거꾸로 뒤집는다. 예산과 관심의 대부분이 어떤 모델을 쓸지, 어떤 도구를 살지에 쏠리고, 정작 그 도구가 기존 업무 절차와 담당자 역할을 어떻게 바꿔야 하는지에는 손을 대지 않는다. 2026년 조사에서도 이 패턴은 그대로 반복됐다. 성과를 조직 전체로 확산시킨 고성과 기업은 그렇지 못한 기업보다 업무 프로세스 자체를 처음부터 다시 설계하는 방식을 택할 확률이 7배 높았다.

이 차이를 보여주는 사례로 자주 인용되는 곳이 생활용품 기업 레킷(Reckitt)이다. 레킷은 BCG와 함께 개비스콘(Gaviscon), 피니시(Finish) 등 개별 브랜드와 마케팅 조직 전반에서 4개월간 생성형 AI 파일럿을 진행했다. 캠페인 성과 분석처럼 반복적인 업무에 들이는 시간을 최대 90퍼센트까지 줄이면서 결과물의 품질은 두 배로 개선됐다고 회사 측은 밝혔다. 이 결과가 눈에 띄는 이유는 도구 자체보다 파일럿 설계에 있다. 처음부터 특정 업무 하나가 아니라 여러 브랜드에 걸친 반복 업무 흐름을 대상으로 삼았고, 레킷의 최고마케팅책임자는 이 성과가 일회성 도구 도입이 아니라 의도적인 변화관리와 리더십이 뒷받침됐을 때만 장기적인 성장으로 이어진다고 밝힌 바 있다.

소유권의 공백이 재발명을 부른다

맥킨지 조사가 짚은 또 다른 지점은 소유권이다. AI를 담당하는 경영진 차원의 명확한 담당자가 없다고 답한 조직이 6분의 1에 달했고, 반대로 성과를 내는 고성과 조직은 경영진이 AI 전환에 분명한 주인의식과 책임을 보여준다는 평가를 받을 확률이 3배 높았다. 담당자가 없으면 벌어지는 일은 단순하다. 각 부서가 같은 문제를 저마다의 방식으로 다시 푼다. 영업팀이 만든 문서 요약 도구와 재무팀이 만든 문서 요약 도구가 서로 다른 규칙과 서로 다른 데이터 위에서 따로 돌아가고, 어느 쪽도 회사 표준이 되지 못한 채 각자의 파일럿으로 남는다. BCG의 2026년 조사에서도 손익(P&L)에 미치는 영향을 모든 AI 프로젝트에 대해 명확히 정의했다고 답한 기업은 14퍼센트에 그쳤다. 효과를 측정할 공통 기준이 없으니, 어느 파일럿을 회사 표준으로 승격시킬지 결정할 근거도 없는 셈이다.

한국 기업에 주는 시사점

한국의 중소·중견기업이 이 조사 결과에서 얻을 수 있는 교훈은 두 가지다. 하나는 파일럿의 성공 여부와 스케일업의 성공 여부를 같은 질문으로 착각하지 말아야 한다는 것이다. 한 팀에서 도구가 잘 작동했다는 사실은 그 업무 방식을 회사 표준으로 옮길 준비가 됐다는 뜻이 아니다. 다른 하나는 예산 배분 순서다. 어떤 모델과 도구를 살지 결정하기 전에, 그 도구가 바꿀 업무 절차를 누가 재설계하고 그 결과에 대한 책임을 누가 지는지부터 정해두는 편이 순서상 맞다. 도구를 먼저 고르고 조직은 나중에 맞추는 방식은, 여러 조사가 공통으로 지목하는 실패 경로와 정확히 겹친다.

AI 파일럿이 스케일업에 실패하는 이유 — 조직 전체로 확산되지 못하는 구조적 원인

파일럿과 스케일업 사이에는 다른 문제가 있다

자원을 잘못된 곳에 쓴다

소유권의 공백이 재발명을 부른다

한국 기업에 주는 시사점

참고한 자료

글보다 직접 만져보는 게 빠릅니다