조직문화와 부서별 AI 수용도 차이 — 같은 도구를 들여도 성과가 갈리는 이유

많은 기업이 생성형 AI 라이선스를 전사에 일괄 배포한다. 같은 도구, 같은 교육 자료, 같은 공지를 받았는데도 몇 달 후 들여다보면 어느 팀은 업무 방식이 눈에 띄게 바뀌어 있고 어느 팀은 로그인 기록만 남아 있다. 도구가 같은데 결과가 다르다는 사실 자체가 중요한 신호다. 기술의 문제가 아니라 조직의 문제라는 뜻이기 때문이다.

리더와 현장 사이에서 먼저 벌어지는 간극

보스턴컨설팅그룹(BCG)이 2025년 발표한 "AI at Work" 조사는 이 간극을 수치로 보여준다. 생성형 AI를 주 1회 이상 꾸준히 쓴다고 답한 비율이 리더급은 85퍼센트, 중간관리자는 78퍼센트였던 반면 현장 직원은 51퍼센트에 그쳤다. 눈여겨볼 부분은 변화의 방향이다. 관리자층의 사용률은 전년도 64퍼센트에서 78퍼센트로 크게 뛰었지만, 현장 직원층은 오히려 전년보다 1퍼센트포인트 낮아졌다. 조직 상층부는 빠르게 움직이는데 현장은 그 속도를 따라가지 못하고 있다는 뜻이다. BCG는 이 현상을 "변화와의 거리(change distance)"로 설명한다. 의사결정에 가까운 자리일수록 변화를 기회로 받아들이고, 결정에서 먼 자리일수록 변화를 자신에게 닥친 일로 받아들인다는 것이다.

이 위계 격차는 다른 조사에서도 비슷하게 확인된다. 갤럽(Gallup)이 2026년 1분기 미국 직장인을 대상으로 조사한 결과, 자신의 관리자가 AI 사용을 적극 지지한다고 답한 직원 중 79퍼센트가 AI를 자주 사용한다고 답했다. 반면 그런 지지를 느끼지 못한 직원 중에서는 46퍼센트만 자주 사용한다고 답했다. 갤럽 패널 데이터를 분석한 한 연구에서도 사용 빈도는 조직 위계를 그대로 따라간다는 결과가 나왔다. 고위 임원층의 상시 사용률은 40퍼센트대 초반이었던 반면, 실무 담당자층은 20퍼센트대 초반에 머물렀다.

부서별로도 온도차가 크게 벌어진다

위계뿐 아니라 부서 사이의 차이도 뚜렷하다. 업무 생산성 데이터를 다루는 한 분석업체가 3만 명 이상의 사용 기록을 추적한 결과, 광고대행사나 기술 기업 직원은 주당 8시간에서 12시간을 AI 도구에 쓰는 반면 재무팀 직원은 3시간에서 5시간에 머물렀다. 해당 업체는 재무팀이 느린 이유를 관심 부족이 아니라 규제·내부통제에 따른 마찰로 해석했는데, 이는 업체 자체의 해석이라 그대로 일반화하기는 어렵지만 방향성은 다른 조사와도 겹친다. 규제·감사·법적 책임이 민감한 부서일수록 AI 도입 속도가 느려지는 경향은 여러 산업 리포트에서 공통으로 관찰된다.

왜 부서마다 이런 차이가 나는지에 대해서는 변화관리 컨설팅사 프로스키(Prosci)가 2026년 발표한 조사가 흥미로운 설명을 내놓는다. 이 조사는 개인이 AI 사용에 얼마나 적극적인지보다, 그 업무가 AI와 얼마나 잘 맞는지(team-AI fit)가 성과를 가르는 가장 강한 변수였다고 밝힌다. 도구의 사용 편의성보다도 이 적합도가 더 중요한 변수로 나타났다는 점이 핵심이다. AI가 그 부서의 일상적인 문제 하나를 구체적으로 해결해줄 때는 저항 없이 받아들여지지만, 업무에 억지로 끼워 맞춘 도구는 결국 방치된다는 것이다. 같은 조사는 조직의 마인드셋, 즉 AI가 만든 결과물을 신뢰하는 분위기인지, 의사결정 과정이 열려 있는지, 직원이 자신에게 맞는 도구를 고를 수 있는지도 중요한 변수로 꼽았다.

전문성과 자율성이 강한 조직에서는 신뢰를 쌓는 방식도 달라야 한다. 프로스키 조사가 꼽은 마인드셋 변수 가운데 하나가 직원이 자신에게 맞는 도구와 사용 방식을 스스로 고를 수 있는지였다. 전문직에 가까운 업무일수록 그 재량이 중요하게 작동한다. 담당자가 쌓아온 판단 기준이 무시된 채 도구가 결론만 내려주는 구조로 설계되면, 그 업무를 가장 잘 아는 사람들부터 도구를 신뢰하지 않게 된다는 것이다. 업무 재량이 크고 전문성에 대한 자부심이 강한 부서일수록, AI 도입 방식 자체가 그 재량을 존중하는지가 수용도를 가른다.

격차를 좁히는 요인은 기술이 아니라 운영 방식이다

BCG 조사는 격차를 좁히는 쪽에서도 공통된 패턴을 짚는다. 첫째는 리더십의 가시적 지지다. 관리자가 AI 사용을 적극적으로 지지한다고 체감하는 현장 직원은 전체의 약 4분의 1에 그쳤는데, 이 지지를 체감하는 집단과 그렇지 못한 집단 사이에서 AI에 대한 긍정적 인식 차이가 크게 벌어졌다. 둘째는 교육의 양과 질이다. 5시간 이상의 교육을 받고 대면 코칭까지 받은 직원은 상시 사용률이 뚜렷하게 높았지만, 실제로 충분한 교육을 받았다고 답한 직원은 전체의 3분의 1 수준에 그쳤다. 셋째는 도구 선택권이다. 회사가 승인한 도구가 자신의 업무에 맞지 않는다고 느낀 직원의 절반 이상은 승인되지 않은 도구를 몰래 쓰겠다고 답했다. 통제를 강화할수록 그림자 속에서 쓰는 비공식 AI가 늘어나는 역설이 여기서 생긴다.

이 세 요인을 묶으면 하나의 결론으로 수렴한다. 전사에 같은 도구를 배포하는 것은 시작점일 뿐, 수용도를 가르는 것은 그다음 단계다. 중간관리자가 자기 팀의 업무에 맞게 그 도구를 다시 설명하고, 그 부서가 실제로 반복하는 문제에 맞춰 사용 범위를 좁혀주고, 전문성이 강한 조직일수록 담당자의 판단을 설계에 반영하는 과정을 거쳐야 격차가 줄어든다.

한국 기업에 주는 시사점

한국의 중소·중견기업이 전사 AI 도입 계획을 세울 때 가장 흔히 저지르는 실수는 도구 선정과 교육 일정표를 부서 구분 없이 하나로 설계하는 것이다. 위 조사들이 공통으로 가리키는 지점은, 부서별로 업무 적합도와 신뢰 수준이 다르다는 전제를 깔고 중간관리자에게 그 부서에 맞는 설명과 재량을 줘야 한다는 것이다. 특히 재무·법무처럼 규제 민감도가 높은 부서나 전문성에 대한 자부심이 강한 부서에서는, 도구를 먼저 들이기보다 그 부서의 판단이 어느 지점에서 AI 설계에 반영될지를 먼저 정하는 쪽이 저항을 줄이는 더 확실한 경로다.

조직문화와 부서별 AI 수용도 차이 — 같은 도구를 들여도 성과가 갈리는 이유

리더와 현장 사이에서 먼저 벌어지는 간극

부서별로도 온도차가 크게 벌어진다

격차를 좁히는 요인은 기술이 아니라 운영 방식이다

한국 기업에 주는 시사점

참고한 자료

글보다 직접 만져보는 게 빠릅니다