에이전트에게 권한을 주는 법 — 가드레일과 판정 규칙 설계
요즘 여러 회사 대표들과 에이전트 도입 얘기를 하다 보면 거의 매번 똑같은 지점에서 멈춘다. "일단 초안만 쓰게 해보죠." 처음엔 다들 이렇게 시작한다. 메일 초안, 보고서 초안, 코드 초안. 사람이 최종 확인을 하고 버튼은 사람이 누른다. 합리적인 출발이다. 그런데 몇 달이 지나도 딱 거기서 멈춰 있는 회사가 많다. 에이전트가 실행까지 가지 못하고 계속 초안만 만드는 상태에 머무는 것이다. 나는 이게 기술의 한계가 아니라고 본다. 권한을 설계하는 방법을 모르기 때문에 생기는 정체다.
전부 아니면 전무라는 착각
에이전트에게 권한을 준다고 하면 대부분 이걸 이분법으로 받아들인다. 고삐를 완전히 풀어주거나, 아니면 사람이 매번 확인하거나. 이 둘 중 하나밖에 없다고 여기니 겁이 나서 후자에 머무는 거다. 그런데 사람에게 권한을 주는 방식을 생각해보면 이게 얼마나 이상한 프레임인지 알 수 있다. 회사에서 신입사원에게 전 결재권을 주는 곳은 없다. 그렇다고 신입사원이 서명 하나 할 때마다 대표에게 승인받는 회사도 없다. 그 사이에는 전결 규정이라는 게 있다. 얼마 이하의 지출은 팀장 선에서, 그 이상은 임원 선에서, 특정 금액을 넘으면 대표 결재로. 권한은 전부와 전무 사이에 있는 게 아니라, 금액과 조건에 따라 잘게 나뉜 구간에 있다.
에이전트도 똑같다. 필요한 건 "권한을 줄 것인가 말 것인가"가 아니라 "어떤 조건에서 어디까지 자동으로 처리하고, 어떤 조건을 만나면 사람에게 넘길 것인가"라는 판정 규칙이다. 이걸 정하지 않은 채로 에이전트에게 실행을 맡기라고 하면 겁이 나는 게 당연하다. 나라도 겁이 날 거다.
가드레일은 감시가 아니라 규칙이다
가드레일이라는 단어를 들으면 뭔가 에이전트를 못 믿어서 채워두는 안전장치처럼 느껴진다. 근데 실제로 해보면 반대다. 가드레일을 촘촘하게 정의할수록 에이전트에게 넘길 수 있는 실행 범위가 넓어진다. 역설적이지만 규칙이 명확할수록 위임이 커진다.
예를 들어 고객 환불 요청을 처리하는 에이전트가 있다고 하자. "적절히 판단해서 처리해"라는 지시는 실행 권한을 줄 수 없는 지시다. 사람도 이런 지시를 받으면 매번 확인받으러 온다. 반면 "환불 사유가 명시된 정책 목록에 있고 금액이 일정 기준 이하면 즉시 처리한다. 정책 목록에 없거나 기준을 넘으면 사유와 함께 담당자에게 넘긴다"는 지시는 다르다. 이건 판정 규칙이다. 에이전트는 이 규칙 안에서는 완전한 실행 권한을 갖고, 규칙 밖으로 나가는 순간 자동으로 손을 뗀다. 사람이 매번 들여다볼 필요가 없어지는 건 에이전트를 더 믿어서가 아니라, 언제 믿고 언제 멈춰야 하는지를 미리 문장으로 적어뒀기 때문이다.
이 규칙을 적는 과정 자체가 회사에 큰 도움이 된다. 12년간 회사를 운영하며 느낀 건, 많은 판단 기준이 대표나 팀장의 머릿속에만 있고 문서화된 적이 없다는 사실이다. 에이전트에게 판정 규칙을 적어주려는 순간, 그동안 감으로 처리해온 결정들이 얼마나 많았는지가 드러난다. 그 기준을 명문화하는 것 자체가 경영을 한 단계 더 정확하게 만드는 작업이다.
에스컬레이션 이력이 신뢰를 쌓는다
가드레일을 처음 설계할 때는 대체로 보수적으로 잡는다. 애매하면 일단 사람에게 넘기도록. 이건 맞는 접근이다. 문제는 그 다음이다. 많은 회사가 처음 설계한 가드레일을 그대로 몇 달, 몇 년 유지한다. 에이전트가 넘긴 케이스들 중에 사실은 자동 처리해도 됐을 사례가 얼마나 쌓였는지를 아무도 돌아보지 않기 때문이다.
에스컬레이션된 케이스는 그 자체로 데이터다. 사람에게 넘어간 판단들을 주기적으로 훑어보면, 그중 상당수는 반복되는 패턴이라는 게 보인다. 그 패턴을 다시 판정 규칙에 편입시키면 자동 처리 범위가 자연스럽게 넓어진다. 반대로 자동 처리했다가 문제가 생긴 케이스가 있으면 그 조건을 규칙에서 다시 좁히면 된다. 권한은 한 번 정하고 끝나는 게 아니라, 실행 이력을 보며 계속 다듬어가는 살아있는 규정이다. 무리뉴가 매 시즌 세트피스 전술을 손보듯, 가드레일도 매 분기 손봐야 한다.
이렇게 몇 달을 반복하면 처음엔 초안만 쓰던 에이전트가 어느새 대부분의 실무를 스스로 끝내고, 사람은 규칙 밖으로 튀어나온 예외 케이스만 들여다보는 구조로 바뀐다. 사람이 사라지는 게 아니라, 사람이 하는 일의 무게중심이 반복 처리에서 판단과 예외 대응으로 옮겨가는 것이다. 그리고 이렇게 문서화된 판정 규칙은 그 자체로 회사의 자산이 된다. 담당자가 바뀌어도, 신입이 들어와도, 회사의 판단 기준은 문서와 시스템에 남아 흔들리지 않는다.
에이전트에게 권한을 준다는 건 결국 회사가 스스로의 판단 기준을 처음으로 또렷하게 적어보는 일이다. 나는 이 과정을 거친 회사들이 에이전트를 더 믿게 되는 걸 자주 본다. 믿음은 겁 없이 던져서 생기는 게 아니라, 규칙을 촘촘히 적어가는 과정에서 조금씩 쌓이는 것이라 믿는다.