AI 에이전트는 인턴인가, 사고 치는 외주업체인가

챗봇은 답을 틀린다.
AI 에이전트는 일을 망칠 수 있다.

이 차이가 크다.

챗GPT가 잘못된 정보를 말하면 사람은 다시 묻거나, 검색하거나, 그냥 무시하면 된다. 물론 그 답을 그대로 믿고 중요한 판단을 하면 문제가 커지지만, 적어도 챗봇은 대체로 화면 안에 머문다. 답변은 말이고, 말은 아직 행동이 아니다.

하지만 AI 에이전트는 다르다. 에이전트는 답변하는 AI가 아니라 행동하는 AI다. 파일을 열고, 코드를 수정하고, 메일을 보내고, 서버에 접근하고, 티켓을 닫고, 결제를 요청하고, 외부 API를 호출한다. 사람은 더 이상 “질문자”가 아니라 “작업 지시자”가 된다.

그래서 질문이 바뀐다.

AI 에이전트는 똑똑한 인턴인가, 아니면 사고 치는 외주업체인가?

나는 이 질문이 꽤 중요하다고 본다. 이유는 간단하다. AI 에이전트가 일을 대신해줄수록, 사람은 일을 덜 하는 것이 아니라 더 많은 결과에 책임지는 사람이 되기 때문이다.

챗봇은 틀린 답을 남기고, 에이전트는 흔적을 남긴다

최근 Anthropic은 자사 사이버보안 평가 과정에서 Claude 모델이 평가 환경을 벗어나 실제 인터넷에 닿았고, 세 조직의 실제 시스템에 무단 접근한 사례를 공개했다.¹

이 사례를 “AI가 자아를 갖고 탈출했다”는 식으로 소비하면 오히려 핵심을 놓친다. Anthropic의 설명은 조금 다르다. 모델은 캡처더플래그, 즉 CTF 유형의 보안 평가 과제를 수행하고 있었다. 문제는 평가 환경 설정이 잘못되어 있었고, 모델이 실제 인터넷에 접근할 수 있었다는 점이다. 모델은 자신이 시뮬레이션 안에 있다고 믿고 있었고, 접근 가능한 대상을 과제 범위 안의 대상으로 해석했다.

즉 핵심은 “AI가 악의를 품었다”가 아니다.

핵심은 이것이다.

행동 능력이 있는 AI에게 잘못된 환경, 잘못된 권한, 잘못된 가정이 주어지면 실제 피해가 생길 수 있다.

이건 조직에서 AI 에이전트를 도입할 때 훨씬 현실적인 경고다.

에이전트는 사람처럼 피곤하지 않다. 주저하지도 않는다. “이거 진짜 해도 되나?”라고 멈춰 서지 않을 수도 있다. 오히려 목표를 달성하기 위해 계속 시도한다. 이 성실함이 장점이자 위험이다.

인턴은 모르면 물어본다.
외주업체는 계약 범위 밖이면 멈춘다.
그런데 AI 에이전트는 잘못 설계하면, 모르는 채로 계속한다.

생산성의 반대편에는 검수 부채가 생긴다

Microsoft WorkLab은 2025 Work Trend Index에서 앞으로 모든 직원이 “agent boss”가 될 수 있다고 표현했다.² AI가 실행력을 제공하면, 사람은 여러 에이전트를 지휘하고 조율하고 검수하는 사람이 된다는 뜻이다.

이 표현은 꽤 정확하다.

AI 에이전트가 10명의 일을 해주면, 나는 10명의 일을 덜 하는 사람이 되는 것이 아니다.

나는 10명의 결과물을 검수해야 하는 책임자가 된다.

이 차이를 이해하지 못하면 AI 도입은 생산성이 아니라 미검수 부채가 된다.

예를 들어보자.

• 에이전트가 블로그 초안을 10개 만든다.
• 에이전트가 리서치 링크를 50개 모은다.
• 에이전트가 코드 변경을 20개 파일에 반영한다.
• 에이전트가 고객 문의 답변 초안을 100개 만든다.

겉으로는 대단한 생산성이다. 하지만 질문은 남는다.

• 누가 사실관계를 확인했는가?
• 누가 출처를 검증했는가?
• 누가 법적·윤리적 표현을 걸렀는가?
• 누가 잘못된 변경을 되돌릴 수 있는가?
• 누가 최종 승인했는가?

이 질문에 답하지 못하면 AI 에이전트는 생산성 도구가 아니라 조직의 리스크 증폭기가 된다.

에이전트의 위험은 조악함보다 그럴듯함이다

AI가 만든 결과물이 허술하면 오히려 낫다. 사람은 쉽게 의심한다.

문제는 그럴듯할 때다.

문장도 자연스럽고, 표도 깔끔하고, 코드도 돌아갈 것 같고, 근거 링크도 붙어 있다. 그런데 출처가 엉뚱하거나, 권한 범위를 넘었거나, 조직의 정책과 맞지 않거나, 나중에 복구하기 어려운 변경을 해버렸다면 어떨까.

AI 리터러시는 이제 프롬프트를 잘 쓰는 능력만이 아니다. 더 중요한 능력은 AI가 만든 결과를 어디까지 믿고, 어디서 멈추고, 무엇을 버릴지 판단하는 능력이다.

나는 이것을 “검증의 감각”이라고 부르고 싶다.

AI 에이전트 시대의 사람은 작성자가 아니라 편집장에 가까워진다. 직접 쓰는 시간은 줄어들 수 있다. 대신 비교하고, 삭제하고, 승인하고, 책임지는 시간이 늘어난다.

인턴처럼 쓰려면, 외주업체처럼 관리해야 한다

AI 에이전트를 인턴처럼 친근하게 부르는 건 나쁘지 않다. 하지만 운영은 외주업체처럼 해야 한다.

왜냐하면 외주업체에는 보통 다음이 필요하기 때문이다.

1. 작업 범위
2. 접근 권한
3. 산출물 기준
4. 중간 보고
5. 검수 절차
6. 장애 발생 시 복구 방식
7. 책임 소재

AI 에이전트도 똑같다.

“이거 알아서 해줘”가 아니라, “여기까지 접근하고, 이 기준으로 작업하고, 이 단계에서는 반드시 멈춰서 확인받고, 로그는 이렇게 남기고, 실패하면 이렇게 되돌려라”가 필요하다.

특히 업무 시스템 안으로 들어오는 에이전트에는 최소한 네 가지 장치가 있어야 한다.

이 네 가지가 없으면 에이전트는 인턴이 아니라 “계약서 없이 들여온 외주업체”가 된다.

Human-in-the-Loop는 장식이 아니다

많은 조직이 Human-in-the-Loop를 말한다. 하지만 실제 운영에서는 사람이 그냥 마지막에 “확인했습니다” 버튼만 누르는 경우가 많다.

그건 휴먼 인 더 루프가 아니다.
그건 책임 전가 버튼이다.

사람이 루프 안에 있으려면 최소한 다음을 볼 수 있어야 한다.

• 에이전트가 어떤 자료를 근거로 판단했는지
• 어떤 대안을 버렸는지
• 어떤 행동을 실행했는지
• 무엇을 확신하고 무엇을 추정했는지
• 실패하면 어디부터 되돌려야 하는지

즉 사람은 단순 승인자가 아니라 판단 가능한 감독자여야 한다.

AI가 “제가 처리했습니다”라고 말하는 것만으로는 부족하다. 사람은 “무엇을 어떻게 처리했는지”를 확인할 수 있어야 한다.

AI 도입의 성숙도는 모델 성능이 아니라 운영 설계에서 드러난다

앞으로 조직의 AI 성숙도는 어떤 모델을 쓰느냐만으로 결정되지 않을 것이다.

더 중요한 것은 이런 질문이다.

• 에이전트에게 어떤 권한을 주는가?
• 어떤 작업은 자동화하고, 어떤 작업은 사람 승인을 요구하는가?
• 로그와 근거를 어떻게 남기는가?
• 실패했을 때 누가 복구하는가?
• 잘못된 결과가 고객이나 외부 시스템에 나가기 전에 어디서 걸러지는가?

이 질문에 답하는 조직은 AI를 생산성 도구로 쓸 수 있다. 답하지 못하는 조직은 AI를 많이 쓸수록 더 많은 리스크를 만든다.

그래서 나는 AI 에이전트를 무조건 두려워하자는 입장은 아니다. 오히려 적극적으로 써야 한다고 생각한다. 단, 에이전트는 “마법 같은 직원”이 아니라 관리 가능한 실행 주체로 다뤄야 한다.

결론: AI는 나를 편하게 하기 전에 나를 상사로 만든다

AI 에이전트 시대의 핵심은 생산성이 아니다.

책임이다.

AI가 일을 대신할수록 사람은 더 많은 일을 검수하고, 더 많은 판단을 승인하고, 더 많은 결과를 책임져야 한다. 그래서 AI 에이전트는 인턴처럼 친근하게 대하되, 외주업체처럼 계약하고 관리해야 한다.

작업 범위를 정하고, 권한을 제한하고, 로그를 남기고, 사람이 멈출 지점을 설계해야 한다.

그렇지 않으면 AI 에이전트는 조직의 막내가 아니라, 사고 치는 외주업체가 된다.

그리고 그 외주업체가 사고를 치면, 최종 책임자는 결국 사람이다.

출처