에이전틱 AI
한 줄 정의
에이전틱 AI는 단순히 답변을 생성하는 AI를 넘어, 목표를 받아 도구를 호출하고 여러 단계를 계획·실행하는 자율성 높은 AI 시스템을 말한다.
왜 중요한가
에이전틱 AI는 기업과 개인의 업무 자동화를 크게 넓힐 수 있지만, 동시에 권한·데이터 접근·오작동·책임 소재의 문제를 만든다. 그래서 기존 챗봇형 AI보다 강한 AI 거버넌스가 필요하다.
| 차원 | 질문 |
|---|---|
| 자율성 | 어디까지 스스로 판단하는가 |
| 권한 | 어떤 도구와 데이터에 접근하는가 |
| 통제 | 사람이 언제 개입하는가 |
| 관찰 | 실행 중 행동을 어떻게 기록하는가 |
운영 관점의 질문
- 에이전트가 관찰, 조언, 승인 후 실행, 자율 실행 중 어디에 속하는가?
- 고위험 행동에는 Human-in-the-loop가 설계되어 있는가?
- 실행 중 행동을 런타임 텔레메트리로 볼 수 있는가?