Human-in-the-loop
한 줄 정의
Human-in-the-loop는 AI가 수행하는 과정 중 중요한 판단, 승인, 예외 처리 지점에 인간의 검토와 개입을 배치하는 설계 원칙이다.
왜 중요한가
AI를 안전하게 쓰려면 모든 단계를 사람이 직접 처리할 수도, 모든 단계를 AI에 맡길 수도 없다. 중요한 것은 인간이 개입해야 하는 지점을 정확히 고르는 것이다.
| 개입 수준 | 예시 |
|---|---|
| 사전 승인 | 고위험 실행 전 승인 |
| 사후 검토 | 결과물 품질 확인 |
| 예외 처리 | 불확실하거나 민감한 케이스 이관 |
| 중단 권한 | 오작동 시 즉시 멈춤 |