AI 위험 자가진단
한 줄 정의
AI 위험 자가진단은 조직이 AI를 도입하거나 운영할 때 데이터, 권한, 업무 맥락, 결과물, 책임 구조의 위험을 스스로 점검하는 절차다.
왜 중요한가
AI 위험은 모델 안에만 있지 않다. 같은 AI라도 어떤 자료를 입력하는지, 어떤 업무에 쓰는지, 누가 결과를 검토하는지, 어떤 도구와 연결되는지에 따라 위험 수준이 달라진다.
Google SAIF가 Risk Self Assessment와 Risk Map 같은 접근을 강조하는 이유도 여기에 있다. AI를 안전하게 쓰려면 도입 전과 운영 중에 반복적으로 위험을 점검해야 한다.
기본 체크리스트
| 영역 | 질문 |
|---|---|
| 도구 | 개인용 AI인가, 조직이 승인한 AI인가 |
| 데이터 | 개인정보·민감정보·비공개 업무자료가 들어가는가 |
| 권한 | AI가 접근할 수 있는 문서·DB·API 범위는 어디까지인가 |
| 결과물 | AI 답변을 사람이 검토하는가 |
| 책임 | 오류나 유출이 발생했을 때 보고·대응 주체가 정해져 있는가 |
| 기록 | 입력, 출력, 파일 업로드, 외부 연동 로그가 남는가 |
| 개선 | 사고나 오류를 기준 개선에 반영하는 피드백 루프가 있는가 |
대학·기관 적용
대학과 공공기관에서는 학생 데이터, 상담기록, 평가자료, 연구자료, 행정문서가 AI와 연결될 수 있다. 따라서 AI 위험 자가진단은 보안부서만의 양식이 아니라 교무, 학생지원, 산학협력, 연구지원, 행정 자동화 영역에서 함께 써야 한다.