Digital Garden

RAG

#RAG #검색증강생성 #지식관리 #LLM #AI시스템

한 줄 정의

RAG는 Retrieval-Augmented Generation의 약자로, 질문 시점에 외부 문서나 데이터베이스에서 관련 정보를 검색해 LLM 답변에 보강하는 방식이다.

왜 중요한가

LLM은 학습 시점 이후의 정보나 조직 내부 문서를 기본적으로 알지 못한다. RAG는 이 한계를 줄이기 위해 검색 결과를 프롬프트에 넣어 더 근거 있는 답변을 만들게 한다.

장점 한계
최신·내부 문서 활용 매번 관련 chunk를 다시 조립해야 함
출처 기반 답변 가능 장기적 개념 연결은 약함
시스템 구현이 비교적 명확 문서 품질과 검색 품질에 민감

운영 관점의 질문

  • 검색된 근거가 실제 답변을 지지하는가?
  • 답변이 대화창에만 남지 않고 LLM Wiki나 지식베이스로 축적되는가?
  • 검색 품질을 평가하는 기준이 있는가?

관련 글