검색 증강 생성(RAG)
Retrieval-Augmented Generation
사용자 질의와 관련된 외부 지식을 검색(Retrieval)하여 프롬프트에 결합(Augmentation)한 뒤 LLM이 답변을 생성(Generation)하게 함으로써, 환각을 줄이고 최신·도메인 지식을 반영하는 기법임.
핵심 키워드
환각(Hallucination) 완화임베딩(Embedding)벡터 데이터베이스(Vector DB)청킹(Chunking)유사도 검색(ANN)하이브리드 검색(BM25+Dense)리랭킹(Re-ranking)프롬프트 증강출처 제시(Grounding)
암기: R-A-G: 검색(Retrieve) → 증강(Augment) → 생성(Generate)
구성도
정리
1. 개요
- 배경: LLM은 학습 시점 이후 정보 부재(Knowledge Cut-off), 사실과 다른 내용 생성(환각), 사내·도메인 지식 미보유 한계
- 필요성: 재학습(Fine-tuning) 없이 외부 지식을 실시간 반영, 답변 근거(출처) 제시로 신뢰성 확보
- 유래: 2020년 Lewis 등이 검색기와 생성 모델을 결합한 RAG 개념 제안
2. 구성 및 원리
- (1) 인덱싱 단계(오프라인)
- 문서 수집 → 파싱·정제 → 청킹(Chunking, 고정 길이·문단·의미 단위)
- 임베딩 모델로 벡터화 → 벡터 DB에 메타데이터와 함께 저장
- (2) 검색 단계(Retrieval)
- 질의 임베딩 → 근사 최근접 이웃(ANN, 예: HNSW) 기반 유사도 검색 → Top-k 청크 선택
- 하이브리드 검색: 키워드(BM25) + 의미(Dense) 검색 결합
- 리랭킹: Cross-Encoder 등으로 후보 재정렬
- (3) 생성 단계(Augmented Generation)
- 검색 결과를 프롬프트 컨텍스트로 삽입 → LLM이 근거 기반 답변 생성 → 출처 인용
3. 특징 및 비교
| 구분 | RAG | 파인튜닝(Fine-tuning) |
|---|---|---|
| 지식 갱신 | 문서 교체로 즉시 반영 | 재학습 필요 |
| 비용 | 인덱싱·검색 인프라 비용 | GPU 학습 비용 |
| 근거 제시 | 출처 추적 가능 | 어려움 |
| 적합 영역 | 사실·최신 지식 질의 | 말투·형식·특정 작업 적응 |
| 한계 | 검색 품질에 성능 종속 | 지식 고정, 망각 위험 |
- 두 방식은 배타적이지 않으며 혼합 적용 가능
4. 고려사항 및 최신 동향
- 품질 요소: 청크 크기·중첩(Overlap), 임베딩 모델 선택, Top-k 수, 컨텍스트 길이 제약
- 평가 지표: 검색 관점(재현율·정밀도), 생성 관점(충실성 Faithfulness, 답변 관련성)
- 보안: 문서 접근권한 연동(권한 없는 문서 노출 방지), 간접 프롬프트 인젝션, 개인정보 포함 문서 처리
- 발전 형태
- Advanced RAG: 질의 재작성(Query Rewriting), 다단계 검색
- GraphRAG: 지식 그래프로 개체 간 관계 활용
- Agentic RAG: 에이전트가 검색 도구 호출 여부·횟수를 스스로 판단
- 멀티모달 RAG: 표·이미지 등 비정형 자료 검색
함께 볼 토픽
v1 · 2026. 10. 19. 갱신 · 틀린 내용을 발견하면 알려 주세요.