2025.03.10 TIL - RAG

📌 TIL (Today I Learned) - RAG (Retrieval-Augmented Generation)

🔹 RAG (Retrieval-Augmented Generation)란?

RAG는 Retrieval-Augmented Generation의 약자로, 정보 검색(Retrieval)과 생성(Generation)을 결합한 방식으로 동작하는 자연어 처리 기법이다. 이는 LLM(대규모 언어 모델, Large Language Model)이 외부 데이터베이스나 문서를 검색하여 최신 정보 또는 특정 도메인 지식을 활용한 답변을 생성할 수 있도록 하는 방법이다.

---

🔹 RAG의 주요 개념

1. Retrieval (검색) 단계
   • 사용자의 질문(쿼리)에 대해 벡터 데이터베이스(Vector Database)에서 관련 문서를 검색함.
   • 검색된 문서는 LLM이 응답을 생성하는 데 참고할 컨텍스트(Context)로 제공됨.
   • 보통 FAISS, ChromaDB, Pinecone 등의 벡터 검색 엔진을 활용하여 임베딩(Embedding)된 문서에서 검색을 수행함.
2. Augmentation (강화) 단계
   • 검색된 문서를 LLM의 입력 프롬프트에 추가하여 답변의 품질을 높임.
   • 이를 통해 모델이 훈련 데이터에 포함되지 않은 최신 정보나 특정 도메인 지식을 반영한 응답을 생성할 수 있음.
3. Generation (생성) 단계
   • LLM이 검색된 문서의 내용을 참고하여 응답을 생성함.
   • 이 과정에서 GPT, Claude, Llama, Mistral 등 다양한 언어 모델이 사용될 수 있음.
   • 모델은 검색된 문서를 바탕으로 보다 신뢰성 높은 답변을 생성할 수 있음.

---

🔹 RAG vs 기존 LLM 차이점

비교 항목 기존 LLM RAG

지식 업데이트	모델 학습 시점 이후 정보 반영 어려움	최신 정보 반영 가능 (외부 DB 활용)
응답 정확도	훈련 데이터에 의존	검색한 정보를 기반으로 정밀한 답변 제공
학습 비용	대규모 파라미터 재학습 필요	검색 엔진만 업데이트하면 됨
적용 사례	챗봇, 번역 등 일반적인 NLP 작업	전문 지식 Q&A, 법률 상담, 기술 문서 검색 등

---

🔹 RAG의 주요 활용 사례

• AI 기반 질의응답 시스템 (Q&A Bot)
  • 내부 문서를 기반으로 직원들의 질문에 대한 답변 제공
  • 예: 기업용 문서 검색 AI, 고객 지원 챗봇
• 법률 및 의료 문서 분석
  • 최신 법률이나 의학 논문을 검색하여 변호사나 의사의 의사 결정을 지원
• 코드 검색 및 개발 문서 추천
  • 프로그래머가 특정 코드 패턴이나 라이브러리 사용법을 검색하여 활용할 수 있도록 지원
• 전자상거래 제품 추천
  • 사용자 리뷰, 제품 설명을 기반으로 관련 상품을 추천

---

🔹 RAG 구현을 위한 주요 기술 스택

1. 벡터 데이터베이스
   • FAISS, ChromaDB, Pinecone, Weaviate 등
2. 임베딩 모델 (Embedding)
   • OpenAI Embeddings (text-embedding-ada-002)
   • Sentence Transformers (all-MiniLM-L6-v2)
   • Cohere, Hugging Face 기반 임베딩 모델
3. LLM (언어 모델)
   • GPT-4, Claude, Llama, Mistral, Gemini 등
4. 검색 및 데이터 처리
   • LangChain, LlamaIndex, Haystack 등

---

🔹 RAG의 장점 & 한계

✅ 장점

• 최신 정보를 반영하여 응답을 생성할 수 있음.
• 데이터베이스를 업데이트하면 LLM을 재학습할 필요 없이 최신 정보 제공 가능.
• 특정 도메인의 정보 검색 및 활용에 효과적.

⚠️ 한계

• 검색된 문서가 항상 적절하거나 정확하지 않을 수도 있음 (Garbage In, Garbage Out 문제).
• 문서 검색 속도가 LLM 응답 속도를 제한할 가능성이 있음.
• 검색된 컨텍스트가 너무 많으면 LLM이 제대로 활용하지 못할 수도 있음.

---

🔹 오늘의 배운 점 요약

• RAG는 검색과 생성(LLM)을 결합한 방법으로, 최신 정보 활용 및 답변의 신뢰성을 높이는 방식이다.
• 벡터 데이터베이스와 임베딩 모델을 활용하여 문서를 검색하고, 검색된 내용을 기반으로 언어 모델이 답변을 생성한다.
• 기업 내 문서 검색 AI, 법률·의료 분야, 코드 검색, 전자상거래 추천 시스템 등 다양한 분야에 적용 가능하다.
• RAG를 적용하면 모델을 다시 학습하지 않고도 최신 정보를 반영한 AI 시스템을 구축할 수 있다.