검색 증강 생성RAG
Retrieval-Augmented Generation
AI가 답하기 전에 관련 자료를 먼저 찾아보고, 그 내용을 바탕으로 답하는 방식이에요.
쉽게 비유하면
시험을 볼 때 기억에만 의존하지 않고, 교과서를 펴 놓고 찾아보면서 답을 쓰는 오픈북 시험과 같아요.
조금 더 자세히
AI는 배운 시점까지의 내용만 알고, 회사 내부 문서처럼 공개되지 않은 자료는 알지 못해요. 그래서 모르는 내용을 물으면 틀린 답을 지어내기도 합니다.
RAG는 질문을 받으면 먼저 관련 문서를 찾아 AI에게 함께 건네줍니다. AI는 그 문서를 읽고 답하기 때문에 최신 정보도 반영할 수 있고, 어디서 나온 내용인지 출처를 함께 보여 줄 수도 있어요.
왜 생겼나요
ChatGPT 같은 대규모 언어 모델(LLM)은 학습을 마친 시점까지의 글만 알고 있어요. 그 뒤에 나온 뉴스나 회사 내부 문서처럼 공개되지 않은 자료는 알 방법이 없죠. 그래서 모르는 질문을 받으면 그럴듯하지만 틀린 답을 지어내기도 하는데, 이를 '환각'이라고 불러요.
새로운 내용을 가르치려고 모델을 다시 학습시키는 방법도 있지만, 시간과 비용이 많이 들고 자료가 바뀔 때마다 반복해야 해요. RAG는 2020년 메타(당시 페이스북) 연구진이 발표한 방식으로, 모델은 그대로 두고 필요한 자료를 그때그때 찾아서 건네주자는 아이디어에서 출발했어요.
어떻게 작동하나요
- 1. 자료 준비 문서를 작은 조각으로 나누고, 각 조각의 의미를 숫자 목록(임베딩)으로 바꿔 벡터 데이터베이스에 저장해 둬요.
- 2. 검색 질문이 들어오면 질문도 같은 방식으로 숫자로 바꾼 뒤, 의미가 가장 가까운 문서 조각 몇 개를 찾아요.
- 3. 전달 찾은 조각을 질문과 함께 프롬프트에 넣어 AI에게 건네요. '아래 자료를 참고해서 답해 줘'라고 부탁하는 셈이에요.
- 4. 답변 AI는 건네받은 자료를 읽고 답을 만들어요. 어떤 문서를 참고했는지 출처를 함께 보여 줄 수도 있어요.
활용 예시
- 회사 내부 자료를 참고해 답하는 사내 챗봇
- 최신 뉴스나 문서를 반영하는 정보 검색 AI
- 교재나 강의 자료를 활용하는 학습 도우미
검색 증강 생성 vs 파인튜닝
| 검색 증강 생성 | 파인튜닝 | |
|---|---|---|
| 방법 | 답할 때 자료를 찾아 함께 넘겨줌 | 모델에 자료를 추가로 학습시킴 |
| 최신 정보 반영 | 문서만 바꾸면 바로 반영 | 다시 학습해야 반영 |
| 비용·시간 | 비교적 적게 듦 | 학습할 때마다 많이 듦 |
| 출처 확인 | 참고한 문서를 보여 줄 수 있음 | 어디서 배운 내용인지 알기 어려움 |
| 잘 맞는 경우 | 자주 바뀌는 지식, 사내 문서 | 말투·형식, 전문 분야 표현 익히기 |
흔한 오해
RAG를 쓰면 환각이 완전히 사라진다?
환각을 크게 줄여 주지만 없애 주지는 못해요. 검색이 엉뚱한 문서를 가져오거나 AI가 자료를 잘못 해석하면 여전히 틀린 답이 나올 수 있어요. 그래서 출처를 함께 보여 줘서 사람이 확인할 수 있게 만드는 경우가 많아요.
RAG를 하면 AI가 새로운 지식을 배운다?
AI 자체는 아무것도 새로 배우지 않아요. 질문할 때마다 자료를 옆에 펼쳐 줄 뿐이라, 자료를 빼면 다시 모르는 상태로 돌아가요. 지식을 모델 안에 새기는 건 파인튜닝 쪽이에요.
이렇게 쓰여요
사내 규정 챗봇
직원이 챗봇에 '내가 남은 연차가 몇 개야?'라고 물으면, RAG가 등록된 취업 규칙 문서에서 연차 일수가 적힌 조항을 먼저 검색해요. 다만 '내 남은 일수'는 사람마다 달라서 문서에는 없죠. 그래서 개발자와는 'RAG로 연차 규정 조항을 찾고, 남은 일수는 인사 시스템 API로 조회해서 같이 넘기자'처럼 역할을 나눠서 이야기해요.
관련 용어
함께 보면 좋은 용어
함께 써 보면 좋은 도구
최종 업데이트