패스트캠퍼스 환급챌린지 16일차 : 테디노트의 RAG 비법노트 강의 후기

 

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

Ch 3. RAG 시작하기

 

01. RAG 프로세스 이해하기(사전단계)

RAG를 사용하는 목적

일반적으로 ChatGPT와 같은 LLM에 질문하면, 모델은 오직 사전 학습된 정보를 기반으로 답변을 생성한다. 이때 모델이 학습한 시점이 오래되었거나 특정 정보가 누락되어 있다면 최신 정보나 전문 지식을 정확히 반영하지 못하는 한계가 있다.

RAG는 LLM에게 외부 문서나 최신 데이터를 문맥(Context)로 제공한 뒤, 이를 참고하여 답변을 생성하도록 유도하는 방식이다. 즉, 모델에게 임의로 답하지 말고 제공된 정보를 바탕으로 답하라고 명시하는 프롬프트 구조를 사용한다. 이를 통해 최신 데이터 기반의 답변과 신뢰도 높은 응답을 얻을 수 있다. 

 

RAG 시스템의 전체 구조

Document Load → Text Split → Embedding → Vector DB → LLM 생성

 

1) Document Load (문서 불러오기)

• PDF, Word, Excel 등 여러 형식의 문서를 불러오는 과정
• 문서 전체를 그대로 전달하는 것이 아니라 텍스트만 추출

2) Text Split (텍스트 분할)

• 문서가 길면 그대로 쓸 수 없기 때문에 토큰 단위로 잘게 나누는 작업
• chunk size에 맞춰 특정 문단이나 문장을 분리하고 저장
• 질문이 들어오면 전체 문서가 아니라 관련 있는 조각(Chunk) 만 검색

3) Embedding (텍스트 벡터화)

• 텍스트를 기계가 이해할 수 있는 수치 벡터 형태로 변환하는 과정
• LLM이 아닌 '벡터 모델'이 문서 검색을 담당하는 핵심 단계

4) Vector DB(벡터 데이터베이스)

• 임베딩된 벡터 데이터를 저장하는 DB
• 사용자가 질문하면, 벡터 DB가 질문과 유사한 문서를 빠르게 검색해 반환
• LLM은 이 문맥을 기반으로 답변 생성 → 최신·신뢰성 높은 응답 제공

---

오늘은 왜 RAG 기술을 사용해야 하는지, 그리고 그 구조가 어떻게 동작하는지 배웠습니다. 평소에 ChatGPT에 질문할 때는 단순히 텍스트만 입력하면 답변이 나오지만, 사실 이 답변은 모델이 사전에 학습한 데이터에 한정되어 있다는 한계가 있었죠. 즉, 모델이 최신 데이터를 학습하지 않았거나 특정 전문 지식이 학습되지 않았다면 정확하지 않은 답변을 할 가능성이 높다는 얘기죠. 어째, 종종 헛소리를 하더라고요. RAG는 이러한 한계를 해결하기 위해, 모델에게 외부 문서나 최신 정보를 직접 제공하고 이를 바탕으로 답변하게 만드는 방식이라고 합니다. 

 이 때, 프롬프트 자체도 바뀌죠. 기존 방식은 모델이 스스로 가진 지식을 활용해 답변하지만, RAG는 '주어진 정보를 참고해서 답변해줘' 라는 명령을 포함해, 답변의 근거가 반드시 문맥(Context)에 기반하도록 유도하죠. 즉, 모델이 '아는 척' 하지 못하고 제공된 자료를 근거로 답변하는 방식으로 바뀝니다. 이 점이 RAG를 배우는 가장 큰 장점이죠! 똑똑한 LLM을 좀 더 똑똑하게 사용할 수 있는 방법을 배우는 거니까요!! 신뢰도 높은 AI 서비스를 만들 수 있다는 점이 아주 흥미롭고 유익하네요.

 

 

 

커리어 성장을 위한 최고의 실무교육 아카데미 | 패스트캠퍼스