패스트캠퍼스 환급챌린지 18일차 : 테디노트의 RAG 비법노트 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

 

 

LangChain으로 애플리케이션을 만들다 보면, 단순한 LLM호출 한 번이 아니라 프롬프트 → 임베딩 → 검색 → LLM 등 여러 단계를 거치는 복잡 체인이 생성됨. 체인이 복잡해질수록 내부에서 어떤 프롬프트가 사용됐는지, 어떤 문서를 검색했는지, LLM 출력이 어떤 흐름으로 이어지는지 추적하기 쉽지 않음.

⇒ 이를 해결해주는 도구가 바로 LangSmith. 필수는 아니지만, 디버깅과 품질 개선을 위해 사실상 꼭 필요함. 

 

RAG 구축 전체 흐름 요약 : RAG 파이프라인은 8단계로 이루어짐

1. 문서 로드(Load Documents)

PyMuPDFLoader를 사용해 PDF 문서를 불러옴.

문서 전체 페이지 수와 내용 일부를 확인하고, metadata 도 함께 출력할 수 있다. 

→ 이 단계는 텍스트 기반 RAG의 출발점!

 

2. 문서 분할(Split Documents)

RecursiveCharacterTextSplitter로 텍스트를 청크 단위로 나눔.
청크 크기(chunk_size)와 겹침(chunk_overlap)을 조정하여 검색 효율을 확보.
→ 너무 크게 나누면 검색 정확도가 떨어지고, 너무 작으면 문맥이 끊어짐.

 

3. 임베딩(Embedding)

OpenAIEmbeddings를 활용해 각 청크를 벡터 형태로 변환함.

임베딩을 통해 텍스트 간 의미적 유사도를 비교할 수 있음

 

4. 벡터 DB 생성(Vector Store)

FAISS.from_documents() 로 벡터 데이터베이스를 만듦.

이 DB는 나중에 쿼리를 기반으로 관련 문서를 검색할 때 사용

→ RAG 시스템의 핵심 저장소 역할

 

5. 검색기(Retriever) 생성

벡터스토어에서 .as_retriever() 를 호출해 검색기 생성

사용자가 질문하면 관련 청크를 찾아 반환하는 역할을 함.

→ "R" in RAG를 담당하는 단계

 

6. 프롬프트 템플릿 구성

질문과 컨텍스트를 기반으로 최종 답변을 생성하기 위한 프롬프트 템플릿 작성

→ Context 기반 답변을 강제해서 LLM 이 Hallucination 하지 않도록 설계.

 

7. LLM 생성

ChatOpenAI(model_name="gpt-4.1-mini")

온도(temperature)는 0으로 설정해 일관되고 사실 기반의 답변을 유도

 

8. Chain 구성

retriever → prompt → llm → parser  순서로 이어지는 체인 구축됨.

여기서는 RunnablePassthrough() 를 통해 질문을 그대로 전달하고, 검색된 context와 함께 LLM으로 연결되는 구조 만들어짐.

 

---

LangChain을 활용해 문서 기반 질문응답(RAG, Retrieval-Augmented Generation) 시스템을 직접 구축해보는 실습을 진행했어요. 특히, 복잡한 체인과 LLM 호출 과정을 추적·모니터링 하기 위해 LangSmith를 활용하는 이유도 알게 됐죠. 전체 RAG 파이프라인이 어떻게 구성되는지 단계별로 이해할 수 있어서 아주 유익했어요!!

결국, LangChain으로 RAG 시스템을 구축하는 과정은 독립된 단계들의 조함이라는 점을 알 수 있었어요.

임베딩 → 검색 →  프롬프트 → LLM 으로 이어지는 흐름이 잘 설계되어야 좋은 품질의 답변이 나온다는 것을 잊지 말고 설계를 잘 해야겠어요! 오늘 배운 내용들을 활용해서 뉴스 요약, 내부 위키 기반 서비스 등 실제 사용할 수 있는 RAG 시스템을 직접 구축해보는 것을 목표로 수업을 더 열심히 들어야겠어요. 복습도 너무 필요하다는걸 느낍니다....ㅎㅎ

커리어 성장을 위한 최고의 실무교육 아카데미 | 패스트캠퍼스