패스트캠퍼스 환급챌린지 1일차 : 테디노트의 RAG 비법노트 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

 

 

Ch 1. LangChain 시작하기

01. 강의를 보는 방법

• 강의
   강의는 다양한 요소로 구성되어 있으며, 순서대로 하나씩 듣는 것보다는 다양한 모듈 중 몇 가지만 선택해서 여덟 단계에 대한 RAG 파이프라인을 우선 만들어 보는 것부터 시작하길 권장합니다. 여덟 단계 파이프라인 조립에 대한 이해가 끝난 후, 프롬프트 예제 중 내가 만든 것 선택, 출력 파서의 여러 가지 방법론 중 하나 선택, 모델 중 하나 선택,, 이런 식으로 선택해서 가져오는 방식으로 효율적인 학습을 추천해 주십니다. 
  → '강의 전체를 하나씩 차근차근 들어라'가 아닌, 보다 효율적인 방법을 추천해 주셔서 RAG에 대해 좀 더 체계적으로 학습할 수 있을 것 같습니다. 뿐만 아니라, 강사님이 운영하시는 Discord라는 커뮤니티 플랫폼을 통해 질의응답, 과제 챌린지 등 지속적으로 도움을 받을 수 있습니다. 
• 교재
   교재는 전자책으로 제공되는데, 이는 LangChain의 하루에도 수 십 번 업데이트되는 특성으로 인한 것이라고 합니다. 가장 최신 소스를 가져와서 보는 것이 중요하기 때문에, pdf 문서가 아닌 최신 업데이트가 가능한 전자책으로 제공되는 것입니다. 소스코드 또한 최신 정보를 볼 수 있도록 지속적으로 업데이트해 주십니다.
  → 그냥 책 한권을 제공하는 것이 아니라, 지속적으로 업데이트되는 자료를 볼 수 있다는 점이 아주 큰 메리트라고 생각됩니다.

∴ 만들고 싶은 RAG시스템 목표를 세우고, 이를 만들기 위해 구성하는 과정들을 선택해 학습하고 도움이 필요하다면 함께 고민하며 만들어갈 수 있는 강의입니다. 

---

02. RAG(Retrieval-Augmented Generation) 기술이 주목받는 이유

• RAG(Retrieval-Augmented Generation)란?
  → 검색, 증강, 생성
• GPT의 한계
  1. 최신 정보에 대하여 학습되어 있지 않다.
  2. 나(개인) 혹은 우리 회사에 제한되어 있는 내부데이터에 대한 학습이 되어 있지 않다.
  3. 특정 도메인(나의 개인정보, 회사의 내부 정보)에 대한 질문을 하면 기대하는 답변을 얻을 수 없다.
  4. 문서화 시켜 ChatGPT에서 질의할 수 있지만, 기대하는 답변을 받을 수 없거나, 할루시네이션(환각) 현상이 발생한다. (문서의 양이 많아진다면 더욱더 이러한 현상이 심해진다.)
  → 개인정보 혹은 회사 기밀 문서가 OpenAI 사 DB에 저장되는 것은 유출의 위험이 있다. 
• RAG를 통한 해결
  1. 최신 정보를 기반으로 답변할 수 있으며, 정보를 찾을 수 없는 경우 '검색' 기능을 활용하여 답변할 수 있다.
  2. 나(개인) 혹은 우리 회사에서 제한되어 있는 내부 데이터를 참고하여 답변할 수 있다.
  3. 문서를 내부 DB에 저장할 수 있고, DB에 내용을 축적해 나갈 수 있으며, 저장된 DB에서 원하는 정보를 검색하여 검색된 정보를 바탕으로 답변할 수 있다.
  → RAG를 LangChain으로 구현해서 DB를 OpenAI사의 DB가 아닌, 회사 내부 DB에 업로드할 수 있다. 즉, 질문을 할 경우, 내부 DB에서 검색된 내용을 바탕으로 GPT가 답변을 할 수 있도록 유도할 수 있다.
  4. 답변에 대한 출처를 역으로 저장되어 있는 DB에서 검색 후 검증하는 방식으로 할루시네이션 현상을 줄일 수 있다.
  → 문서의 내용을 바탕으로 답변을 작성하게 하고, 답변된 내용을 다시 문서로 돌아가서 출처를 검증하는 과정을 거침으로써 할루시네이션 현상을 줄일 수 있다.
• RAG를 통해 기대하는 바 : 더 나은 답변 품질, 방대한 지식 기반으로 답변하는 도메인 특화 챗봇 생성
  * 방대한 지식 기반 : GPT가 사전 학습된 내용 뿐만 아니라, 새롭게 축적해 나가는 DB 기반으로 답변할 수 있는, 즉 우리는 DB만 업데이트하면 GPT가 DB를 기반으로 답변.
• RAG 프로세스
  LangChain을 통해 RAG 안에 포함된 Document, Embedding, VectorDB, Retriever 시스템 하나하나를 어떤 알고리즘을 사용하는지, 어떤 문서 형식으로 로드할지, 어떤 임베딩 알고리즘을 사용할지 등 직접 컨트롤하여 세부 프로세스를 튜닝하여 원하는 수의 답변을 얻을 수 있을때까지 개선시켜 나가는 방법론을 연구해나가는 과정이다.
  → RAG 프로세스를 잘 정립해 놓으면, 비즈니스 안에서도 쓸 수 있는 성능까지 도달할 수 있다. 

---

RAG를 잘 배워두면 LLM을 더 효율적으로 사용할 수 있을 것 같다. 종종 GPT나 Gemini가 헛소리하면 답답했는데!!! LLM이 답변을 도출하기까지의 과정을 투명하게 들여다보고 추적해볼 수 있어서 답변의 신뢰성을 개선해나갈 수 있다는 점이 흥미롭다. 원하는 답 얻을 수 있을 때까지 어디한번 도전. 잘 배워서 어디에 활용하면 좋을지도 계속 생각해봐야겠다.(여러모로 유용하게 쓰일 것 같다.) 이렇게 직업 선택의 폭을 점차 넓혀가는거지~! 

 

오늘 공부 시간 인증✌🏻

https://fastcampus.info/4oKQD6b

11월이니까, 강의 1+1 쿠폰 이벤트 3일 앵콜💟 (~11/13 23:59) | 패스트캠퍼스