패스트캠퍼스 환급챌린지 17일차 : 테디노트의 RAG 비법노트 강의 후기

 

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

02. RAG 프로세스 이해하기 (실행단계)

 

런타임(RunTime)  

Pre-processing 단계는 미리 다 준비가 되어있고, GPT에 질문했을 때 Retriever(검색기)를 만들어놓고 검색 알고리즘을 지정해 놓고 질문을 임베딩 변환을 해서 숫자 표현으로 바꿔서 Retriever(검색기)가 DB에 유사한 단락을 가져오도록 유사도 검색(Similarity Search)을 해서 DB로부터 검색 결과를 반환함. 그러면 잘라내진 Chunk들을 가져와서 프롬프트 입력으로 넣어주고, 그 프롬프트를 LLM에 넣어줌으로써 답을 얻음

 

Retriever(검색기) 단계

Retriever(검색기) 단계는 Retrieval-Augmented Generation(RAG) 시스템의 다섯 번째 단계로, 저장된 벡터 데이터베이스에서 사용자의 질문과 관련한 문서를 검색하는 과정을 의미. 이 단계는 사용자 질문에 가장 적합한 정보를 신속하게 찾아내는 것이 목표이며, RAG 시스템의 전반벅인 성능과 직결되는 매우 중요한 과정임.

 

검색기의 필요성

• 정확한 정보 제공 : 검색기는 사용자의 질문과 가장 관련성 높은 정보를 검색하여, 시스템이 정확하고 유용한 답변을 생성할 수 있도록 함. 이 과정이 효과적으로 이루어지지 않으면, 결과적으로 제공되는 답변의 품질이 떨어질 수 있음
• 응답 시간 단축 : 효율적인 검색 알고리즘을 사용하여 데이터베이스에서 적절한 정보를 빠르게 검색함으로써, 전체적인 시스템 응답 시간을 단축시킴. 
• 최적화 : 효과적인 검색 과정을 통해 필요한 정보만을 추출함으로써 시스템 자원의 사용을 최적화하고, 불필요한 데이터 처리를 줄일 수 있음

동작 방식

• 질문의 벡터화
  - 사용자의 질문을 벡터 형태로 변환.
  - 이 과정은 임베딩 단계와 유사한 기술을 사용하여 진행됨. 
  - 변환된 질문 벡터는 후속 검색 작업의 기준점으로 사용됨.
• 벡터 유사성 비교 
  - 저장된 문서 벡터들과 질문 벡터 사이의 유사성 계산
  - 이는 주로 코사인 유사성, Max Marginal Relevance(MMR) 등의 수학적 방법을 사용하여 수행됨
• 상위 문서 선정
  - 계산된 유사성 점수를 기준으로 상위 N개의 가장 관련성 높은 문서를 선정함.
  - 이 문서들은 다음 단계에서 사용자의 질문에 대한 답변을 생성하는 데 사용됨
• 문서 정보 반환 
  - 선정된 문서들의 정보를 다음 단계(프롬프트 생성)로 전달함.
  - 이 정보에는 문서의 내용, 위치, 메타데이터 등이 포함될 수 있음

검색기의 중요성

검색기는 RAG 시스템에서 정보 검색의 질을 결정하는 핵심적인 역할을 함. 효율적인 검색기 없이는 대규모 데이터베이스에서 관련 정보를 신속하고 정확하게 찾아내는 것이 매우 어려움. 또한, 검색기는 사용자 질문에 대한 적절한 Context를 제공하여, 언어 모델이 보다 정확한 답변을 생성할 수 있도록 도움. 따라서 검색의 성능은 RAG 시스템의 전반벅인 효율성과 사용자 만족도에 직접적인 영향을 미침.

 

 

커리어 성장을 위한 최고의 실무교육 아카데미 | 패스트캠퍼스