패스트캠퍼스 환급챌린지 11일차 : 테디노트의 RAG 비법노트 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

04. MessagePlaceHolder

채팅 모델(Chat Model)과의 상호작용을 위한 메시지 시퀀스 내에서 특정한 역할을 수행하는 메시지 객체를 의미.

→ 메시지 프롬프트 템플릿에 어떤 역할을 사용해야 할지 확실하지 않거나 서식 지정 중에 메시지 목록을 삽입하려는 경우 유용. 즉, 아직 확정되지 않은 메시지나 대화를 나중에 넣어주기 위해서 위치만 잡아줄 때 사용.

 

05. 퓨샷프롬프트(FewShotPromptTemplate)

• OneShot
  하나의 답변 예시를 보여줌
• FewShot
  두 개 이상의 답변 예시를 보여줌

ex) 갓 입사한 신입사원에게 기획안을 작성하라고 일을 시키는 경우, 

하나하나 지시하며 작성을 요청하는 것 보다 작성했던 파일을 제시하고 따라서 작성하도록 하는게 더 효율적. 

즉, 하나의 예시를 보여주면 → OneShot

     과거에 했던 여러 이력들을 같이 보여주면 → FewShot 

 

논리적으로 답변하는 과정들을 answer 안에 답변 형식으로 보여줌.

한 번에 GPT가 답변하기 어려운 내용들을 논리적인 추론 과정을 보여주고, 이를 토대로 답변하도록 만들면 더욱 고퀄리티의 답변을 얻을 수 있음.

추론해서 답변하는 기법을 적용하면 hallucination 현상도 많이 줄일 수 있고, 정확한 답변을 얻는 데 도움이됨.

 

06. 예제 선택기(Example Selector)

예제가 많은 경우 프롬프트에 포함할 예제를 선택해야 할 때, 이 작업을 담당하는 클래스

 

SemanticSimilarityExampleSelector : 질문과 유사도 계산을 해서 유사도가 높은 예제를 선택해줌

Embedding : 문장 대 문장의 유사성을 판단할 때는 수학적인 계산이 들어가야 하는데, 문장은 수치가 아니기 때문에 수학적 계산 불가. 문장들을 수학적으로 바꿔 표현해야함. 즉, 문장 대 문장의 유사성을 계산하기 위해서 embedding을 함. 

Chroma : VectorDB. 문장들을 VectorDB에 저장해 뒀다가, 질문이 들어오면 저장된 문장들 중 유사도 계산. 

 

∴FewShot 예제를 사용하고 싶지만, 비용 걱정이 될 때는 ExampleSelector를 사용하는 것이 좋음. ExampleSelector는 비용 문제 때문에 select 하는 것은 아니고, 질문과 관련된 답변 형식이 좀 다양하게 있음. 예를 들면, 회의록을 작성할 때의 답변 형식과 기획안을 작성할 때의 답변 형식과 블로그를 작성할 때의 답변 형식이 다른 것처럼 Example 예제에 회의록 작성할 때의 답변 예시, 기획안 작성할 때의 답변 예시, 블로그 작성할 때의 답변 예시들을 넣어주고, 여기에 요구사항이 들어오면 유사도 검색을 해서 가장 유사도가 높은 것으로 해당 양식을 참고해서 답변 할 수 있도록 구성. 

---

프롬프트 하나하나 쓸 때 마다 다 돈인데, 프롬프트를 좀 더 효율적으로 사용할 수 있는 방법을 학습했습니다. 알아둬야할 것들이 많아서 좀 복잡하지만, 분명 좋은 결과가 따를 것이라 믿고 열심히 하고 있습니다. 이 내용들을 배우면서, 어떻게 하면 LLM을 더 잘 활용할 수 있을지 알아가는 것 같아서 일석이조의 느낌이랄까요!?

커리어 성장을 위한 최고의 실무교육 아카데미 | 패스트캠퍼스