패스트캠퍼스 환급챌린지 6일차 : 테디노트의 RAG 비법노트 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

 

02. LangSmith로 GPT 추론내용 추적

• LangSmith 추적 하고 싶을 때

# 프로젝트 이름을 입력합니다.
logging.langsmith("CH01-Basic")

 

• LangSmith 추적 하고 싶지 않을 때

# 프로젝트 이름을 입력합니다.
logging.langsmith("CH01-Basic", set_enable=False)

 

03. GPT-4o (멀티모달) 모델로 이미지 인식하여 답변 출력

• System, User 프롬프트 수
  - System_prompt : 어떤 역할인지와 임무까지 지정
  - user_prompt : 구체적으로 원하는 내용을 줄글로 자세히 작성

04. 프롬프트 템플릿

• 프롬프트란?
  - LLM에 질문할 때, 이 '질문'에 해당하는 것을 프롬프트라고 함.
  - 지시사항과 그 지시사항 내에 세부 내용이 담겨있음
• 프롬프트 템플릿
  - 사용자의 입력 변수를 사용하여 완전한 프롬프트 문자열을 만드는 데 사용되는 템플릿
  * {변수} : 사용자가 입력할 때 처음부터 끝까지 내용을 다 입력할 필요 없이, 원하는 부분만 치환해서 넣을 수 있음
          → 입력 변수가 사용자의 질문이 되는 경우가 많음. 
  ※ 프롬프트에 정의한 변수가 있으면, 꼭 채워줘함. 

# template 정의
template = "{country}의 수도는 어디인가요?"

# from_template 메소드를 이용하여 PromptTemplate 객체 생성
prompt_template = PromptTemplate.from_template(template)
prompt_template

# prompt 생성
prompt = prompt_template.format(country="대한민국")
prompt

→ 위 템플릿 내용의 변수인 country 값만 넣어주는 코드 작성

 

05. LCEL 로 Chain 생성

Chain 생성

• Prompt → LLM
  - 프롬프트의 출력값이 LLM으로 전달되도록 구성
  → 하나의 파이프라인을 조립하는 과정인데, 여기서 파이프라인 자체를 LangChain에서 Chain 이라고 함.
• LCEL(LangChain Expression Language)
  chain = prompt | model | output_parser    단계들을 차례로 엮어서 하나의 파이프라인으로 묶어준 결과물을 Chain이라함.
  → 파이프에 넣어주는 순서는 차례대로.
      chain = prompt | model    :   prompt를 작성하고 그 다음에 모델에 전달(즉, 둘 사이에 파이프로 연결만 해주면 됨)
• invoke() 호출
  답변이 토큰으로 하나씩 찍히는게 아니라, 답변이 다 완성될 때까지 기다렸다가 한번에 출력됨

---

VS Code 로 실행할때 왜이렇게 오류가 많이 날까요? 분명 방금 전에는 제대로 실행되어 원하는 답을 얻었는데, 다른 파트로 넘어가면 오류났다가 다시 프로그램 껐다가 켜면 또 되네요. 제가 자꾸 뭔가를 빼먹는 건지, 설정에서 잘못된 부분이 있는건지 잘 모르겠어요. 계속 오류나고 안 되면 방법을 찾아보겠는데, VS Code 프로그램을 껐다가 켜면 또 되니까...뭘 어떻게 해야할지 모르겠네요. 그렇다고 싹 지웠다가 다시 설치할 생각 하면 너무 막막한거 아시나요? 

근데..강의 들을수록 GPT나 Gemini가 어떻게 답을 줬던건지 알게 되는 것 같아서 재밌어요! 꾸준히 해서 진도좀 나가면 제가 뭔가를 구현해낼 수 있겠죠? 마냥 쉬운 내용은 아닌 것 같지만, 기존에 LLM한테 도움 많이 받았던 경험 떠올리면서 획기적인 무언가를 만들어내고싶어요. 점점 의욕에 불이 붙으려하네요!!

패스트캠퍼스 환급챌린지 5일차 : 테디노트의 RAG 비법노트 강의 후기

커리어 성장을 위한 최고의 실무교육 아카데미 | 패스트캠퍼스