패스트캠퍼스 환급챌린지 5일차 : 테디노트의 RAG 비법노트 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

Ch4. LangChain 문법 맛보기

 

01. ChatOpenAI 주요 파라미터, invoke(), stream() 스트리밍 출력

 

from langchain_openai import ChatOpenAI

# 객체 생성
llm = ChatOpenAI(
    temperature=0.1,  # 창의성 (0.0 ~ 2.0)
    model_name="gpt-4o",  # 모델명
)

# 질의내용
question = "대한민국의 수도는 어디인가요?"

# 질의
print(f"[답변]: {llm.invoke(question)}")

 

invoke()

: question을 LLM에 넣을 때 사용하는 함수

→ 괄호 안에 질문을 넣으면 답을 얻을 수 있음.

•  AIMessage 로 감싸진 '객체'로 답을 얻을 수 있는데, 여기서 객체란?
  Python에서 객체(Object)란 데이터(속성)와 그 데이터를 조작하는 기능을 하나로 묶어 놓은 소프트웨어 단위를 의미. 현실 세계의 사물을 모델링하여 코드에 반영한 것이라고 이해하면 됨.
  AIMessage 객체는 AI 모델의 응답이라는 특정 데이터를 담고, 그 데이터를 다루는 기능을 수행하는 "AI모델 응답"이라는 하나의 소프트웨어 사물을 의미함. 
• 부가 정보 없이 깔끔한 답만 얻고 싶다면, 다음과 같이 response.content를 입력해서 content의 키값으로 접근하면 됨. 

 

LogProb 활성화

• LogProb
  - 각 토큰을 GPT가 예측해서 주는데, 예측할 때 각 토큰별로 확률값들이 어떻게 정해지는지 알고 싶을 때 LogProb 활성화.
  - LogProb는 자연로그로 토큰 확률값을 확률변환 한 것인데, 0에 가까운 숫자일수록 높은확률. 마이너스(-) 값일수록 확률이 낮은 것을 의미. 

---

처음 듣는 용어도 많고, 종종 예상치 못한 오류가 생겨서 쉽지만은 않네요..오늘 자격증 시험이 끝났으니, 랭체인에 완전 집중해보려 합니다!!

... 는 내일부터. 초반에 환경설정 한 것부터 다시 차근차근 봐야겠어요. 중간에 오류가 있었어서 설치가 제대로 안된 부분이 있는 것 같네요. 체계적으로 다시 해보겠습니다!!

커리어 성장을 위한 최고의 실무교육 아카데미 | 패스트캠퍼스