패스트캠퍼스 환급챌린지 4일차 : 테디노트의 RAG 비법노트 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

 

Ch 3. LangChain 시작하기

 

03. LangChain 시작(OpenAI 모델 알아보기)

• OpenAI란?
  API 개발을 자동화해주는 인공지능. 
  
  
• ChatGPT
  OpenAI 사의 채팅 전용 LLM(Large Language Model)
  - temperature
    사용할 샘플링온도는 0과 2 사이에서 선택. 0.8과 같이 높은 값은 출력을 더 무작위하게 만들고, 0.2와 같은 낮은 값은 출력을 더 집중되고 결정론적으로 만듦.
     → 0에 가까울수록 창의성이 없음.(문서 기반의 답변 요청 시 temperature를 0으로 설정.)
     → 광고 문구 또는 마케팅 문구 생성 시, 창의성이 필요하므로 0.8~1 과 같이 높은 값으로 설
  - max_tokens
   채팅 완성에서 생성할 토큰의 최대 개수를 의미 
  * gpt-4o 나 gpt-4-turbo 모델은 이미지 인식 기능이 추가된 모델
  
  
• LogProb 활성화란?
  주어진 텍스트에 대한 모델의 토큰 확률의 값을 의미.
  - 토큰이란? 
   문장을 구성하는 개별 단어나 문자 등의 요소를 의미하고, 확률은 모델이 그 토큰을 예측할 확률을 의미
  
  
• 스트리밍 출력
   스트리밍 옵션은 질의에 대한 답변을 실시간으로 받을 때 유용함
  
  
• 멀티모달 모델(이미지 인식)
  멀티모달은 여러 가지 형태의 정보를 통합해서 처리하는 기술이나 접근 방식을 의미.
  - 텍스트 : 문서, 책, 웹 페이지 등 글자로 된 정보
  - 이미지 : 사진, 그래픽, 그림 등 시각적 정보
  - 오디오 : 음악, 음성 소리 효과 등의 청각적 정보
  - 비디오 : 실시간 스트리밍, 동영상 등 시각적 및 청각적 정보의 결합  

---

 

gpt는 항상 질문할때만 사용해왔는데, 직접 API를 사용해서 어떤 시스템을 만들 생각을 하니 좀 신나는걸요!!! 처음 입문하는 저도 알아들을 수 있도록 하나씩 차근차근 설명해주시는 테디쌤한테 그저 무한 감동... RAG를 배워서 어떻게 써먹을지, 어떤 목표를 세울지에 대해 생각을 좀 해봤어요. 요즘 사회에서 필요한게 무엇일지, 내가 생활하면서 필요성을 느꼈던게 뭐였을지 골똘히 생각해봤는데, 두 가지로 추려지더라고요. 다른 분들은 어떤 목표를 향해 RAG를 배우고 계신걸까 궁금하네요!! 이건 Discord에서 이야기 나눠봐야겠네요. 아직까진 입문단계라 필기할 내용이 많지는 않네요. 속도좀 올려봐야겠어요.

 

 

 

커리어 성장을 위한 최고의 실무교육 아카데미 | 패스트캠퍼스