묵사발의 이것저것

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다. (https://abit.ly/lisbva)학습 인증샷공부시작공부종료수강인증학습인증학습 후기Example Selector필요한 이유?저번 시간에 FewShotPromptTemplate를 사용해서 LLM에게 답변으로 받고싶은 예제들을 여러 개 주고, 새로운 답변을 그에 맞추어서 답하게 하는 방법을 배웠다. 그런데 이런 방식으로는 매 쿼리마다 여러 예제들이 LLM에 입력으로 투입되고 과금되는 문제가 있다. 그런데 우리가 보통 FewShotPromptTemplate에 주는 예제들은 꽤 양이 방대한 경우가 많기 때문에 이런식으로 쓰는건 현실적으로 문제가 있다.저번 시간에 만들어본 쿼리의 사용량을 추적해보니 다음과 같이 나왔다.무려 입력 토큰으로만..

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다. https://abit.ly/lisbva학습 인증샷공부시작 공부종료수강인증학습인증학습 후기오늘은 FewShotPromptTemplate에 대해 공부했다.FewShotPromptLLM에게 내가 원하는 어떤 질문과 답변의 예시를 보여주고, 새로운 질의가 들어왔을 때 보여준 예시처럼 답변하게끔 만들 수 있다.이때 사용하는게 OneShot 또는 FewShot 프롬프팅이라고 한다.FewShotPromptTemplate은 Runnable Interface의 구현체라고 한다. Runnable에 대해 살펴보니, Langchain에서 invoked 될 수 있는 실행의 단위인거같다. 아무튼, 이 FewShotPromptTemplate 클래스에 대해 살펴보..

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다. (https://abit.ly/lisbva)학습 인증샷공부시작공부종료수강인증학습인증학습 후기오늘은 PromptTemplate중 ChatPromptTemplate에 대한 클립으로 공부를 시작했다.ChatPromptTemplate이 템플릿 형식은 "대화형"의 챗, 주고 받는 대화의 경우 사용하기 좋다고 한다. Messages요 ChatPromptTemplate를 구성하는 메시지는 ('role', 'message')의 형식으로 이뤄진다. 즉 메시지의 발신자가 누구인지에 대한 정보가 추가된다. 이 메세지의 리스트가 템플릿에 들어간다. 이 메세지를 format_messages 메서드를 쓰면 메시지의 리스트가 프롬프트로 포매팅 되게 된다.RoleCh..

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다. (https://abit.ly/lisbva)학습 인증샷공부 시작공부 종료클립 수강 인증학습 인증 학습 후기Langchain 입문 부분 Part 1은 환경 세팅과 개괄적 설명이어서 챌린지 시작 전에 미리 들었고, Part 2부터 강의 수강하면서 챌린지 참여를 시작했다.Part2의 시작은 PromptTemplate에 대한 설명으로 시작.Prompt TemplateLLM 모델에 들어가는 체인의 구성요소 중에 프롬프트를 완성시켜주는 템플릿이다. 말 그대로.사용자가 매 번 전체 프롬프트를 완성하기를 기대하기 어렵고, LLM을 통해 서비스를 개발하는 입장에서는 내가 원하는 프롬프트를 미리 프로그래밍해놓고 사용자 단에서 들어가는 변수를 제한시키거나 컨..