LangChain과 Weights & Biases 시작하기



목차

LangChain이란 무엇인가요?

구조화된 데이터 접근: 언어 모델은 실시간 데이터나 특정 데이터에 기반해 응답을 생성할 수 있습니다.
프로세스 체이닝: LangChain은 데이터 검색, 추론, 알고리즘 등 다양한 구성 요소의 출력을 결합하여 다단계 워크플로를 지원합니다.

LangChain이 특별한 이유는 무엇일까요?

실시간 데이터 통합: 모델은 구조화된 데이터와 상호작용하여 맥락에 맞는 결과를 제공합니다.
프로세스 체이닝: 여러 단계를 통합해 정교한 AI 솔루션을 구현하는 워크플로를 구축하세요.
맞춤형 템플릿: 사전 구축된 템플릿을 사용하면 특정 요구에 맞게 워크플로를 더 쉽게 맞출 수 있습니다.

LangChain 구성 요소

LangChain 라이브러리

데이터 기반 응답: 실시간 기상 데이터처럼 최신이거나 특정한 데이터에 기반해 응답을 생성해야 하는 애플리케이션(예: 실시간 데이터를 바탕으로 날씨 보고서를 생성하는 경우)에 적합합니다.
복잡한 쿼리 처리: 쿼리가 정보를 검색하고 처리한 뒤 언어 기반 출력을 생성하는 등 여러 단계의 연산을 필요로 하는 경우.

LangChain 템플릿

검색 증강 생성 챗봇: 다음으로, 귀하의 데이터에 맞춘 챗봇을 만드세요 OpenAI 그리고 PineconeVectorStore.
OpenAI Functions를 활용한 데이터 추출: OpenAI의 함수 호출 기능을 활용해 비정형 소스에서 구조화된 데이터를 추출하세요.
로컬 Retrieval-Augmented Generation: Ollama, GPT4All, Chroma와 같은 로컬 도구만 활용하여 데이터 특화 챗봇을 구축하세요.
OpenAI Functions 에이전트: OpenAI의 function calling과 Tavily를 활용해 동작을 실행할 수 있는 챗봇을 설계하세요.
XML 에이전트: Anthropic과 You.com을 활용해 실행 중심의 챗봇을 구축하세요.

표준화된 보고: 일관된 형식이 필요한 비즈니스 보고서, 연구 요약, 또는 뉴스 기사 작성 시.
교육 콘텐츠 제작: 퀴즈, 설명, 서술형 문제 등 교육 자료를 체계적으로 제작할 때.

LangServe

웹 애플리케이션: 전체 모델을 내장하지 않고도 웹 애플리케이션에 언어 모델 기능을 통합하려는 개발자용.
마이크로서비스 아키텍처: 서로 다른 서비스들이 언어 모델과 독립적으로 상호작용해야 하는 마이크로서비스 아키텍처에서.

LangSmith

도메인 특화 애플리케이션: 법률, 의료, 기술 등과 같이 언어 모델이 도메인 특화 콘텐츠를 이해하고 생성해야 하는 분야에서.
맞춤형 고객 서비스: 회사 브랜드 보이스를 반영하거나 특정 유형의 고객 문의를 처리하도록 챗봇과 가상 비서를 맞춤화할 때.

Weights & Biases 개요

실험 추적: 구성과 메트릭을 모니터링하세요.
시각화: 성능과 최적화에 대한 인사이트를 얻으세요.
디버깅: 워크플로에서 병목 현상이나 비효율을 쉽게 찾아내세요.

LangChain은 어떻게 작동하나요?

데이터를 벡터 인덱스에 저장하기



벡터화: 임베딩을 사용해 텍스트를 벡터 표현으로 변환하세요.
인덱싱: FAISS나 Pinecone 같은 데이터베이스를 사용해 유사도 검색을 효율적으로 수행하세요.

데이터 검색



질의 벡터화: 질의를 벡터로 변환하세요.
검색 수행하기 인덱스에서 가장 관련성 높은 데이터를 검색하세요.

체이닝



통합: 검색된 데이터를 언어 모델과 결합해 응답을 생성하세요.

LangChain과 Weights & Biases 시작하기

1단계: 필요한 라이브러리 설치

!pip install langchain wandb
!pip install openai
!pip install pinecone-client
!pip install langchain-openai
!pip install tiktoken
!pip install faiss-gpu
!pip install --upgrade openai

2단계: 필요한 라이브러리 임포트하기

from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain.chains import create_retrieval_chain
from langchain.prompts import ChatPromptTemplate
from langchain.schema import Document
from langchain.vectorstores import FAISS
from langchain.document_loaders import PyPDFLoader
import os

3단계: LangChain에서 Weights & Biases 로깅 활성화

os.environ["LANGCHAIN_WANDB_TRACING"] = "true"

# optionally set your wandb settings or configs
os.environ["WANDB_PROJECT"] = "langchain-tracing"

4단계: OpenAI 키를 설정하고 새로운 OpenAI 모델 초기화하기

# Set OpenAI API key
os.environ['OPENAI_API_KEY'] = "insert your OpenAI API key here"

# Initialize the language model
llm = ChatOpenAI()

5단계: LangChain 문서 데이터 로드하기

loader = PyPDFLoader("/kaggle/input/langchaindocumentationpdf/langChainDocumentation.pdf")
pages = loader.load_and_split()

6단계: 문서에서 FAISS 인덱스 생성하기

embeddings = OpenAIEmbeddings()
faiss_index = FAISS.from_documents(pages, embeddings)

7단계: 문서용 쿼리 만들기

# Create a query for the document
query = "What is LangChain?"
docs = faiss_index.similarity_search(query, k=1)

# Access the text of the top result
retrieved_doc = docs[0] if docs else None

8단계: 프롬프트 템플릿 설정하기

# Set up the enhanced prompt template
prompt_template = ChatPromptTemplate.from_template(
    "Based on the following information:\n\n{context}\n\n"
    "Can you answer this question: {input}?"
)

# Format the prompt with the actual context and the query
if retrieved_doc:
    formatted_prompt = prompt_template.format(context=retrieved_doc.page_content, input=query)

    # Invoke the language model with the formatted prompt
    response = llm.invoke(formatted_prompt)
    print("Response:\n", response)
else:
    print("No relevant document found.")

문서 파일이 비어 있는 경우 출력

제공된 정보에 따르면 “LangChain”에 대한 언급은 없습니다. “LangChain”이 해바라기 은하 또는 제시된 정보와는 관련 없는 다른 것을 가리킬 수도 있습니다. 더 많은 맥락을 제공하시거나 질문을 구체적으로 설명해 주시겠어요?

문서 파일에 실제 데이터가 포함된 경우 출력

content='LangChain은 언어 모델 기반 애플리케이션 개발을 돕는 프레임워크입니다. 애플리케이션이 컨텍스트를 인지하고, 제공된 컨텍스트를 바탕으로 추론할 수 있도록 해줍니다. LangChain은 여러 구성 요소로 이루어져 있으며, 다양한 컴포넌트에 대한 인터페이스와 통합을 제공하는 Python 및 JavaScript 라이브러리(LangChain Libraries), 미리 구성된 체인과 에이전트, 그리고 다양한 작업에 쉽게 배포할 수 있는 레퍼런스 아키텍처를 제공하는 LangChain Templates를 포함합니다. 또한 LangServe는 LangChain 체인을 REST API로 배포할 수 있게 하며, LangSmith는 어느 LLM 프레임워크로 구축된 체인이든 디버깅, 테스트, 평가, 모니터링을 수행할 수 있는 개발자 플랫폼으로서 LangChain과 매끄럽게 통합됩니다. 전반적으로 LangChain은 개발, 프로덕션 전환, 배포에 필요한 도구를 제공하여 애플리케이션 라이프사이클 전반을 단순화합니다.'

Weights & Biases로 LangChain 활동 추적하기



LangChain과 Weights & Biases 초보자 실전 팁

LangChain

성능 최적화를 위해 Pinecone, Chroma 같은 다양한 벡터 스토리지 솔루션을 시험해 보세요.
복잡한 체인으로 확장하기 전에 기본 워크플로부터 작게 시작하세요.

Weights & Biases

맞춤형 지표를 사용해 언어 모델을 더 효과적으로 평가하세요.
자세한 로그와 시각화를 통해 시간 경과에 따른 변화를 추적하세요.

결론

참고