Syluh27
p
d76b078
raw
history blame
1.38 kB
from langchain.chains import RetrievalQA
from langchain.vectorstores import Chroma
from langchain.embeddings import HuggingFaceEmbeddings
from langchain.llms import ChatMistralAI
import chromadb
from huggingface_hub import hf_hub_download
import os
# Descargar los archivos de embeddings desde Hugging Face
embedding_path = hf_hub_download(repo_id="VictorCarr02/Conversational-Agent-LawsEC", filename="mis_embeddings")
chroma_path = hf_hub_download(repo_id="VictorCarr02/Conversational-Agent-LawsEC", filename="chroma/chroma.sqlite3")
# Cargar ChromaDB y los embeddings
chromadb_client = chromadb.PersistentClient(path=chroma_path)
collection = chromadb_client.get_or_create_collection(name="mis_embeddings")
embeddings = HuggingFaceEmbeddings(model_name="mistralai/MistralAIEmbeddings", path=embedding_path)
vector_store = Chroma(collection=collection, embedding_function=embeddings)
# Acceder a la clave API desde la variable de entorno
api_key = os.getenv("MISTRAL_API_KEY")
# Verifica si la clave fue obtenida correctamente
if api_key is None:
raise ValueError("La clave API MISTRAL_API_KEY no está configurada como variable de entorno.")
# Crear el modelo LLM con la clave API
llm = ChatMistralAI(api_key=api_key)
# Crear el agente RAG
rag_chain = RetrievalQA.from_chain_type(
llm=llm,
retriever=vector_store.as_retriever(),
chain_type="stuff"
)