↓ Ir para o conteúdo principal
Fellipe Gomes
Fellipe Gomes

Llama-Cpp

LLM local com Qwen e LangChain: agente sem APIs externas

··11 minutos
Inteligência Artificial Programação E Ferramentas Fundamentos De Data Science Llm Langchain Llama-Cpp Gguf Qwen Agent-Ai Python Apple-Silicon Open-Source Langchain-Series
Série: LangChain — Agentes com Python — ver índice Análise de Sentimentos com Llama2 Detecção de Linguagem Tóxica com Gemma Equipe Multiagente para Bitcoin Agente para Ligações de Telemarketing → LLM Local com Qwen sem APIs Por que rodar LLMs localmente? Nos últimos anos, o mundo dos modelos de linguagem de grande porte (LLMs) deixou de ser um território exclusivo das gigantes americanas. Uma leva de modelos open-weight de origem chinesa como o Qwen (Alibaba), o DeepSeek e o Yi chegaram com qualidade surpreendente e, mais importante, com pesos disponíveis publicamente. Li sobre alguns deles em um post que apareceu no meu LinkedIn e fiquei curioso para testar: será que dá para rodar um desses modelos localmente no meu Mac e ainda plugar ele num agente LangChain funcional?