Mozilla.ai, uma empresa apoiada pela Mozilla Foundation, lançou any-llm v1.0, uma biblioteca Python de código aberto que fornece uma interface única para comunicação com diferentes provedores de modelos de linguagem grande (LLM).
any-llm 1.0 foi lançado em 4 de novembro e está disponível no GitHub. Com o any-llm, os desenvolvedores podem usar qualquer modelo, na nuvem ou local, sem reescrever uma pilha todas as vezes. Isso significa menos código clichê, menos dores de cabeça de integração e mais flexibilidade para escolher o que funciona melhor para o desenvolvedor, escreveu Nathan Brake, engenheiro de aprendizado de máquina da Mozilla.ai, em uma postagem no blog. “Queríamos facilitar o uso dos desenvolvedores qualquer modelo de linguagem grande sem ficar preso a um único provedor”, escreveu Brake.
Mozilla.ai introduziu inicialmente o any-llm em 24 de julho. A versão 1.0 tem uma superfície de API estável e consistente, APIs assíncronas e conexões de cliente reutilizáveis para casos de uso de alto rendimento e streaming, escreveu Brake. Avisos claros de suspensão de uso e experimentais são fornecidos para evitar surpresas quando ocorrerem alterações na API.
