Cohere revelou seu mais recente modelo de linguagem grande (LLM), Command R+, que foi projetado para aprimorar fluxos de trabalho e aplicativos empresariais.

A empresa disse que o novo modelo é o LLM mais avançado e escalonável até agora. Com base nas bases do modelo anterior do Command R, o Command R+ aumenta o desempenho para várias tarefas empresariais, incluindo categorização de dados e automação de fluxo de trabalho, disse a empresa.

Embora a Cohere tenha dito em março que iria treinar e implantar seus modelos no Oracle Cloud Infrastructure (OCI) sob sua parceria com a Oracle, ela optou por disponibilizar o Command R+ primeiro no Microsoft Azure. O software está previsto para ser lançado na OCI em breve, com planos de expansão para mais plataformas em nuvem nas próximas semanas, disse o porta-voz da Cohere, Kyle Lastovica. Já está disponível através da API hospedada do próprio Cohere.

O Command R+ permite que as empresas integrem seus dados proprietários, suportando aplicativos personalizados com maior precisão por meio da geração aumentada de recuperação (RAG), que utiliza bancos de dados externos para obter respostas mais precisas e minimizar erros.

“O RAG permite que as empresas deixem o modelo pesquisar bancos de dados privados e usar essas informações para formar respostas mais precisas e úteis”, disse Lastovica. “Exclusivo para nossa família de modelos Command R, os resultados do modelo vêm com citações claras e permitem trazer à tona contexto adicional a partir dos materiais de origem que mitigam a alucinação.”

Como seu antecessor, o Command R+ possui uma janela de contexto de 128.000 tokens para processar documentos grandes e funciona em dez idiomas, incluindo inglês, espanhol e chinês.

O CEO Aidan Gomez também falou sobre os recursos de automação de fluxo de trabalho do modelo em uma postagem no blog sobre o lançamento do Command R+. Ele pode ser aplicado a fluxos de trabalho de negócios, desde o gerenciamento de relacionamento com o cliente até a conclusão de pedidos, combinando várias ferramentas em várias etapas por meio do uso de APIs e LangChain e tentando novamente em caso de falha da ferramenta.

Preço premium

Os novos recursos têm um preço substancial em relação ao modelo anterior. Cohere está cobrando seis vezes mais por token de entrada e 10 vezes mais por token de saída para acesso à API ao Command R+ em comparação ao Command R+. O Command R+ custa US$ 3 por milhão de tokens de entrada ou US$ 15 por milhão de tokens de saída.

O novo modelo faz parte de um mercado em expansão para software empresarial de IA. De acordo com a IDC, uma empresa de pesquisa e consultoria tecnológica, prevê-se que o investimento empresarial em serviços, software e infra-estruturas generativas de IA aumente de 16 mil milhões de dólares este ano para 143 mil milhões de dólares até 2027.

Ao longo deste período de quatro anos, prevê-se que os gastos com IA generativa cresçam a uma taxa composta de crescimento anual (CAGR) de 73,3%. A IDC observou que esta taxa é mais do dobro da taxa de crescimento dos investimentos globais em IA e quase 13 vezes a CAGR dos gastos globais com TI durante o mesmo período.