“Por exemplo, você pode ter um desenvolvedor de jogos usando um LLM para gerar descrições de personagens de jogos ou parâmetros na hora. Para que isso funcione, o LLM simplesmente ‘deve’ gerar essas informações de forma confiável em formato JSON válido. No momento, os desenvolvedores precisam confiar em ferramentas de terceiros como Pydantic, Zod, LangChain, etc. para fazer coisas como executar iterativamente o mesmo prompt até que a inferência retorne dados que sejam utilizáveis, o que não é uma ótima solução”, disse Shimmin.
O que os desenvolvedores querem é tanto uma chamada de função no modelo, onde a sintaxe do modelo incorpora essa funcionalidade, quanto um modelo que saiba como trabalhar com APIs e linguagens de formatação como JSON corretamente, explicou o analista, citando o exemplo do modelo NuExtract baseado em Phi.
Por que a Salesforce está disponibilizando esses produtos como ‘código aberto’?
Analistas acreditam que a Salesforce está lançando esses produtos como “código aberto” para ganhar participação de mercado para recursos como ações do Agentic.
“Ao disponibilizar esta ferramenta para desenvolvedores e pesquisadores, a Salesforce visa acelerar o desenvolvimento e o refinamento de modelos de chamada de função, potencialmente levando a aplicações de IA mais robustas e confiáveis”, disse Hinchcliffe, acrescentando que o código aberto do APIGen também pode levar a soluções de IA mais especializadas e eficientes, que são mais bem adaptadas às necessidades exclusivas de vários setores, aprimorando as operações comerciais e as experiências do cliente.