A Databricks está se preparando para oferecer mais suporte às empresas que criam aplicativos generativos de IA, com a adição de novos recursos de Mosaic AI, disse quarta-feira.
Os novos recursos, apresentados no Data + AI Summit em andamento do provedor de data lakehouse, buscam simplificar o treinamento e o gerenciamento de aplicativos generativos de IA. Eles se juntam a um conjunto de outros construídos com base na aquisição do modelo de linguagem grande (LLM) e do fornecedor de software de treinamento de modelos MosaicML por US$ 1,3 bilhão há um ano.
Mosaic AI Agent Framework para acelerar o desenvolvimento de aplicativos de geração de IA
Em primeiro lugar, o Mosaic AI Agent Framework, agora em versão prévia pública, tem como objetivo acelerar o desenvolvimento de aplicações generativas de IA sustentadas pela geração aumentada de recuperação (RAG), uma técnica útil para fundamentar modelos fundamentais em dados corporativos.
Embora os usuários do Databricks tenham conseguido construir RAG em cima de sua plataforma por algum tempo usando meios alternativos, o Mosaic AI Agent Framework pode ser visto como a empresa que operacionaliza e produz essa faceta da IA generativa, disseram analistas.
“O AI Agent Framework torna mais fácil para as empresas começarem a trabalhar com pipelines RAG sem ter que implementar seus próprios modelos de incorporação, incorporar algoritmos e criar seu próprio armazenamento de vetores”, disse Bradley Shimmin, analista-chefe da Omdia.
Além disso, o analista disse que a decisão da Databricks de visualizar o AI Agent Framework está alinhada com a tendência do mercado de todos os fabricantes de modelos que pressionam para construir seus recursos proprietários de modelos de incorporação.
“No início, o modelo de incorporação da OpenAI realmente se tornou a norma, mas à medida que aprendemos, os modelos de incorporação são tão importantes, se não mais, do que LLMs generativos em termos de garantir que o significado contextual das informações corporativas seja apresentado de forma mais eficaz a um LLM por um uma série de casos de uso”, explicou Shimmin.
Em novembro, a rival Snowflake adicionou recursos semelhantes à sua oferta Cortex.
Juntamente com o Agent AI Framework, o Databricks também adicionou a ferramenta AI Agent Evaluation, que também está em versão prévia pública.
A ferramenta, segundo a empresa, usa IA para verificar se os resultados de uma aplicação baseada em RAG são de alta qualidade e fornece uma interface para permitir feedback das partes interessadas humanas.
Na fase de experimentação e pesquisa, a empresa nomeou esse recurso como Mosaic AI Quality Lab.
Mosaic AI Gateway para ajudar a governar aplicativos e modelos
Outra adição, o Mosaic AI Gateway, visa ajudar as empresas a gerenciar seus LLMs e aplicativos generativos baseados em IA. Ele fornece uma interface unificada para consultar, gerenciar e implantar qualquer modelo de código aberto ou proprietário, disse Databricks, acrescentando que isso permite que as empresas mudem o LLM que alimenta seus aplicativos sem a necessidade de fazer alterações complicadas no código do aplicativo. Suas proteções também permitem que as empresas rastreiem quem está ligando para o modelo, estabeleçam limites de taxas para controlar gastos e filtrem informações de segurança e de identificação pessoal (PII).
O novo recurso, de acordo com Shimmin da Omdia, baseia-se na API ML Gateway da empresa lançada no ano passado.
“O objetivo principal é ajudar os clientes a simplificar a forma como os desenvolvedores escrevem código para LLMs, criando uma camada de abstração de consistência para melhor alternar entre vários ativos de IA, como modelos, fontes de dados, etc.” Shimin disse.
A interface do AI Gateway também atende a “uma necessidade crucial” para as empresas monitorarem e controlarem o uso do modelo e, ao mesmo tempo, garantirem a conformidade, de acordo com Steven Dickens, líder de prática de nuvem híbrida do The Futurum Group.
A empresa também está introduzindo um conjunto de ferramentas para executar LLMs e operá-los, sob o comando do Mosaic AI Tools Catalog. Ao contrário das outras adições, esta está em visualização privada.
Esses novos recursos manterão o Databricks à frente do Snowflake?
Espera-se que os novos recursos e ferramentas adicionados ao Databricks solidifiquem sua posição no mercado, disseram analistas, acrescentando que a empresa ainda está atrasada em algumas áreas, especialmente quando comparada com Snowflake.
Doug Henschen, analista principal da Constellation Research, disse: “Databricks é líder nas áreas de IA e IA generativa, mas ainda tem muito a provar em armazenamento de dados e está atrás do Snowflake no mercado de dados e aplicativos de dados”.
“Snowflake tem uma plataforma forte e oferece relativamente mais facilidade de uso, tem mais receita, melhores oportunidades de parceria de plataforma e, como resultado, o que parece ser uma oportunidade de mercado endereçável maior”, explicou Henschen.
Explicando mais sobre a rivalidade entre Snowflake e Databricks, o analista-chefe da dbInsights, Tony Baer, disse que ambas as empresas estão abordando a IA a partir de pontos de partida diferentes e ambas buscando chegar ao mesmo lugar.
Databricks sempre foi a plataforma para engenheiros e cientistas de dados e, portanto, se diferenciou com seu foco em profissionais mais técnicos desde os tempos do MLFlow, explicou o analista, acrescentando que o Snowflake, por outro lado, veio do mercado tradicional de armazenamento de dados e voltado para analistas de negócios.
“Ambos visam os círculos eleitorais um do outro. E assim você pode ver isso nos últimos anúncios, onde o Databricks introduziu ferramentas para trabalhar com agentes de IA, enquanto o Snowflake Cortex irá, em essência, enterrar as complexidades do RAG sob o capô”, disse Baer.
Separadamente, Hyoun Park, analista-chefe da Amalgam Insights, apontou que a Databricks começou a marcar a maioria de seus recursos generativos relacionados à IA com a marca Mosaic.
“Este poderia ser um esforço da Databricks para aumentar o valor da receita associada ao MosaicML, ajudando, por sua vez, a justificar a aquisição de US$ 1,3 bilhão”, disse Park.
