O Data Lakehouse Provider Databricks está introduzindo quatro novas atualizações em seu portfólio para ajudar as empresas a ter mais controle sobre o desenvolvimento de seus agentes e outros aplicativos generativos baseados em IA.
Um dos novos recursos lançados como parte das atualizações é a governança centralizada, que foi projetada para ajudar a governar grandes modelos de idiomas, tanto os de código aberto quanto fechado, dentro do Gateway de AI em mosaico. O recurso está atualmente em visualização pública.
“Nossa pesquisa mostra que a governança é uma das principais preocupações que as empresas têm sobre suas iniciativas de IA, pois é complicado pelo fato de que existem vários componentes no processo”, disse David Menninger, diretor executivo da empresa consultiva ISG.
A capacidade de governança centralizada, de acordo com o diretor de tecnologia e experiência da empresa West Monroe, Doug MacWilliams, é um “grande simplificador”.
“Ele garante segurança consistente, controles de acesso e conformidade, além de reduzir custos, eliminando duplicatas e simplificando as taxas de licenciamento. Além disso, facilita o monitoramento e a fixação de problemas como deriva ou preconceito ”, explicou MacWilliams.
“Tudo isso também deve simplificar o processo de aprovação para equipes legais, de conformidade e de segurança, permitindo que elas revisem e aprovem os modelos através de uma única interface”, acrescentou MacWilliams.
Consulta SQL única para executar a inferência em lote
Para ajudar as empresas a executar uma consulta de IA sem a necessidade de configurar a infraestrutura, o Databricks está adicionando um novo recurso chamado inferência em lote sem provision.
A nova habilidade, que está em pré -visualização pública, é uma nova maneira de executar uma inferência em lote via Mosaic IA com uma única consulta e as empresas SQL pagam pela infraestrutura que eles usam, disse o provedor de Lakehouse.
“A inferência de lote sem provisão é um grande passo à frente para a implantação de IA, pois facilita a escala da IA e economiza custos usando apenas recursos quando necessário”, disse MacWilliams.
O Menninger da ISG vê a nova habilidade como uma funcionalidade sem servidor que elimina a necessidade de configurar as coisas com antecedência.
“Sem essa capacidade, os desenvolvedores precisam fazer um trabalho extra – eles precisam provisionar ou configurar alguns recursos para processar as solicitações de inferência”, explicou Menninger.
Além disso, a MacWilliams acredita que a interface baseada em SQL torna a inferência em lote acessível aos analistas de dados que não têm experiência em MLOPs.
“Isso abre novas possibilidades, como processar milhões de ingressos para suporte ao cliente durante a noite para identificar tendências, enriquecer dados do catálogo de produtos com descrições geradas pela IA, executando verificações regulares de conformidade e pontuando bancos de dados de clientes para produzir risco semanalmente-tudo sem a necessidade de infraestrutura especial”, explicou MacWilliams.
A Databricks também atualizou seu aplicativo de revisão de avaliação de agentes lançados anteriormente que agora permite que os especialistas em domínio forneçam avaliações, enviem rastreios para rotulagem e definam critérios de avaliação personalizados-sem a necessidade de planilhas ou aplicativos personalizados.
“Ao facilitar a coleta de feedback estruturado, as equipes (corporativas) podem refinar continuamente o desempenho do agente de IA e impulsionar as melhorias sistemáticas de precisão”, explicou a empresa.
Em dezembro, os Databricks haviam atualizado seu módulo de avaliação de agentes de IA em mosaico com uma nova API de geração de dados sintéticos que deveria ajudar as empresas a avaliar agentes mais rapidamente.
API Genie para estender a análise de dados a aplicativos personalizados e de produtividade
Como parte da atualização, o provedor de casas de dados de dados introduziu a API da API API da AI/BI Genie em pré -visualização pública que deve ajudar os desenvolvedores incorporados
Chatbots naturais baseados em linguagem diretamente em aplicativos ou ferramentas de produtividade personalizadas, como equipes da Microsoft, SharePoint e Slack.
A Genie é uma ferramenta sem código com uma interface que permite aos usuários analisar dados, fazendo perguntas sobre isso em linguagem natural. A ferramenta é capaz de produzir visualizações para explicar os dados.
“Com a API da Genie, os usuários podem enviar programaticamente instruções e receber informações, assim como na interface do usuário da Genie. A API está com estado, permitindo que ele mantenha o contexto em várias perguntas de acompanhamento em um tópico de conversa ”, escreveu a empresa em uma postagem no blog.
A API, de acordo com o vice -presidente de pesquisa da IDC, Arnal Dayaratna, não apenas aumenta a extensibilidade dos assistentes de conversação que alavancam os dados do banco de dados, mas também preenche a lacuna entre a disponibilidade e a acessibilidade dos dados, permitindo assim uma derivação mais rápida dos insights acionáveis.
Outra vantagem da API é que ela democratiza o acesso de dados, permitindo que os usuários de negócios interajam com os dados usando linguagem natural, eliminando barreiras técnicas como a experiência do SQL.
Como alternativa, para os desenvolvedores, a API reduz o trabalho, oferecendo recursos de conversação pré-criados, para que possam se concentrar em outras tarefas importantes, em vez de construir essas interfaces a partir do zero, disse o MacWilliams de West Monroe.
Comparando a API Genie com a API do Salesforce Agentforce recentemente lançada, a MacWilliams disse que a versão dos Databricks está mais integrada com suas ferramentas Data Lake e BI, tornando a análise um pouco mais de conversação versus a abordagem Salesforce da criação de agentes independentes.
Essa abordagem, de acordo com as idéias da Moor e o analista principal da estratégia Jason Andersen, é muito semelhante à abordagem da AWS com a Amazon Bedrock.
Estratégia dos Databricks e cenário Agentic
Os analistas também visualizam as atualizações como estratégia da Databricks para se aproximar dos usuários corporativos e aumentar a viscosidade de suas ofertas.
“Ao unificar o pipeline de dados-ai, o Databricks está criando uma plataforma que lida com tudo, desde dados brutos a IA operacional, cortando a necessidade de outros produtos”, disse o MacWilliams de West Monroe, acrescentando que essa estratégia torna sua plataforma mais pegajosa, reduzindo a rotatividade de clientes e aumentando a expansão da base de usuários.
No espaço agêntico, o Menninger da ISG acredita que o Databricks tem uma vantagem sobre os outros, pois a abordagem é mais técnica, “permitindo a criação de agentes mais complexos potencialmente automatizando atividades” em qualquer domínio com dados.
Mas Menninger acredita que essa vantagem tem às custas de quem pode criar esses agentes – menos provável de serem usuários de negócios.
“Todos os fornecedores estão tentando ganhar vantagem nas guerras do agente. No entanto, muito do que está acontecendo hoje é apenas “lavar o agente” – chamando os agentes do Chatbots. A verdadeira capacidade agêntica ainda é complicada e técnica. Requer programação ”, disse Menninger. “Salesforce e ServiceNow parecem estar muito focados nas capacidades de conversação, facilitando a criação de agentes, mas talvez às custas de que tipos de tarefas os agentes possam realizar”, explicou Menninger.
