A empresa de armazenamento de dados baseada em nuvem Snowflake está adquirindo ativos na forma de uma plataforma de observabilidade da TruEra, com sede em Redwood – uma startup especializada em fornecer recursos de gerenciamento de ciclo de vida para aprendizado de máquina e grandes modelos de linguagem (LLMs) – por uma quantia não revelada.
“A Snowflake está adquirindo a plataforma de observabilidade TruEra AI, que fornece recursos líderes para avaliar e monitorar aplicativos LLM e modelos de aprendizado de máquina em produção”, disse a empresa em um comunicado.
A plataforma de observação de IA da TruEra é uma oferta gerenciada que pode ser implantada como software como serviço (SaaS) ou SaaS híbrido por meio de nuvem privada virtual e nuvem pública.
TruEra também oferece uma oferta de autoatendimento, chamada TruLens, que provavelmente não fará parte do acordo Snowflake.
Algumas das principais ofertas da plataforma incluem explicabilidade de modelos, análise de qualidade de modelos, fluxos de trabalho de revisão e governança para modelos, comparações e seleção de modelos e monitoramento contínuo para relatar incidentes.
Essas ofertas, de acordo com Snowflake, ajudam a avaliar a qualidade das entradas, saídas e resultados intermediários de aplicações baseadas em LLM, incluindo alucinação, preconceito ou toxicidade.
“Isso agiliza a avaliação de experimentos para uma ampla variedade de casos de uso, incluindo resposta a perguntas, resumo, aplicativos baseados em geração aumentada de recuperação (aplicativos RAG) e aplicativos baseados em agentes”, explicou a empresa.
Além disso, a plataforma também possui recursos para fornecer insights detalhados e acionáveis para melhorar o desempenho e a precisão do modelo de aprendizado de máquina, revelando anomalias nas métricas do modelo e fornecendo uma análise de causa raiz específica para depuração rápida.
Embora a Snowflake afirme que a aquisição da Plataforma de Observabilidade irá adicionar funcionalidades de governança de IA existentes dentro de sua oferta AI Data Cloud, a mudança pode ser vista como um esforço da Snowflake para alinhar suas capacidades com empresas como Amazon Bedrock da AWS, Vertex AI do Google, e o serviço Azure AI da Microsoft – todos oferecendo avaliação LLM, gerenciamento do ciclo de vida e recursos de monitoramento.
A Snowflake começou a mudar seu foco para IA generativa no ano passado, com a empresa apresentando o Snowpark Container Services em junho, seguido pela prévia do Cortex em novembro.
O Snowpark Container Services, que se destinava a permitir que as empresas trouxessem cargas de trabalho mais diversas, incluindo LLMs, para a Data Cloud Platform, atua como um eixo, conectando dados corporativos armazenados no Snowflake com LLMs, interfaces de treinamento de modelo, estruturas de governança de modelo, terceiros aplicativos de aumento de dados, modelos de aprendizado de máquina, APIs e estrutura de aplicativos nativos do Snowflake.
Por outro lado, Cortex é um serviço totalmente gerenciado (sem servidor) dentro da nuvem de dados que fornece às empresas os blocos de construção para usar LLMs e IA sem exigir qualquer experiência no gerenciamento de infraestrutura complexa baseada em GPU.
No início deste ano, Snowflake apresentou uma prévia de seu modelo de linguagem grande (LLM) de código aberto, Arctic, para enfrentar nomes como Llama 3 da Meta, a família de modelos da Mistral, Grok-1 da xAI e DBRX da Databricks. O Arctic, que pode ser acessado via Cortex, é voltado para tarefas empresariais como geração de SQL, geração de código e acompanhamento de instruções.
A transação com a TruEra fará com que pelo menos 37 funcionários da empresa se juntem à Snowflake, incluindo seus três cofundadores – o presidente e cientista-chefe Anupam Datta, o diretor de tecnologia Shayak Sen e o CEO Will Uppington.
TruEra, que arrecadou aproximadamente US$ 43 milhões até dados e é apoiada por Menlo Ventures, Greylock Partners, Wing Venture Captial, Harpoon Ventures, HPE e Conversion Captial, entre outros, iniciou suas operações com base em seis anos de pesquisa feita por Datta e Sen durante sua mandato na Carnegie Mellon University. A empresa possui quatro escritórios na Índia, Cingapura, Reino Unido e EUA.
Separadamente, a Snowflake estava tentando adquirir a Reka AI para trazer mais LLMs para seus serviços e ofertas. No entanto, no início desta semana, o acordo fracassou, segundo a Bloomberg. Snowflake ofereceu aproximadamente US$ 1 bilhão para comprar a Reka AI. O braço de risco do fornecedor de software de armazenamento de dados também é investidor na startup fornecedora de LLM, que foi fundada por pesquisadores da Meta e do Google.
