Estima-se que a IA generativa acrescente anualmente entre 2,6 biliões e 4,4 biliões de dólares em benefícios económicos à economia global, de acordo com a McKinsey. Esta previsão baseia-se em 63 novos casos de utilização que poderão proporcionar melhorias, eficiências e novos produtos para clientes em vários mercados. Esta é uma grande oportunidade para desenvolvedores e líderes de TI.
No centro da promessa da IA generativa estão os dados. Os dados permitem que a IA generativa compreenda, analise e interaja com o mundo que nos rodeia, alimentando as suas capacidades transformadoras. Para ter sucesso com a IA generativa, sua empresa precisará gerenciar e preparar bem seus dados.
Ao mesmo tempo, será necessário estabelecer as bases para a construção e operação de serviços de IA em grande escala e financiar a sua iniciativa de IA generativa de uma forma inteligente e sustentável. Começar devagar e diminuir gradualmente não é maneira de vencer a corrida da IA.
Se não melhorarmos a forma como gerimos os dados, ou não abordarmos o dimensionamento e os custos da forma correta, então o potencial inerente à IA generativa será perdido. Aqui estão algumas reflexões sobre como podemos melhorar nossas abordagens de gerenciamento de dados e como podemos apoiar nossas iniciativas de IA generativa no longo prazo.
De onde vêm os dados
Os dados vêm em várias formas. Cada forma de dados pode melhorar a riqueza e a qualidade dos insights generativos de IA se forem usados corretamente.
A primeira forma de dados são os dados estruturados, reunidos de forma regulamentada e consistente. Os dados estruturados incluiriam itens como informações do produto, dados demográficos do cliente ou níveis de estoque. Este tipo de dados fornece uma base de factos organizados que podem ser adicionados a projetos generativos de IA para melhorar a qualidade das respostas.
Além disso, você pode ter fontes de dados externas que podem complementar suas fontes de dados estruturadas internas. Exemplos comuns aqui incluem boletins meteorológicos, preços de ações ou níveis de tráfego – dados que podem trazer mais contexto em tempo real e do mundo real para um processo de tomada de decisão. Esses dados podem ser combinados em seus projetos para fornecer dados adicionais de qualidade, mas pode não fazer sentido gerá-los você mesmo.
Outro conjunto de dados comum são os dados derivados, que abrangem dados criados por meio de análise e modelagem de cenários. Esses insights mais profundos podem incluir relatórios de intenções do cliente, previsões de vendas sazonais ou análises de coorte.
A última forma comum de dados são os dados não estruturados. Em vez dos relatórios regulares ou formatos de dados aos quais os analistas estão acostumados, esta categoria inclui formatos como imagens, documentos e arquivos de áudio. Esses dados capturam as nuances da comunicação e expressão humana. Os programas de IA generativa geralmente funcionam em torno de imagens ou áudio, que são entradas e saídas comuns de modelos de IA generativa.
Fazendo a IA generativa funcionar em escala
Todos esses diversos conjuntos de dados existirão em seus próprios ambientes. Ao mesmo tempo, torná-los úteis para projetos generativos de IA envolve tornar esse cenário diversificado de dados acessível em tempo real. Com tantos dados potenciais envolvidos, qualquer abordagem deve escalar dinamicamente sob demanda e replicar os dados globalmente para que todos os recursos estejam próximos dos usuários quando as solicitações chegarem. Isso é necessário para evitar tempo de inatividade e reduzir a latência nas solicitações de transação.
Esses dados também devem ser preparados para que o sistema de IA generativo possa utilizá-los de forma eficaz. Isto envolve a criação de embeddings, que são valores matemáticos, ou seja, vetores, que representam significado semântico. As incorporações permitem que o sistema de IA generativo pesquise além de correspondências de texto específicas e, em vez disso, abranja o significado e o contexto incorporados nos dados. Qualquer que seja a forma original dos dados, a criação de incorporações significa que os dados podem ser compreendidos e utilizados pelo sistema generativo de IA e reter o seu significado e contexto.
Usando essas incorporações, as empresas podem oferecer suporte à pesquisa vetorial ou à pesquisa híbrida em todos os seus dados, combinando valor e significado ao mesmo tempo. Esses resultados podem então ser coletados e repassados ao modelo de linguagem grande (LLM) usado para montar o resultado. Ao disponibilizar mais dados de múltiplas fontes, em vez de depender apenas do LLM, seu projeto de IA generativa pode entregar melhores resultados ao usuário e reduzir alucinações.
Para fazer isso funcionar na prática, você precisa escolher a malha de dados subjacente correta. Como parte disso, você desejará evitar, tanto quanto possível, uma colcha de retalhos fragmentada de dados mantidos em diferentes soluções, pois cada uma delas representa outro silo que deve ser suportado, interrogado e gerenciado ao longo do tempo. Os usuários devem ser capazes de fazer uma pergunta ao LLM e receber uma resposta rapidamente, em vez de esperar que vários componentes respondam e que o modelo avalie suas respostas. Uma estrutura de dados unificada deve oferecer integração perfeita de dados, permitindo que a IA generativa aproveite todo o espectro de dados disponíveis.
Os benefícios de uma abordagem modular
Para ampliar sua implementação de IA generativa, você terá que equilibrar a rapidez com que pode aumentar a adoção e manter o controle sobre seus ativos críticos. Adotar uma abordagem modular para construir seus agentes generativos de IA torna isso mais fácil, pois você pode dividir sua implementação e evitar possíveis gargalos.
Semelhante aos designs de microsserviços para aplicações, uma abordagem modular aos serviços de IA também incentiva as melhores práticas em torno do design de aplicações e software para remover pontos de falha, bem como abrir o acesso à tecnologia a mais utilizadores potenciais. Também torna mais fácil monitorar o desempenho dos agentes em toda a empresa e identificar com mais precisão onde ocorrem os problemas.
O primeiro benefício da modularidade é a explicabilidade. Como os componentes envolvidos no sistema generativo de IA são separados uns dos outros, fica mais fácil analisar como os agentes funcionam e tomam decisões. A IA é frequentemente descrita como uma “caixa preta”. A compartimentalização torna o rastreamento e a explicação dos resultados muito mais fácil.
O segundo benefício aqui é a segurança, pois os componentes podem ser protegidos pelos melhores mecanismos de autenticação e autorização, garantindo que apenas usuários autorizados tenham acesso a dados e funcionalidades confidenciais. A modularidade também facilita a conformidade e a governança, pois as informações de identificação pessoal (PII) ou a propriedade intelectual (PI) podem ser protegidas e mantidas separadas do LLM subjacente.
Financiando sua iniciativa de IA generativa
Juntamente com a abordagem de microsserviços, você deve adotar uma mentalidade de plataforma para seu programa geral de IA generativa. Isto envolve a substituição do modelo tradicional de financiamento baseado em projetos para projetos de software e o fornecimento de um modelo de financiamento consistente e flexível. Esta abordagem capacita os participantes a tomarem decisões baseadas em valor, responderem a oportunidades emergentes e desenvolverem melhores práticas sem serem limitados por ciclos de financiamento rígidos ou casos de negócios.
Tratar seu orçamento dessa forma também incentiva os desenvolvedores e as equipes de negócios a considerarem a IA generativa como parte da infraestrutura geral que a organização possui. Isso torna mais fácil evitar alguns dos altos e baixos que poderiam afetar o planejamento da carga de trabalho e torna mais fácil adotar uma abordagem de “centro de excelência” que permaneça consistente ao longo do tempo.
Uma abordagem semelhante é tratar a IA generativa como um produto que a empresa opera por si só, e não como software. Os agentes de IA devem ser gerenciados como produtos porque isso representa o valor que eles criam de forma mais eficaz, além de facilitar a obtenção de recursos de suporte em torno de integração, ferramentas e prompts. A simplificação deste modelo incentiva uma compreensão mais ampla em torno da IA generativa e a adoção das melhores práticas em toda a organização, promovendo uma cultura de conhecimento partilhado e colaboração no desenvolvimento da IA generativa.
A IA generativa tem um enorme potencial e as empresas estão correndo para implementar novas ferramentas, agentes e prompts em suas operações. No entanto, colocar esses projetos potenciais em produção envolve o gerenciamento eficaz de seus dados, o estabelecimento de uma base para a expansão de sistemas e a implementação do modelo de orçamento certo para apoiar sua equipe. Acertar seus processos e prioridades ajudará você e sua equipe a desbloquear o potencial transformador desta tecnologia.
Dom Couldwell é chefe de engenharia de campo, EMEA, na DataStax.
–
Generative AI Insights oferece um local para líderes de tecnologia – incluindo fornecedores e outros colaboradores externos – explorarem e discutirem os desafios e oportunidades da inteligência artificial generativa. A seleção é ampla, desde aprofundamentos tecnológicos até estudos de caso e opiniões de especialistas, mas também subjetiva, com base em nosso julgamento de quais tópicos e tratamentos atenderão melhor ao público tecnicamente sofisticado do InfoWorld. A InfoWorld não aceita material de marketing para publicação e reserva-se o direito de editar todo o conteúdo contribuído. Contato [email protected].
