A questão então se torna por quee há três variáveis solucionáveis.
Problema 1. Os próprios dados do usuário estão fora de alcance
Os dados de um usuário empresarial ficam em planilhas, arquivos no SharePoint, aplicativos como Salesforce e plataformas de dados como Databricks, Snowflake ou BigQuery. Chegar a isso significa preencher uma solicitação junto a uma equipe de plataforma de dados cuja responsabilidade rege tudo. É claro que, como qualquer engenheiro de plataforma de dados lhe dirá, o número de funcionários da equipe é subdimensionado para as solicitações que recebe, e o que o usuário empresarial obtém como solução alternativa geralmente é uma cópia de uma cópia. Talvez seja um CSV que foi retirado há alguns meses ou uma pasta de trabalho que foi entregue quatro vezes com alterações não rastreadas. Então, quando um agente começa a trabalhar nesses dados, o usuário empresarial tem algo rápido… trabalhando em uma versão oculta da verdade. A linhagem de dados já se foi há muito tempo antes que o agente faça seu crack, então ninguém tem certeza de onde vieram determinados números e a confiança foi perdida. Não é bom, independentemente do caso de uso, e provavelmente é um evento profissional se você estiver em uma instituição financeira.
Problema 2. Não há verificação de dados
Os chatbots entregam aos usuários empresariais um resultado com relativamente pouco contexto para o usuário validá-lo. Mostrar a eles o código gerado não é a resposta, pois não se espera que esses usuários o leiam. A resposta certa não é aprovar decisões tomadas com dados que não podem ser verificados, mas, como os programadores enviam o código, a pressão para agir rapidamente e entregar substitui o “certo” na maior parte do tempo. E quando um auditor ou superior pergunta como um número foi produzido, “a IA disse isso” não é a resposta que um usuário empresarial desejará dar.
