Aplicar as lições aprendidas com o gerenciamento de gastos na nuvem não será uma solução para o dilema da IA e do ROI. É verdade que a nuvem ensinou a uma geração de CFOs que faturar sem contexto de negócios é ruído. Portanto, para obter o ROI da nuvem, eles juntaram duas fontes de dados: dados de custos e dados de negócios. AWS revela qual conta, qual região, qual tag, qual recurso. Combine os mapeamentos de clientes e produtos e o ROI dos gastos na nuvem entrará em foco.
Mas a IA é mais difícil. Requer três fontes de dados: custos, negócios e telemetria – a coleta automática de dados de fontes distintas que ajuda a esclarecer o quadro geral do que aconteceu e por quê. Um executivo ou líder de engenharia pode ter faturas de IA e receitas de clientes. Mas eles não têm como conectá-los ao valor comercial. A contagem de tokens na fatura OpenAI não especifica qual cliente acionou qual chamada, qual recurso ela atendeu ou se o prompt produziu um resultado comercial. Esses dados não existem no faturamento do provedor.
Os provedores de IA não resolverão esse problema
Não é provável que a situação mude tão cedo porque os fornecedores de IA não têm como função atribuir os custos de uma empresa aos clientes dessa empresa. Em vez disso, os fornecedores de IA estão no negócio de venda de tokens. A granularidade que eles expõem é a granularidade que seus sistemas de faturamento exigem, e não a granularidade que um CFO exige.
