Dizem que metade do dinheiro gasto em publicidade é desperdiçado, mas o problema é descobrir qual metade. Se isso for verdade, o problema é indiscutivelmente pior para a IA. Converse com pessoas profundamente envolvidas nas ervas daninhas da IA e elas lhe dirão que mais de 90% do dinheiro gasto em IA é desperdício, e montanhas de dinheiro estão perseguindo esses esquivos 10% porque a recompensa potencial é muito boa. A Accenture, por exemplo, reservou US$ 2 bilhões apenas este ano para ajudar os clientes a entender a IA. A Nvidia e as nuvens também continuam arrecadando dezenas de bilhões a mais.
Claramente há muito dinheiro em IA. A questão para a maioria das empresas tem de ser: Que investimentos estão a funcionar e quais devem ser abandonados?
Embora não tenha havido uma resposta óbvia para essa pergunta, uma nova classe de software está sendo projetada para fornecer respostas. Assim como a ciência de dados nos trouxe a governança de dados, empresas como a Holistic AI oferecem governança de IA. Esforços incipientes têm tentado tratar a governança da IA como uma extensão da governança de dados, TI ou nuvem, quando na verdade requer uma abordagem única e distinta, dada a necessidade de ir muito além da avaliação de risco padrão para incluir também fatores como preconceito, eficácia e explicabilidade.
Se esta não parece ser a categoria de software mais atraente, pense desta forma: se ajuda as empresas a melhorar sua taxa de ganhos de IA, isso é incrivelmente atraente.
As apostas são altas para a IA
Sim, a nossa indústria tem a sua quota-parte de entusiasmo exagerado em relação às “tendências” tecnológicas que se revelam modas passageiras (por exemplo, Web3, seja lá o que for). Mas a IA é diferente. Não porque eu queira que assim seja, ou porque os fornecedores de IA esperam que assim seja, mas porque, por mais que façamos buracos nela (alucinações, etc.), ela ainda está lá. Embora a IA generativa seja uma versão relativamente nova da IA, a tecnologia em si é um mercado relativamente maduro e muito maior que inclui coisas como aprendizado de máquina. As empresas podem ter uma postura mais óbvia em relação à IA nos últimos dois anos, mas não deixe que isso o confunda. Ainda esta semana conversei com uma empresa que possui um grande número de aplicativos de IA em execução, cada um custando perto de um milhão de dólares por ano.
É evidente que a empresa Fortune 500 vê valor na IA. Infelizmente, nem sempre é claro quais das suas aplicações dispendiosas estão a cumprir o que prometem e quais estão a apresentar mais riscos do que recompensas.
Quando uma empresa opta por construir um aplicativo de IA, ela deposita muita fé em grandes modelos de linguagem (LLMs) ou outras ferramentas sem muita (se houver) visibilidade sobre como os modelos produzem resultados. Isto pode ser catastrófico para uma empresa se se verificar que os seus algoritmos são persistentemente preconceituosos contra uma classe protegida (minorias étnicas, etc.), precificam mal os produtos ou causam outros contratempos. Os reguladores e os conselhos de administração estão, portanto, a prestar mais atenção à chamada “conduta algorítmica” para garantir que a IA proporciona um boom e não uma quebra.
Da mercadoria à velocidade
Já se tornou tedioso revisar os LLMs mais recentes. Quase diariamente, a Meta supera a OpenAI, que supera o Google, que supera qualquer empresa com capacidade de investir bilhões em infraestrutura e P&D no desempenho do modelo. E no dia seguinte todos eles alternam qual empresa afirma ser a mais rápida naquele dia. Quem se importa? Em conjunto, é importante porque as empresas estão a obter um melhor desempenho a custos mais baixos, mas nada disso importa se essas mesmas empresas não conseguirem desenvolver os modelos com confiança.
Para obter a verdadeira velocidade dos negócios através da IA, as empresas precisam de total visibilidade e controle em todos os projetos de IA. A IA holística, por exemplo, integra-se perfeitamente com todos os dados e sistemas de IA comuns. Melhor ainda, ele descobre automaticamente projetos de IA em toda a organização, simplifica o gerenciamento de inventário e oferece um painel unificado para que os executivos tenham uma visão ampla de seus ativos de IA e possam agir de acordo. Por exemplo, o software de IA holística revela potenciais riscos regulamentares e técnicos numa determinada aplicação, alertando a equipa para que a empresa possa resolver o problema antes que se torne embaraçoso ou caro (ou ambos).
Isso não é semelhante às ferramentas de governança da nuvem, pelo menos porque os riscos são muito maiores. Você pode pensar na nuvem como uma maneira inerentemente melhor e mais flexível de gerenciar ativos de hardware ou software, mas isso não muda necessariamente a forma como pensamos sobre esses conceitos (embora a tecnologia sem servidor, por exemplo, desafie o pensamento em torno do provisionamento de infraestrutura para apoiar um aplicativo). Há uma razão pela qual nos referimos, brincando, à nuvem como “o computador de outra pessoa”. O mesmo não acontece com a IA, que muda fundamentalmente o que é possível com software e dados, embora muitas vezes de formas que não conseguimos explicar. É por isso que precisamos de ferramentas de governança de IA, como a IA holística, que ajudem a aumentar a velocidade de experimentação e adoção eficazes de IA, minimizando o risco de estarmos usando a IA de maneiras que prejudicarão mais do que ajudarão.
Quanto mais rápido quisermos avançar na IA, mais precisaremos de barreiras de proteção através dos sistemas de governança da IA. Novamente, não se trata de forçar as equipes a desacelerar; é uma forma de acelerar, garantindo que menos tempo seja desperdiçado em projetos de IA arriscados e ineficazes.
