Para os CIOs, destacou Jain, as interações opacas dos agentes criam desafios de governança.
“Sem visibilidade sobre como os agentes delegaram e executaram tarefas, fica mais difícil auditar decisões, investigar incidentes, demonstrar conformidade e construir confiança em sistemas de IA. As empresas esperarão cada vez mais uma comunicação segura, mas auditável, dos agentes, em vez de uma orquestração completamente oculta”, disse Jain.
“Qualquer grande empresa, especialmente em setores regulamentados, como bancos e hospitais, precisa ser capaz de provar o que seus sistemas de IA fizeram e por quê, especialmente se algo der errado. Se um subagente fizer algo ruim, como mexer em dados privados, a empresa precisa mostrar aqui exatamente o que foi instruído a fazer. Se esse registro não existir, será um problema sério para a confiança e a responsabilidade legal, e não apenas um aborrecimento”, acrescentou Jain.
