As empresas de outros setores devem prestar muita atenção. Se o seu site permite que os clientes façam pedidos, cancelem serviços, alterem planos, transfiram ativos, acessem informações privadas ou acionem obrigações contratuais, você está na mesma linha de fogo. Talvez a exposição financeira seja menor. Talvez a carga regulatória seja mais leve. Mas a questão é a mesma: quando um software autônomo atua por meio de uma conta de cliente, o que exatamente o cliente autorizou e como você comprovaria isso?
Atualização de políticas e sistemas
Nos próximos dois a três anos, as empresas passarão por uma enorme reformulação de políticas, regras, responsabilidades e controlos técnicos. Não será elegante. Os termos de serviço serão atualizados para definir agentes de IA, automação delegada, compartilhamento de credenciais, acesso de bot, acesso somente leitura, autoridade de transação e revogação. Os sistemas de autenticação precisarão distinguir entre um ser humano, uma integração aprovada, um script não sancionado e um agente autônomo operando com alguma forma de permissão do usuário. As equipes de suporte ao cliente precisarão de scripts para disputas envolvendo agentes. As equipes jurídicas precisarão de uma nova linguagem. As equipes de segurança precisarão de novos modelos de detecção. As equipes de produto precisarão decidir se o bloqueio de agentes é um recurso, um bug ou uma desvantagem competitiva.
O primeiro instinto será bloquear tudo. Isto é compreensível, especialmente para os bancos. No entanto, não é uma estratégia de longo prazo. Os clientes vão querer esse recurso. As empresas que tornam isso impossível frustrarão os clientes que estão tentando automatizar tarefas rotineiras. As empresas que facilitam demais herdarão riscos inaceitáveis.
