É necessária uma reformulação fundamental de nossas APIs, mas os orçamentos, os recursos e a capacidade tornam isso difícil de ser entregue da noite para o dia. O que é necessário, então, é uma forma de gerenciar as interações dos agentes com APIs, tratando os agentes como uma nova classe de usuários, fornecendo e aplicando as políticas necessárias para gerenciar os ciclos de vida dos agentes. O uso do Model Context Protocol (MCP) como um wrapper padrão para acesso de agentes às APIs ajuda aqui, pois nos fornece um ambiente comum onde podemos implementar a camada de governança necessária para manter os agentes sob controle.
A Microsoft lançou recentemente uma prévia pública de seu Agent Governance Toolkit (AGT) de código aberto, que se destina a envolver a aplicação baseada em políticas em torno dos agentes, garantindo que as chamadas sejam avaliadas antes de serem feitas. Você pode pensar no kit de ferramentas como uma forma de gerenciar as ações dos agentes, em vez de controlar as entradas e saídas dos grandes modelos de linguagem (LLMs) que seus agentes usam. Números da Microsoft sugerem que esse método de proteção de agentes é muito mais seguro do que confiar em regras em prompts. No entanto, na prática, é uma boa ideia executar uma ferramenta de capacidade como o Agent Governance Toolkit juntamente com filtros tradicionais para capturar erros do usuário e ataques baseados em prompts.
AGT é um conjunto de ferramentas projetadas para cobrir a lista de riscos de agentes do OWASP, com base na experiência da Microsoft na proteção de seus próprios agentes e plataformas de IA, com mais de 13.000 testes integrados ao kit de ferramentas. Ele funciona avaliando ações antes de serem executadas, verificando-as em relação às suas políticas, antes de permitir ou negar a ação e registrando os resultados. A Microsoft espera que a avaliação da política leve menos de 0,1 ms por operação, mantendo as despesas gerais no mínimo.
Políticas para agentes
Os 10 principais riscos de agentes da OWASP listam os problemas mais significativos que podem interromper as operações dos agentes resultantes de solicitações do usuário e design incorreto de aplicativos. Esses riscos incluem sequestro de objetivos de agentes, execução descontrolada de código, manipulação de saída insegura e agentes desonestos. Os recursos do kit de ferramentas são projetados para proteger aplicativos de agente desses e de outros problemas, usando isolamento e sandbox, bem como validando resultados usando políticas de conteúdo.
