Grande parte da documentação é fornecida por meio de notebooks, para que você possa usá-la interativamente. Esta é uma alternativa interessante à documentação tradicional, pronta para uso local ou no GitHub.
Usando PyRIT para testar sua IA generativa
O coração do PyRIT são seus orquestradores. É assim que você vincula conjuntos de dados a alvos, construindo os ataques que um invasor em potencial pode usar. A ferramenta fornece uma seleção de orquestradores, desde operações simples de prompt até operações mais complexas que implementam tipos comuns de ataque. Depois de ter experiência com o funcionamento dos orquestradores, você pode construir os seus próprios enquanto experimenta ataques novos e diferentes. Os resultados são pontuados, avaliando como a IA e suas ferramentas de segurança respondem a um prompt. Ela o rejeitou ou entregou uma resposta prejudicial?
Os orquestradores são escritos em Python, usando segredos armazenados para acessar endpoints. Você pode pensar em um orquestrador como um fluxo de trabalho, definindo alvos e prompts, e reunindo saídas para análise posterior. Uma opção interessante é a capacidade de converter prompts para formatos diferentes, para ver o efeito de, digamos, usar uma codificação Base64 em vez de um prompt de texto padrão.
