request = {
"agent": "support-summary-agent",
"task": "summarize",
"dataset": "customer_support_logs",
"model": "external_llm_api",
"delegated_by": "user_4821"
}
policy = evaluate_policy(request)
if policy.allowed:
route_to_execution(policy.execution_environment)
else:
raise AuthorizationError(policy.reason)
O mecanismo de política aqui avalia a classificação do conjunto de dados, o status de aprovação do modelo, as regras de processamento geográfico e a cadeia de delegação que iniciou a solicitação. Isso pode significar redirecionar a tarefa para um cluster de inferência interno em vez de um endpoint de API público ou bloquear a solicitação se não existir um ambiente de execução compatível. Da perspectiva do agente, a tarefa ainda é executada. A camada de orquestração garante que ela seja executada em um ambiente que atenda às políticas empresariais.
Por que as ontologias são infraestruturas de suporte
Para que a camada de orquestração tome boas decisões, ela precisa fazer mais do que rotular os dados. Ele precisa entender como as entidades envolvidas em uma solicitação se relacionam entre si e raciocinar sobre essas relações para determinar o que é permitido.
Considere novamente o exemplo da transcrição do suporte ao cliente. Os metadados informam que o conjunto de dados contém PII (informações de identificação pessoal). Uma ontologia permite que o sistema raciocine através de uma cadeia conectada: a tarefa opera em um conjunto de dados contendo dados pessoais; que os dados são regidos pelo GDPR; a política da organização exige o processamento num ambiente aprovado pela UE; o modelo selecionado sai desse limite. A partir desses quatro fatos conectados, a camada de orquestração pode inferir que a solicitação deve ser redirecionada ou bloqueada. O sistema raciocinou sobre os relacionamentos em vez de fazer a correspondência com uma regra codificada vinculada a um conjunto de dados específico.
