“Os CISOs devem exigir uma camada de relevância de segurança em sua modelagem de risco, uma estrutura estruturada que exige que cada descoberta gerada por IA passe por verificação automatizada, incluindo validação dinâmica de prova de conceito e forte filtragem de falsos positivos, antes de chegar a um analista humano”, disse Datta.
Esses controlos também devem abranger a divulgação, especialmente quando as ferramentas de IA identificam falhas em componentes de código aberto de terceiros que a empresa não controla, disse Datta. As organizações precisam de caminhos de escalonamento predefinidos, cronogramas de notificação e atribuições de funções que entrem em vigor assim que um problema confirmado for encontrado em uma dependência externa.
“A divulgação ad hoc em um ambiente acelerado por IA não é apenas uma lacuna no processo; é um risco”, disse Datta. “Confiar na IA no pipeline de produção requer auditabilidade verificável: as organizações devem ser capazes de rastrear por que a IA sinalizou uma linha de código, como validou a exploração e como determinou que o patch não quebraria os sistemas de produção downstream.”
