Supervisões de segurança como essa estão longe de serem teóricas. “As configurações geralmente perdem as melhores práticas de segurança”, diz Novikov. “Sem limites de taxa, ampla exposição à rede (0.0.0.0/0), limites de recursos ausentes, cors abertos e nenhuma autenticação nas APIs internas.” Em um caso do mundo real, um desenvolvedor da FinTech usou a IA para gerar entrada para uma API interna. “Eles esqueceram de adicionar a lista de permissões IP. A API foi pública, foi digitalizada em 20 minutos e os atacantes encontraram uma antiga rota de depuração”.

Um olhar cauteloso para a IA e infraestrutura

À medida que a IA generativa se torna mais incorporada nos fluxos de trabalho de infraestrutura, seu papel está evoluindo. “Um padrão que estamos percebendo em várias organizações de escala médio a grande é a seguinte: a IA está sendo usada como um ‘primeiro gerador de rascunho’, mas cada vez mais também como uma ferramenta de apoio à decisão”, diz o ControlMonkey’s Yimini. “Os engenheiros não estão apenas perguntando: ‘Como faço para escrever este grupo de segurança da AWS?’ Eles estão perguntando: ‘Qual é a maneira mais limpa de estruturar esse VPC em escala futura?’ ”Ele observa que essas perguntas não estão confinadas aos estágios iniciais do design-ei, venha no meio da frinha, quando os bloqueadores do mundo real atingirem. “Da nossa perspectiva, as organizações mais bem -sucedidas tratam IA generativa como um engenheiro júnior não treinado: útil para acelerar tarefas, mas exigir validação, estrutura e acesso a padrões internos”.

Essa necessidade de supervisão humana era um tema recorrente com todos com quem conversamos. Vegiraju da Microsoft simplesmente: “Os engenheiros devem primeiro entender o código que sai do LLM antes de usá -lo”. No Confluent, Mehta enfatiza a importância das salvaguardas: “Precisamos de corrimãos embutidos no sistema para evitar mudanças acidentais de quebra, seja devido a erro humano ou devido a mudanças geradas pela IA”. Ela aponta para os sistemas Gitops e o controle de versão revisado por pares como maneiras de aumentar a responsabilidade no fluxo de trabalho.