Em outras palavras, a IA não elimina a necessidade de disciplina de engenharia. Aumenta o preço de não tê-lo.
Guardrails não podem ser um memorando
A disciplina é necessária, mas para uma empresa não é suficiente. Você não pode fazer com que dezenas de milhares de engenheiros, analistas, profissionais de marketing, advogados e vendedores “desacelerem e verifiquem o trabalho” de forma confiável por meio de boas intenções e um memorando. Em escala, manter um ser humano informado deve ser imposto pela arquitetura, e não pelas boas intenções.
Na prática, isso significa incorporar barreiras de proteção aos sistemas que os agentes tocam, como identidade, governança de dados e observabilidade. É aqui que corro o risco de parecer que trabalho onde trabalho (Oracle). A mudança genuinamente interessante que vejo em toda a indústria, e sim, onde a Oracle está a apostar, é empurrar mais desses controlos para a própria camada de dados, para que os agentes operem contra dados empresariais governados e não como scripts inteligentes que detêm as chaves da produção.
