Portas abertas

No momento, estamos despendendo muito esforço para revisar o código escrito por IA para ter certeza de que está funcionando perfeitamente. Mas talvez precisemos começar a nos preparar para um mundo onde o código que os agentes escrevem é tão diferente que nem conseguimos entender o que eles estão fazendo. Provavelmente não estamos longe do código que não importa – não porque os agentes escrevem um código tão bom, mas porque os agentes escrevem um código que não vimos antes e que não podemos conceber atualmente.

Se o código se tornar algo que nós, humanos, não podemos ou não precisamos entender, então como podemos confiar nele? Parece que o trabalho de “desenvolvedor de software” muda quase para o de um engenheiro de controle de qualidade – validando em vez de produzir. Se o agente produz algo que funciona e faz exatamente o que pedimos de uma maneira que não nos importa, o trabalho não se torna uma prova de que o que ele faz é correto e o que queremos? Tal como acontece com o problema de Erdős, provavelmente não deveríamos acreditar em tudo na palavra do agente, mas simplesmente passar por aquela porta aberta.

Nós, humanos, precisamos perceber que quando dizemos que algo “não pode ser feito”, o que realmente queremos dizer é “nenhum ser humano fez isso ainda”.