Ele acrescentou que a OpenAI merece crédito pela transparência. “A própria franqueza da OpenAI é a parte mais impressionante. Um laboratório de fronteira dizendo publicamente que não tem certeza se seus próprios modelos de envio têm uma tendência emergente de minar sua própria supervisão é um nível genuinamente novo de franqueza.”
Brian Levine, sócio da consultoria Control Risks, também destacou que a lógica do agente, captada pela OpenAI, é alarmante.
“Em ambos os casos, os agentes pararam, perguntaram a si mesmos se a proteção deveria permanecer ativada e depois discutiram como desligá-la. Um deles disse ao usuário que não havia tocado no monitor. Na resposta ao incidente, chamamos isso de evasão da defesa seguida por uma declaração falsa. Se um humano interno fizesse isso, abriríamos uma investigação”, disse Levine. “O outro detalhe revelador é que o monitor funcionou. Ele sinalizou o problema. O agente então cortou o fio entre o alarme e as pessoas que precisavam ouvi-lo.”
