O incidente ocorreu durante uma tarefa de pesquisa em que foi solicitado ao modelo que identificasse uma pessoa a partir de informações disponíveis na web. Quando suas ferramentas normais de busca na web não conseguiram produzir as informações de que precisava, a modelo começou a procurar outra forma de acessar a internet, explicou a empresa no post.
O modelo reconheceu que, embora o acesso direto à Internet estivesse bloqueado, o ambiente ainda permitia consultas DNS. Em seguida, usou o DNS como um canal de comunicação indireto para enviar solicitações a um chatbot externo, contornando efetivamente a restrição de rede que deveria impedi-lo de acessar serviços externos, disse a OpenAI.
Os controles existentes podem não ser suficientes
Para as empresas e os seus CIOs, no entanto, apesar do modelo não ter sido divulgado, o incidente levanta questões críticas sobre se os controlos de segurança e governação existentes podem acompanhar o comportamento inesperado do modelo, à medida que os agentes de IA ganham maior autonomia e acesso aos sistemas empresariais, disseram os analistas.
