Aviv Nahum, cofundador e CEO da Above Security, disse que este incidente pode ser mais do que uma culpa da IA. “Se as evidências de arquivo forem válidas, o hack de IA mais badalado do ano se parece muito com a falha de segurança mais comum dos últimos trinta anos: uma configuração incorreta”, disse ele. “O próprio código do portal apontava os visitantes para um endpoint que não exigia credenciais, e o agente seguia o caminho que lhe era fornecido. Isso não é um ‘agente de IA invadindo um site do governo’, é uma porta que foi deixada aberta, encontrada por algo que pode ler o código com mais cuidado e executar mais rapidamente.”
Devemos ter cuidado ao enquadrar cada incidente de agente como “IA desonesta”, advertiu Nahum, acrescentando que isso gera “manchetes dramáticas”, mas transfere a culpa para o modelo e não para o meio ambiente.
Os incidentes nos EUA foram menos graves, mas seguiram um padrão semelhante de modelos interagindo com sistemas externos. Um porta-voz da OpenAI disse ao Washington Post que os modelos da empresa acessaram informações publicamente disponíveis em SEC.gov, Investor.gov e Census.gov durante o treinamento e avaliação. A empresa disse que seus agentes agiram de forma inadequada nos incidentes da SEC e do Census Bureau, mas não roubaram nenhum dado privado.
