Uma falha de segurança de memória no CPython pode permitir que modelos de modelos de IA maliciosos escapem de sandboxes de código e executem código arbitrário dentro de servidores de inferência, de acordo com pesquisadores de segurança da RunSybil.
“Ao explorar esta vulnerabilidade, os invasores podem ganhar uma posição dentro dos servidores responsáveis pelo processamento de milhões de solicitações de usuários”, escreveu Darius Houle, pesquisador de segurança da RunSybil, em um blog. “Eles também poderiam atacar diretamente a infraestrutura de nuvem subjacente que hospeda essas cargas de trabalho.”
Os pesquisadores demonstraram como um modelo especialmente criado poderia explorar a falha para contornar o Jinja, um mecanismo de modelagem baseado em Python usado para estruturar interações entre usuários e LLMs, proteções de sandbox e executar código no processo de servir o modelo. O ataque pode expor provedores de hospedagem de IA que permitem aos clientes fazer upload e executar seus próprios modelos, potencialmente dando aos invasores uma posição dentro das solicitações de processamento de infraestrutura para vários clientes, acrescentou o post.
