Injeção involuntária de dados de contexto do usuáriouma exploração que se baseia na fronteira entre dados confiáveis ​​e instruções executáveis, induzindo o usuário a introduzir instruções maliciosas como parte dos dados de contexto do LLM. O prompt pode ser inofensivo: a instrução maliciosa está oculta nos dados de contexto circundantes. Funciona quando um usuário carrega um documento, encaminha um email ou adiciona conteúdo que é posteriormente processado pela IA.

As equipes de segurança podem se proteger contra esses ataques de várias maneiras, disse CrowdStrike, incluindo modelagem de ameaças em todos os lugares onde o contexto do modelo pode se originar, expandindo os testes e estendendo a engenharia de detecção para incluir ataques compostos.

Este artigo apareceu pela primeira vez no CSO.

Juliana Ribeiro
Juliana Ribeiro

Juliana Ribeiro é uma respeitada e talentosa redatora que trabalha do Tudo SEO. Com um profundo entendimento das nuances do SEO e seu impacto na visibilidade digital, Juliana usa sua expertise para educar e inspirar os leitores.

Entrando na indústria da escrita como redatora freelancer, ela rapidamente subiu na hierarquia para se tornar uma voz confiável no campo do SEO. Sua jornada na revista é marcada por muitos artigos perspicazes que ajudaram muitas empresas a entender melhor e aproveitar o SEO para melhorar sua visibilidade online.

Juliana também dedicou uma grande parte de seu tempo para estudar as últimas tendências em SEO e manter-se atualizada sobre todas as mudanças no algoritmo do Google. Através de seu trabalho, ela se esforça para quebrar conceitos complexos em ideias fáceis de entender para profissionais de marketing de todos os níveis.