Adote uma abordagem baseada em risco para a segurança dos dados
Por fim, e mais criticamente, as organizações precisam descobrir e classificar todos os dados para entender em quais ativos devem ser agidos e quando. Tomar uma varredura abrangente e garantir a classificação precisa de seus dados estruturados, semiestruturados e não estruturados podem ajudar a identificar o risco iminente versus riscos que podem ser priorizados. Além da proteção do ransomware, o gerenciamento de identidade e os controles de exposição a dados são igualmente importantes para a implantação responsável da IA. As organizações que adotam rapidamente a IA generativa geralmente negligenciam o escopo de acesso que esses sistemas têm para dados confidenciais. Garantir que os sistemas de IA só possam raciocinar sobre versões autorizadas e adequadamente garantidas dos dados corporativos, especialmente porque o cenário regulatório continua a evoluir. Essa abordagem abrangente para a segurança dos dados aborda as ameaças tradicionais e os riscos emergentes relacionados à IA.
Ameaças sem precedentes exigem novos padrões e controles de segurança
A comunidade de segurança enfrenta ameaças sem precedentes que exigem ação coordenada entre a indústria privada e as agências governamentais. Ataques recentes destacam lacunas graves nos padrões de proteção de dados, especialmente em torno dos sistemas de IA. A IA acelera as operações comerciais, mas apresenta novos riscos. Dados sensíveis podem vazar nos modelos de IA durante o treinamento e fora de modelos sensíveis durante a inferência; Depois que um modelo é treinado, governar suas saídas não é determinístico. Esses desafios de segurança da IA se relacionam diretamente com os controles de identidade e dados discutidos acima. Sem gerenciamento de acesso e classificação de dados suficientes, as organizações não podem impedir que dados não autorizados inseram os pipelines de treinamento de IA e sejam expostos por inferência.
A mudança atual do ambiente regulatório acrescenta complexidade. Mudanças recentes nas ordens executivas de segurança cibernética interromperam as estruturas estabelecidas de colaboração entre governo e indústria. Essa mudança de política afeta como as organizações desenvolvem sistemas seguros de IA e abordam vulnerabilidades em nossa infraestrutura de segurança nacional. Uma coisa é certa: as ameaças que enfrentamos-de atores-estados-nação a grupos cibernéticos cada vez mais sofisticados-não esperavam consenso político. Assim como na proteção do ransomware, as organizações devem tomar medidas proativas para garantir seus sistemas de IA, independentemente da incerteza regulatória.
