O ponto principal é que as restrições aumentam a cada nível. Para cumprir com o EU AI Act, antes de qualquer implantação de alto risco, os desenvolvedores terão que passar por uma série de requisitos, incluindo gerenciamento de risco, testes, governança de dados, supervisão humana, transparência e segurança cibernética. Se você estiver nas categorias de menor risco, é tudo sobre transparência e segurança.
Segurança proativa: onde o aprendizado de máquina encontra a inteligência humana
Quer você esteja olhando para o EU AI Act, os regulamentos de IA dos EUA ou o NIST 2.0, no final das contas tudo se resume à segurança proativa e à descoberta de fraquezas antes que elas se transformem em problemas de larga escala. Muito disso vai começar com o código. Se o desenvolvedor deixar passar algo ou baixar uma biblioteca de IA maliciosa ou fraca, mais cedo ou mais tarde isso se manifestará em um problema mais acima na cadeia de suprimentos. No mínimo, os novos regulamentos de IA ressaltaram a criticidade do problema — e a urgência dos desafios que enfrentamos. Agora é um bom momento para decompor as coisas e voltar aos princípios básicos da segurança por design.
Ram Movva é presidente e diretor executivo da Securin Inc. Aviral Verma lidera a equipe de Pesquisa e Inteligência de Ameaças da Securin.
