O que pode ser óbvio para as equipes de dados pode estar fora de vista e fora da mente para as partes interessadas dos negócios. Heather Gentile, diretora de gerenciamento de produtos do risco e conformidade da IA na IBM, sugere reforçar que os resultados de um modelo são tão bons quanto os dados nos quais são construídos e treinados. “A transparência e a explicação da governança também aceleram e escalam com sucesso as iniciativas de IA e o impacto nos negócios”, diz Gentile.
Abrace novas prioridades de governança de dados da IA
CDOs, governança de dados e cientistas de dados também devem considerar os recursos específicos da IA. Por exemplo, o ModelOps é a disciplina de monitorar os modelos de ML para deriva e outras condições que necessitam de reciclagem. Para a Genai, as equipes de dados devem ser explícitas sobre quais dados foram usados para treinar um LLM, RAG, agentes de IA e outros recursos de IA.
“Uma lista de materiais de dados da IA (AI DBOM) é a base para a IA responsável em escala e deve fazer parte da estratégia de governança do CDO”, diz Kapil Raina, evangelista de segurança de dados da Bedrock Security. “Um AI DBOM rastreia todos os modelos de IA de alimentação de dados-treinamento, ajuste fino e inferência-consumindo reviravoltas rápidas de projetos com total transparência no que os sistemas de IA acessam e geram. Sem ele, os CDOs estão voando cegos-expostos a lacunas de segurança, não adesão à paisagem regulatória em rápida evolução.
