A polícia do CoE: Liderança, fiscalização e automação
Policiar novas iniciativas tecnológicas envolve a criação de um pequeno conjunto de padrões comuns que devem reger todas as equipes participantes. Para projetos generativos de IA, isso poderia incluir a criação de abordagens consistentes para gerenciar receitas imediatas, desenvolvimento e testes de agentes e acesso a ferramentas e integrações de desenvolvedores. Estas regras devem ser leves, para que o cumprimento seja fácil de alcançar, mas também têm de ser aplicadas. Com o tempo, esta abordagem reduz qualquer desvio dos padrões que foram concebidos e reduz as despesas gerais de gestão e a dívida técnica.
Por exemplo, estas regras são necessárias para gerir a utilização de dados em projetos. Muitos projetos generativos de IA envolverão o tratamento e a implantação de dados de clientes. Então, como isso deve ser implementado na prática? Quando se trata de informações de identificação pessoal (PII) dos clientes e da propriedade intelectual (IP) da empresa, esses dados devem ser mantidos seguros e separados de qualquer modelo de linguagem grande (LLM) subjacente, permitindo ao mesmo tempo que sejam usados em projetos. PII e IP podem ser implantados e fornecer contexto adicional valioso por meio de engenharia imediata, mas não devem estar disponíveis para uso do LLM como parte de qualquer retreinamento ou retenção.
A melhor abordagem em torno da governação é ser pragmático. Isto pode envolver escolher cuidadosamente as suas batalhas, pois ser severo ou excessivo na aplicação das regras pode prejudicar as suas equipas e a forma como funcionam, bem como aumentar os custos associados ao cumprimento. Ao mesmo tempo, haverá casos em que o seu trabalho será necessário e envolverá o encerramento de experimentos onde eles arriscam a privacidade, ou arriscam o uso ético dos dados, ou custariam muito caro ao longo do tempo. O objectivo geral é evitar a imposição de normas pesadas ou sufocar o entusiasmo e concentrar-se na forma de incentivar as melhores práticas como norma.
