Um número cada vez maior de empregadores está experimentando os muitos benefícios da inteligência artificial em todas as suas práticas de recursos humanos – desde personalização de candidatos, experiências de conversação, algoritmos de correspondência e pontuação e insights gerados por IA.
Com o surgimento da IA generativa, os produtos tecnológicos de RH estão começando a criar casos de uso para otimizar a comunicação entre recrutadores, gerentes, candidatos e funcionários, bem como a construir assistentes para aumentar a produtividade de RH. Essas tecnologias também estão ajudando as equipes de RH a construir melhores estratégias de retenção e crescimento de funcionários e ajudando-as a se transformarem em uma organização baseada em habilidades.
Embora toda esta inovação esteja em curso, a consistência e a inclusão nas descrições de funções continuam a ser um desafio e são frequentemente ignoradas.
A IA generativa pode ajudar a garantir que as ofertas de emprego cumprem consistentemente o nível de critérios necessários para uma função específica, incluindo as aptidões e competências necessárias, juntamente com a utilização de linguagem inclusiva e a redução de preconceitos. Isto é especialmente útil porque o mercado de trabalho continua forte e as empresas continuam a precisar de trabalhadores.
Cuidadosamente elaborada com as considerações contextuais apropriadas, a IA generativa tem a capacidade de gerar descrições de cargos adaptáveis e inclusivas de maneira responsável em grande escala. Produz postagens altamente personalizadas que preservam o tom e a marca da organização, fazendo isso em uma fração do tempo que um ser humano levaria.
Transferir essa tarefa para a IA generativa permite que o RH se concentre no conteúdo que molda a cultura e a experiência da marca – áreas onde a tecnologia é insuficiente para compreender as nuances dos elementos humanos
LLMs precisam do contexto certo
Os grandes modelos comerciais de linguagem (LLMs) usados para IA generativa são essencialmente uma aproximação do amplo conhecimento disponível na elaboração de descrições de cargos. Embora os padrões existentes do setor geralmente tenham descrições bem formuladas, eles podem não ter o contexto específico da organização ou equipe, fazendo com que pareçam impessoais ou genéricos para os candidatos. Além disso, se estes modelos forem solicitados a gerar uma descrição de funções utilizando títulos de género (como “bombeiro”), o resultado provavelmente não será neutro, destacando a necessidade de uma consideração cuidadosa da linguagem para a inclusão.
Os modelos generativos de IA exigem instruções precisas para moldar a redação das descrições de cargos e para especificar quais palavras e frases evitar. Em vez de empregar um título profissional como “meteorologista”, o programa deveria ser orientado para usar o termo mais inclusivo “meteorologista”, acompanhado de um tom ilustrativo e exemplos bem elaborados. E fazer isso em grande escala em toda a organização pode não ser fácil.
Pode ser tentador para as equipes de RH desenterrar um anúncio de emprego antigo para uma função semelhante para economizar tempo, mas o esforço feito no front-end será recompensado no back-end, na forma de uma descrição de cargo que desperte o interesse de o talento certo. Uma postagem que afasta grandes candidatos pode ter um impacto negativo caro e duradouro nos negócios.
O que define uma descrição de cargo tendenciosa? Identificar preconceitos nem sempre é fácil para o RH; é uma tarefa subjetiva. Embora certas correções possam ser aparentes, discernir se o preconceito é realmente eliminado ou introduzido inadvertidamente pode ser um desafio. É aqui que a tecnologia se revela inestimável, ajudando os humanos a encontrar o equilíbrio certo com rapidez e precisão. Os modelos de IA, que aprendem com o desempenho anterior e aderem às diretrizes fundamentais, podem desempenhar um papel crucial na geração de descrições de cargos alinhadas com a justiça e a inclusão.
Os desafios para os desenvolvedores
Durante a primeira conferência de desenvolvedores da OpenAI no início de novembro, a empresa disse que os modelos turbo GPT-4 têm uma janela de contexto de 128k, o que significa que pode digerir o equivalente a mais de 300 páginas de texto em um único prompt. O ChatGPT quase certamente aprenderá como fornecer as respostas certas a partir desse contexto, o que é realmente uma virada de jogo. E o ChatGPT também ficou muito mais barato. Dessa perspectiva, os desenvolvedores estão pensando: “OK, qual a melhor forma de agregar valor aos meus usuários?”
Nas versões anteriores do ChatGPT, encontrar casos de uso consistia em descobrir um cenário para gerar conteúdo e construir um aplicativo sobre o ChatGPT. Mas agora podemos simplesmente entender o contexto e deixar muitas outras coisas de fora. Esse é um indicador claro da enorme promessa da tecnologia.
Mas, contra essa perspectiva optimista, as empresas que utilizam IA generativa devem lidar com questões éticas e de privacidade. Governança, monitoramento e documentação fundamental são as salvaguardas contra a implantação de IA discriminativa. No passado, os desenvolvedores podiam contar apenas com essas salvaguardas para se protegerem contra a IA discriminativa. No entanto, o cenário evoluiu significativamente e isso exige que os desenvolvedores considerem muito mais em seu design. É um jogo totalmente novo.
Hoje há muito mais escrutínio em torno de várias questões importantes, nomeadamente mascarar informações pessoalmente identificáveis, injetar contexto sem fuga de dados e guardar informações do cliente no seu próprio ecossistema, passando apenas os aspetos inferidos do pedido para modelos generativos de IA. Essas são algumas das complexidades que os desenvolvedores enfrentam no momento.
Por que a IA generativa precisa de proteções
Tal como acontece com qualquer tecnologia nova ou emergente, a indústria e o governo estão a trabalhar para estabelecer barreiras éticas e legais adequadas em torno da IA. Para um engenheiro, desenvolver a IA generativa requer uma grande consciência dos usos éticos e práticos dos dados.
Proteção de dados. Passar o currículo de um candidato a emprego por meio de um grande modelo de linguagem sem o consentimento do candidato, ou usá-lo para escrever uma carta de rejeição a um candidato, pode ser problemático se informações de identificação pessoal forem inadvertidamente reveladas aos LLMs. A privacidade dos dados é fundamental ao enviar dados pessoais para uma plataforma que não é tecnicamente dedicada a uma configuração existente.
Como a informação é mascarada? Como os prompts são reprojetados? Como um engenheiro solicita um exemplo específico sem passar informações de identificação pessoal e, no caminho de volta, como os dados são substituídos pelos parâmetros corretos para mostrá-los ao usuário?
Todas essas são questões que os desenvolvedores devem considerar ao escrever aplicativos em IA generativa para casos de uso B2B.
Aprendizagem segmentada. Outro fator crítico a ser considerado pelos desenvolvedores é a segmentação dos dados do cliente a partir de uma perspectiva de treinamento de modelo ou aprendizado de máquina, porque as nuances de como um e-mail é escrito variam de uma organização para outra e até mesmo entre diferentes usuários dentro de uma organização, por exemplo.
A aprendizagem da IA não pode ser combinada e genérica. Portanto, é fundamental continuar a compartimentar e aprender com um cliente, local ou visualizador específico.
Otimização de custos. Ter a capacidade de armazenar em cache e reutilizar os dados é importante, porque a entrada e a saída de dados podem ficar caras para determinados casos de uso que envolvem transações de volume.
Um pequeno documento com um enorme impacto
Alguns podem questionar a necessidade de descrições de cargos escritas na força de trabalho moderna, mas as descrições de cargos continuam a ser a forma mais eficaz de comunicar as necessidades de talento de um empregador e as competências subjacentes para funções específicas.
Quando bem feitos, os editais de vagas atraem candidatos e colaboradores alinhados aos valores, missão e cultura da empresa. Um contracheque e um escritório de canto não são mais suficientes para chamar a atenção de quem procura emprego. Eles querem trabalhar para empresas com uma cultura de alto nível e valores impecáveis.
Usar uma linguagem cuidadosa e sensível sinaliza aos candidatos que o empregador tem um local de trabalho inclusivo que considera todos candidatos. Da mesma forma, ao garantir que a IA generativa tenha o contexto adequado e que os dados privados sejam mantidos privados, os desenvolvedores desempenham um papel importante numa tecnologia excitante e promissora que é ética, inclusiva e livre de preconceitos.
Kumar Ananthanarayana é vice-presidente de gerenciamento de produtos da Phenom, uma empresa global de tecnologia de RH com sede na região metropolitana de Filadélfia.
–
Generative AI Insights oferece um local para líderes de tecnologia – incluindo fornecedores e outros colaboradores externos – explorarem e discutirem os desafios e oportunidades da inteligência artificial generativa. A seleção é ampla, desde aprofundamentos tecnológicos até estudos de caso e opiniões de especialistas, mas também subjetiva, com base em nosso julgamento de quais tópicos e tratamentos servirão melhor ao público tecnicamente sofisticado do InfoWorld. A InfoWorld não aceita material de marketing para publicação e reserva-se o direito de editar todo o conteúdo contribuído. Contato [email protected].
