Os desenvolvedores que buscam reduzir o custo das ferramentas de codificação baseadas em IA têm se voltado cada vez mais para o estilo de prompt “Homem das Cavernas”, que instrui os assistentes de codificação a se comunicarem em linguagem telegráfica e contundente e a evitar preenchimentos de conversação. A teoria é simples: menos palavras significam menos tokens, o que se traduz em custos de inferência mais baixos para as organizações que implementam agentes de IA em grande escala.
Um novo teste do fabricante de IDE JetBrains confirma que estilos de prompt concisos, como o projeto viral de código aberto Caveman, podem reduzir o uso de tokens sem prejudicar o desempenho da codificação. No entanto, a empresa descobriu que as economias foram muito menores do que afirmam os apoiadores.
JetBrains usou a estrutura de avaliação de código aberto Harbour e tarefas do SkillsBench para seu teste e descobriu que a técnica Caveman reduziu o uso de tokens de saída em cerca de 8,5%, muito abaixo dos 65% reivindicados.
