“Embora a solicitação geralmente funcione da mesma forma com o pensamento prolongado ativado, facilitamos otimizar os avisos para aproveitar ao máximo esse novo recurso”, escreveu a empresa, acrescentando que os usuários precisariam especificar quais instruções deveriam funcionar com o pensamento prolongado.
Além disso, o Antrópico também está oferecendo uma capacidade de orçamento para pensar estendido dentro do console, que pode ser usado para definir um limite para a quantidade máxima de tokens de “pensamento” que está sendo gerado.
A capacidade de orçamento, de acordo com Gupta, permitirá que as empresas se tornem melhor na solução de problemas sem o risco de gastar excessivamente. “Com esse recurso, as empresas ganham controle sobre quando querem que seus modelos pensem e por quanto”, disse Gupta.
