A OpenAI introduziu a API Usage, uma API que permite às empresas rastrear suas atividades por meio da API OpenAI. Com a API Usage, o uso e os custos da API OpenAI podem ser avaliados programaticamente, disse a empresa.
Anunciada em 4 de dezembro, a API OpenAI Usage monitora o uso do token por minuto, hora ou dia e filtra os dados de uso por fatores como modelo, chave de API, ID do projeto e ID do usuário. Os usuários podem verificar os gastos diários por meio de um terminal de custos para supervisão do orçamento. A API Usage, disse OpenAI, foi desenvolvida para escalabilidade, segurança e conformidade, para que as equipes corporativas gerenciem custos, otimizem fluxos de trabalho e tomem decisões mais rápidas.
Embora a API de uso forneça dados granulares de uso, ela nem sempre pode ser perfeitamente compatível com os custos devido a pequenas diferenças na forma como o uso e os gastos são registrados, disse OpenAI. Para fins financeiros, a OpenAI recomenda usar o endpoint Custos ou a guia Custos no Painel de Uso, que reconciliará com uma fatura de cobrança.