O rolo compressor da IA ​​generativa OpenAI introduziu novas maneiras para os desenvolvedores gerenciarem e rastrearem o uso de chaves de API. A empresa também atualizou seus modelos de linguagem grande GPT-3.5 Turbo e GPT-4 e revelou dois novos modelos de incorporação de texto.

OpenAI foi lançado em 25 de janeiro. Duas melhorias na plataforma de gerenciamento de chaves de API visam dar aos desenvolvedores mais visibilidade sobre o uso e controle sobre APIs. Primeiro, os desenvolvedores agora podem atribuir permissões às chaves de API na página de chaves de API. Por exemplo, uma chave pode receber acesso somente leitura para alimentar um painel de rastreamento interno ou ser restrita para acessar apenas determinados terminais.

Em segundo lugar, o painel de uso da API e a função de exportação agora expõem métricas para uma chave de API após ativar o controle. Isso simplifica a análise do uso por equipe, recurso, produto ou projeto, tendo chaves de API separadas para cada um. Mais melhorias estão planejadas para melhorar a capacidade dos desenvolvedores de visualizar o uso da API e gerenciar chaves, disse OpenAI.

OpenAI revelou dois novos modelos de incorporação de texto, um “menor e altamente eficiente” text-embedding-3-small modelo e um “maior e mais poderoso” text-embedding-3-large modelo. A empresa apregoa text-embedding-3-large como seu novo modelo de incorporação de melhor desempenho.

Uma incorporação é uma sequência de números que representa conceitos dentro de conteúdo, como código ou linguagem natural, explicou OpenAI. As incorporações facilitam aos modelos de aprendizado de máquina e outros algoritmos a compreensão da relação entre o conteúdo e a execução de tarefas como recuperação ou agrupamento. Esses aplicativos potencializam a recuperação de conhecimento no ChatGPT ou na API Assistants.

O modelo de visualização GPT-4 Turbo atualizado, gpt-4-0125-preview, completa tarefas como geração de código de forma mais completa do que o modelo anterior e tem como objetivo reduzir a “preguiça” quando o modelo não conclui uma tarefa, disse OpenAI. O novo modelo também inclui uma correção para um bug que afeta as gerações UTF-8 em idiomas diferentes do inglês. Para usuários que desejam ser atualizados automaticamente para as novas versões de visualização do GPT-4 Turbo, a OpenAI está apresentando o gpt-4-turbo-preview alias do nome do modelo, que apontará para o modelo de visualização GPT-4 Turbo mais recente.

A empresa também está lançando um novo modelo GPT-3.5 Turbo, o gpt-3.5-turbo-0125e reduzindo os preços de uso do GPT-3.5 Turbo. A atualização melhora a precisão do modelo ao responder nos formatos solicitados e corrige um bug que causava um problema de codificação de texto para chamadas de função em idiomas diferentes do inglês.