A OpenAI, conhecida por seu grande modelo de linguagem ChatGPT, está dando um forte impulso ao mercado corporativo. No que poderia intensificar a concorrência entre os players empresariais de IA, a empresa anunciou uma série de novos recursos projetados para dar às empresas mais controle, aumentar a segurança e oferecer opções econômicas ao integrar as tecnologias de IA da OpenAI em suas operações.
“Estamos aprofundando nosso suporte às empresas com novos recursos que são úteis tanto para grandes empresas quanto para qualquer desenvolvedor que esteja escalando rapidamente em nossa plataforma”, disse OpenAI.
Este movimento posiciona a OpenAI como um player sério no mercado crescente de APIs de modelo de linguagem grande (LLM), atualmente dominado pelo modelo de linguagem de código aberto Llama da Meta, que viu novos recursos em sua versão atualizada Llama3.
“Em termos de vantagens competitivas, o compromisso da OpenAI com a abertura, a colaboração e o desenvolvimento ético de IA a diferencia”, disse Pradeepta Mishra, especialista em IA, autora publicada no LLM e cofundadora da empresa de privacidade de dados Data Safeguard. “Ao lançar modelos de última geração como o GPT e promover uma abordagem voltada para a comunidade para a pesquisa de IA, a OpenAI atraiu atenção e adoção significativas no ecossistema de IA.”
Além disso, o foco da OpenAI em soluções empresariais pode acelerar a adoção de LLMs entre as empresas, disse Mishra. “Embora o direcionamento da OpenAI às empresas possa impulsionar a adoção mais rápida de LLMs no mundo dos negócios, é provável que as empresas abordem a adoção com uma mistura de entusiasmo e cautela, considerando vários fatores como confiança, personalização, conformidade regulatória, custo, gestão de risco e ética. considerações”, advertiu Mishra.
Segurança em primeiro lugar: Protegendo dados confidenciais
Entre as principais atualizações está a introdução do Private Link, um recurso que permite a comunicação direta entre a infraestrutura em nuvem de um cliente, por exemplo, Microsoft Azure e Open AI, ao mesmo tempo que minimiza a sua exposição à Internet aberta, reduzindo assim as ameaças à segurança cibernética. Além disso, agora oferece autenticação multifator (MFA), que oferece uma camada adicional de segurança para contas de usuários.
“Essas são novas adições à nossa pilha existente de recursos de segurança empresarial, incluindo certificação SOC 2 Tipo II, logon único (SSO), criptografia de dados em repouso usando AES-256 e em trânsito usando TLS 1.2 e controles de acesso baseados em funções, ” OpenAI disse no anúncio. “Também oferecemos acordos de associação comercial para empresas de saúde que exigem conformidade com HIPAA e uma política de retenção zero de dados para clientes de API com um caso de uso qualificado.”
Assumindo o controle: supervisão granular e gerenciamento de custos
O novo recurso Projetos da OpenAI pode ser uma virada de jogo para empresas que gerenciam vários projetos. Ele permite que as organizações tenham controle granular sobre projetos individuais e supervisão sobre projetos individuais, explicou o comunicado.
“Isso inclui a capacidade de definir funções e chaves de API para projetos específicos, restringir/permitir quais modelos serão disponibilizados e definir limites baseados em uso e taxa para conceder acesso e evitar excessos inesperados. Os proprietários do projeto também terão a capacidade de criar chaves API de contas de serviço, que dão acesso aos projetos sem estar vinculados a um usuário individual”, afirmou a empresa.
A OpenAI também anunciou “duas novas maneiras” de ajudar as empresas a gerenciar suas despesas e, ao mesmo tempo, aumentar o uso de IA. Oferece opções de uso com desconto (até 50%) para taxa de transferência comprometida e custos reduzidos para cargas de trabalho assíncronas.
“Os clientes com um nível sustentado de uso de tokens por minuto (TPM) no GPT-4 ou GPT-4 Turbo podem solicitar acesso à taxa de transferência provisionada para obter descontos que variam de 10 a 50% com base no tamanho do compromisso”, mencionou o anúncio . Da mesma forma, a empresa também introduziu uma API Batch, com preço reduzido de 50%, especificamente para tarefas não urgentes. “Isso é ideal para casos de uso como avaliação de modelo, classificação offline, resumo e geração de dados sintéticos”, disse a empresa.
Recursos aprimorados de assistente para desenvolvedores
A empresa disse ainda que, com essas atualizações, os desenvolvedores que trabalham com a API Assistant da OpenAI se beneficiarão de diversas melhorias. Notavelmente entre eles está “recuperação aprimorada com 'file_search', que pode ingerir até 10.000 arquivos por assistente – um aumento de 500 vezes em relação ao limite anterior de 20 arquivos”, acrescentou a empresa. “A ferramenta é mais rápida, oferece suporte a consultas paralelas por meio de pesquisas multithread e aprimorou a reclassificação e a reescrita de consultas.”
A empresa também disse que “continuará adicionando novos recursos focados em segurança de nível empresarial, controles administrativos e gerenciamento de custos”. Isso aumentaria o nível de concorrência no espaço LLM daqui para frente, espera Mishra, da Data Safeguard. “O foco da OpenAI em soluções empresariais pode acelerar a adoção de LLMs entre as empresas.”
