A API oferece suporte a entradas multimodais, incluindo imagens, áudio e vídeo, com uma janela de contexto de até 256.000 tokens. Os desenvolvedores podem usar as pontuações de confiança resultantes para determinar quando um aplicativo deve prosseguir automaticamente ou encaminhar casos incertos para análise adicional.
O Google disse que a API oferece latência ponta a ponta de 150 a 250 milissegundos em testes envolvendo contextos de até 16.000 tokens, com desempenho permanecendo relativamente estável em uma a 100 perguntas.
A empresa fixou o preço da API em US$ 0,10 por milhão de tokens de entrada, sem cobranças adicionais de token de saída. “Sua contribuição compartilhada é cobrada uma vez por solicitação, não importa quantas perguntas você avalie (cada pergunta adiciona apenas suas próprias instruções e tokens de critérios)”, disse o Google em seu anúncio.
