L’API prend en charge les entrées multimodales, notamment les images, l’audio et la vidéo, avec une fenêtre contextuelle pouvant contenir jusqu’à 256 000 jetons. Les développeurs peuvent utiliser les scores de confiance obtenus pour déterminer quand une demande doit être traitée automatiquement ou renvoyer les cas incertains pour un examen plus approfondi.
Google a déclaré que l’API offre une latence de bout en bout de 150 à 250 millisecondes dans des tests impliquant des contextes allant jusqu’à 16 000 jetons, les performances restant relativement stables sur une à 100 questions.
La société a fixé le prix de l’API à 0,10 $ par million de jetons d’entrée, sans frais supplémentaires pour les jetons de sortie. « Votre contribution partagée est facturée une fois par demande, quel que soit le nombre de questions que vous évaluez (chaque question ajoute uniquement ses propres jetons d’instruction et de critères) », a déclaré Google dans son annonce.
