Gemini Decision 1 répond à des questions fermées sans générer de texte

Google a lancé Gemini Decisions API le 11 novembre. Le modèle Gemini Decision 1 évalue des choix proposés par l’application. Il peut examiner un document ou une image et attribuer des probabilités aux réponses possibles. L’API est accessible via Gemini et Google AI Studio selon Google. Vercel annonce aussi sa disponibilité dans AI Gateway. Annonce de Google Note de version Vercel

Une même entrée peut servir à plusieurs questions

L’application soumet une entrée commune. Elle peut y joindre du texte et des images ainsi que de l’audio, de la vidéo ou un PDF. La fiche annonce jusqu’à 256 000 jetons en entrée et jusqu’à 1 000 questions indépendantes par requête. L’API évalue chaque question sur le même contenu. Un document peut ainsi servir à vérifier plusieurs critères sans être envoyé dans une requête séparée pour chacun. Fiche technique de Gemini Decision 1

Google décrit trois formats. Une question peut demander une estimation pour une réponse oui ou non. Une autre peut proposer plusieurs réponses et recevoir une probabilité pour chacune. Le troisième format attribue un score à partir d’une échelle définie par l’application. Ces résultats conviennent par exemple au classement d’une demande selon des catégories prévues.

Le score laisse la décision finale à l’application

L’application fixe les options et décide quoi faire du résultat. Dans un circuit documentaire, elle peut envoyer une réponse peu assurée à une personne chargée de vérifier le dossier. Un score élevé reste une estimation du modèle. Il doit être rapproché de la fréquence des erreurs sur les documents que l’organisation traite réellement.

Les chiffres de vitesse et de prix ont un périmètre

Google publie une latence de bout en bout de 150 à 250 millisecondes dans sa présentation de performance. Le billet détaille des essais sur des contextes allant jusqu’à 16 000 jetons et des séries allant de une à cent questions. Le plafond de 1 000 questions et la fenêtre maximale de contexte décrivent les capacités annoncées. Ils ne sont pas le périmètre complet de la mesure citée.

Google affiche un tarif de 0,10 dollar par million de jetons en entrée et aucun prix pour les jetons en sortie. Le contenu partagé est facturé une fois par requête selon l’éditeur. Le texte des questions et leurs critères s’ajoutent à l’entrée. Le coût d’un traitement dépend donc du document et du nombre de questions posées.

Ce que mesure la comparaison externe

Artificial Analysis publie un indice qui combine des évaluations de décision et d’extraction de documents avec des tests de raisonnement et de cohérence. Sa méthode tient compte de la relation entre l’exactitude des réponses et la confiance affichée. Ce cadre est distinct des mesures de latence publiées par Google. Un résultat agrégé ne suffit pas à choisir un seuil de confiance pour un dossier réel. Le même modèle peut être plus à l’aise sur des factures que sur des formulaires très peu lisibles. Une comparaison utile distingue le nombre de réponses correctes et les cas où le modèle leur attribue une confiance trop forte. Indice de décision d’Artificial Analysis

Le lancement rejoint un type d’interface déjà illustré par la disponibilité générale de l’API Decisions d’OpenAI. Dans chaque cas, la précision des options et la manière de traiter les cas ambigus comptent autant que la capacité à interroger rapidement un document.