OpenAI déploie Control Room pour arrêter l’inférence de tâches de recherche

OpenAI a présenté Control Room le 9 novembre. La présentation technique d’OpenAI décrit un système déjà déployé dans son infrastructure de recherche pour suivre les tâches qui utilisent un modèle et arrêter leur production de nouvelles réponses. Le groupe annonce jusqu’à 35 secondes entre la réception d’un ordre d’arrêt et le moment où la tâche ne peut plus progresser par inférence. L’article de BFM Tech du 11 novembre revient sur ce mécanisme.

Arrêter les réponses d’une tâche précise

Une expérience ou une évaluation peut envoyer plusieurs demandes à un modèle au fil de son exécution. D’autres tâches peuvent utiliser le même moteur au même moment. OpenAI explique que son dispositif associe les demandes à une tâche et contrôle leur autorisation au niveau du moteur. Lorsqu’une tâche est arrêtée le moteur peut refuser ses demandes suivantes.

Cette distinction permet de comprendre ce qui s’arrête. Le processus qui orchestre l’expérience peut rester présent. Il cesse de recevoir de nouvelles sorties du modèle pour la tâche visée. Les autres tâches autorisées peuvent continuer à utiliser le moteur. Ce contrôle vise les requêtes d’inférence liées à une expérience donnée.

Le délai commence à l’ordre d’arrêt

OpenAI attribue la borne de 35 secondes à la conservation temporaire des décisions d’autorisation pour gérer le volume de requêtes. Elle court après la réception de l’ordre. La détection initiale d’un problème et la décision d’intervenir se situent avant ce délai. L’annonce ne fournit pas un temps de détection pour tous les comportements que l’entreprise cherche à repérer.

Les équipes peuvent intervenir. Certains systèmes de surveillance peuvent également déclencher un arrêt selon la nature et la gravité de l’alerte. OpenAI décrit ces systèmes et l’arrêt comme des protections complémentaires. L’un repère des événements qui méritent une intervention. L’autre agit sur la possibilité de continuer à produire des sorties.

Un fonctionnement prévu en cas de panne

OpenAI indique que le système doit refuser les requêtes si le service d’autorisation ne répond plus. La société dit avoir déjà activé ce comportement pour les tâches de recherche sur les modèles de pointe. Elle prévoyait de terminer son extension aux autres tâches de recherche dans les jours suivants. L’annonce distingue ainsi le déploiement de Control Room et l’extension de ce comportement en cas de panne.

Le périmètre présenté est celui des travaux internes de recherche. OpenAI évoque séparément ses moyens d’intervention sur les services exposés au public. Le chiffre de 35 secondes ne constitue pas un délai garanti pour toutes les interactions de ChatGPT ou tous les produits de l’entreprise.

Control Room donne un exemple d’action technique après qu’une intervention a été décidée. La présentation détaille la conception et le délai annoncé par l’éditeur. Une évaluation indépendante demanderait des mesures sur plusieurs types de tâches et de pannes ainsi que sur les alertes qui précèdent l’arrêt. Cette distinction entre détection et intervention éclaire les engagements discutés dans l’Appel de Paris sur la sécurité des modèles de pointe. Elle permet de comparer ce qui est prévu dans une infrastructure et ce qui a effectivement été mesuré.