Aller au contenu
David LACOURFORMATIONS IA
Actualités IA

Actualités IA

OpenAI et NASK signent un accord sur la sécurité de l’IA. Les évaluations restent à construire

OpenAI et l’institut polonais NASK annoncent un accord de recherche. Le projet distingue évaluation des modèles, risques multilingues et cybersécurité.

Logos officiels OpenAI et NASK dans une architecture imprimée ivoire, acier et cobalt.

OpenAI et l’institut public polonais NASK annoncent le 23 octobre 2026 la signature d’un accord consacré à la sécurité de l’IA. Les partenaires veulent mieux évaluer les systèmes avancés et leurs protections. Le fait acquis est la signature. Les résultats des futures recherches ne sont pas encore publiés. Un précédent travail de cybersécurité aide toutefois à comprendre ce que cette coopération peut apporter.

Une coopération pour tester les modèles et leurs protections

L’annonce d’OpenAI présente un accord destiné à explorer une collaboration scientifique et technique. Les travaux envisagés concernent les méthodes d’évaluation et la recherche de vulnérabilités. Ils doivent aussi aider à renforcer les protections. Le communiqué ne fournit ni protocole commun complet ni calendrier détaillé des futures publications. Il ne constitue donc pas un certificat de sécurité pour les modèles du fournisseur.

Le communiqué de NASK précise qui pilotera les travaux côté polonais. Il s’agit de son centre de recherche sur la sécurité de l’IA. Cette structure remplit la fonction d’institut polonais de sécurité de l’IA. NASK apporte une expérience de protection des services publics et de l’espace informationnel national. L’accord associe ainsi le développeur des modèles à une institution publique extérieure.

Logos officiels OpenAI et NASK avec la phrase Recherche en sécurité. Des tests à construire.
Le nouvel accord porte sur la recherche en sécurité de l’IA. Le cas RouterOS décrit dans l’article appartient à une coopération antérieure.

La langue fait partie du risque étudié

NASK cite notamment la détection des contenus produits par l’IA et l’étude des usages malveillants. L’institut examine aussi les différences de risque selon la langue utilisée dans la conversation. Ce point élargit la question au-delà d’un score général obtenu en anglais. Il reste un axe de recherche annoncé. Les partenaires ne publient pas aujourd’hui une comparaison chiffrée démontrant une amélioration de sécurité dans toutes les langues.

OpenAI replace cette coopération dans son souhait de développer des approches internationales communes. L’évaluation des capacités et le signalement des incidents font partie des sujets évoqués. Ce souhait ne vaut pas adoption d’une norme obligatoire. Il faut distinguer une collaboration entre organismes et une décision réglementaire. L’annonce ne permet pas non plus de conclure que toutes les futures conclusions seront rendues publiques sans restriction.

Un résultat antérieur existe sur RouterOS

Le précédent est documenté dans le rapport de CERT Polska publié le 5 septembre. Cette équipe de NASK a identifié six vulnérabilités dans MikroTik RouterOS avec l’appui de modèles OpenAI. Deux failles pouvaient se combiner pour permettre une prise de contrôle sans authentification sur certains équipements accessibles en SSH. L’équipe a confirmé que les correctifs empêchaient les attaques observées. Ces résultats précèdent l’accord annoncé ce 23 octobre.

Les agents n’ont pas remplacé le laboratoire

CERT Polska décrit un environnement isolé avec des équipements et des règles de test. Les agents automatisent une partie de l’analyse et de la gestion des machines. Les chercheurs choisissent les pistes puis vérifient les hypothèses sur un véritable système. Ils répètent les essais et évaluent les conséquences. Le rapport insiste sur les contrôles négatifs et l’élimination des fausses conclusions. Il ne présente pas la découverte comme le résultat d’une seule demande adressée à un chatbot.

Le même rapport distingue les outils utilisés des résultats validés. Il cite GPT-5.5-cyber et GPT-5.6-sol dans un dispositif supervisé. Ça n’établit pas que n’importe quel utilisateur obtiendrait les mêmes découvertes. Un accès spécialisé et un laboratoire préparé font partie des conditions de l’expérience. Le nombre de failles trouvées ne mesure pas non plus la sécurité globale d’un assistant.

Pour suivre ce nouvel accord, le repère utile sera la publication d’évaluations avec leurs conditions et leurs limites. Notre article sur l’audit des agents internes d’OpenAI montre pourquoi le périmètre contrôlé compte. Une coopération crée la possibilité de tester. Les résultats documentés permettront ensuite de juger ce qu’elle a réellement changé.

← Retour aux actualités IA

Poursuivre la lecture.

Actualités IA

Claude Enterprise ajoute des rapports et des budgets partagés. Mesurer l’usage ne suffit pas

Lire l’article ↗
Actualités IA

GitHub Copilot relie ses sessions cloud. Projects et les images restent en préversion

Lire l’article ↗
Actualités IA

Microsoft gère l’exécution d’agents Copilot dans Foundry. Le service reste en préversion

Lire l’article ↗