ANSSI : sécuriser un système d’IA générative, de sa conception à son usage
L’ANSSI décrit les précautions de sécurité à prévoir lors de l’intégration d’un système d’IA générative dans un environnement professionnel. Le guide traite les étapes de conception, d’entraînement et de mise en production. Il aide à dialoguer avec une équipe informatique et à distinguer facilité d’utilisation et sécurité de l’architecture.
Considérer la sécurité de l’ensemble du système
Un système d’IA générative comprend des données, des interfaces, des accès et parfois des outils capables d’agir. La sécurité doit donc être étudiée sur toute la chaîne d’usage. La lecture du guide aide à identifier les responsabilités et les points de contrôle à examiner avant une mise en service.
Source : ANSSI · document original ↗Points de vigilance
Le guide concerne la sécurité technique. Il ne couvre pas à lui seul l’éthique, la protection des données personnelles ou la qualité métier des réponses.
Un exercice pour passer à l’action
Dessinez le parcours d’une requête, depuis l’utilisateur jusqu’aux données et aux outils sollicités. Repérez les informations sensibles, les permissions et les sorties diffusées. Faites relire ce schéma par le responsable technique ou sécurité.