Sécurité de l’IA en 2026 : entre souveraineté nationale et alertes mondiales
24 février 2026 | Temps de lecture : 12 minutes
En l’espace de quelques jours, deux événements sont venus redéfinir les contours du débat sur la sécurité de l’intelligence artificielle. Le 3 février, le deuxième Rapport international sur la sécurité de l’IA, piloté par Yoshua Bengio, a été publié à Montréal. Quelques jours plus tard, le 12 février, l’INESIA (l’Institut national pour l’évaluation et la sécurité de l’IA) a adopté sa feuille de route 2026-2027. D’un côté, un diagnostic mondial sans concession. De l’autre, une réponse institutionnelle française structurante.
Ces deux événements ne sont pas déconnectés. Ils s’inscrivent dans un même mouvement de fond : la prise de conscience, par les États et la communauté scientifique, que l’IA avancée n’est plus un sujet théorique mais un risque opérationnel qui exige des réponses concrètes, rapides et coordonnées. Cet article propose une lecture croisée de ces deux piliers, en expliquant pourquoi ils concernent directement les entreprises, les DPO et les responsables conformité.
I. Le rapport Bengio 2026 : un état des lieux mondial qui interpelle
Source : Lien
Un exercice scientifique inédit par son ampleur
Le rapport international sur la sécurité de l’IA n’est pas un document militant. C’est une synthèse scientifique commandée par le gouvernement britannique, rédigée par plus de 100 experts indépendants issus de 30 pays, et supervisée par un comité consultatif où siègent des représentants de l’UE, de l’OCDE et des Nations unies. Sa présidence est assurée par Yoshua Bengio, lauréat du prix Turing, l’une des voix les plus respectées au monde dans le domaine de l’apprentissage profond.
Cette deuxième édition actualise le premier rapport publié en 2025. Elle dresse un constat net : les capacités des systèmes d’IA progressent considérablement, mais les mesures de protection ne suivent pas le rythme. L’écart se creuse entre le progrès technologique et notre capacité collective à en maîtriser les effets.
« Depuis la publication du premier rapport, nous avons constaté des progrès considérables dans les capacités des modèles, mais aussi dans leurs risques, et l’écart entre le rythme du progrès technologique et notre capacité à mettre en œuvre des mesures de protection efficaces demeure un problème majeur. » — Yoshua Bengio, Président du rapport
Trois catégories de risques identifiées
Le rapport structure son analyse autour de trois familles de risques, chacune ayant des implications juridiques et opérationnelles directes pour les entreprises.
- Les usages malveillants de l’IA. C’est le volet le plus immédiatement préoccupant. Les acteurs malveillants (cybercriminels, réseaux de désinformation, entités hostiles) exploitent massivement l’IA générative pour industrialiser leurs attaques. Le rapport documente l’existence de marchés clandestins vendant des outils d’IA offensifs prêts à l’emploi, qui abaissent drastiquement le seuil de compétence technique nécessaire pour mener des cyberattaques. Phishing hyper-personnalisé, scan automatisé de vulnérabilités, malwares adaptatifs, deepfakes vocaux : la palette offensive s’élargit considérablement.
- Les risques liés aux armes de destruction. Le rapport relève un fait particulièrement inquiétant : en 2025, plusieurs entreprises ont renforcé les mesures de protection de leurs modèles après que des tests de pré-déploiement n’ont pas permis d’exclure que ces systèmes puissent aider de manière significative des novices à développer des armes biologiques. Ce constat place la question de la responsabilité des fournisseurs de modèles sous un éclairage nouveau, notamment au regard du règlement européen sur l’IA.
- Les risques systémiques et la perte de contrôle. Le rapport souligne la difficulté croissante à anticiper le comportement des systèmes autonomes. La progression n’est pas linéaire : un modèle peut résoudre un calcul complexe et échouer sur une tâche triviale l’instant d’après. Cette imprévisibilité rend les méthodes d’évaluation traditionnelles insuffisantes et appelle à repenser en profondeur les protocoles de test et de certification.
À retenir pour les entreprises
Le rapport Bengio n’est pas un document de prospective lointaine. Il documente des risques déjà matérialisés en 2025. Pour les organisations qui déploient ou utilisent de l’IA, il constitue un signal d’alerte clair : la conformité réglementaire (AI Act, RGPD) ne peut plus être dissociée d’une démarche robuste de gestion des risques IA.
Un horizon 2030 qui interpelle
Les auteurs du rapport projettent que la complexité des tâches que les agents d’IA peuvent accomplir double environ tous les sept mois. Si cette trajectoire se maintient, d’ici 2030, les systèmes d’IA pourraient réaliser de manière fiable des tâches logicielles nécessitant plusieurs jours de travail humain. Cette accélération souligne l’urgence de bâtir dès maintenant des cadres d’évaluation adaptés, ce qui est précisément la mission que s’assigne l’INESIA.
II. L’INESIA : la réponse souveraine française
Source : Lien
Genèse et architecture institutionnelle
L’Institut national pour l’évaluation et la sécurité de l’IA (INESIA) a été créé le 31 janvier 2025, en amont du Sommet français pour l’action sur l’IA. Son positionnement est unique au monde : c’est le seul AI Safety Institute à être explicitement missionné dans le cadre d’un règlement européen contraignant, l’AI Act, dont l’application complète est prévue en août 2026. Là où les instituts américain ou britannique opèrent dans un cadre de soft law, l’INESIA s’inscrit d’emblée dans une logique réglementaire forte.
L’institut est copiloté par le SGDSN (Sécrétariat général de la défense et de la sécurité nationale) et la DGE (Direction générale des entreprises). Il fédère quatre organismes de premier plan : l’ANSSI (cybersecurity), Inria (recherche), le LNE (métrologie) et le PEReN (régulation numérique). Ce maillage est structurant : il associe expertise en sécurité nationale, compétence scientifique, capacité de mesure et expérience régulatoire.
La feuille de route 2026-2027 : onze projets, trois pôles
Le 12 février 2026, l’INESIA a adopté sa feuille de route opérationnelle, structurée autour de trois pôles thématiques et un axe transverse, déclinés en onze projets concrets.
Pôle 1 - Appui à la régulation. Ce pôle vise à fournir aux 16 autorités nationales compétentes (CNIL, DGCCRF, ARCOM, HAS, ANSSI, etc.) les outils d’évaluation nécessaires à l’application de l’AI Act. Il comprend quatre projets : la mise à disposition d’outils d’évaluation pour les régulateurs, un suivi trimestriel des travaux normatifs liés au règlement européen, le renforcement des capacités de détection de contenus synthétiques (texte, image, audio, vidéo) via une bibliothèque open source de référence, et le développement de méthodes de certification adaptées à la cybersécurité des systèmes d’IA, piloté par l’ANSSI dans le cadre du projet SEPIA.
Pôle 2 - Risques systémiques. C’est le pôle le plus directement en résonance avec les alertes du rapport Bengio. L’INESIA entend identifier les projets de recherche les plus pertinents, évaluer les méthodes d’atténuation des risques et constituer des jeux de données de test. Les risques prioritaires sont explicites : manipulation de l’information, assistance aux attaques informatiques, aide au développement d’armes NRBC (nucléaires, radiologiques, biologiques et chimiques). L’étude des systèmes agentiques — ces IA capables d’agir de manière autonome dans des environnements numériques — fait également partie des priorités.
Pôle 3 - Performance et fiabilité. Ce pôle mise sur l’émulation entre acteurs à travers l’organisation de challenges techniques ouverts à l’écosystème, dans une logique de coopétition. L’objectif est de faire progresser l’état de l’art en matière d’évaluation et de contribuer à des classements fiables des modèles et des agents IA.
Axe transverse. Un programme de veille académique et méthodologique structurera les trois pôles. L’INESIA développera une infrastructure logicielle et matérielle d’évaluation, comprenant des jeux de données, des scripts de test et des outils open source. Des journées scientifiques annuelles seront organisées pour favoriser l’échange entre chercheurs et praticiens.
L’INESIA dans le réseau international des AI Safety Institutes
L’INESIA est membre du réseau international des AISI, rebaptisé en décembre 2025 « International Network for Advanced AI Measurement, Evaluation and Science ». Il regroupe 9 pays (Australie, Canada, Corée du Sud, États-Unis, France, Japon, Kenya, Royaume-Uni, Singapour) et le AI Office de la Commission européenne. La France y apporte son expertise unique en évaluation cyber et en détection de contenus synthétiques.
III. La convergence RGPD – AI Act – Cybersécurité : un enjeu central pour les entreprises
L’un des enseignements majeurs de février 2026 est la convergence irréversible entre trois blocs réglementaires que les entreprises traitaient souvent en silo : le RGPD, l’AI Act et les obligations de cybersécurité (NIS2, DORA, CRA).
L’AI Act et le RGPD : une articulation désormais indissociable
L’AI Act introduit l’AIDF (Analyse d’Impact sur les Droits Fondamentaux), un exercice que les déployeurs de systèmes d’IA à haut risque devront réaliser avant toute mise en service. Cette analyse devra s’articuler avec l’AIPD (Analyse d’Impact relative à la Protection des Données) déjà exigée par le RGPD. Le risque, pour les organisations, est de mener deux exercices redondants. L’opportunité est de construire une stratégie de conformité unifiée qui gagne en cohérence et en efficacité.
Rappelons que d’ici août 2026, les entreprises déployant des systèmes d’IA à haut risque devront être inscrites dans la base de données de l’UE, avoir obtenu un marquage CE, et disposer d’un système de gestion des risques documenté. Les secteurs les plus exposés sont le recrutement (algorithmes de tri de CV), la santé (aide au diagnostic), la finance (scoring automatisé) et l’industrie (maintenance prédictive critique).
La cybersécurité comme préalable à la conformité IA
Le rapport Bengio et la feuille de route INESIA convergent sur un point essentiel : la sécurité des systèmes d’IA est d’abord une question de cybersécurité. Le projet SEPIA piloté par l’ANSSI au sein de l’INESIA vise précisément à développer des méthodes d’évaluation adaptées aux produits intégrant de l’IA. Parallèlement, le rapport international documente l’utilisation offensive de l’IA par les attaquants : un agent d’IA s’est classé parmi les 5 % d’équipes les plus performantes lors d’un grand concours de cybersécurité en 2025.
Pour les entreprises, le message est clair : déployer de l’IA sans une posture de cybersécurité mature, c’est s’exposer à la fois au risque d’incident et au risque de non-conformité. La CNIL l’a d’ailleurs rappelé dans son bilan 2025 : la sécurité insuffisante des données figure parmi les trois premiers motifs de sanction, et l’authentification multifacteur devient un standard exigé.
IV. Ce que cela change concrètement : recommandations
Au regard de ces évolutions, voici les actions que nous recommandons aux organisations qui déploient ou envisagent de déployer des systèmes d’intelligence artificielle.
Cartographier vos systèmes d’IA au regard de l’AI Act. Identifiez lesquels relèvent du « haut risque » au sens de l’Annexe III. Pour chacun, évaluez la nécessité d’une AIDF et d’un marquage CE. N’attendez pas août 2026 : les travaux préparatoires prennent du temps.
Unifier vos analyses d’impact. Construisez une méthodologie intégrée qui croise l’AIPD (RGPD) et l’AIDF (AI Act). Cela évitera les doublons, renforcera la cohérence de votre documentation et facilitera les échanges avec les autorités de contrôle.
Renforcer votre posture cybersécurité. L’IA multiplie la surface d’attaque. Assurez-vous que vos modèles, vos données d’entraînement et vos chaînes de déploiement sont protégés. L’authentification multifacteur n’est plus optionnelle. Surveillez les publications de l’ANSSI et de l’INESIA pour anticiper les futures exigences de certification.
Suivre les travaux de l’INESIA. Les outils d’évaluation, les bibliothèques open source de détection de contenus synthétiques et les protocoles de test qui seront publiés par l’Institut constitueront des références opérationnelles. Les intégrer tôt dans vos processus vous donnera un avantage concurrentiel en matière de conformité.
Former vos équipes. DPO, RSSI, responsables conformité et équipes métier doivent désormais partager un langage commun sur les risques IA. La 20e Université AFCDP des DPO, tenue les 5 et 6 février 2026 sur le thème « DPO en 2026 : à la croisée des réglementations », a confirmé cette tendance.
Conclusion : la sécurité de l’IA, un chantier collectif qui ne peut plus attendre
Février 2026 restera comme le mois où la sécurité de l’IA a changé de statut. Elle n’est plus un sujet de recherche cantonné aux laboratoires. C’est désormais un enjeu de souveraineté nationale, un facteur de conformité réglementaire et un impératif de gestion des risques pour toute organisation qui utilise ou déploie de l’intelligence artificielle.
Le rapport Bengio sonne l’alarme avec la rigueur de la science. L’INESIA construit la réponse avec les outils de l’État. L’AI Act pose le cadre juridique. Aux entreprises, maintenant, de s’en saisir.
« La France fait le choix d’une intelligence artificielle à la fois innovante, sûre et digne de confiance, en se donnant les moyens d’évaluer et de sécuriser les systèmes les plus avancés. » — Anne Le Hénanff, Ministre déléguée chargée de l’Intelligence artificielle et du Numérique
Le logiciel RGPD du DPO
Les DPO internes, vous disposez de documentations et d’outils intuitifs, permettant la collaboration avec vos équipes.
Les DPO mutualisés et externes (consultants freelance, cabinets d'avocats ou de conseil, institutions publiques), en plus de disposer des mémes fonctionnalités que les DPO internes pour tous vos clients, vous gérez ensemble sur une seule plateforme.
