Lignes rouges de l'IA : l'appel mondial pour un traité international d'ici 2026

‍Le 22 septembre 2025, plus de 200 personnalités dont 10 prix Nobel, des pionniers de l'IA et d'anciens chefs d'État ont lancé un appel sans précédent à l'ONU pour établir des interdictions juridiquement contraignantes sur les usages les plus dangereux de l'intelligence artificielle. Quelques mois plus plus tard, où en est-on ?

Ce qui s'est passé : un appel historique devant l'Assemblée générale de l'ONU

Le 22 septembre 2025, lors de la Semaine de haut niveau de la 80ᵉ Assemblée générale des Nations Unies, la journaliste et prix Nobel de la paix Maria Ressa a pris la parole pour annoncer le « Global Call for AI Red Lines » un appel signé par plus de 200 personnalités et 70 organisations, réclamant un accord international sur des « lignes rouges » pour l'intelligence artificielle d'ici fin 2026.

Le poids des signataires donne à cette initiative une portée inédite. Parmi les 10 lauréats du Nobel figurent la biochimiste Jennifer Doudna (pionnière de CRISPR), l'économiste Daron Acemoglu, le physicien Giorgio Parisi et l'ancienne présidente d'Irlande Mary Robinson. Du côté de l'IA, les noms qui comptent sont là : Yoshua Bengio et Geoffrey Hinton, les deux « parrains du deep learning » et prix Turing, mais aussi Wojciech Zaremba, cofondateur d'OpenAI, Jason Clinton, directeur de la sécurité chez Anthropic, et Ian Goodfellow, chercheur principal chez Google DeepMind. L'historien Yuval Noah Harari et l'écrivain Stephen Fry ont également apposé leur signature.

Leur message est condensé en une phrase : « Nous appelons les gouvernements à parvenir à un accord international sur des lignes rouges pour l'IA en s'assurant qu'elles soient opérationnelles, avec des mécanismes d'application robustes d'ici fin 2026. »

L'initiative est coordonnée par trois organisations : le Centre français pour la Sécurité de l'IA (CeSIA), basé à Paris, The Future Society, et le Center for Human-Compatible AI de l'université de Berkeley.

Ce qui distingue cet appel des précédents. Plusieurs lettres ouvertes sur les risques de l'IA ont circulé ces dernières années : la lettre du Future of Life Institute (mars 2023, signée par Elon Musk), l'appel du Center for AI Safety (mai 2023, signé par les CEO d'OpenAI, Anthropic et DeepMind). La différence fondamentale : ces initiatives précédentes demandaient des pauses volontaires ou une prise de conscience. Celle-ci exige des mesures juridiquement contraignantes un changement de nature, pas seulement de degré.

Une absence qui en dit long

Un détail mérite qu'on s'y arrête : Sam Altman (OpenAI), Dario Amodei (Anthropic) et Demis Hassabis (Google DeepMind) les trois dirigeants les plus puissants de l'industrie IA n'ont pas signé cette lettre. Des chercheurs de leurs propres entreprises l'ont fait, mais pas eux.

Cette absence est révélatrice de la tension structurelle qui traverse le secteur. En 2023, Altman, Amodei et Hassabis avaient cosigné la déclaration du Center for AI Safety, qui reconnaissait le risque existentiel de l'IA. Depuis, leurs entreprises ont pris des engagements volontaires de sécurité au sommet de Séoul en mai 2024, lors des accords avec la Maison-Blanche en juillet 2023. Mais des recherches récentes montrent que ces entreprises ne respectent en moyenne qu'environ la moitié de leurs engagements volontaires. C'est précisément ce constat qui nourrit l'argumentaire des signataires : si les engagements volontaires ne fonctionnent pas, il faut passer au contraignant.

Les cinq lignes rouges : une cartographie des menaces

Ce qui rend cette lettre percutante, c'est la précision de la cartographie des risques qu'elle dresse. Chacune de ces menaces est déjà, à des degrés divers, en cours de matérialisation.

1. Les armes autonomes létales

C'est la ligne rouge la plus consensuelle et la plus difficile à imposer. Les signataires demandent l'interdiction des systèmes capables de sélectionner et d'engager des cibles sans intervention humaine. Le problème n'est plus théorique : des drones autonomes ont été utilisés sur des théâtres d'opérations, notamment en Libye dès 2020 selon un rapport de l'ONU. La course à l'IA militaire entre les États-Unis, la Chine et la Russie rend toute négociation extrêmement complexe.

2. L'IA dans la chaîne de commandement nucléaire

Les signataires exigent l'interdiction de l'IA dans les processus de décision liés au lancement d'armes nucléaires. Sur ce point précis, un précédent encourageant existe : en 2024, les présidents américain et chinois ont conjointement déclaré que l'IA ne devrait jamais prendre de décisions concernant l'utilisation d'armes nucléaires. La lettre demande que ce principe devienne juridiquement contraignant et universel.

3. Les pandémies d'origine artificielle

L'IA accélère considérablement la recherche en biologie de synthèse. Si cela ouvre des perspectives médicales extraordinaires, cela signifie aussi que des agents pathogènes pourraient être conçus ou optimisés à l'aide de modèles d'IA y compris par des acteurs non étatiques. Un détail glaçant : dans leurs propres évaluations de sécurité, Anthropic classe ses modèles les plus avancés à un niveau de risque « moyen » pour le mésusage biologique, et OpenAI au niveau « élevé ».

4. La désinformation de masse et la manipulation comportementale

Volet ajouté par rapport aux lettres précédentes : les signataires alertent spécifiquement sur le risque de manipulation à grande échelle par l'IA y compris ciblant les enfants. Maria Ressa a prévenu que « sans garde-fous, nous pourrions bientôt faire face à un chaos épistémique, des pandémies artificielles et des violations systématiques des droits humains ». La surveillance de masse, la notation sociale et la discrimination algorithmique sont explicitement mentionnées.

5. L'auto-réplication autonome

Dernière ligne rouge : l'interdiction pour un système d'IA de se copier, se modifier et se propager sans contrôle humain. Ce scénario relève encore de la prospective, mais il se rapproche. Selon les évaluations de sécurité de Google DeepMind, les experts estiment que des systèmes d'IA pourraient être capables de se répliquer et de proliférer de manière autonome sur Internet dès fin 2025, avec une estimation médiane autour de 2027.

Le parallèle avec les traités existants : promesse ou illusion ?

C'est ici que le débat devient véritablement clivant.

Les signataires ne se contentent pas de mentionner le Traité sur la Non-Prolifération des armes nucléaires (TNP, 1968). Ils s'appuient sur une série de précédents historiques pour démontrer que la coopération internationale est possible, même dans des contextes de rivalité intense.

La Convention sur les armes biologiques (1975) et le TNP ont été négociés et ratifiés au cœur de la guerre froide. Le Protocole de Montréal (1987) a évité une catastrophe environnementale mondiale en éliminant les substances détruisant la couche d'ozone. La Déclaration de l'ONU sur le clonage humain (2005) a établi une norme mondiale pour protéger la dignité humaine. Et le Traité sur la haute mer, signé en 2025, prouve que la diplomatie multilatérale fonctionne encore aujourd'hui.

Les sceptiques ont des arguments symétriques, et ils sont solides. Le TNP est un traité partiellement raté : Israël, l'Inde, le Pakistan et la Corée du Nord ne l'ont jamais ratifié ou s'en sont retirés. L'Union soviétique a massivement violé la Convention sur les armes biologiques, dont les mécanismes de vérification étaient quasi inexistants. Un « TNP de l'IA » risque de reproduire les mêmes failles avec une difficulté supplémentaire : contrairement à une installation nucléaire, un modèle d'IA peut être entraîné dans un data center sans signature physique détectable. Et l'innovation en IA est portée par le secteur privé, pas par des programmes étatiques. La gouvernance doit être pensée différemment.

Un traité contraignant pourrait même favoriser les régimes autoritaires qui ne respectent pas les accords internationaux, tout en bridant les démocraties qui, elles, s'y conformeraient. C'est l'argument le plus dérangeant et le plus difficile à balayer.

La France au cœur du dispositif

Un aspect insuffisamment relevé dans la couverture médiatique internationale : cette initiative a un ancrage français significatif. Le CeSIA, l'un des trois organisateurs de l'appel, est basé à Paris. Son directeur exécutif, Charbel-Raphaël Segerie, a souligné lors du lancement que « l'objectif n'est pas de réagir après un incident majeur, mais de prévenir des risques à grande échelle, potentiellement irréversibles, avant qu'ils ne se produisent ».

Ce positionnement s'inscrit dans la continuité du Sommet pour l'action sur l'IA, organisé par la France les 10 et 11 février 2025 au Grand Palais à Paris, co-présidé avec l'Inde. Ce sommet, qui a réuni plus de 1 500 participants de 100 pays, a donné lieu à l'annonce de 109 milliards d'euros d'investissements privés dans l'IA en France et au lancement de l'initiative européenne « InvestAI » (200 milliards d'euros). La France se positionne comme un pont entre la vision américaine (innovation d'abord) et la vision européenne (régulation d'abord) une « troisième voie » articulant les deux.

La prochaine étape à surveiller : le Dialogue mondial sur la gouvernance de l'IA, prévu à Genève en juillet 2026, où les premières propositions de lignes rouges concrètes pourraient être formalisées. En amont, un Panel scientifique indépendant sur l'IA, créé par la résolution A/RES/79/325 de l'ONU, doit publier son premier rapport en mars 2026. Ses conclusions alimenteront directement les négociations.

Ce que cela change concrètement (ou pas encore)

Soyons lucides : une lettre ouverte, aussi prestigieuse soit-elle, ne crée aucune obligation juridique. Le chemin entre un appel de 200 signataires et un traité international ratifié est immense.

Cependant, ce type d'initiative joue un rôle réel dans le processus politique. Elle pose le cadre du débat en nommant explicitement les lignes rouges, obligeant les gouvernements à se positionner. Elle crée une pression publique que la couverture médiatique internationale amplifie. Et elle alimente les travaux institutionnels en cours notamment la Convention-cadre du Conseil de l'Europe sur l'IA, qui constitue le premier traité international juridiquement contraignant en la matière, et le processus onusien qui pourrait déboucher sur une résolution d'ici fin 2026.

La feuille de route proposée par les signataires est concrète, même si ambitieuse. D'ici fin 2026, deux scénarios sont envisagés : soit une résolution de l'Assemblée générale des Nations Unies accueillant ces lignes rouges et lançant des négociations, soit une déclaration ministérielle conjointe d'une « coalition de volontaires » ouvrant la voie à un traité contraignant. Le traité lui-même reposerait sur trois piliers : une liste claire d'interdictions, des mécanismes de vérification auditables, et un organisme indépendant chargé de superviser la mise en œuvre.

Notre analyse : un signal fort, un chemin incertain mais une question incontournable

Cette lettre est importante. Non parce qu'elle va directement produire un traité, mais parce qu'elle cristallise un consensus scientifique croissant : le développement de l'IA sans garde-fous internationaux constitue un risque systémique.

Le vrai test sera politique. Les lignes rouges proposées sont techniquement définissables. Mais leur mise en œuvre suppose un niveau de coopération internationale que le contexte géopolitique actuel : rivalité sino-américaine, guerre en Ukraine, fragmentation multilatérale rend extrêmement difficile. Et l'échec partiel des engagements volontaires des entreprises IA, qui ne respectent qu'environ la moitié de leurs promesses, montre que la bonne volonté ne suffit pas.

La question posée par Yuval Noah Harari, l'un des signataires, résume l'enjeu : « L'humanité doit s'accorder sur des lignes rouges claires pour l'IA avant que cette technologie ne remodèle la société au-delà de notre compréhension et ne détruise les fondements de notre humanité. »

On peut trouver la formule excessive. On peut la trouver prophétique. Mais la question qu'elle pose : quel est le coût de ne pas essayer ? mérite une réponse.

Et vous, pensez-vous qu'un traité international sur l'IA est souhaitable ? Réaliste ? Les deux ? Ni l'un ni l'autre ?

Comprendre l'IA pour se positionner dans le débat

Ce type de sujet le montre : l'IA n'est plus une affaire de techniciens. C'est un enjeu économique, politique et professionnel qui concerne tout le monde. Comprendre les outils, leurs capacités et leurs limites, c'est se donner les moyens de participer à ce débat et d'en tirer un avantage professionnel concret.

👉 Découvrir les parcours Studeria

Pour recevoir nos analyses chaque semaine, inscrivez-vous à notre newsletter sur studeria.beehiiv.com.