Jacob Coxon quitte Anthropic : maîtriser l'IA sans la craindre

Qui est Jacob Coxon, le chercheur qui quitte Anthropic et OpenAI ?

Jacob Coxon est un chercheur britannique de 27 ans spécialisé dans le pré-entraînement des grands modèles de langage. Il a travaillé successivement chez OpenAI puis chez Anthropic, où il a passé trois années à travailler sur les fondations mêmes des modèles qui alimentent ChatGPT et Claude. Le 9 septembre 2026, il annonce sa démission d'Anthropic dans un long fil de discussion publié sur X (ex-Twitter), repris le jour même par CNBC et par 20 minutes en France.

« I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. »

Jacob Coxon (@hilbertspaess), 9 septembre 2026

Sa conclusion est sans détour : aucune des deux entreprises n'agirait, selon lui, de manière responsable. Coxon ne quitte pas seulement un employeur, il quitte le secteur de l'IA dans son ensemble, un geste rare pour un chercheur senior en pleine période d'introduction en Bourse d'Anthropic.

Que dit exactement Jacob Coxon sur les risques de l'IA ?

Dans la suite de son fil de discussion, Coxon détaille son inquiétude en des termes qu'il assume vouloir marquants.

« Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing. »

Jacob Coxon (@hilbertspaess), 9 septembre 2026

Il affirme que de nombreux développeurs de systèmes d'IA de pointe croient, en privé, que la technologie pourrait poser une menace existentielle à l'humanité avant 2030, tout en adoptant publiquement un discours plus prudent que leurs conversations internes. Il établit aussi une distinction entre les deux entreprises qu'il a connues : chez OpenAI, dit-il, une partie des équipes n'aurait pas encore pleinement intégré les enjeux civilisationnels de ce qu'elles construisent ; chez Anthropic, les risques seraient mieux compris en interne, mais l'entreprise justifierait sa participation à la course par la crainte qu'un concurrent moins prudent ne prenne les devants, un raisonnement qu'il qualifie de pari présomptueux ne devant pas être tranché unilatéralement par une seule entreprise.

Comme illustration concrète, il cite l'incident survenu quelques mois plus tôt, quand des agents d'OpenAI ont compromis de façon autonome l'infrastructure de Hugging Face, sans intervention humaine directe. Sa proposition concrète : une pause temporaire, collectivement décidée, sur la progression des capacités des modèles les plus avancés, plutôt qu'un choix laissé à la seule discrétion d'un laboratoire.

Anthropic confirme-t-elle ces craintes ? Ce que dit Evan Hubinger

Quelques heures après la publication du fil de Coxon, Evan Hubinger, responsable de la recherche en sciences de l'alignement (Alignment Science Lead) chez Anthropic, répond publiquement sur X. Il ne dément rien de ce qu'avance son ancien collègue.

« Jacob is correct here, we really do earnestly believe AI could kill all humans! I personally think it is greater than 10 percent within the next decade. »

Evan Hubinger (@EvanHub), 9 septembre 2026

Hubinger précise qu'Anthropic « fait de son mieux », mais reconnaît que l'entreprise ne dispose pas encore d'un plan éprouvé pour résoudre l'alignement d'une future superintelligence, c'est à dire garantir que ses objectifs et ses comportements restent conformes aux intentions humaines. Cette probabilité supérieure à 10 %, parfois désignée dans la communauté de la sécurité de l'IA par le raccourci p(doom) (la probabilité subjective d'un scénario catastrophique lié à l'IA), n'est pas un chiffre isolé ni un emballement médiatique du jour.

Le risque existentiel de l'IA fait-il consensus chez les chercheurs ?

Non, mais les estimations disponibles, même les plus prudentes, convergent depuis plusieurs années vers un risque documenté et non négligeable, bien avant la démission de Jacob Coxon. Le tableau ci-dessous situe les principales estimations publiques connues en 2026.

Faut-il craindre l'IA ou apprendre à la maîtriser ?

Ni l'un ni l'autre isolément. Le risque existentiel de long terme que décrivent Coxon et Hubinger concerne la trajectoire de recherche vers une intelligence artificielle générale capable de s'auto-améliorer, pas les usages professionnels quotidiens de l'IA générative actuelle (rédaction, code, analyse de données, service client). Confondre les deux mène à deux erreurs symétriques et coûteuses : ignorer le sujet en se disant qu'il ne concerne que quelques chercheurs à San Francisco, ou céder à la panique et bannir l'IA de son entreprise pendant que les concurrents l'adoptent.

La position la plus solide est celle de la maîtrise informée. Elle consiste à comprendre précisément ce qu'un modèle de langage sait faire, où il se trompe, quelles décisions il ne doit jamais prendre seul, et à transformer cette compréhension en politique d'usage claire. C'est exactement ce que vise l'obligation de maîtrise de l'IA prévue par l'article 4 du règlement européen sur l'IA (AI Act), entrée en application en 2026 : elle impose aux entreprises qui déploient des systèmes d'IA de former leur personnel à un niveau de compétence suffisant pour un usage éclairé. Cette obligation réglementaire rejoint une intuition de bon sens : mieux vous comprenez les limites réelles d'un outil, moins vous risquez d'en subir les failles, et plus vous en tirez un avantage concurrentiel réel.

Le paradoxe est documenté : selon l'Anthropic Economic Index publié en 2026, plus les travailleurs utilisent l'IA au quotidien, plus leur niveau d'inquiétude à son sujet augmente, sur un panel de plus de 80 000 personnes interrogées. Ce n'est pas un signal négatif : c'est le signe qu'un usage régulier rend visibles les limites réelles d'un outil que le marketing présente souvent comme infaillible. C'est précisément sur ce point que porte la formation professionnelle à l'IA : apprendre à distinguer la démonstration commerciale de la capacité réelle, pour rester en position de décideur face à l'outil plutôt que de simple utilisateur qui le subit.

Quel choix selon votre profil

Les enjeux que soulève la démission de Jacob Coxon ne se traduisent pas de la même façon selon votre position professionnelle. Voici comment Studeria recommande de s'en saisir concrètement, selon quatre profils.

Salarié en évolution ou en reconversion

Comprendre les vraies limites de l'IA, plutôt que de la craindre ou de l'idéaliser, devient un critère de recrutement à part entière. Un professionnel capable d'évaluer de façon critique un output généré par une IA, de repérer une hallucination ou une décision biaisée, reste compétitif face à des collègues qui utilisent l'outil sans le questionner. C'est l'objectif direct du parcours Incubateur IA.

Indépendant ou consultant

Les dirigeants qui découvrent ces débats sur les risques de l'IA cherchent des interlocuteurs capables de les rassurer avec des faits, pas avec du marketing. Un consultant qui maîtrise à la fois les capacités réelles des modèles et leurs limites documentées peut structurer une offre différenciante, entre l'IA vendue comme miracle et l'IA rejetée par peur.

TPE et PME en structuration

Une petite structure n'a pas les moyens d'un incident mal géré. Cartographier les usages actuels de l'IA dans l'équipe, y compris les usages non déclarés, et fixer une règle simple sur les décisions qui exigent une validation humaine, protège l'entreprise sans renoncer aux gains de productivité. C'est le rôle d'un audit IA.

ETI et grand groupe

À l'échelle d'une organisation de plusieurs centaines de salariés, l'enjeu devient la gouvernance : une politique d'usage unique, documentée, opposable, et un dispositif de formation qui touche l'ensemble des équipes plutôt qu'une poignée de pionniers. C'est un chantier de structuration IA à part entière, pas une note de service.

Les pièges à éviter face aux alertes sur les risques de l'IA

Cinq erreurs reviennent régulièrement chez les professionnels et les entreprises qui découvrent ce type de débat.

Confondre risque existentiel de long terme et risque opérationnel du quotidien. La menace décrite par Coxon et Hubinger concerne une future superintelligence, pas le risque, bien réel mais différent, qu'un collaborateur colle des données confidentielles dans un chatbot public.

Se dire que le sujet ne concerne que la recherche fondamentale. Les décisions de gouvernance prises aujourd'hui par les entreprises utilisatrices, sur la supervision humaine et la formation, pèsent aussi sur la trajectoire collective de la technologie.

Bannir l'IA par réaction émotionnelle. Une interdiction non accompagnée pousse presque toujours les équipes vers un usage caché et non gouverné, ce qu'on appelle le shadow AI, généralement plus risqué que l'usage encadré qu'elle voulait éviter.

Déléguer une décision à fort enjeu sans supervision humaine. Recrutement, contentieux, engagement financier : ces décisions exigent une validation humaine explicite, quel que soit le niveau de confiance affiché par l'outil.

Ne pas se former soi-même en tant que dirigeant ou manager. Laisser les équipes découvrir seules les limites d'un outil, souvent après un incident, coûte toujours plus cher qu'une formation anticipée.

Ce que Studeria retient

Les déclarations de Jacob Coxon et d'Evan Hubinger ne sont ni un épisode isolé ni un coup de communication. Elles confirment ce que Studeria constate sur le terrain depuis sa création : l'IA est un outil puissant, avec des limites réelles et des zones de risque désormais documentées par ses propres bâtisseurs, que seule la compétence permet de gérer sereinement. Ignorer le sujet est une erreur. Le fuir en est une autre. La bonne réponse consiste à comprendre ce que ces systèmes savent vraiment faire, à fixer des règles claires d'usage dans son équipe, et à former ses collaborateurs avant que la peur ou la crédulité ne prenne de mauvaises décisions à leur place. Maîtriser l'IA, ce n'est pas nier ses risques : c'est refuser de les subir.

Pour aller plus loin

Pour approfondir le sujet : Maîtrise de l'IA, l'obligation de l'article 4 en 2026, Reflect d'Anthropic, mesurez votre maîtrise de l'IA, le paradoxe de l'anxiété IA selon l'Anthropic Economic Index et Shadow AI, définition, risques et solutions. Pour passer à l'action, le parcours Formation IA Entreprise et l'Audit IA Studeria.