Une IA qui «pourrait tous nous tuer d’ici à la fin de la décennie» : qui est Jacob Coxon, cet ingénieur qui claque la porte d’Anthropic

Le 9 septembre, Jacob Coxon, chercheur en intelligence artificielle chez Anthropic et ancien d’OpenAI, a annoncé sur son compte X son départ de l’industrie, qualifiant la course à l’innovation de « joue avec nos vies ». Ce Britannique de 27 ans, dont le domaine de compétence se situe au cœur des débats sur la sûreté des systèmes d’IA, adhère à la thèse controversée de l’émergence potentielle d’intelligences artificielles générales incontrôlables. Selon des informations rapportées par Le Figaro, il estime qu’« aucune des deux entreprises n’agit de manière responsable » et qu’elles « foncent tout droit vers une superintelligence capable de s’améliorer elle-même ». ## Un parcours académique et professionnel au cœur de la sûreté des systèmes Jacob Coxon n’est pas un ingénieur ordinaire. Avant de rejoindre OpenAI puis Anthropic, il s’est spécialisé dans l’étude des mécanismes d’apprentissage des grands modèles de langage, un champ technique directement lié aux questions de contrôle et de prévisibilité des systèmes. Selon des sources proches du dossier, ses travaux portaient notamment sur l’interprétabilité des réseaux de neurones, c’est-à-dire la capacité à comprendre pourquoi une IA prend une décision plutôt qu’une autre. Cette discipline, encore balbutiante, est considérée par de nombreux experts comme l’une des clés pour garantir qu’un système avancé ne dévie pas de son objectif initial. Son passage chez OpenAI, puis chez Anthropic, lui a permis d’observer de l’intérieur les pratiques industrielles des deux principaux laboratoires privés concurrents. D’après le récit qu’il a livré sur les réseaux sociaux, cette expérience directe l’aurait conduit à une conclusion pessimiste : les équipes de recherche seraient poussées à accélérer le déploiement de capacités toujours plus grandes, sans que des garde-fous suffisants ne soient mis en place. Il a notamment évoqué des pressions internes pour commercialiser rapidement des fonctionnalités dont les effets à long terme ne seraient pas entièrement maîtrisés. ## Une accusation grave contre les géants de la Silicon Valley Le message publié par Jacob Coxon ne se contente pas d’un simple désaccord scientifique. Il formule une accusation explicite : selon lui, OpenAI et Anthropic « jouent avec nos vies » en poursuivant une course vers une superintelligence capable de s’améliorer elle-même. Cette perspective, souvent qualifiée de « singularité », est débattue depuis des années au sein de la communauté des chercheurs en IA. Certains la jugent hautement spéculative, d’autres la considèrent comme un risque existentiel à prendre au sérieux. Le chercheur démissionnaire s’inscrit résolument dans cette seconde école de pensée. En quittant l’industrie, Jacob Coxon rejoint un petit groupe d’anciens employés de laboratoires d’IA qui ont choisi de rendre publics leurs doutes. Toutefois, sa décision intervient dans un contexte particulier : Anthropic s’est positionnée sur le marché comme une entreprise plaçant la sécurité au premier plan, en opposition affichée à OpenAI. La défection de l’un de ses chercheurs en sûreté pourrait donc fragiliser cette image, même si l’entreprise n’a pas encore réagi officiellement à ces déclarations. ## Un débat qui dépasse le cadre des laboratoires privés Cette affaire intervient alors que les régulateurs, notamment en Europe et aux États-Unis, tentent d’encadrer le développement de l’intelligence artificielle. Plusieurs textes législatifs sont en discussion, visant à imposer des exigences de transparence et de test avant la mise sur le marché de systèmes jugés sensibles. La sortie de Jacob Coxon pourrait alimenter ces débats, en donnant du crédit aux arguments de ceux qui réclament un moratoire sur le développement des modèles les plus avancés. Toutefois, il convient de rappeler que les déclarations de l’ancien ingénieur relèvent encore de prises de position personnelles, non confirmées par des preuves documentaires publiques. Les entreprises concernées disposent d’équipes internes dédiées à la sécurité et affirment investir massivement dans la recherche sur l’alignement des systèmes. Le départ d’un chercheur, aussi qualifié soit-il, ne constitue pas en soi une preuve de négligence, mais il illustre les tensions croissantes entre impératifs commerciaux et exigences de prudence au sein d’une industrie en pleine expansion.