En médiatisant son geste, Jacob Coxon a voulu alerter sur l’ampleur des risques de systèmes potentiellement incontrôlables.
Il les accuse de « jouer avec nos vies ». Mercredi, Jacob Coxon, un chercheur en interprétabilité de l’intelligence artificielle (IA) chez Anthropic, également ancien employé d’OpenAI, a annoncé quitter l’industrie, jugeant sa course à l’innovation inconsciente. « Aucune des deux entreprises (OpenAI et Anthropic, NDLR) n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit mardi sur son compte X. Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing ».
Émanant directement d’un chercheur travaillant au cœur de cette industrie, pourtant habituée à alterner alarmisme et prévisions utopiques, les mots ont fait mouche. Derrière l’inquiétude de l’ingénieur, une théorie qui n’est pas nouvelle dans la Silicon Valley et qui est loin de faire consensus parmi la communauté scientifique : l’avènement futur d’une « IA générale ». Selon cette idée, ces technologies pourraient bientôt faire aussi bien, voire mieux, que tout ce dont un cerveau humain est capable. Une « superintelligence » qui, pour le PDG d’Anthropic, Dario Amodei, équivaudrait à un « pays entier de génies ». Pour Demis Hassabis, patron de Google DeepMind, elle inaugurera « une ère d’épanouissement humain maximal, où nous voyagerons vers les étoiles et coloniserons la galaxie ». En cette rentrée, Greg Brockman, président d’OpenAI, soutenait qu’Astra, le dernier modèle d’IA de la famille GPT, était si puissant qu’il ouvrait l’ère de cette IA générale…
Pascal Lenoir
