Livres à lire : La face cachée d'OpenAI et de Sam Altman, son fondateur

Comme chaque mois, La Lettre de L'Expansion propose une revue des idées qui prospèrent en dehors de France dans des ouvrages publiés par les meilleurs essayistes du moment.

EMPIRE OF AI: DREAMS AND NIGHTMARES IN SAM ALTMAN'S OPENAI, Karen Hao, Penguin Press

THE OPTIMIST: SAM ALTMAN, OPENAI, & THE RACE TO INVENT THE FUTURE, Keach Hagey, W.W. Norton

Dix ans après sa fondation, en mars 2015, OpenAI, connue du grand public pour avoir lancé l'agent conversationnel (ou chatbot) ChatGPT en 2022, était valorisée à 300 milliards de dollars, un niveau parmi les plus élevés au monde pour une entreprise non cotée. Deux ouvrages retracent sa réussite fulgurante, ainsi que la trajectoire de son fondateur, Sam Altman. Or si Altman a participé à celui de la journaliste au Wall Street JournalKeach Hagey, il a refusé de coopérer avec la journaliste indépendante Karen Hao, et manifestement peu apprécié le fruit de son travail. Et pour cause, alors que The Optimist se veut neutre, Empire of AI se révèle un implacable réquisitoire contre OpenAI.

Un démarrage avec Elon Musk

Les deux ouvrages retracent peu ou prou les mêmes événements : le parcours d'Altman, garçon surdoué et ambitieux ; sa proximité avec son père, démocrate idéaliste ; sa première start-up, Loopt, un réseau social qu'il lance en 2005 après avoir quitté Stanford sans diplôme, grâce à l'accélérateur de start-up Y Combinator (YC) de Paul Graham, figure emblématique de la Silicon Valley ; sa vision technologique de long terme, qui bluffe tous ceux qu'il rencontre, à commencer par l'investisseur Peter Thiel. En 2014, il prend les rênes de YC, fonction qu'il conservera jusqu'en 2020. Alors que la recherche et les applications en intelligence artificielle (IA) connaissent un nouvel élan, Altman est persuadé que l'intelligence artificielle générale est potentiellement porteuse de progrès inédits. En décembre 2015, il fonde, avec entre autres l'entrepreneur Elon Musk, une organisation à but non lucratif, OpenAI, dont l'ambition est de veiller à ce que l'AGI « profite à toute l'humanité ». Alors que DeepMind, laboratoire d'IA acquis par Google en 2014, réalise des progrès spectaculaires, les deux hommes partagent le même espoir quant à l'AGI mais aussi la même crainte : qu'une IA mal alignée ou malveillante provoque l'éradication de l'humanité.

Le coût élevé du scaling

Pour espérer développer l'AGI, OpenAI se spécialise dans l'apprentissage profond. Sous l'impulsion d'Ilya Sutskever, son directeur scientifique, ses informaticiens explorent un nouveau type de réseau, le Transformeur, qu'ils entraînent sur une grande quantité de textes issus du Web. Ils réussissent alors à mettre au point, en 2018, le premier Transformeur Génératif Préentraîné (GPT), une forme de grand modèle de langage, capable de générer des contenus originaux. GPT-1 est né.

Les années passent, et avec elles, le modèle se perfectionne : davantage de données et de puissance de calcul, de meilleurs réseaux – le « scaling » – aboutissent à la création, en 2022, de GPT-3.5. Celui-ci sert de base à un chatbot accessible via un site Web : ChatGPT. Son succès est immédiat. En parallèle, OpenAI développe une interface de program-mation d'application (API) à visée commerciale. GPT n'a cessé d'améliorer ses capacités et peut désormais traiter et générer des images, des sons et des vidéos. ChatGPT, qui a désormais de nombreux concurrents, Claude (Anthropic), Gemini (Google) ou Grok (xAI), reste aujourd'hui le leader du secteur, avec 800 millions d'utilisateurs. Le coût du scaling, découvrent rapidement Altman et ses associés, est faramineux. Organisation à but non lucratif, la structure ne dispose pas des fonds suffisants. Divergeant avec Altman sur les moyens d'y remédier, Musk quittera l'organisation en 2018, amer. OpenAI crée alors, en 2019, une filiale « à but lucratif plafonné », qui permettra d'attirer des investisseurs tout en plafonnant leurs profits. C'est le début du partenariat avec Microsoft, qui y investit immédiatement 1 milliard de dollars (13 milliards aujourd'hui) et met à sa disposition ses superordinateurs.

Un projet de nature coloniale

Rapidement, une divergence émerge au sein d'OpenAI entre les plus pressés de lancer les modèles mis au point et la division chargée de la « sécurité de l'IA », dirigée par Dario Amodei, lui aussi préoccupé par le « risque existentiel » posé par l'IA. Estimant qu'OpenAI a cessé d'en faire sa priorité, il quitte l'entreprise fin 2020 pour fonder une organisation concurrente, non sans accuser Altman d'« abus psychologique », terme qui prendra tout son sens trois ans plus tard. À cette date, en effet, Ilya Sutskever a perdu confiance dans Altman et se confie aux membres indépendants du conseil d'administration, qui, eux aussi, s'interrogent. La face cachée d'OpenAI se dévoile : une entreprise où la concurrence interne est redoutable, où le PDG semble manipuler, mentir et diviser pour mieux régner, et où le rythme de lancement des nouveaux produits, effréné, est porteur de risques de sécurité. Altman sera licencié le 17 novembre 2023, mais, face à la fronde de nombreux employés, il retrouvera son poste quelques jours plus tard. Sutskever, plein de remords, quittera l'entreprise un an plus tard. Depuis lors, Altman semble plus puissant que jamais.

L'entrepreneur ne sort pas grandi du récit de Hao. OpenAI, dénonce-t-elle en effet, ne respecte pas les droits d'auteur des données qu'elle utilise ; elle sous-traite l'apprentissage par renforcement à partir de la rétroaction humaine à des travailleurs de pays comme le Kenya, dans des conditions de travail parfois indignes ; à cause de leurs centres de données gigantesques, les firmes lancées dans la course à l'IA consomment énormément d'eau et d'énergie. Il s'agit, selon la journaliste, d'un projet de nature coloniale. Que l'on partage ou non le jugement de Hao, il est manifeste que « l'alignement » d'une IA semble un travail si gigantesque qu'il est douteux qu'OpenAI et ses concurrents aient pu y parvenir en si peu de temps. À moins que cette ambition ne soit par nature impossible à réaliser ?

* Essayiste. Auteure de La Gratitude aux Éditions de l'Observatoire.