QANT EXPERT - Jouer à se faire peur : l'Italie, Elon Musk et la pause impossible
Confortée par la lettre ouverte d'Elon Musk et Steve Wozniak, la Cnil italienne bloque ChatGPT. Qu'en sera-t-il quand les modèles affecteront 2 emplois sur 3, comme le prévoit Goldman Sachs? OpenAI semble avoir vu le coup venir. Et ses rivaux, comme AI21, sont de plus en plus efficaces. Bienvenue dans Qant Expert, pour la semaine du 1er au 7 avril.
SOMMAIRE
DERNIERE MINUTE : L’autorité italienne de protection des données bloque ChatGPT.
DÉCRYPTAGE : Comment le marketing d’OpenAI se nourrit du populisme d’Elon Musk et des autorités italiennes.
ANALYSE : Deux emplois sur trois seront impactés par l’IA générative aux Etats-Unis selon Goldman Sachs, dans une étude qui prévoit que la technologie générera une augmentation du PIB mondial de 7%.
BANC D’ESSAI : Ces alternatives à GPT-4, épisode 1 : Jurassic Gen-2.
L’ACTUALITÉ DE LA SEMAINE : Elon Musk, Disney, Binance…
DERNIERE MINUTE
L’Italie dit non à ChatGPT
L'autorité italienne de protection de la vie privée, le GPDP (Garante per la Protezione dei Dati Personali) vient d'ordonner l'interdiction de ChatGPT dans la Péninsule. Le Garante a déclaré que la société manquait d'une base juridique justifiant la collecte et le stockage massifs de données personnelles pour entraîner les algorithmes de ChatGPT. De plus, aucune information n’est collectée prouvant que l’utilisateur est majeur. Enfin, le GPDP considère qu’OpenAI traite les données de manière inexacte et rappelle qu’elle a exposé les conversations et les informations de paiement de ses utilisateurs lors d'une violation de données la semaine dernière. Une enquête a été lancée sur les risques pour la vie privée, la cybersécurité et la désinformation.
Bien qu'OpenAI n'ait pas de bureau dans l'UE, son représentant dans l'Espace économique européen dispose de 20 jours pour communiquer comment il prévoit de mettre ChatGPT en conformité avec le règlement général de protection des données (RGPD). S'il ne le fait pas, l'entreprise risque une amende pouvant aller jusqu'à 4% de son chiffre d'affaires mondial. Le groupe de défense des consommateurs BEUC a également appelé les autorités de l'UE et nationales à enquêter sur ChatGPT.
Source : GPDP (en italien).
Pour en savoir plus : Politico
DÉCRYPTAGE
Le salaire de la peur (et les dividendes)
En sonnant la charge contre l’intelligence artificielle, Elon Musk conforte la Cnil italienne et nourrit des peurs très anciennes. Mais il tombe dans le piège tendu par OpenAI. La start-up a su faire de la crainte que suscite l’IA son principal argument. Bienvenue dans le marketing millénariste pour millenials.
Elon Musk a perdu son mojo. Non seulement Twitter a perdu plus de la moitié de sa valeur depuis qu’il en a fait l’acquisition, mais l’opération lui a coûté la confiance des investisseurs dans Tesla. Or, voici qu’OpenAI, une société de recherche qu’il avait cofondée avec le président de Y Combinator Sam Altman, se met à fleurir, prospérer et surtout capter toute la lumière. L’entrepreneur sud-africain en était sorti fin 2018, en perdant d’après ses dires quelque 100 millions de dollars dans l’opération. Début 2019, Microsoft investissait 1 milliard de dollars dans OpenAI. Contrariant.
Pire : inquiétant, quand votre fonds de commerce consiste à faire rêver une foule de petits investisseurs persuadés de votre capacité messianique à faire advenir le futur. Voici donc notre prophète enragé sonner le tocsin contre l’intelligence artificielle, comme il le fait depuis 2014, tout en annonçant (à tort) que les Tesla sont des véhicules autonomes. Le libertarien qui a rétabli le compte Twitter de Donald Trump demande plus de réglementation pour empêcher OpenAI de continuer d’avancer vers l’IA générale. A ses côtés, Steve Wozniak, cofondateur d’Apple, sans doute le dernier esprit humain à avoir conçu la représentation complète du fonctionnement d’un ordinateur. Et mille autres gloires petites et grandes de l’intelligence artificielle (lire Qant du 29 mars). La presse du monde entier s’en fait l’écho donnant au régulateur italien du numérique, le GPDP, la couverture nécessaire pour suspendre ChatGPT dans la Péninsule (lire ci-dessus).
Mécanique du populisme
Sur le fond, personne ne conteste que les modèles multimodaux comme GPT-4 vont apporter de grands bouleversements dans l’économie et la société. L’étude de Goldman Sachs, que nous résumons plus bas (non sans l’aide de GPT-4 et Jurassic 2), estime que 300 millions d’emplois de par le monde seront bouleversés, sinon supprimés et remplacés par d’autres. Les générations montantes vont devoir gérer une vague de productivité comparable au machinisme agricole et l’exode rural qu’il a permis après-guerre, ou dans l’industrie la robotisation des usines et leur délocalisation. Mais il ne s’agit plus d’ouvriers et de paysans dont on mécanise les travaux les plus pénibles. En facilitant la production de textes, de code informatique, d’images et bientôt de vidéos, l’IA transforme les métiers, généralement assez bien payés, de la classe moyenne. Cela n’ira pas sans pleurs ni très audibles grincements de dents.
Sur la forme, on peut faire remonter très loin la peur des robots et de l’intelligence artificielle. Les feuilletons de Terminator et Matrix descendent en ligne directe de Metropolis, de Fritz Lang, qui a presque un siècle aujourd’hui. Ce film pionnier peut être rapproché de Frankenstein de Mary Shelley (1818), lui-même non dépourvu de rapport avec les golems, une notion que le judaïsme raffine depuis le Livre des Psaumes dans la Bible. Si des créatures artificielles, généralement humanoïdes, créées par l’homme pour l’assister, vous rappellent les robots et les IA, c’est que la crainte de l’intelligence artificielle ne fait que mettre au goût du jour une idée très ancienne. Si l’homme se mêle de remplacer le Créateur, la catastrophe est inévitable.
A ce stade, aucun élément factuel ne permet de prévoir la révolte des golems, pardon, des IA. Le dérèglement climatique pose une menace bien plus réelle et concrète à la survie de l’humanité que n’importe quel logiciel présent ou, pour ce qu’on en sait, futur. Mais ce début du troisième millénaire est, comme les deux précédents, marqué par la peur de l’avenir et de la fin du monde. D’après un sondage cité par Ezra Klein dans le New York Times, 10 % des informaticiens qui travaillent dans l’IA considèrent que leurs travaux pourraient entraîner la disparition de l’humanité. Et l’éditorialiste de poser la question : « Pourquoi, dès lors, continuent-ils d’y travailler ? ».
Marketing de la peur
Il serait un peu court de répondre par le seul appât du gain. On a pu observer la même dissociation entre l’éthique et l’action dans toutes les religions ou, spectaculairement, dans l’équipe de scientifiques qui a créé la bombe atomique. Chacun sait au fond de soi-même que ce ne seront pas ses actions propres qui causeront la perte de l’humanité, mais un mouvement général qui le dépasse. Et dans le cas de l’IA, la peur est intégrée à ce mouvement général.
Le premier à mettre en garde contre les capacités de ses logiciels, c’est OpenAI soi-même. La longue préparation du lancement de GPT-4 s’est faite à rebours des mœurs de la Silicon Valley. Au lieu de vanter des fonctionnalités imparfaites voire inexistantes, OpenAI a distillé l’idée que la version ouverte au public serait bridée pour éviter tout dérapage. En présentant le premier iPhone, extrêmement cher pour des fonctionnalités très limitées, Steve Jobs s’exclamait : « Isn’t this cool ! ». En cette époque plus pessimiste, Sam Altman n’a pas fait de présentation publique de GPT-4, et le véritable potentiel du modèle reste claquemuré derrière des bêtas privées réservées à des « partenaires de confiance ».
Pour construire le succès de l’iPhone, Apple a donc dû réunir et motiver, sans doute à grands frais, une armée de groupies et de thuriféraires. OpenAI n’a rien à faire : les inquiétudes millénaristes d’Elon Musk et le besoin de publicité de tel ou tel régulateur suffisent à lui procurer toute la notoriété du monde. Les imperfections de ses logiciels mettent en valeur sa prudence et la confiance qu’on peut vouer à l’éditeur.
Les mêmes défauts ont oblitéré le lancement de Bard. Non qu’il soit meilleur ou pire techniquement, mais le marketing de Google ne fait plus rêver personne. Quand la Cnil italienne veut protéger ses ouailles, elle n’interdit pas Bard, dont la stratégie d’acquisition est pourtant très contestée (lire Qant du 31 mars). Ni Jurassic 2, dont nous présentons ci-dessous une prise en mains, effectuée sans avoir dû donner la preuve que nous sommes majeurs et sans rien savoir de l’utilisation qui sera faite des données que nous lui avons soumises. Ni Claude, ni Cohere, ni LLama, ni aucun autre modèle n’ont eu droit aux attentions d’un régulateur peut-être plus affairé à se faire remarquer du gouvernement populiste aux affaires à Rome qu’à surveiller le bouillonnant secteur du traitement du langage naturel.
Pause impossible
Gageons que dans quelques mois, quand Microsoft aura achevé d’intégrer ChatGPT à Microsoft Office, les réserves du très prudent GPDP italien se seront évaporées. Son communiqué ne fait d’ailleurs référence qu’à ChatGPT, et non BingChat. De même, les effets directs de la lettre ouverte d’Elon Musk et compères, si elle en a, resteront sans doute éphémères.
Yann Le Cun, qui dirige l’IA chez Meta, a pris ses distances par rapport à l’initiative, indiquant son désaccord. Andrew Ng, un autre pionnier de l’IA, a résumé l’évidence en un tweet : « Il n'existe aucun moyen réaliste de mettre en œuvre un moratoire et d'empêcher toutes les équipes de développer les LLM, à moins que les gouvernements n'interviennent. Le fait que les États forcent une pause à des technologies émergentes qu'ils ne comprennent pas est anticoncurrentiel, crée un terrible précédent et constitue une politique d'innovation épouvantable. »
Il semble très improbable que, prises dans leur course à l’IA contre la Chine, les autorités américaines réagissent à la lettre ouverte. En revanche, au moment où l’augmentation de productivité promise commencera à bouleverser le marché du travail et le mécontentement enflera, Elon Musk pourra s’exclamer : « Je vous l’avais bien dit ! Pourquoi n’a-t-on rien fait ? ». Il renforcera ainsi son image bien écornée de « visionnaire » au moment où les faits sociaux contraindront les gouvernements à agir.
D’ici là, les termes et le cadre du débat sur les avancées de l’IA auront été fixés par OpenAI. Tout du long de la longue aventure de Silicon Valley, le progrès a été défini par les entreprises qui allaient en profiter.
Et peut-être même avant ! Ce qui se dessine sur l’IA a été vrai de l’informatique, la pilule contraceptive, le moteur à explosion, le téléphone, l’électricité, les chemins de fer, les vaccins, l’eau courante, la machine à vapeur, le télégraphe, le métier à tisser… et peut-être même, qui sait, de l’écriture et l’agriculture au néolithique.
Pas moyen de rester tranquille.
J.R.
...
