« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

Démocratie, mode d’emploi

Novembre 2024. Alors que l’on prépare le deuxième anniversaire de ChatGPT, une vidéo montrant le président Biden dans un état proche de la démence sénile fait le tour des réseaux sociaux. Le 5 novembre, Donald Trump est (ré)élu président des États-Unis. Quelques semaines plus tard, il est prouvé que la vidéo avait été générée par l’IA. Faut-il prendre ce scénario au sérieux? Oui, d’après plusieurs études récentes.

“Trump et Biden manipulent le robot” (Qant, M. de R. avec Midjourney)

L’IA générative peut offrir quelques avantages dans le cadre d’une campagne électorale. Elle peut permettre aux électeurs consciencieux de comparer les programmes des candidats, voire de dialoguer avec eux. “Je serais très étonné si dans les mois à venir les candidats sérieux ne déploient pas un chatbot entraîné sur leur programme et leur style, prêt à répondre aux questions des électeurs”, déclarait par exemple la semaine dernière à 538 Ethan Bueno de Mesquita, dean (recteur) de l’école de sciences politiques de l’université de Chicago. Mais l’étude qu’Ethan Bueno de Mesquita vient de diriger en collaboration avec Stanford s’étend cependant bien plus sur les risques politiques de l’IA : la dégradation de l’information, la micromanipulation de l’opinion et la centralisation de l’information. 

En un an, le progrès de ChatGPT et des autres IA génératives ont été fulgurants. En Argentine, les élections du mois dernier ont vu les deux candidats favoris utiliser largement l'IA générative, multipliant les affiches et les vidéos de campagne créées par l’IA (lire Qant du 21 novembre). Ces “cheapfakes”, cependant, étaient clairement reconnaissables comme de la propagande électorale : leur effet était donc clairement circonscrit. 

Certains “deepfakes”, en revanche, ont déjà eu des conséquences parfois considérables. En Slovaquie, un faux enregistrement a donné à entendre le chef du parti “Slovaquie Progressiste”, Michal Šimečka, qui confiait ses plans pour truquer les élections. Ses vifs démentis n'ont pas empêché la victoire de l'extrême droite pro-russe (lire Qant du 12 octobre). En mai dernier, le président turc sortant Recep Tayyip Erdoğan a utilisé des deepfakes dans sa campagne, notamment en reprenant dans un meeting une vidéo truquée d’un site islamiste. Elle montrait le parti indépendantiste kurde, le PKK, soutenir son opposant Kemal Kılıçdaroğlu. Comme on sait, Recep Tayyip Erdoğan a été réélu, malgré un bilan désastreux.

Surprises d’octobre

Ces premières escarmouches sont prises, aux États-Unis, comme des coups de semonce. “Le contenu généré par l’IA peut être publié très peu de temps avant le jour du scrutin, de manière à générer de faux scandales dans un laps de temps qui rend la vérification difficile” met en garde l’étude : “Ces ‘surprises d'octobre’ peuvent être très difficiles à gérer si c’est un candidat majeur qui les génère ou les partage”. Or, les sondages donnent comme favori de l’élection américaine Donald Trump, que l’on imagine parfaitement préparer une telle surprise. Le public américain pourrait être parfaitement réceptif : cet été, seulement 42% des Américains savaient ce qu’est un deepfake, d’après un sondage de Pew.

En outre, les candidats peuvent traiter de deepfake des vidéos qui n’en sont pas. Pendant les élections turques, Muharrem İnce, un candidat d'opposition, a ainsi accusé une sextape diffusée sur les réseaux sociaux d'être une deepfake. Il s'est néanmoins retiré de la course. “Si les électeurs ne peuvent vraiment pas distinguer le vrai du faux (...), de telles dénégations deviendront monnaie courante” analyse l'étude. Il devient alors difficile d'évaluer sérieusement les candidats.

Face à cette “dégradation de l'environnement informationnel”, Meta, Google, OpenAI et Tik-Tok se sont engagés dans des politiques de filigranes numériques (watermarking) et d’étiquetage des contenus générés par IA. C'est par exemple ce qu'a fait Meta, qui a récemment exigé que les annonceurs divulguent l'utilisation de l'IA dans des publicités politiques, après avoir refusé de rendre disponibles ses outils publicitaires basés sur l'IA aux marketeurs politiques (lire Qant du 30 novembre et du 8 novembre). 

Comme pour les élections précédentes, la maison-mère de Facebook compte suspendre toutes publicités politiques et électorales lors de la dernière semaine des élections. Mais elle a également quasiment démantelé ses efforts de fact-checking. On peut donc douter de l’efficacité de ces efforts, qui se heurtent en outre à des limites techniques (par exemple, une longueur minimum des textes, ce qui rend les filigranes inutiles sur X-Twitter).

Microciblage et manipulation de masse

Ethan Bueno de Mesquita et son équipe se montrent sceptiques quant à l’autre grande menace, le risque que l’IA permette de générer des messages ultrapersonnalisés avec une efficacité sans précédent. Ils remarquent que, jusqu’à présent, les fonctionnalités de personnalisation du message sur Facebook sont restées largement inutilisées.

L’idée a été évoquée en premier au printemps par deux professeurs de Harvard, Archon Fung et le juriste Larry Lessig, très connu en matière de numérique. Une étude de la Rand Corporation en septembre est venue la renforcer. La manipulation des médias sociaux grâce à l’IA générative constitue d’après elle une menace immédiate pour la sécurité des États-Unis.

L’IA générative résout en effet les principaux problèmes des assaillants sur les médias sociaux. Elle produit aisément et en masse, sans besoin de personnel formé dans la langue du pays cible, des messages qui semblent authentiques et sont difficiles à détecter. Les auteurs de Rand se concentrent sur la Chine, mais ils déclarent que les techniques qu’ils décrivent peuvent aussi bien être utilisées par “toute sorte d’acteurs (...), y compris des acteurs non étatiques techniquement sophistiqués, intérieurs ou extérieurs”.

Comme un candidat aux présidentielles.

Pour en savoir plus : 

• Ethan Bueno de Mesquita et al., Preparing for Generative AI in the 2024 Election : Recommendations and Best Practices Based on Academic Research, Harris School of Public Policy, novembre 2023

• Archon Fung, Lawrence Lessig, How AI could take over elections – and undermine democracy, The Conversation, juin 2023

• William Marcellino, et al. The Rise of Generative AI and the Coming Era of Social Media Manipulation 3.0, Rand Corporation, Sept. 2023

• 538 Podcast

• Pew Research Center

• Meta

• Tik Tok

• The Verge

L’ESSENTIEL : Aramco, Dell, Empatica, HTC, Mastercard, Microsoft, la SEC, Valve

ROBOTS

Mettre enfin les pieds dans la réalité virtuelle – ou les hanches

Un nouveau capteur présenté par HTC, conçu pour être jumelé aux casques VR de la marque, améliore la détection de mouvements pour le sport en réalité virtuelle.

Le sport devait être l'une des grandes applications du métavers. Il était prématuré de prévoir une adoption de masse, mais la recherche d’un système de capteurs sophistiqué sans être intrusif continue. Le fabricant taïwanais de smartphones HTC vient de présenter le Vive Ultimate Tracker, un périphérique qui promet d'améliorer considérablement le suivi des mouvements dans les applications VR et XR. Il se distingue par sa capacité à effectuer un suivi de mouvement "intérieur/extérieur", grâce à deux caméras grand-angles qui détectent les mouvements dans l'espace.

Le sportif de salon peut attacher le capteur, grâce à des sangles, à ses pieds, aux coudes, à la taille… Les mains, qui tiennent les contrôleurs du casque, n’en ont pas la nécessité. Chaque tracker, qui pèse 94 grammes, offre une autonomie de batterie allant jusqu'à sept heures. HTC prévoit à terme d'étendre la compatibilité du tracker à d'autres casques et à des configurations PC VR basées sur SteamVR et OpenXR.

Avec trois capteurs, le prix d’un casque HTC Vive Elite monte à 1 500 euros environ. Encore un effort et le casque Vision Pro d’Apple semblera bon marché.

Pour en savoir plus: HTC,The Verge

INTELLIGENCE ARTIFICIELLE

• Au Brésil, ChatGPT écrit le droit : Le conseil municipal de Porto Alegre, au Brésil, a adopté une ordonnance entièrement rédigée par ChatGPT, une révélation faite par le conseiller municipal Ramiro Rosário. Rosário a utilisé ChatGPT pour formuler une proposition visant à empêcher la ville de facturer aux contribuables le remplacement des compteurs d'eau volés, sans informer ses collègues de l'origine IA du texte. Ils n’y ont vu que du feu.
  Pour en savoir plus: Associated Press, El Pais

• Dell Imbue de l’IA : Dell vient d'investir 150 millions de dollars pour construire un cluster de calcul haute performance pour Imbue, une startup californienne qui développe des agents IA capables de raisonnements de haut niveau et d’exécuter des tâches complexes sans supervision. Imbue entraîne ses propres modèles de fondation avec ses propres clusters et elle veut rester indépendante des grands fournisseurs comme Microsoft Azure, Google Clouds Services ou Amazon World Services.
  Pour en savoir plus: Bloomberg

• L’Amérique protège ses puces : L'administration Biden a contraint une société de capital-risque soutenue par Saudi Aramco, la compagnie pétrolière publique saoudienne, à vendre ses parts dans Rain Neuromorphics. Cette startup de la Silicon Valley spécialisée dans les processeurs neuromorphiques est également soutenue par Sam Altman, cofondateur d'OpenAI. Prise après examen par le Comité sur l'investissement étranger aux États-Unis (CFIUS), cette décision s'inscrit dans le cadre des efforts des États-Unis pour limiter les investissements étrangers dans des entreprises américaines liées à la sécurité nationale. Elle pourrait ralentir le développement de l'IA au Moyen-Orient.
  Pour en savoir plus: Bloomberg, Reuters

• Une Muse pour préparer Noël : Pour élargir ses services au-delà du paiement, Mastercard vient de lancer Shopping Muse, un service basé sur l'intelligence artificielle conçu pour aider les consommateurs à trouver le cadeau idéal. Ce service, alimenté par la plateforme de personnalisation Dynamic Yield acquise par Mastercard, génère des recommandations de produits personnalisées sur les sites des détaillants, en se basant sur le profil, les intentions et les affinités des consommateurs, ainsi que sur le contexte de leurs conversations.
  Pour en savoir plus: VentureBeat

• L’IA pour détecter les signes avant-coureurs de l'épilepsie : Empatica, une société dérivée du MIT Lab, vient d'annoncer le développement d'une technologie de détection précoce des crises d'épilepsie à travers un dispositif portable.  L'Embrace utilise un algorithme d'intelligence artificielle pour identifier les premiers signes d'une crise convulsive. Après avoir prouvé son efficacité dans une étude préalable à son autorisation par la FDA en 2018, Empatica cherche maintenant à améliorer son IA pour détecter les crises avant même qu'elles ne commencent, en utilisant des données réelles de patients collectées dans une nouvelle étude.
  Pour en savoir plus: Fiercebiotech

• Créer un bouton rouge pour l’IA : Le président de Microsoft, Brad Smith, a déclaré qu'il n'y a aucune chance de voir apparaître une intelligence artificielle super-intelligente dans les 12 prochains mois, estimant que cette technologie pourrait prendre des décennies à se développer. Cependant, Brad Smith a souligné l'importance de mettre en place des "freins de sécurité" dans les systèmes d'IA, notamment pour ceux qui contrôlent les infrastructures critiques, afin de maintenir un contrôle humain constant.
  Pour en savoir plus: Reuters, Business Insider

BLOCKCHAINS

• Les négociations continuent autour des ETF Bitcoin : La Securities and Exchange Commission (SEC) américaine a de nouveau rencontré des gestionnaires d'actifs, dont Grayscale et BlackRock, pour discuter de la potentielle approbation de fonds négociés en bourse (ETF) basés sur le bitcoin. Grayscale a récemment remporté une bataille judiciaire contre la SEC pour convertir son Grayscale Bitcoin Trust en ETF (lire Qant du 23 novembre).
  Pour en savoir plus: CNBC

  La monnaie numérique pourrait échapper à ses créateurs : Les banques centrales manquent de l'expertise et des compétences nécessaires pour atténuer les risques liés aux monnaies numériques et elles doivent se préparer à mettre en œuvre des mesures plus robustes, selon un rapport de la Banque des Règlements Internationaux. Celui-ci souligne la nécessité pour les banques centrales de mettre en place des processus pour identifier, évaluer, surveiller et rapporter les risques liés aux CBDC, tout en abordant les problèmes techniques et en assurant l'intégrité et la confidentialité des systèmes.
  Pour en savoir plus: CoinDesk

AR-VR-XR

• Steam fait le lien avec le Meta Quest : L'application Steam Link de Valve, qui permet de diffuser des jeux depuis la bibliothèque Steam vers un autre appareil, est désormais disponible pour les casques Meta Quest 2, 3 et Pro. Cette disponibilité sur les appareils Quest facilite la lecture sans fil de jeux VR, rendant ainsi plus accessible des jeux comme Half-Life: Alyx sur Quest.
  Pour en savoir plus: The Verge

EXPERT

Character, une IA qui vous veut du bien

Le deuxième outil de GenAI le plus utilisé au monde après ChatGPT permet de discuter par message avec toute une myriade de personnages, réels ou fictifs. D’Elon Musk à Batman en passant par Einstein, plongée chez le pionnier des IA compagnons.

“Mon ami le robot” (Qant, M. de R. avec Midjourney)

...