« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

Préparer le monde à contrôler l’IA

L’intelligence artificielle pose des risques sans précédent à la paix dans le monde. Au Département d’État américain, un rapport compare les risques qu’elle pose aux armes de destruction massive. Et il propose, notamment, une agence internationale de l’IA.

“Contrôler l’IA par l’action de l’homme” (Qant, M. de R. avec Midjourney)

Alors qu’en France on s’inquiète de la manière de récupérer le retard accumulé dans l’IA (lire Qant du 14 mars), le gouvernement américain s'inquiète de plus en plus des risques posés par le développement de l'IA sur la sécurité mondiale. C'est en tout cas le sens du rapport commandé par le Département d'État à Gladstone AI (lire Qant du 12 mars). Il dresse un panorama alarmant des risques associés à l'IA et propose un cadre d'action pour renforcer la sûreté de ces technologies. Parmi ses propositions, l’idée d’une agence régulatrice de l’IA refait surface, en plusieurs étapes. 

Tout comme la commission française pour l’IA, présenté hier, Gladstone n’a aucun pouvoir de décision. Il ne fait qu’exprimer l’état de la réflexion sur la problématique des l’IA. La différence entre Paris et Washington est saisissante.

Gladstone adopte une approche géostratégique et militaire, alors que ces enjeux sont absents de la réflexion française sur l’IA. Il invite les autorités américaines à établir au plus des garanties provisoires pour stabiliser le développement de l’IA, y compris des contrôles à l’exportation. C’est déjà partiellement le cas, si l’on pense aux restrictions qui pèsent sur les semi-conducteurs exportés en Chine (lire Qant du 29 juin 2023). 

Le cabinet leur demande aussi de développer une surveillance de base sur les créateurs d’IA, le temps que le Congrès mette en place un régime juridique de développement et d'adoption responsable de l'IA, protégé par une nouvelle agence nationale, ce qui aura lieu au plus tôt l’an prochain, calendrier électoral oblige. En cela, on peut considérer que l’AI Act donne à l’Europe une longueur d’avance, si ce n’est que les délais de mise en œuvre ne rendront pas le règlement efficace avant 2026.

Gladstone propose enfin d’étendre le régime à l’international et au système multilatéral, créant ainsi une agence internationale de l’IA sur le modèle de l’Agence internationale pour l’énergie atomique (AIEA). De plus en plus, cette future agence devient le premier enjeu du futur sommet de Paris, en novembre prochain.

L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE

L’ESSENTIEL : Adobe, Amazon, Google DeepMind, OpenAI

INTELLIGENCE ARTIFICIELLE

Un jour, Sora viendra

OpenAI devrait ouvrir bientôt à tous son générateur de vidéos Sora (lire Qant du 19 février), en permettant aux utilisateurs de modifier le contenu généré pour pallier les imprécisions potentielles et en ajoutant à terme une fonctionnalité audio, ce qui achèvera de rendre réalistes les vidéos générées. Malgré le coût élevé du modèle, OpenAI envisage de le proposer à un tarif similaire au modèle de création d'images Dall-e, intégré à ChatGPT-Plus pour 20 dollars par mois.

La qualité des vidéos générées rend extrêmement élevé le risque qu’elles soient utilisées pendant la campagne électorale, qui durera aux États-Unis jusqu’en novembre. Pour lutter contre la désinformation, Sora appliquera des restrictions similaires à Dall-e concernant la représentation de figures publiques et inclura un filigrane sur les vidéos générées.

Alors que l’Autorité de la concurrence italienne a demandé des précisions à OpenAI sur sur les données utilisées pour entraîner Sora (lire Qant du 12 mars), la CTO d’OpenAI a seulement confirmé au Wall Street Journal hier  l'utilisation de contenus de Shutterstock, avec lequel OpenAI a un partenariat.
Pour en savoir plus: Wall Street Journal, The Verge

• Sima, un agent comme compagnon de jeu • Des chercheurs de Google DeepMind viennent de présenter Sima (Scalable Instructable Multiworld Agent), un agent d'IA capable de jouer à plusieurs jeux vidéo en 3D et de comprendre les instructions verbales des joueurs. Contrairement aux personnages contrôlés par l'IA dans les jeux (les PNJ), qui suivent des commandes de jeu formelles, Sima apprend à partir de vidéos de gameplay humain sans accéder au code interne du jeu. Sima a été entraîné sur divers jeux, dont Valheim et Goat Simulator 3, et ses créateurs veulent maintenant généraliser son apprentissage pour jouer à des jeux non rencontrés durant sa formation. Cette approche, fondée sur l'apprentissage par imitation et non sur la récompense, permet à Sima d'exécuter une large gamme de tâches décrites textuellement, offrant ainsi une expérience de jeu coopératif plus naturelle et adaptable.
  Pour en savoir plus: Techcrunch

• Après Gemini, Firefly montre ses travers woke • Moins d'un mois après Gemini (lire Qant du 23 février), c'est au tour du générateur d'images d'Adobe, Firefly, d'être épinglé pour un excès de diversité dans certaines images générées. Plusieurs médias comme la lettre Semafor ont fait état d'images de soldats nazis d’origine africaine, ou bien de femmes parmi les pères fondateurs américains. La rédaction de Qant a également demandé à Firefly de générer un soldat allemand de 1945, et voici le résultat obtenu :
  

“Un soldat nazi en 1945” (Qant, M. de R. avec Midjourney)

Pour en savoir plus: Daily Mail, Semafor

• Amazon facilite la tâche de ses vendeurs • Amazon vient d'introduire une fonctionnalité d'IA générative permettant aux vendeurs de créer des pages de produits en collant simplement un lien d'un site externe. Cette innovation vise à faciliter et accélérer l'intégration de produits sur Amazon, en générant automatiquement des descriptions et des images à partir des informations disponibles sur le site source. La fonctionnalité sera disponible prochainement pour les vendeurs américains. En septembre dernier, Amazon avait présenté un outil d'IA qui rédige des descriptions de produits pour les vendeurs de la plateforme (lire Qant du 15 septembre 2023).
  Pour en savoir plus: The Verge

MONNAIES NUMÉRIQUES ET BLOCKCHAINS

• L’Europe agit pour réglementer les stablecoins • L'Union Européenne vient de publier un projet de normes réglementaires pour les émetteurs de stablecoins, dans le cadre du règlement des Marchés des Crypto-Actifs (Mica). Ces normes, élaborées par l'Autorité Bancaire Européenne et l'Autorité Européenne des Marchés Financiers, visent à encadrer efficacement le traitement des plaintes. Ce cadre vise à soutenir l'innovation et la concurrence équitable tout en protégeant les investisseurs et l'intégrité du marché des crypto-actifs. Les normes seront soumises à la Commission européenne pour approbation d'ici fin juin, avant d'être examinées par le Parlement européen et le Conseil européen.
  Pour en savoir plus: Cointelegraph 

• La monnaie numérique hongkongaise entre en phase 2 • L'Autorité monétaire de Hong Kong (HKMA) vient de lancer un appel à candidatures pour la deuxième phase des essais de sa monnaie numérique de banque centrale (CBDC) pour le détail, l'eHKD, avec une date limite fixée au 17 mai. Après une première phase pilote achevée en octobre 2023 (lire Qant du 11 octobre 2023), impliquant 16 participants dans une douzaine de cas d'usage, la HKMA souhaite approfondir des domaines spécifiques comme la tokenisation. Parallèlement, le projet Ensemble, un projet de CBDC pour le secteur de gros visant à faciliter le règlement interbancaire de dépôts tokenisés, vient d'être lancé par l'Autorité monétaire hongkongaise (lire Qant du 11 mars).
  Pour en savoir plus: Ledger Insights

ÉDITION PREMIUM

En exclusivité pour les abonnés :

• Alors que la France voit l’IA par un prisme économique, aux États-Unis la vision stratégique se structure. Deux risques principaux doivent être affrontés : la perte de contrôle sur les IA et leur transformation en armes.

...