De l'AGI au droit d'auteur, les menaces de l'IA

« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

DERNIÈRE MINUTE

Derrière l’éviction express de Sam Altman, le spectre de l’AGI

"Sam et le robot dangereux" (Qant, M. de R. avec Midjourney)

Comme nous l’analysions hier (lire Qant du 22 novembre), la rupture entre Sam Altman et le conseil d’administration d’OpenAI avait un lien avec la commercialisation rapide des avancées technologiques, mais surtout avec ses progrès en matière d’intelligence artificielle générale. Plusieurs chercheurs d'OpenAI ont envoyé une lettre au conseil d'administration, l’avertissant d'une découverte majeure en intelligence artificielle présentant un risque potentiel pour la survie de l'humanité, sans que le CEO n’en ait référé au conseil – d’où le “manque de transparence” qui lui a été reproché.

Le projet Q* (prononcé Q-Star), mentionné dans les communications internes d'OpenAI, est perçu comme une percée potentielle vers l'intelligence artificielle générale (AGI), capable de surpasser l'humain dans la plupart des tâches importantes. Bien que Q* ne soit encore qu'à un stade préliminaire, résolvant des problèmes mathématiques de niveau primaire, son succès aurait suscité un optimisme considérable parmi les chercheurs. Et une crainte considérable (lire Expert ci-dessous et Qant du 21 novembre).

Pour en savoir plus :

• Reuters

• The Information

L’ÉVÉNEMENT

Droit d’auteur : l’IA gagne ses premiers procès

Deux juges américains ont débouté les plaignants contre Meta, OpenAI et Stability AI sur tout ce qui n’avait pas trait à l’entraînement des modèles. Une forme de jurisprudence se dessine, qui protège les revendeurs, comme Midjourney et DeviantArt, mais non les modèles de fondation.

“Le robot écrivain au tribunal” (Qant, M. de R. avec Midjourney)

En juillet dernier, l'écrivaine américaine Sarah Silverman et divers autres auteurs ont intenté une action en justice contre Meta et OpenAI, alléguant que ces sociétés utilisent sans autorisation ses œuvres dans leurs modèles d'intelligence artificielle (lire Qant du 12 juillet et du 21 septembre). Un juge fédéral de San Francisco vient de rejeter presque toute la plainte, jugeant “absurde” l'argument de Sarah Silverman selon lequel le modèle IA de Meta était entièrement construit autour de la violation du droit d'auteur et que les textes générés constituaient des contrefaçons. 

Seule la plainte pour violation du droit d’auteur pendant l’entraînement du modèle a été retenue, car Meta ne l’a pas contestée. De même, dans le procès qu’ont intenté la graphiste Sarah Anderson et divers autres créateurs contre Stability AI, Midjourney et DeviantArt (lire Qant du 17 janvier), seules les plaintes sur l’utilisation des images pendant l’entraînement de Stable Diffusion ont été retenues par le juge. 

Les secrets de Midjourney révélés

Les plaignants contre Midjourney et Dream Up, le service d’IA du site DeviantArt, ont été déboutés, au motif que ces services n’ont pas leur propre modèle de diffusion latente (LDM), mais qu’ils font appel au modèle de la britannique Stability AI.

Jusqu’à présent, Midjourney n’a jamais reconnu publiquement que son service se base sur Stable Diffusion et, probablement, d’un autre LLM pour la réécriture des prompts. Cela explique sans doute pourquoi le si discret laboratoire de recherche privé fondé en 2021 n’a jamais levé d’argent. David Holz, son fondateur, a même déclaré en 2022, peu après la présentation en bêta du premier modèle, que la société est déjà rentable.

Pour en savoir plus :

• Kadrey versus Meta Plaforms

• Hollywood Reporter

• Bloomberg

• Finty

Les sanctions américaines gâchent la fête de Nvidia

Malgré des résultats financiers du troisième trimestre en nette hausse, Nvidia peine à rassurer complètement le marché, inquiet des restrictions imposées par les États-Unis sur ses exportations vers la Chine.

“Jensen Huang insatisfait de la valeur des actions de Nvidia” (Qant, M. de R. avec Midjourney” 

Nvidia Corporation vient de publier ses résultats financiers pour le troisième trimestre de l'exercice fiscal 2024, dépassant nettement les attentes du marché. Avec un bénéfice par action ajusté de 4,02 $, l'entreprise a surpassé les estimations de 3,37 $ par action. Son revenu net s'est élevé à 9,24 milliards de dollars, marquant une augmentation significative par rapport aux 680 millions de dollars de la même période l'année précédente. Ces performances s'expliquent principalement par la forte demande dans le secteur de l'IA, que les GPU de Nvidia dominent depuis son apparition​​​​.

Cependant, malgré ces résultats solides, l'action Nvidia n'a pas connu l'augmentation attendue, faisant au contraire preuve d’une grande volatilité. Cette instabilité est attribuée en partie aux inquiétudes concernant les nouvelles restrictions imposées par les États-Unis sur les exportations de technologies vers la Chine, un marché clé pour Nvidia (lire Qant du 26 octobre et du 8 novembre). Ces restrictions devraient entraîner une baisse significative des ventes en Chine, bien que la société prévoit de compenser cette perte par une croissance dans d'autres régions. De nouveaux produits conformes aux exigences américaines pour le marché chinois sont en développement, mais ils ne devraient pas contribuer de manière significative aux recettes du quatrième trimestre​​​​.

Pour celui-ci, Nvidia a annoncé des prévisions optimistes pour le quatrième trimestre, avec des recettes attendues autour de 20 milliards de dollars. La société prévoit également une amélioration de l'approvisionnement en puces IA, grâce à des prépaiements pour garantir la priorité dans les usines de fabrication. La demande pour les serveurs IA a considérablement augmenté et les ventes devraient augmenter d'environ 40 % cette année. Nvidia a également présenté pour l’an prochain une nouvelle GPU, H200, offrant des performances supérieures à celles de H100, qui domine le marché. La H200 inclut une mémoire à large bande passante, élément clé pour la rapidité de traitement des données​​​​​​​​ (lire Qant du 14 novembre).

Pour en savoir plus :

• Nvidia 

• Bloomberg 

• Reuters

• Financial Times

L’ESSENTIEL :

ROBOTS

Hyundai peaufine ses véhicules autonomes à Singapour

Le nouveau centre d’innovation de la marque, boosté à l’IA et aux robots autonomes, sera consacré à la production de véhicules électriques personnalisés en petites séries.

Hyundai vient de présenter un nouveau centre d'innovation à Singapour, nommé HMGICS. Ce site expérimental pour le développement de méthodes de production de véhicules électriques ne vise pas la production de masse. Il se concentre au contraire sur la création de véhicules électriques personnalisés en petites séries. L'approche traditionnelle de la chaîne de montage a été remplacée par des cellules de travail autonomes, où les robots transportent les véhicules d'une station à l'autre pour l'assemblage. 

Le HMGICS se distingue par l'utilisation avancée de robots et d'intelligence artificielle, notamment dans des tâches complexes comme l'installation des tableaux de bord et des sièges, traditionnellement réalisées par des humains. Les robots du HMGICS sont équipés de vision par ordinateur et de capteurs, permettant une adaptation en temps réel aux variations mineures de chaque véhicule. 

En plus de ces robots de fabrication, Hyundai utilise également des robots pour le contrôle qualité et la logistique. Par exemple, le robot-chien Spot (créé par la filiale de Hyundai Boston Dynamics) suit les ouvriers pour photographier leur travail, participant ainsi au contrôle qualité. Le centre intègre aussi une salle de contrôle pour surveiller et analyser les opérations. Enfin, le HMGICS sert de plateforme pour expérimenter une expérience d'achat de véhicules électriques plus personnalisée pour les clients.

Hyundai envisage d'utiliser les innovations du centre pour améliorer l'efficacité de son futur Metaplant aux États-Unis, une usine qui devrait produire environ 500 000 véhicules électriques par an à partir de 2024. Malgré l'accent mis sur l'automatisation, Hyundai souligne que des humains continueront à superviser le travail des robots. 

Sans préciser si les superviseurs seront, eux aussi, suivis d’un chien.

Pour en savoir plus : Ars Technica

INTELLIGENCE ARTIFICIELLE

• Ni Gaza ni OpenAI ne dissuadent les investisseurs dans l’IA : AI21 Labs, un créateur de LLM basé à Tel-Aviv, a récemment levé 53 millions de dollars supplémentaires lors de son financement de série C, portant le tour de table total à 208 millions de dollars​​ sur une valeur d'entreprise de 1,4 milliard de dollars. Ce financement a été soutenu par de nouveaux investisseurs tels qu'Intel Capital et Comcast Ventures, faisant monter le total des fonds obtenus lors de ce tour à 336 millions de dollars (lire Qant du 13 mars et du 4 septembre, ainsi que le banc d’essai du modèle Jurasssic 2 du 31 mars)​​.
  Pour en savoir plus: Times of Israël

• Stability AI se lance dans la vidéo : Stability AI vient d'annoncer le lancement de Stable Video Diffusion, un modèle d'IA open source pour la génération de vidéos, basé sur le modèle existant de text-to-image, Stable Diffusion. Cette innovation, encore en phase de prévisualisation de recherche, vise des applications éducatives et créatives tout en évitant les représentations factuelles de personnes ou d'événements.
  Pour en savoir plus: Tech Crunch

• L’administration américaine s’arme face à la fraude IA : La Commission Fédérale du Commerce des États-Unis (FTC) simplifie les enquêtes sur les cas d'utilisation illégale de l'intelligence artificielle, permettant à son personnel d'exiger plus facilement des documents lors de ces investigations. En parallèle, l'agence a lancé un concours visant à identifier les meilleures méthodes de protection des consommateurs contre la fraude et d'autres dommages liés au clonage vocal.
  Pour en savoir plus: Reuters

• Alexa, victime de l’IA : Amazon vient d'annoncer des licenciements dans l’équipe consacrée à son assistant vocal Alexa.  Ces derniers feraient suite à un recentrage sur l'intelligence artificielle générative. Ces licenciements interviennent dans un contexte de réduction des ambitions dans le hardware d'Amazon, qui pourtant contrôle le marché des haut-parleurs intelligents aux États-Unis. Sans oublier une amende de 46,7 millions de dollars pour violation de brevets par Alexa.
  Pour en savoir plus: Computer World, Ars Technica

• Copilot s’ouvre à Windows 10 : Microsoft a rendu disponible pour les utilisateurs de Windows 10 la fonctionnalité Copilot, auparavant exclusive à Windows 11, permettant d'utiliser un chatbot alimenté par l'IA pour répondre aux requêtes et générer du texte. Cette intégration s'inscrit dans la stratégie de Microsoft de continuer à investir dans Windows 10, malgré l'absence de mises à jour majeures prévues avant la fin du support de l'OS en octobre 2025.
  Pour en savoir plus: The Verge

BLOCKCHAINS

• Celsius au fond de la mine : Pour sortir du redressement judiciaire, l’ancien prêteur de cryptomonnaies Celsius Network va recentrer ses activités sur le minage de bitcoin, suite aux réticences exprimées par les régulateurs américains concernant ses autres lignes de business envisagées. Un tribunal avait pourtant approuvé le plan de restructuration de Celsius, qui prévoyait des frais d’investissement ( "staking") et la gestion de son portefeuille existant de prêts en cryptomonnaies.
  Pour en savoir plus: Reuters

• Grayscale tient à son ETF Bitcoin : Grayscale Investments a récemment rencontré la Securities and Exchange Commission (SEC) américaine pour discuter de la conversion de son Grayscale Bitcoin Trust en un fonds négocié en bourse (ETF) de bitcoin au comptant. Cette rencontre fait suite à une décision d'un tribunal de Washington imposant à la SEC de réexaminer la demande de Grayscale.
  Pour en savoir plus: The Block

AR-VR-XR

• 110 millions pour un studio de jeux VR: Le studio britannique de réalité virtuelle nDreams a été acquis par le groupe de jeux vidéo Aonic pour 110 millions de dollars, après un investissement initial de 35 millions de dollars par Aonic en mars 2022. Cette acquisition permettra à nDreams, connu pour ses jeux de réalité virtuelle comme The Assembly et Phantom: Covert Ops, de collaborer avec les studios de jeux vidéo d'Aonic: OtherSide Entertainment, Milky Tea, and Bkom Studios.
  Pour en savoir plus: Road to VR

EXPERT

Cet article est le dernier d’une série consacrée aux risques que pose l’IA.

On peut lire aussi :

• L’IA ne fera pas disparaître le travail de sitôt, Qant du 22 novembre

• Pourquoi l’intelligence artificielle générale fait si peur, Qant du 21 novembre

• Les risques nouveaux de l’IA Open Source, Qant du 20 novembre

• L’IA, le bioterrorisme et le souvenir de la pandémie, Qant du 17 novembre

Boom, Doom, Foom

Le débat entre “Boomers”, qui veulent aller plus vite dans l’IA, et “Doomers”, qui veulent ralentir le développement, se concentre sur la π-doom (la probabilité d’une catastrophe) et le Foom, l’explosion de l’intelligence des IA si elles deviennent autoréplicantes. Voyage dans les craintes qu’inspire le projet Q*, qui ont failli coûter son poste à Sam Altman.

“Le côté obscur de l’AGI” (Qant, M. de R. avec Midjourney)

La semaine folle vécue par OpenAI et sa direction a remis sur le devant de la scène le thème de l'intelligence artificielle générale (AGI). Le projet Q* explique les tensions entre le conseil d’administration, chargé d’en garantir l’alignement avec les intérêts de l’humanité, et les dirigeants chargés de transformer les idées en chiffre d’affaires (lire Qant du 20, 21 et 22 novembre). Or, l’intelligence artificielle dépasse déjà les capacités humaines dans bien des domaines, du jeu d’échecs aux recherches sur le protéome. Et l’IA commence à se réguler elle-même : OpenAI compte s’appuyer sur GPT-4 Turbo pour modérer sa plateforme de marché sur les agents GPTs, par exemple. Conceptuellement, il n’est même pas nécessaire d’attendre l’AGI pour qu’une IA puisse aider à en entraîner une autre.

...