Risques et Responsabilités : le débat sur l'IA se précise

« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

L’IA, une responsabilité collective

Pendant que l’IA se répand dans le monde, les polémiques continuent. Contre le techno-optimisme et les “accélérationnistes” californiens, tous les grands de l’IA viennent de signer une lettre ouverte techno-responsable : OpenAI, Google, Microsoft, Meta, Mistral…

“L’équilibre entre le bien et le mal dans l’IA” (Qant, M. de R. avec Midjourney)

Les lettres ouvertes se suivent et ne se ressemblent pas dans le monde agité de l’IA. Après les mises en garde de l’an dernier, qui appelaient à une pause dans l’IA et avertissaient du risque d’extinction qu’elle pose à l’humanité, une grande vague de techno-optimisme a tout balayé. Les “e-accs”, qui prônent l’accélération de la recherche et du déploiement de l’IA, se sont rangés derrière la bannière de Marc Andreessen et ils ont imposé leurs vues en quelques mois. Mais les risques de l’IA sont têtus (lire ci-dessous). Voici que toute la profession s’unit derrière une lettre ouverte appelant à la “responsabilité collective” pour “maximiser les bénéfices de l’intelligence artificielle et en atténuer les risques” : OpenAI, Google, Meta, Microsoft, Salesforce, Hugging Face, Mistral, Character AI, Databricks, Scale AI, Stability AI, Y Combinator… Quelle force peut ainsi réunir tout le gratin de l’IA ?

L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE

Les vrais risques de l’IA

Il y a de bonnes raisons de prendre au sérieux les risques associés à cette technologie. À l'instar d'une future collision avec un astéroïde, l'émergence d'une intelligence susceptible de marginaliser l'humanité est aussi plausible que l'évolution humaine elle-même.

“Le futur incertain de l’IA” (Qant, M. de R. avec Midjourney)

« À un certain moment de la chaîne évolutive, les humains ont franchi un seuil de développement au-delà duquel aucun autre primate ne pouvait les contrôler ou les concurrencer. La même chose pourrait se produire avec une superintelligence artificielle. À un certain moment, l'IA peut franchir un seuil critique et devenir une menace existentielle que les humains seraient impuissants à affronter. En acquérant l'auto-préservation comme l'un de ses objectifs fondamentaux, l’IA peut anticiper toute tentative humaine de la “débrancher”. Or, nous, les humains, n’avons aucune idée du niveau auquel se situe ce seuil, ou quand il pourrait être franchi.»

Une tribune d’Edoardo Campanella, chercheur à la Harvard Kennedy School.

L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE

L’ESSENTIEL : Alibaba, AMD, BigBear.ai, BlackRock, Hugging Face, JFrog Security Research, Minimax, Multiverse Computing, Pangiam, Unitree, Waymo

ROBOTS

Le robot qui courait plus vite que son ombre

Le modèle H1 V3.0 de Unitree vient d’établir un nouveau record de vitesse pour un robot humanoïde, dépassant de près de 3 km/h le robot Atlas de Boston Dynamics.

Unitree Robotics, une entreprise chinoise basée à Hangzhou, vient d'annoncer avoir établi un nouveau record du monde du robot humanoïde le plus rapide avec son modèle H1 V3.0 Evolution, atteignant une vitesse de 3,3 m/s (11,88 km/h) sur une surface plane. Cette prouesse dépasse le précédent record détenu par le robot Atlas de Boston Dynamics, qui se déplaçait à 9 km/h. 

Le H1, premier androïde de Unitree, est présenté comme le robot humanoïde polyvalent le plus puissant au monde, capable d’une gamme variée de mouvements : sauter à la hauteur d’un homme, monter des escaliers, tourner et manœuvrer dans des espaces confinés… Il mesure environ 180 centimètres de hauteur pour 47 kg. Doté de cinq degrés de liberté dans les articulations des jambes et quatre dans les bras, il est également équipé d'une caméra de profondeur, d'un capteur Lidar 3D pour la vision, d'une batterie d'une capacité de 0,9 kilowattheures et d'un moteur à joint de haute torsion développé en interne. Les images initiales montrent le robot sans mains, mais avec une extension rembourrée au bout de ses bras, anticipant des mains futures. 

Outre le H1, Unitree a montré les applications potentielles de l'IA avec un robot quadrupède, le B1, qui transmet des informations en temps réel pour des évaluations précises grâce à des dispositifs de reconnaissance avancés. Ces technologies, incluant le Lidar 3D pour la planification automatique des trajets et l'évitement des collisions, seront également intégrées au H1. 

Unitree a commencé à prendre des précommandes pour le H1 depuis l'année dernière, avec des livraisons prévues à partir de mi-2024. Les prix se situeront entre 90 000 et 150 000 dollars, positionnant le H1 comme une option abordable face à l'Atlas de Boston Robotics, l'Optimus de Tesla et le Digit d'Agility Robotics.

Pour en savoir plus :

• Interesting Engineering

• Waymo se hâte lentement • L'État de Californie vient d'autoriser Waymo à étendre ses opérations. Les robotaxis de la filiale d’Alphabet peuvent désormais circuler sur les autoroutes de Los Angeles et de la baie de San Francisco. Toutefois, le Conseil Américain des Aveugles (CAA), un organisme de lobbying, a appelé à de nouvelles normes de sécurité et d'accessibilité que la commission des services publics de Californie a refusé de considérer, les jugeant hors de sa compétence. Waymo a prudemment assuré que son expansion serait "prudente et progressive", pour éviter le sort de son rival Cruise (lire Qant du 29 janvier et du 16 décembre 2023). Chi va piano va sano.
  Pour en savoir plus: The Verge

QUANTUM

• 25 millions pour mettre l’informatique quantique au service de l’IA • Multiverse Computing, une start-up espagnole d'informatique quantique, vient de lever 25 millions d'euros lors d'un tour de financement dirigé par Columbus Venture Partners. Le but est de développer des algorithmes inspirés du quantique pour rendre les grands modèles de langage (LLM) plus efficaces. Alors que l’entraînement d’un modèle peut coûter aujourd’hui plus de 100 millions d’euros, les algorithmes basés sur les principes de l’informatique quantique de Multiverse Computing pourraient faire baisser la puissance de calcul nécessaire de 80%, sans en compromettre les performances. Le tour devrait permettre à la start-up d’aller chercher ses clients sur leur terrain, outre-Atlantique.
  Pour en savoir plus: Silicon Angle

SÉCURITÉ

• Hugging Face pointé du doigt • Une enquête d'experts en cybersécurité de JFrog Security Research vient de révéler la présence d'environ 100 modèles d'apprentissage machine potentiellement malveillants sur la plateforme Hugging Face, capables d'injecter du code malveillant sur les machines des utilisateurs. Malgré les protections de sécurité, Hugging Face ne bloque pas le téléchargement de modèles jugés "non sûrs", ce qui nécessite une vigilance particulière et des mesures de sécurité proactives de la part des développeurs d'IA.
  Pour en savoir plus: The Hacker News

INTELLIGENCE ARTIFICIELLE

• Minimax devient grand grâce aux LLM • Alibaba mène un nouveau tour de financement à hauteur de 600 millions de dollars américains dans la startup chinoise d'IA Minimax, valorisant l'entreprise à 2,5 milliards de dollars. Fondée par d'anciens employés de SenseTime Technology en 2021, Minimax est spécialisée dans le développement de grands modèles de langage. Ce tour de financement complète trois précédentes levées de fonds, auxquelles ont participé Tencent et le studio de jeux vidéos miHoYo, pour un montant total de 250 millions de dollars.
  Pour en savoir plus: Bloomberg, BNN

• AMD bloqué par Washington • Après avoir spécialement conçu pour le marché chinois un processeur d'IA aux performances inférieures par rapport aux modèles vendus en Occident, l’électronicien américain AMD s'est heurté au refus des autorités américaines d’en autoriser la vente. Dans le cadre de la politique de Washington visant à restreindre l'exportation de technologies avancées vers la Chine (lire Qant du 29 juin 2023), le processeur a été jugé trop puissant, exigeant l'obtention d'une licence spéciale pour sa vente en Chine.
  Pour en savoir plus: Bloomberg, Reuters

• BigBear AI reprend Pangiam pour se renforcer dans la défense • BigBear.ai, un fournisseur de la défense américaine spécialisé dans les solutions d’IA pour la prise de décision, vient de finaliser l'acquisition de la start-up de vision par ordinateur Pangiam, pour environ 70 millions de dollars en actions (environ 65 millions d’euros). Les produits de reconnaissance faciale et de détection d'anomalies basés sur l'image créés par Pangiam permettront à BigBear.ai de se renforcer également dans d’autres secteurs où il est déjà présent, de l'identité numérique à de la gestion de la chaîne d'approvisionnement.
  Pour en savoir plus: Gov ConDUire

MONNAIES NUMÉRIQUES ET BLOCKCHAINS

• Un système de paiement pour les Brics • Cinq pays membres des Brics (Brésil, Russie, Inde, Chine et Afrique du Sud) vont bien développer un système de paiement fondé sur la blockchain et les monnaies numériques pour réduire leur dépendance vis-à-vis du dollar américain, selon une déclaration du Kremlin repris par l'agence russe Tass. Lors d'une réunion à Sao Paulo la semaine dernière, les ministres des Finances et gouverneurs de banques centrales des Brics avaient évoqué la création d'une plateforme multilatérale de règlement et de paiement numérique nommée Brics Bridge (lire Qant du 1er mars).
  Pour en savoir plus: Tass, Cointelegraph

• L’ETF Ether de BlackRock continue d’attendre • Le principal gendarme financier américain, la SEC, a reporté sa décision concernant la demande de BlackRock d'un ETF sur l'éther, en mai au plus tôt. Ce retard fait suite à une première suspension en janvier, malgré l'approbation de plusieurs ETF sur le bitcoin (lire Qant du 11 janvier). Le report jusqu'en mai permet à la SEC d’évaluer les propositions de deux autres candidats, VanEck et Ark 21Shares. Entre-temps, d'autres candidats à un ETF sur l'ETH comme Franklin Templeton ont modifié leurs propositions pour y inclure des options de staking.
  Pour en savoir plus: Reuters

ÉDITION PREMIUM

En exclusivité pour les abonnés :

• Pourquoi les grands de l’IA s’engagent pour une IA responsable

• Le vrai risque de l’IA n’est pas l’extinction de l’humanité, mais sa marginalisation

...