« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

Vers un accord sino-américain sur l’IA

Malgré leur rivalité, Joe Biden et Xi Jinping pourraient signer un accord historique pour interdire l’utilisation de l’IA dans les armes autonomes, notamment nucléaires.

"Joe Biden et Xi Jinping veulent prévenir l'apocalypse par l'IA" (Qant, M. de R. avec Midjourney)

Lors de leur rencontre de mercredi, en marge du sommet de la Coopération économique Asie-Pacifique (Apec), les présidents Joe Biden et Xi Jinping devraient interdire l'utilisation de l'intelligence artificielle dans les armes autonomes, y compris les drones et les ogives nucléaires, selon les informations du plus ancien quotidien hongkongais de langue anglaise, le South China Morning Post.

Déployées par exemple sur la frontière entre les deux Corée, les armes autonomes peuvent ouvrir le feu sans intervention humaine directe. La principale préoccupation est que l'IA, capable de prendre des décisions rapidement en situation de combat, pourrait entraîner des escalades involontaires et des conséquences imprévues. Leur interdiction viserait donc à maintenir le contrôle humain sur les décisions critiques sur le champ de bataille.

Le mélange détonant de l’IA et du nucléaire

Le projet d’accord – ou de déclaration – reconnaît également le risque que l'IA, si elle est intégrée dans les systèmes de contrôle nucléaire, puisse être exploitée par des acteurs malveillants ou déclencher accidentellement un conflit nucléaire. Interdire l'IA dans ces systèmes viserait à garantir la stabilité et la sécurité des arsenaux nucléaires mondiaux​​.

Melissa Parke, ancienne ministre australienne du Développement international et activiste pour le désarmement, illustre ci-dessous la menace que représente l'application de l'IA aux systèmes d'armes nucléaires (lire Expert en fin de lettre). Elle y rappelle qu’avant même l’IA, la guerre nucléaire a plusieurs fois été évitée car des hommes ont choisi de se fier à leur jugement plutôt que de suivre aveuglément les informations fournies par les machines. 

L’autorité que l’on prête à l’intelligence artificielle crée un nouveau risque, bien connu des experts et non seulement des militants. Peut-être l’argument se révèlera-t-il assez fort pour inciter les États-Unis et la Chine à mettre provisoirement de côté leur rivalité. En matière d’IA, les deux pays font assaut jusqu’à présent de mesures protectionnistes. Jusqu’à présent la Chine a tenté de répondre aux sévères restrictions américaines sur l'exportation des puces GPU par l’arrêt des exportations des terres rares (des minerais essentiels notamment pour les batteries) et en stimulant le développement de sa propre technologie (lire par exemple Qant du 26 octobre et du 8 novembre).

Le scoop du South China Morning Post montre, au moins du côté chinois, la volonté de dépasser ce conflit larvé, au moins sur un sujet technique.

Pour en savoir plus :

• South China Morning Post

• Business Insider

• Project Syndicate

• Asialyst

L’ESSENTIEL : Apple, Character AI, DeepMind, FTX, Google, MIT, Nvidia, OpenAI

ROBOTS

L’IA rend les robots plus précis

Des chercheurs du MIT ont utilisé l’apprentissage automatique pour apprendre aux robots à améliorer leurs compétences.

Des chercheurs du MIT, dirigés par Zhutian Yang, ont développé une nouvelle méthode d'apprentissage automatique pour améliorer la précision des robots dans les tâches de conditionnement. Cette technique, basée sur des modèles de diffusion, permet aux robots de résoudre efficacement des problèmes complexes de conditionnement en tenant compte simultanément de multiples contraintes. Contrairement aux méthodes traditionnelles qui abordent ces problèmes séquentiellement, la méthode du MIT génère des solutions optimales plus rapidement et avec un plus grand nombre de réussites.

Cette avancée est particulièrement pertinente pour les tâches de manipulation d'objets complexes, telles que le rangement d'objets divers dans une boîte. Le MIT utilise une série de modèles d'apprentissage machine, chacun entraîné pour représenter un type spécifique de contrainte, et les combine pour générer des solutions globales. La méthode a démontré sa capacité à résoudre des problèmes avec des combinaisons inédites de contraintes et un plus grand nombre d'objets, des situations non rencontrées lors de l'entraînement.

En plus de son efficacité, cette technique semble facilement généralisable. Cela la rend utile pour enseigner aux robots comment comprendre et respecter les contraintes globales des problèmes de conditionnement. Cette avancée pourrait être appliquée à de nombreuses tâches complexes dans des environnements variés, allant de la préparation de commandes dans un entrepôt à l'organisation d'une bibliothèque chez un particulier. Les chercheurs envisagent de tester cette méthode dans des situations plus complexes, avec des robots capables de se déplacer dans une pièce, et de l'adapter à différents domaines sans nécessiter un nouvel entraînement sur de nouvelles données.

Pour en savoir plus : Sci Tech Daily

INTELLIGENCE ARTIFICIELLE

• Google séduit par Character.ai… :  Après avoir levé en mars 150 millions de dollars sur une valorisation d’1 milliard auprès d’Andreessen Horowitz (lire Qant du 12 mai), Character.AI négocie à présent un tour sur la base d’une valeur d’entreprise de 5 milliards. Outre divers investisseurs financiers, Google envisagerait à elle seule d'investir plusieurs centaines de millions de dollars pour renforcer le partenariat existant. Character.AI utilise déjà les services cloud et les puces TPU de Google pour entraîner ses IA, et notamment les chatbots personnalisés de la start-up, qui permettent par exemple de discuter avec des personnages célèbres.
  Pour en savoir plus: Reuters, Pymnts

• … et fait la chasse aux faux Bard : Google vient d'intenter une action en justice contre des escrocs, présumés basés au Vietnam, qui exploitent l'engouement autour de l'IA générative pour inciter les utilisateurs à télécharger une version prétendument inédite du chatbot Bard, qui s'avère être un logiciel malveillant qui vole leurs identifiants. Le groupe utiliserait des pages de réseaux sociaux et des publicités générées par l’IA pour tromper ses victimes.
  Pour en savoir plus: Bloomberg

• DeepMind classe l’IA générale (AGI) … : Des chercheurs de Google DeepMind viennent de publier une étude qui propose un cadre nommé « Niveaux d'AGI » pour classifier les capacités et comportements des modèles d'intelligence artificielle générale (AGI) et leurs précurseurs, intégrant les dimensions d'autonomie ou encore de performance. Ce cadre vise à faciliter la compréhension, l'évaluation des risques et le suivi des progrès en IA, tout en soulignant l'importance d'une intégration responsable et sûre de ces systèmes dans des contextes centrés sur l'humain.
  Pour en savoir plus: Mark Tech Post

• … pendant que Sam Altman cherche à la financer :  OpenAI cherche à obtenir un financement supplémentaire de Microsoft pour le développement de l'intelligence artificielle générale (AGI), pour lequel Sam Altman a estimé que 100 milliards de dollars seraient nécessaires. Malgré la croissance de son chiffre d’affaires, OpenAI n'est pas encore rentable en raison des coûts d’entraînement des modèles.
  Pour en savoir plus: Financial Times, Pymnts

• H200, vous voici : Nvidia vient de présenter son nouveau GPU haut de gamme, le H200, conçu pour l'entraînement et le déploiement de modèles d'intelligence artificielle. Cette puce se distingue par ses 141 Go de mémoire de nouvelle génération "HBM3", permettant une génération de texte, d'images ou de prédictions via des modèles IA presque deux fois plus rapide que son prédécesseur, le H100. Comme celui-ci, le H200 sera commercialisé, à partir du deuxième trimestre 2024, dans des supercalculateurs HGX associant 4 ou 8 GPU ou des systèmes Grace Hopper (GH) les associant à un processeur ARM pour les calculs d’inférence. Face à l’engouement pour l’IA, Nvidia accélère également le rythme de l’innovation : ses nouvelles architectures seront désormais présentées chaque année, et non tous les deux ans.
  Pour en savoir plus: CNBC

BLOCKCHAINS

• FTX réclame près d’un milliard à Bybit : FTX poursuit la société de cryptomonnaie Bybit en justice, réclamant environ 953 millions de dollars pour des fonds retirés de FTX avant sa faillite en novembre 2022. La plainte allègue que Mirana, entreprise d'investissement de Bybit, a bénéficié d'un traitement préférentiel, lui permettant de retirer ses fonds avant l'effondrement de FTX.
  Pour en savoir plus:  Pymnts

AR-VR-XR

• Peut-on croire à l’après-Vision ? : Selon des fuites partagées par le média MacRumors, Apple travaillerait déjà sur une suite à son casque de réalité mixte, le Vision Pro, malgré l'absence de données de vente pour le modèle actuel – ce qui semble partir d’une logique industrielle assez classique. Le nouveau modèle, surnommé "Projet Alaska", présenterait peu de changements esthétiques par rapport à la première génération, mais il devrait inclure des modifications au niveau des haut-parleurs et des sangles, avec une date de sortie prévue entre 2025 et 2026. Et quelques autres encore.
  Pour en savoir plus: Mac Rumors, Tom’s Guide

EXPERT : Melissa Parke

Melissa Parke, ancienne ministre australienne du Développement international, est directrice exécutive de la Campagne internationale pour l'abolition des armes nucléaires, qui a reçu le prix Nobel de la paix en 2017. Elle milite pour le désarmement nucléaire et contre la diffusion de l’IA

Prévenir une apocalypse nucléaire liée à l'intelligence artificielle

L'application de l'intelligence artificielle aux armes nucléaires augmente le risque d’une guerre involontaire.

Melissa Parke vue par Midjourney

...