Sous les poids de l’IA

« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

Faire les poids face aux menaces cyber

Les créateurs de modèles d’intelligence artificielle doivent faire face au défi que représente la protection des poids de ces modèles.

“Pénétrer l’infrastructure des modèles d’IA” (Qant, M. de R. avec Midjourney)

Dans le contexte de la sophistication quasi exponentielle des modèles d'intelligence artificielle, la protection de leurs poids – les paramètres définis au cours de l'entraînement – est cruciale pour prévenir leur utilisation malveillante. Dans l’alerte qu’il a lancée début juin, l'ancien chercheur d'OpenAI Leopold Aschenbrenner juge cruciales la sécurité des poids et la protection des avancées algorithmiques, pour éviter que des adversaires ne dépassent ou ne rattrapent les efforts des États-Unis (lire Qant du 14 juin). Un rapport de la Rand Corporation vient faire chorus. Les poids des modèles d'IA représentent des investissements majeurs en données et en ressources informatiques. L'entraînement de modèles avancés comme GPT-4 nécessite des mois de calcul sur des dizaines de milliers de GPU, au prix de centaines de millions de dollars. La compromission de ces poids permet à un attaquant de disposer d'un accès direct à l'élément central d'une IA, avec la capacité presque illimitée de les exploiter à des fins malveillantes. Mais certains modèles sont open source et “open weight”, ce qui ouvre une problématique à part.

L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE

L’ESSENTIEL : Amazon, Clearview AI, LinkedIn, Microsoft, Solana, Tesla, Yahoo

ROBOTS

Starlink au soutien des robots de l’armée ukrainienne

Le robot sans pilote Themis de l’estonienne Milrem Robotics va être équipé de la technologie Starlink avant d’être envoyé en Ukraine.

Le véhicule terrestre sans pilote Themis, développé par l'estonienne Milrem Robotics, vient d’être équipé de capacités de communication satellitaire Starlink grâce à une collaboration avec AEC Skyline. Cette intégration permet aux robots d'être contrôlés à de longues distances, offrant une sécurité accrue.

Tant qu’Elon Musk le permet. En septembre dernier, il avait désactivé Starlink pour empêcher une offensive ukrainienne (lire Qant du 8 septembre 2023).

L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE

• Optimus apporte son pactole à Elon Musk • Elon Musk a obtenu l'accord des actionnaires de Tesla pour un plan de rémunération de 56 milliards de dollars (52 milliards d'euros), malgré l'opposition des grands investisseurs. Cette victoire a été permise par une forte campagne sur les réseaux sociaux,qui faisait notamment appel aux robots humanoïdes Optimus pour mobiliser les investisseurs individuels,  (lire Qant du 14 juin).
  Pour en savoir plus : Reuters, New York Times

INTELLIGENCE ARTIFICIELLE

• Des actus personnalisées par l’IA sur Yahoo • Yahoo lance une nouvelle application d'actualités personnalisée et alimentée par l'intelligence artificielle, en utilisant la technologie de l'application Artifact acquise en avril dernier (lire Qant du 3 avril) trois mois après sa fermeture (lire Qant du 16 janvier). Disponible sur iOS et Android, cette application offre un fil d'actualités basé sur les intérêts des utilisateurs, ainsi qu'une fonctionnalité Key Takeaways pour résumer les articles. Les utilisateurs peuvent bloquer des mots-clés indésirables et filtrer certains éditeurs. Yahoo intègre également ces nouveautés à la page d'accueil de Yahoo News, avec une nouvelle mise en page et des recommandations personnalisées.
  Pour en savoir plus : The Verge

• LinkedIn et l’IA pour trouver un travail (en anglais) • LinkedIn lance de nouvelles fonctionnalités d'intelligence artificielle pour aider les abonnés Premium à trouver un emploi et améliorer leurs CV. Ces outils permettent de rechercher des emplois en utilisant des requêtes en langage naturel et offrent des suggestions personnalisées pour optimiser les CV. LinkedIn teste également des chatbots experts pour fournir des conseils sur des sujets professionnels. Ces fonctionnalités sont disponibles en anglais pour les abonnés Premium dans le monde entier.
  Pour en savoir plus : The Verge

• Microsoft Recall reporté sine die  • Microsoft retarde le lancement de la fonctionnalité d'intelligence artificielle Recall en raison de préoccupations de sécurité qui avaient déjà causé sa désactivation par défaut sur les nouveaux PC (lire Qant du 10 juin). Recall, qui permet de suivre l'historique de navigation et de conversations vocales, a suscité des inquiétudes quant à la vie privée, mais son problème était plus prosaïque : les informations étaient stockées en clair. Initialement prévue le 18 juin, cette fonctionnalité sera d'abord testée au sein du Windows Insider Program.
  Pour en savoir plus : Reuters, Bloomberg

• Pas d’IA pour Alexa • Amazon rencontre des difficultés avec la nouvelle version à venir d'Alexa, boosté à l'IA générative et annoncée l'année dernière comme plus conversationnelle et intelligente. Cette version n'est pas prête et pourrait ne jamais l'être selon d'anciens employés d'Amazon qui signalent des problèmes organisationnels et techniques freinant son développement.
  Pour en savoir plus : Fortune, The Verge

• Clearview passe à la caisse • Clearview AI, une start-up de reconnaissance faciale, propose une part de 23 % de son capital pour régler un recours collectif concernant une atteinte à la vie privée. Clearview AI, qui a collecté sans consentement des milliards de photos sur internet pour créer une application utilisée par de nombreux services de police américains (lire Qant du 24 octobre 2023), risquait la faillite avant le procès. Si le règlement est approuvé, les Américains dont les photos sont dans la base de données de Clearview pourront recevoir une part de l'entreprise, évaluée à environ 52 millions de dollars (48,5 millions d'euros).
  Pour en savoir plus : Reuters, New York Times

MONNAIES NUMÉRIQUES ET BLOCKCHAINS

• La blockchain pour sécuriser les clients • Solana Labs vient de lancer Bond, une nouvelle plateforme de fidélisation client basée sur la blockchain. Cette plateforme permet aux marques non-cryptos d'utiliser la technologie blockchain pour fidéliser leurs clients en fournissant des "jumeaux numériques" et des produits numériques en édition limitée. Solana Labs assure que les utilisateurs n'auront pas besoin d'expérience en blockchain et que le service sera accessible via une seule interface de programmation d'application.
  Pour en savoir plus : Cointelegraph

ÉDITION PREMIUM

En exclusivité pour les abonnés :

• Les poids des modèles d'IA représentent des investissements immenses ; leur compromission représente un risque spécifique de cybersécurité.

• Rand Corporation propose plusieurs recommandations pour protéger ces poids. Le think tank souligne la nécessité de coopération entre développeurs d'IA et décideurs politiques pour contrer la diversité croissante des menaces.

L’IA, des mences de poids

Les fabricants de modèles d’intelligence artificielle doivent désormais faire face au défi que représente la protection des poids de ces modèles, dont l'accès par des individus malveillants pourrait avoir des conséquences désastreuses.

“Rentrer dans l’architecture des modèles d’IA” (Qant, M. de R. avec Midjourney)

Les poids des modèles d'IA représentent des investissements majeurs en données, en algorithmes et en ressources informatiques. Par exemple, l'entraînement de modèles avancés comme GPT-4 a nécessité des années de calculs sur des milliers de GPU et des centaines de millions de dollars. La compromission de ces poids permettrait à un attaquant de disposer d'un accès direct à l'élément central du travail d'une organisation en IA, avec la capacité presque illimitée de les exploiter à des fins malveillantes.

...