« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

Les gouvernements sommés d’agir pour prévenir les dangers de l’IA

Un rapport de l’Agence européenne de cybsersécurité s’inquiète de la manipulation croissante de l’information par l’IA, alors que plusieurs chercheurs dont Geoffrey Hinton ont adressé une lettre ouverte aux entreprises et aux gouvernements.

"L'IA en quête d'équilibre" (Qant, M. de R. avec Midjourney)

Hier, des chercheurs de premier plan en intelligence artificielle, parmi lesquels on trouve notamment Geoffrey Hinton, ont publié une lettre ouverte demandant que les entreprises et les gouvernements consacrent au moins un tiers de leurs fonds de recherche et développement en IA à la sécurité et à l'utilisation éthique de ces systèmes. Ils proposent notamment de rendre les entreprises légalement responsables des dommages prévisibles et évitables causés par leurs systèmes d'IA avancés.

Le rapport 2023 de l'Agence européenne de cybersécurité (Enisa), publié la semaine dernière, fait chorus. Il souligne le danger croissant de la manipulation de l'information facilitée par l'IA, notamment en vue des élections européennes de 2024. Même si les ransomwares restent la forme dominante de cyberattaques, la montée de l'intelligence artificielle, via les deepfakes et les grands modèles de langage, est identifiée comme une préoccupation majeure pour la sécurité, avec des implications potentielles pour la manipulation de l'information et la cybercriminalité. Au total, entre juillet 2022 et juin 2023, l'Enisa a enregistré environ 2580 incidents, avec des secteurs tels que l'administration publique et la santé étant particulièrement ciblés.

Nombre d'incidents (Jul. 2022-Jun. 2023)

Ces réflexions alimentent une activité politique de plus en plus nourrie. Un nouveau “trilogue” s’est ouvert hier à Bruxelles sur l’AI Act, dans l’effort d’aboutir avant la fin de l’année (et de la présidence espagnole) à un règlement emportant l’accord du Parlement, de la Commission et du Conseil des États européens.

À Washington, le président démocrate du Sénat Chuck Schumer a organisé une deuxième session du forum AI Insights avec des participants tels que Max Tegmark de l'Institut Future of Life, qui préconise une pause dans le développement de l'IA pour mettre en place des mesures de sécurité appropriées, et le capital-risque Marc Andreessen, qui recommande exactement l’inverse (lire Qant du 18 octobre).

Et à Londres, la semaine prochaine, se tiendra un sommet international sur la sécurité de l'IA.

Pour en savoir plus :

• Enisa

• Reuters

• CNBC

• Carnegie

• The Guardian

L’ESSENTIEL : Apple, ByteDance, Databricks, Deutsche Bank, Honda, Matter, Microsoft, OpenAI, Qualcomm, Standard Chartered

ROBOTS

Une voiture autonome pour surveiller les aéroports

Honda teste actuellement à l’aéroport de Toronto un véhicule autonome, destiné à montrer que ces derniers peuvent être utiles dans d’autres domaines que le transport de personnes.

Honda vient de présenter un véhicule élec autonome destiné à gérer les tâches monotones et répétitives dans les aéroports. L'objectif est de montrer que les véhicules autonomes peuvent avoir des applications variées, au-delà de la seule circulation urbaine. Le premier prototype est actuellement testé à l'aéroport Pearson de Toronto.

Parmi les tâches assignées au robot de Honda, on trouve l'inspection du périmètre de clôture de l'aéroport pour détecter d'éventuelles intrusions, le transport de marchandises sur le tarmac et le remorquage des chariots à bagages. Honda estime qu’il pourra être affecté à d'autres tâches, comme l'entretien des espaces verts.

Pour en savoir plus : The Verge

• Matter élargit son champ d’action aux robots domestiques : La norme de connectivité IoT Matter vient d’ajouter le support pour neuf nouveaux types d'appareils connectés, au-delà des catégories initiales comme les serrures de porte et les ampoules.
  Pour en savoir plus: The Verge

INTELLIGENCE ARTIFICIELLE

• Pour Sam Altman, l’IA du futur se concentrera sur le raisonnement : Dans une interview au Wall Street Journal, Sam Altman a évoqué l'avenir de l'intelligence artificielle, suggérant une transition vers des modèles d'IA nécessitant moins de données et se concentrant davantage sur le raisonnement, se rapprochant ainsi de l'intelligence artificielle générale.
  Pour en savoir plus: Decrypt

• Le gouvernement britannique critiqué pour son utilisation de l’IA : Selon une enquête du Guardian, l’utilisation de l’intelligence artificielle par le ministère du Travail et des Retraites (Department for Work and Pensions) aurait entraîné la suppression arbitraire de nombreuses prestations sociales pendant qu’un outil de reconnaissance faciale de la police commet plus fréquemment des erreurs avec les visages noirs. Outre-Manche, l’État utilise l'intelligence artificielle pour aider les fonctionnaires à prendre des décisions allant de l'attribution des prestations sociales aux licences de mariage. Avec des résultats potentiellement discriminatoires.
  Pour en savoir plus: Metro

• Qualcom oriente Snapdragon vers l’IA : Des détails sur le prochain processeur Snapdragon de Qualcomm, qui devrait être annoncé cette semaine, ont été divulgués par le site MSPoweruser, révélant une forte concentration sur les fonctionnalités d'IA, notamment des outils innovants pour la caméra. Le Snapdragon 8 Gen 3 devrait d'abord être intégré dans la ligne Galaxy S24 de Samsung prévue pour le premier trimestre 2024 et sera présent dans d'autres smartphones Android haut de gamme tout au long de l'année.
  Pour en savoir plus: The Verge

• Databricks s’offre Arcion : Databricks, qui développe une plate-forme d’accès aux moteurs distribués d’analyse du big data d’Apache Spark, vient de faire l'acquisition d’Arcion, une start-up californienne spécialisée dans la réplication en temps réel de bases de données, pour environ 100 millions de dollars. Cette acquisition intervient après que Databricks a annoncé un tour de financement de 500 millions de dollars en septembre. Databricks prévoit d’intégrer Arcion à MosaicML, pour nourrir en données les LLM de cette dernière, qu’elle avait acquise au début de l’été pour 1,3 milliard de dollars (lire Qant du 27 juin).
  Pour en savoir plus: CNBC

BLOCKCHAINS

• Première utilisation pour le yuan numérique : Le yuan numérique chinois a été utilisé pour la première fois pour régler une transaction pétrolière transfrontalière, a annoncé la Shanghai Petroleum and Natural Gas Exchange (SHPGX). PetroChina International a ainsi acheté 1 million de barils de brut. Cette transaction s'inscrit marque une étape importante dans l'utilisation de l’e-yuan sur le marché international.
  Pour en savoir plus: Coin Telegraph

• Nouvelle étape pour le Universal Digital Payments Network : Standard Chartered et Deutsche Bank ont annoncé avoir réalisé la première preuve de concept (PoC) pour le Universal Digital Payments Network (UDPN) selon le Financial Express. L’UDPN vise à connecter les paiements à travers diverse CBDC et réseaux blockchain en utilisant des messages (similaires à Swift) via une blockchain autorisée. Fondé par Red Date Technology, l'UDPN vise à fournir une infrastructure d'identité décentralisée pour permettre la conformité et l'interopérabilité entre les chaînes en échangeant des messages plutôt que des devises.
  Pour en savoir plus: Ledger Insights

AR-VR-XR

• Bytedance nie la fermeture de sa filiale XR : Des rumeurs récentes suggéraient que ByteDance, la société mère de TikTok, prévoyait de fermer sa filiale de matériel XR, Pico Interactive. Cependant, ByteDance a démenti ces allégations à l’agence chinoise Financial Associated Press. Pico fonctionne normalement et Bytedance investira à long terme dans la réalité mixte.
  Pour en savoir plus: Road to VR

QUANTUM

• Wise, un espoir pour les ordinateurs à 1000 qubits : Une étude parue la semaine dernière sur PRX Quantum présente une solution, nommée "Wise", pour surmonter les défis de la mise à l'échelle en informatique quantique, en intégrant des électroniques de commutation directement dans la puce à ions piégés. Cette avancée pourrait permettre la création d'ordinateurs quantiques de 1000 qubits, ouvrant la voie à des applications commerciales et industrielles dans divers secteurs.
  Pour en savoir plus: Azo Quantum

EXPERT : Jamie Metzl, Georgetown University

La place des humains à l'ère de l'intelligence artificielle

Étant donné qu'une "pause" dans le développement de l'intelligence artificielle n'est pas envisageable, nous devons consacrer nos ressources à la préparation des bouleversements sociaux et économiques que nous savons imminents. La clé est de laisser les IA et les humains faire chacun ce qu'ils font le mieux.

Jamie Metzl vu par Midjourney

...