Messieurs les présidents, on vous a fait une lettre (et même plusieurs)

« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

Les pontes de l’IA sur le pont

Alors que, dès aujourd’hui, Biden pourrait signer un décret exécutif et le G7 adopter un code de conduite pour les entreprises , les prises de position se multiplient avant le début, mercredi, du sommet de Bletchley Park au Royaume-Uni.

"La lettre du robot" (Qant, M. de R. avec Midjourney)

Aujourd’hui, ou dans les tout prochains jours à venir, d’après Politico, le président américain Joe Biden devrait signer un décret exécutif sur l’IA, à l'intention de plus d'une douzaine d'agences fédérales. Fort de 111 pages, le décret prévoit la création d'un Conseil similaire à celui sur la sécurité nationale, chargé de coordonner les activités du gouvernement fédéral en matière d'intelligence artificielle. Il met en place des normes pour la confidentialité des données, la cybersécurité, la prévention de la discrimination et la surveillance de la concurrence dans l'industrie de l'IA. Il encourage également l'utilisation de l'IA dans divers secteurs d’action publique, comme la santé, l'éducation, le logement. De plus, il aborde des sujets tels que la concurrence dans l'industrie des semi-conducteurs et la protection des droits des travailleurs face aux perturbations causées par l'IA.Les agences fédérales exerceront un pouvoir d'influence sur le marché grâce à leur capacité d'achat et à leurs outils de mise en application.

Vendredi dernier, le secrétaire général des Nations Unies, António Guterres, tenait sur les fonts baptismaux un groupe consultatif de 39 membres sur les questions de gouvernance internationale de l'intelligence artificielle. Composé de dirigeants d'entreprises technologiques, de responsables gouvernementaux de divers pays et d'universitaires, le groupe a tenu sa première réunion le 27 octobre. Il a pour mission de construire un consensus scientifique mondial sur les risques et les défis de l'IA, et de renforcer la coopération internationale dans la gouvernance de l'IA, avec des recommandations préliminaires attendues pour la fin de cette année et des recommandations finales pour l'été 2024.

Société civile

Jeudi 26, OpenAI a annoncé la création d'un groupe dirigé par Aleksander Madry du MIT, pour évaluer et protéger contre les risques des futurs systèmes d'IA générale et de superintelligence, y compris leur capacité à tromper les humains et à générer des codes malveillants, ainsi que des menaces chimiques, biologiques, radiologiques et nucléaires. Le groupe est ouvert aux candidatures.

Mardi 24, ce sont 24 experts en IA, dont les lauréats du prix Turing Geoffrey Hinton et Yoshua Bengio qui ont publié une déclaration commune qui appelle les gouvernements à agir pour gérer les risques liés à l'IA, en se concentrant particulièrement sur les risques extrêmes posés par les systèmes les plus avancés, tels que la facilitation d'activités criminelles ou terroristes à grande échelle. Les auteurs du document recommandent que les grandes entreprises technologiques et les bailleurs de fonds publics consacrent au moins un tiers de leur budget de R&D en IA à des projets promouvant une utilisation sûre et éthique de l'IA, et appellent à la création de normes nationales et internationales. Ils soulignent également les défis réglementaires, comme la nécessité de licences pour développer des modèles d'IA, tout en rejetant l'argument selon lequel cela avantagerait les grandes entreprises.

Les manifestes, consensus et autres lettres ouvertes se suivent et ne se ressemblent pas toujours dans le monde de l'IA. Il y a moins de deux semaines, Marc Andreessen publiait son "Manifeste Techno-optimiste" (lire Qant du 18 octobre). Des lettres ouvertes précédentes ont été signées par des milliers de personnes. La première, sous l’impulsion d’Elon Musk, demandait à mettre en pause le développement d'IA plus puissantes que GPT-4 (lire Qant du 31 mars).

Sommet

La vice-présidente des États-Unis Kamala Harris, qui a piloté la préparation du décret (lire Qant du 5 mai), est attendue au sommet de Bletchley Park, à partir de mercredi, ainsi qu’António Guterres, Sam Altman, Aidan Gomez, Geoffrey Hinton et Yoshua Bengio.

Reste à voir de quoi accouchera la montagne (lire Qant du 27 octobre). Hier dimanche, Aidan Gomez, fondateur de Cohere et co-auteur du papier de recherche qui a créé l’architecture des GPT, mettait en garde contre la distraction que représentent tous ces scénarios apocalyptiques, face aux risques immédiats de la production à grande échelle de désinformation.

Pour en savoir plus :

• Politico

• Nations Unies

• OpenAI

• Managing AI Risks in an Era of Rapid Progress

• Time

• Newsweek

• The Guardian

L’ESSENTIEL : Anthropic, Boston Dynamics, Google, Humane, OpenAI, Reviewed, Unciphered

ROBOTS

Un robot comme guide

Spot, le robot quadrupède de Boston Dynamics, a été mis à jour par l’entreprise pour pouvoir guider des visiteurs en leur parlant, grâce à l’intégration de l’API de ChatGPT.

Boston Dynamics a transformé son robot chien, Spot, en un guide touristique parlant grâce notamment à l'intégration de l'API de ChatGPT en open source. Dans une vidéo publiée par l'entreprise, Spot est déguisé avec un chapeau haut de forme, une moustache et des yeux globuleux, et parle avec un accent britannique pour guider les visiteurs à travers les installations de Boston Dynamics.

Le robot est capable de répondre aux questions et simule même la parole en ouvrant sa "bouche". Pour cela, Boston Dynamics a équipé Spot d'un haut-parleur et de capacités de synthèse vocale. Spot, qui peut adopter diverses personnalités comme celle d'un majordome, d'un archéologue des années 1920, d'un adolescent, d'un voyageur temporel shakespearien ou même d'un personnage sarcastique, interprète les images capturées par ses caméras et génère des réponses. L'expérience de Boston Dynamics avec Spot en tant que guide a révélé des surprises, comme sa capacité à identifier ses "parents" en se dirigeant vers les anciens modèles de Spot.

Pour en savoir plus : The Verge

INTELLIGENCE ARTIFICIELLE

• Dernier tour de piste pour les Beatles : La dernière chanson des Beatles, "Now and Then", enregistrée initialement comme démo dans les années 1970, va être publiée le 2 novembre. Elle a été recréée grâce à une IA pour récupérer la voix de John Lennon d'une vieille cassette (lire Qant du 14 juin). Cette chanson, accompagnée d'un documentaire de 12 minutes sur sa production, sera disponible en streaming, en téléchargement et en vinyle double face A avec "Love Me Do", la première chanson des Beatles.
  Pour en savoir plus: The Verge

• IA et paranoÏA: Plusieurs articles publiés sur Reviewed, un site d’évaluation de produits intégrés à celui de USA Today, ont déclenché les craintes et la colère des employés et syndicats du quotidien, car des programmes de détection d'intelligence artificielle ont indiqué qu’ils semblaient ne pas avoir été écrits par des humains. Gannett, la société mère de USA Today, a nié l'utilisation de l'IA, affirmant que les articles avaient été créés par des freelances via une agence de marketing, Advon Commerce.
  Pour en savoir plus: Washington Post, New York Times

• Humane hors de prix : Le AI Pin, que la startup Humane propose comme successeur au téléphone mobile, pourrait coûter jusqu'à 1 000 dollars et nécessiter un abonnement mensuel pour les données. Ce dispositif inclut une caméra, un microphone, un haut-parleur, divers capteurs et un projecteur laser, et fonctionne avec un LLM à soi. Créée par des anciens d’Apple, Humane semble en avoir hérité deux principes: le buzz (lire Qant du 4 octobre, 3 juillet et 25 avril) et le prix.
  Pour en savoir plus: The Verge, The Information

• Quand l’IA se prend pour un pigeon : Une étude récente publiée dans la revue Cell a révélé que les pigeons résolvent les problèmes de manière similaire à l'intelligence artificielle, apprenant par essais et erreurs et reconnaissant les ressemblances entre les objets. Au cours de l'étude, les pigeons ont amélioré leur capacité à faire les bons choix, démontrant une capacité de correction d'erreurs et une fonction de similarité comparables à celles des modèles d'IA, ce qui pourrait aider à mieux comprendre les dommages cérébraux humains.
  Pour en savoir plus: The Guardian

• Google met le paquet sur Anthropic : Google a accepté d'investir jusqu'à 2 milliards de dollars dans Anthropic en plus d'un investissement initial de 550 millions de dollars (lire Qant du 6 février), selon les informations de Reuters. Ce nouvel investissement comprend notamment un accord avec Google Cloud d'une valeur de plus de 3 milliards de dollars, alors qu'Anthropic a également conclu d'importants accords avec Amazon (lire Qant du 26 septembre).
  Pour en savoir plus: Wall Street Journal

BLOCKCHAINS

• Google propose une CBDC hors ligne : Google a présenté une solution pour des monnaies numériques de banque centrale (CBDC) hors ligne, en s'appuyant sur l'infrastructure existante de Google Pay qui supporte déjà les transactions hors ligne. Bien que les solutions CBDC hors ligne soient perçues comme plus risquées en raison de difficultés de vérification, l'utilisation de Google Pay pourrait offrir une option éprouvée et à faible risque. Dans le cas improbable où les banques centrales et les régulateurs voient avec moins de méfiances l'implication de Big Tech dans la finance, au-delà des paiements. En Argentine, peut-être.
  Pour en savoir plus: Ledger Insights

• La fortune perdue de Ripple : La société de sécurité crypto Unciphered propose d'aider Stefan Thomas, ancien directeur technique de Ripple, à récupérer sa fortune en bitcoins, évaluée à 244 millions de dollars, bloquée dans un disque dur crypté IronKey dont il a perdu le mot de passe. Bien qu'Unciphered affirme avoir la capacité technique de déverrouiller l'IronKey et ait déjà réussi à récupérer des données d'un dispositif similaire, Thomas n'a pas encore accepté leur aide, restant fidèle à un accord initial avec deux autres équipes de déchiffrement.
  Pour en savoir plus: Blockworks

AR-VR-XR

• Magic Leap change de CEO : Peggy Johnson, ancienne dirigeante chez Microsoft et Qualcomm, qui avait rejoint Magic Leap en août 2020 et orienté l'entreprise vers les applications d'entreprise avec le casque de réalité augmentée Magic Leap 2, a été remplacée par Ross Rosenberg en tant que CEO. Avec la rentabilité de la startup comme défi majeur.
  Pour en savoir plus: Bloomberg

QUANTUM

• Et pour 0,1 milliseconde de plus : Des chercheurs de l'Argonne National Laboratory ont prolongé la durée de cohérence d'un nouveau type de qubit, basé sur l'état de charge d'un électron, à 0,1 milliseconde. Cette durée plus longue permet au qubit de réaliser des milliers d'opérations avec précision et rapidité, ce qui est un pas significatif vers la création d'ordinateurs quantiques plus efficaces et fiables.
  Pour en savoir plus: Phys.org

EXPERT

Stable Audio : Jouer de la musique avec l’IA

Après la génération d’images, Stability.ai lance un modèle générateur de sons. Si la création de musique répond présent, la réalisation de bruitages est encore imparfaite.

"Le robot joue plusieurs instruments à la fois" (Qant, M. de R. avec Midjourney)

...