« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio
Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.
L’ÉVÉNEMENT
Branle-bas de combat pour la sécurité de l’IA
Face aux risques pesant sur les nouveaux systèmes de GenAI, l’Anssi française, l’Institut britannique pour la sécurité de l’IA et la NSA américaine multiplient recommandations et directives.
La fraude au faux conseiller bancaire, répertoriée par le site CyberMalveillance.gouv.fr depuis début 2023, est devenue très courante. Mardi dernier, Google a montré une solution : logé au cœur du système d’exploitation Android, le modèle Gemini Nano analyse les conversations et signale à l’utilisateur la fraude éventuelle (lire Qant du 15 mai), Cette fonctionnalité sera disponible sur le Google Pixel 8 Pro et la série Samsung S24. Google a lancé en outre de nouvelles fonctionnalités de protection des données et contre le vol pour les appareils Android. Disponibles via une mise à jour des services Google Play pour Android 10 et versions ultérieures, ces outils incluent un espace privé pour sécuriser les applications sensibles avec un code PIN distinct.
Ces annonces interviennent dans un contexte de prise de conscience globale à la fois du potentiel de l'IA pour la sécurité, mais également des risques que l'explosion des outils d'IA entraîne. Outre-Manche, l’ Institut britannique de Sécurité de l'IA (lire Qant a lancé Inspect, une bibliothèque logicielle de tests de sécurité pour l'intelligence artificielle (lire Qant du 14 mai et du 6 novembre 2023). Aux États-Unis, la NSA a également créé un centre de sécurité de l’IA, qui a publié ses premières recommandations le mois dernier (lire Qant du 17 avril).
Côté français, l'Agence nationale de la sécurité des systèmes d'information (Anssi) vient pour sa part de publier un guide doté d'une trentaine de recommandations. L'objectif : minimiser le risque de cyberattaque sur un système alimenté par IA générative.
Voici comment.
L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE
L’ESSENTIEL : Ethereum, Hanson Robotics, Kulipa, Mastercard, Microsoft, Stability AI
ROBOTS
Quand un robot remet les diplômes
Sophia, robot humanoïde d’Hanson Robotics, a participé à la remise de diplôme d’une université américaine, récoltant des réactions mitigées.
Lors de la cérémonie de remise des diplômes de l'université D'Youville à Buffalo, dans l'état de New York, un invité inhabituel a pris la parole devant plus de 2 000 étudiants et leurs familles : un robot humanoïde nommé Sophia. Lorrie Clemo, présidente de l'université, a expliqué vouloir ainsi mettre en avant l'importance croissante de la technologie dans la société.
Créée par la start-up Hanson Robotics, basée à Hong Kong, Sophia s'est notamment rendue célèbre en se voyant décerner la nationalité saoudienne en 2017. Au lieu de lire un discours préparé, Sophia a répondu aux questions posées par John Rizk, président du corps étudiant.
Le robot a partagé des conseils génériques compilés à partir d'autres discours de remise des diplômes: "Adoptez l'apprentissage tout au long de la vie, soyez adaptable, poursuivez vos passions, prenez des risques, cultivez des relations significatives, ayez un impact positif et croyez en vous-même."
Cela a conforté les nombreux étudiants qui ont critiqué ce choix. Une pétition en ligne, signée par plus de 2 500 personnes, demandait de remplacer le robot par un intervenant humain. Après les cérémonies de fin d'études virtuelles à cause de la pandémie, le manque de personnalisation et d'empathie du robot paraissait inadapté.
Même avec un passeport honorifique.
Pour en savoir plus :
INTELLIGENCE ARTIFICIELLE
L’IA contre la nature • L’empreinte carbone de Microsoft a augmenté de près de 30 % depuis 2020, en grande partie en raison de la construction de centres de données nécessaires pour soutenir l'intelligence artificielle et le cloud computing, selon le rapport annuel de l'entreprise sur la durabilité. Cette hausse compromet les objectifs climatiques de Microsoft, qui vise à atteindre la neutralité carbone et le "zéro déchet" d'ici à 2030. Malgré une réduction de 6,3 % de ses émissions directes et liées à l'énergie en 2023, les émissions de sa chaîne d'approvisionnement ont grimpé de 30,9 %. Microsoft demande désormais à certains de ses fournisseurs d'utiliser une électricité décarbonée à 100 % d'ici à 2030.
Pour en savoir plus: Financial TimesLe Sénat américain veut accélérer sur l’IA • Un groupe bipartisan de sénateurs américains a dévoilé un plan pour renforcer les efforts en matière d'intelligence artificielle aux États-Unis, intitulé "Driving U.S. Innovation in Artificial Intelligence". Les sénateurs proposent notamment un financement annuel de 32 milliards de dollars (29,4 milliards d'euros) pour la recherche et le développement d'ici à 2026.
Pour en savoir plus: Washington PostStability cherche acheteur • La startup britannique Stability AI aurait ouvert des négociations préliminaires avec un potentiel acheteur en raison de difficultés financières grandissantes. Selon The Information, au premier trimestre 2024, l'entreprise a généré moins de 5 millions de dollars (4,6 millions d'euros) de chiffre d’affaires tout en subissant une perte de plus de 30 millions de dollars (27,6 millions d'euros). Stability AI doit actuellement près de 100 millions de dollars (92 millions d'euros), notamment à des fournisseurs de services de cloud. Ces discussions surviennent un mois après le licenciement de certains employés et la démission du fondateur Emad Mostaque de son poste de CEO (lire Qant du 26 mars). Depuis l'année dernière, les relations de Stability AI avec ses investisseurs s'étaient profondément détériorées (lire Qant du 1er décembre 2023), notamment avec Coatue Management, qui avait mené en 2022 un tour de financement de 100 millions de dollars (92,3 millions d'euros, lire Qant du 24 octobre 2022), et qui réclamait depuis plusieurs moi la tête d’Emad Mostaque.
Pour en savoir plus: The Information, ReutersMicrosoft ouvre la porte de l’international à ses talents chinois • Microsoft a demandé à certains de ses employés basés en Chine de considérer une relocalisation hors du pays, en raison des tensions croissantes entre les États-Unis et la Chine concernant notamment l'intelligence artificielle et les semi-conducteurs. Environ 700 à 800 personnes impliquées dans l’IA et le cloud pourraient être concernées. Les employés, principalement des ingénieurs de nationalité chinoise, ont la possibilité de déménager aux États-Unis, en Irlande, en Australie et en Nouvelle-Zélande. Microsoft a déclaré rester engagé en Chine tout en offrant des opportunités de transfert internes.
Pour en savoir plus: Wall Street Journal, Reuters
MONNAIES NUMÉRIQUES ET BLOCKCHAINS
Mastercard mise sur Kulipa • Mastercard a sélectionné cinq startups pour son programme Start Path dédié aux actifs numériques afin de développer des cas d'utilisation de la blockchain. Les startups choisies incluent la française Kulipa, qui émet des cartes de paiement cryptées pour les portefeuilles numériques, mais aussi Parfin (Royaume-Uni), Peaq (Singapour), Triangle (États-Unis) et Venly (Belgique). Ce programme, qui dure quatre mois, offrira aux startups des opportunités de collaboration, de formation sur mesure et d'accès aux clients et aux canaux de Mastercard. L'objectif est de créer de nouvelles solutions et d'améliorer les expériences de commerce numérique, tout en favorisant l'adoption massive des cryptomonnaies et l'inclusion financière.
Pour en savoir plus: The Block25 millions de dollars en ethers volés en 12 secondes • Deux étudiants du MIT, Anton et James Peraire-Bueno, ont été arrêtés pour avoir volé des ethers pour 25 millions de dollars (23 millions d'euros) en seulement 12 secondes en exploitant une faille de la blockchain Ethereum, selon un acte d'accusation dévoilé par le DOJ. Les frères, âgés de 24 et 28 ans, sont accusés de fraude électronique et de blanchiment d'argent. Ils auraient utilisé leurs compétences en crypto pour accéder frauduleusement à des transactions privées en attente et manipuler la blockchain à leur avantage. Ils ont utilisé une série de validateurs ethereum par le biais de sociétés écrans pour manipuler les blocs.
Pour en savoir plus: Ars Technica
QUANTUM
Un réseau quantique à Boston • Une équipe de physiciens de Harvard ont démontré le premier réseau informatique quantique dans la région de Boston aux États-Unis. Ils ont utilisé des fibres optiques existantes pour connecter deux nœuds de mémoire quantique sur une boucle d'environ 35 kilomètres à travers les villes de Boston et Cambridge, où sont situés Harvard et le MIT.
Pour en savoir plus: Phys.org
ÉDITION PREMIUM
En exclusivité pour les abonnés :
En France, en Grande-Bretagne et aux États-Unis, les agences chargées de la cybersécurité se penchent sur le déploiement des systèmes d’IA. Revue de détail.
Branle-bas de combat pour la sécurité de l’IA
Face aux risques pesant sur les nouveaux systèmes de GenAI, l’Anssi française, l’Institut britannique pour la sécurité de l’IA et la NSA américaine multiplient recommandations et directives.
“L'intelligence artificielle facilite l'accès à la cybercriminalité.” La directrice de la Cybersecurity and Infrastructure Security Agency (CISA) américaine, Jen Easterly, vient de résumer le problème en une phrase. En effet, l'IA permet à des personnes de moins en moins expérimentées de mener des attaques sophistiquées comme le phishing ou le clonage. Son gouvernement prend la menace au sérieux et l’inquiétude gagne l’Europe.
...
