« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio
Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.
L’ÉVÉNEMENT
Sécurité : en attendant l’IA
De la cyberguerre aux activités criminelles, l’année 2023 a été riche en rebondissements pour l’industrie de la cybersécurité. Après la cryptographie post-quantique et les escroqueries aux cryptomonnaies, elle s’apprête à faire face aux conséquences de l’IA, explosion du phishing en tête.
Après l’Ukraine, le Moyen-Orient. En début de semaine, les tensions entre Israël et l'Iran ont pris une nouvelle tournure avec une série de cyberattaques ciblant des infrastructures critiques dans les deux pays. L'Iran a été frappé par une attaque qui a perturbé environ 70% de ses stations-service, une action revendiquée par le groupe de hackers Gonjeshke Darande, ou "Moineau Prédateur" en farsi. Accusé par l'Iran d'avoir des liens avec Israël, Gonjeshke Darande a reconnu sa responsabilité. Il a également revendiqué des attaques contre des réseaux ferroviaires et des usines sidérurgiques. De son côté, la Direction nationale de la cyber-sécurité israélienne a annoncé que l'Iran et le Hezbollah étaient responsables d'une cyberattaque contre le Centre Médical Ziv, à Safed en Israël, à la fin novembre, au cours de laquelle 300 000 dossiers de patients ont été dérobés.
Ces incidents marquent une escalade significative dans le conflit numérique entre Israël et l'Iran, soulignant la vulnérabilité des infrastructures civiles aux cyberattaques : dans le jargon, les systèmes industriels (OT) et informatiques (IT) convergent dans l’Internet des objets (IOT), les rendant tous également vulnérables. Leur nombre ne cesse de croître : la Security Industry Association américaine estime le nombre d’objets connectés à Internet à 16,7 milliards fin 2023 et 29 milliards en 2027. Et la NSA déclare suivre 70 clusters reliés à des États, notamment susceptibles de lancer des campagnes s’appuyant sur des vulnérabilités inconnues jusqu’alors (“zero-day”).
2023 marquera sans doute un nouveau record dans le nombre de failles découvertes. La découverte en octobre d’une faille dans HTTP/2, le protocole adopté par la moitié des requêtes Web dans le monde selon Cloudflare, ne fait qu’aggraver le problème. Cloudflare, l’une des principales entreprises mondiales de sécurité Internet, a observé sur cette vulnérabilité, HTTP/2 Rapid Reset, la plus violente attaque de déni de service de ses annales.
C’est cependant souvent par mail que les pirates pénètrent un réseau et la part des e-mails malveillants ne cesse de croître. En 2023, elle s’élevait en moyenne à 2,65 % des mails analysés par Cloudflare.
En Ukraine, “l’opération spéciale” de l’armée russe a ainsi été préparée par des campagnes massives de phishing, parfois au nom d’organismes officiels ukrainiens, qui ont continué après le début de la guerre. L’une d’entre elles a touché 14 000 personnes.
Or, même si les deepfakes concentrent l’attention, c’est sans doute d’abord par le phishing que l’IA se révélera dangereuse pour la sécurité en 2024. Les LLM peuvent en effet se nourrir de toutes les traces publiques d’une personne pour générer de faux messages de plus en plus crédibles, aussi bien vocaux que par écrit. Les fakes audio commencent à se généraliser ; les deepfakes vidéo demandent encore quelques perfectionnements.
Enfin, au fur et à mesure que l’IA prend une importance croissante dans la vie quotidienne et les affaires, elle devient elle-même une cible d’attaques. Par exemple, Gartner prévoit que 30% des cyberattaques ciblant l'IA exploiteront l'empoisonnement des données de formation, le vol de modèles d'IA ou des échantillons adverses. C’est l’autre dimension de l’atlas de Mitre sur les menaces de l’IA, que l’on retrouve ci-dessous.
La NSA avait bien de quoi créer un centre dédié à la sécurité, pour aider son écosystème à s’adapter à la nouvelle déferlante.
Pour en savoir plus :
L’ESSENTIEL : Dropbox, Epic Games, LG CNS, Mediwave, Microsoft, Patronus AI, Rite Aid, SafeMoon, Stability AI, Suno
Le robot sort du labyrinthe
CyberRunner, développé par une équipe de l’ETH Zurich, est capable de guider une bille dans un labyrinthe complexe plus rapidement que l’homme.
Des chercheurs de l'ETH Zurich viennent de présenter un robot, baptisé CyberRunner, capable de maîtriser un jeu de labyrinthe à billes, une tâche complexe qui nécessite précision et dextérité. Le CyberRunner est équipé de deux moteurs électriques pour manœuvrer les boutons du jeu, d'une caméra pour visualiser le plateau et d'un système d'intelligence artificielle basé sur l'apprentissage par renforcement profond. Ce système lui permet de transmettre jusqu'à 55 instructions de contrôle par seconde.
L'objectif assigné au CyberRunner était simple : diriger une bille à travers un labyrinthe en bois, en évitant les trous, en manipulant le plateau à l'aide des boutons. Les premières tentatives du robot étaient maladroites, mais après environ 6 heures d'entraînement, il a surpassé de plus de 6 % le temps record établi par un joueur humain. Ce résultat montre aussi bien la capacité du robot à apprendre et à s'adapter, que celle à effectuer des mouvements fluides et précis.
Le CyberRunner a rapidement identifié des raccourcis dans le labyrinthe, permettant d'accélérer sa progression. Les chercheurs ont dû intervenir pour lui interdire d'utiliser ces astuces. L'équipe de CyberRunner envisage de rendre le projet open-source, offrant ainsi la possibilité à quiconque de construire et d'entraîner ce robot chez soi.
Et de lui permettre de tricher, enfin.
Pour en savoir plus : Bloomberg
INTELLIGENCE ARTIFICIELLE
Vers des standards de l’IA aux Etats-Unis : L'administration Biden a entamé la rédaction de normes clés pour l'IA, en demandant des contributions publiques jusqu'au 2 février. Ce projet, initié par le département du Commerce américain, vise à établir des standards de sécurité, de sûreté et de fiabilité pour le développement responsable de l'intelligence artificielle. Cette démarche s'inscrit dans le cadre du décret exécutif du président Biden d'octobre dernier sur l'IA (lire Qant du 31 octobre).
Pour en savoir plus: ReutersL’IA troublée par la SEC : Une équipe de chercheurs de l'entreprise californienne Patronus AI ont découvert que les principaux modèles d'IA échouent souvent à analyser les dossiers de la SEC, le gendarme financier américain. Patronus AI a constaté que même GPT-4-Turbo ne répond correctement qu'à 79% des questions sur les documents de la SEC, l'expliquant par la difficulté des modèles à traiter les industries très réglementées.
Pour en savoir plus: CNBC, PymntsLe Copilot chante avec Suno : Microsoft vient d'introduire une extension pour Copilot permettant de créer des chansons IA avec Suno. Cette startup basée à Cambridge offre un outil sur Discord pour composer des chansons originales, y compris les paroles, à partir d'un simple prompt. Suno réserve les droits commerciaux de ses chansons aux utilisateurs payants, tout en permettant l'utilisation non commerciale par les utilisateurs gratuits.
Pour en savoir plus: The VergeStability passe au payant : Stability AI vient d'annoncer le lancement d'un service d'abonnement payant pour l'utilisation commerciale de ses modèles d'IA. Ce service propose trois niveaux : gratuit pour un usage personnel et de recherche, un abonnement à 20 euros par mois pour les créateurs et startups, et un plan entreprise. Seuls les abonnés payants peuvent utiliser commercialement les modèles. Cette initiative vise à financer la recherche et le développement futurs de l'entreprise.
Pour en savoir plus: The VergeDropbox sous le feu des critiques : Dropbox est accusé de partager les données des utilisateurs avec OpenAI, suite à sa collaboration pour un service d'IA pour les abonnés payants. Bien que Dropbox affirme ne pas partager de données et utilise les services d'IA uniquement sur sollicitation active des utilisateurs, des inquiétudes persistent quant à la confidentialité. Dropbox nie ces accusations, précisant que les données ne servent pas à entraîner les modèles de langage d'OpenAI.
Pour en savoir plus: MashableQuand l’IA vous espionne à la pharmacie : La chaîne de pharmacies américaine Rite Aid vient de s'engager à ne pas utiliser la reconnaissance faciale pendant cinq ans, suite à un accord avec la FTC, qui l’accusait d'une utilisation "téméraire" de cette technologie entre 2012 et 2020. La FTC reproche à Rite Aid d'avoir créé une base de données de clients identifiés comme voleurs potentiels, souvent à tort et affectant disproportionnellement les personnes de couleur. Rite Aid doit supprimer toutes les photos et vidéos capturées et mettre en place des mesures de protection des données des clients.
Pour en savoir plus: Bloomberg
BLOCKCHAINS
Epic Games s’ouvre à la blokchain : Epic Games autorise désormais les jeux blockchain classés "Adults Only" sur sa plateforme. Cette décision fait suite à la révision de sa politique concernant les jeux utilisant la blockchain ou la technologie NFT, qui étaient auparavant exclus en raison de leur classement "Adults Only" par l'ESRB, l'organisme nord-américain de régulation des jeux vidéos. Les politiques interdisant le contenu pornographique, les jeux d'argent et haineux restent en vigueur.
Pour en savoir plus: The VergeLG travaillera au won numérique : La Banque de Corée a attribué à LG CNS, une filiale de LG, un contrat pour développer un système de monnaie numérique de banque centrale (CBDC) pour des essais en gros. Ce projet, d'un budget de 7,45 millions d'euros, durera jusqu'en mars 2025. La Banque de Corée, ayant achevé deux phases d'essais de CBDC de détail, se concentre désormais sur les paiements programmables et les collaborations pour explorer la CBDC hors ligne (lire Qant du 27 novembre).
Pour en savoir plus: Ledger InsightsUne lune pas si sûre : L’entreprise américaine de crypto SafeMoon vient de déposer son bilan, entraînant une chute de 42% de la valeur de son jeton, SFM. Les dirigeants de l'entreprise sont accusés de fraude et de blanchiment d'argent. La procédure choisie, dite du chapitre 7, implique la liquidation des actifs pour rembourser les créanciers, sans plan de restructuration.
Pour en savoir plus: Coindesk
AR-VR-XR
La réalité mixte dans l’ambulance : Mediwave, une startup basée à Singapour, s'est associée avec le service d'ambulance 1990 Suwa Seriya au Sri Lanka pour lancer la première ambulance connectée utilisant la réalité mixte et l'IA. Équipés de casques Microsoft HoloLens, les techniciens d'urgence ont accès en temps réel aux données de santé des patients, aux équipements de diagnostic sur site et à une liaison vidéo avec un médecin à distance. Ce système vise à améliorer l'efficacité des soins d'urgence avant l'admission à l'hôpital.
Pour en savoir plus: New Atlas
EXPERT
2024 : l’année des monnaies numériques
Si 2023 a été l’année des stablecoins, 2024 devrait être celle des monnaies numériques de banque centrale, les CBDC.
...
