Le spectre des agents d’IA cybercriminels

« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

RENDEZ-VOUS

Jeudi 4 juillet, Qant invite gratuitement ses abonnés à une rencontre exclusive avec l’économiste Philippe Aghion, l’un des principaux penseurs de la croissance économique et de l’impact de l’IA.

L’ÉVÉNEMENT

Sécurité : la menace des agents d’IA

Alors que les responsables de gestion de fraude et de conformité s’inquiètent de l’utilisation de l’IA par les cyber-criminels, la menace des agents IA commence à se dessiner.

“Les agents d’IA criminels financiers” (Qant, M. de R. avec Midjourney)

Près de 70 % des experts en gestion des fraudes estiment que les criminels utilisent l’IA plus efficacement que les banques pour commettre des crimes financiers. Un rapport de l’israélienne Biocatch révèle que la moitié des 600 sondés, issus d’entreprises financières du monde entier, ont observé une hausse des activités de fraude en 2023, et qu’ils prévoient une nouvelle augmentation en 2024. La majorité reconsidère l'utilisation de la vérification vocale à cause du clonage vocal par IA et plus de 70 % ont détecté des identités synthétiques lors de l'intégration de nouveaux clients. 

Dans cette situation, une nouvelle étude de l'université de l'Illinois met en évidence les risques posés par les agents d'IA, désormais capables d'exploiter des vulnérabilités zero-day.

On n’arrête pas le progrès.

Les domaines de la criminalité financière qui seront les plus touchés par l'IA en 2024 (Source : Biocatch)

L’ESSENTIEL : Agility Robotics, CIR, Google, GXO, Meta, OpenAI

ROBOTS

Le robot-magasinier qui se déploie à grande échelle

GXO Logistics vient de signer un accord pluriannuel avec Agility Robotics, le fabricant du robot humanoïde Digit, pour le déployer en nombre sur ses sites.

Agility Robotics vient de signer un accord pluriannuel de “Robot-as-a-service” avec le logisticien GXO Logistics pour déployer ses humanoïdes Digit. GXO a ainsi annoncé le déploiement commercial d'une “petite flotte” de robots Digit dans une installation de la marque de vêtements Spanx dans le Connecticut.

 En décembre dernier, GXO avait lancé un premier projet pilote d'intégration de Digit dans un de ses entrepôts de Géorgie, pour évaluer les capacités de Digit dans la manipulation de bacs remplis de produits (lire Qant du 12 décembre 2023).

Essai réussi.

INTELLIGENCE ARTIFICIELLE

• Une nouvelle plainte contre OpenAI • Le Center for Investigative Reporting (CIR), une association américaine consacrée au journalisme d'investigation, vient de poursuivre OpenAI et Microsoft en justice pour violation de droits d'auteur. Elle accuse OpenAI d'utiliser sans autorisation ses contenus pour entraîner ChatGPT. La plainte survient après des poursuites similaires par le New York Times (lire Qant du 8 janvier). Le CIR demande des dommages et intérêts pour l'utilisation non autorisée de ses œuvres.
  Pour en savoir plus : Associated Press, CNBC

• L’IA contre le réchauffement global • Lors d'une conférence à Londres organisée par son fonds Breakthrough Energy, Bill Gates a affirmé que l'intelligence artificielle pourra aider à combattre le réchauffement climatique en rendant les technologies et les réseaux électriques plus efficaces. Gates a minimisé les craintes concernant l'impact climatique de l'IA, malgré la croissance des centres de données. A l’en croire, l'augmentation de la demande énergétique pourra être compensée par des investissements dans l'électricité verte.
  Pour en savoir plus : Bloomberg, The Guardian

• Google Translate renforce sa diversité • Google Translate vient d'ajouter 110 nouvelles langues à ses services, ce qui porte le total à 243. Cette expansion a été permise par le LLM PaLM 2, utilisé notamment pour des langues similaires au hindi, comme l'awadhi et le marwadi, ainsi que les créoles seychellois et mauricien. Environ un quart des nouvelles langues proviennent d'Afrique.
  Pour en savoir plus : The Verge

• Un modèle pour analyser le code écrit par ChatGPT • OpenAI vient de présenter CriticGPT, un nouveau modèle d'IA conçu pour identifier les erreurs dans le code généré par ChatGPT. Les deux modèles sont fondés sur la suite GPT-4, mais CriticGPT a été entraîné avec du code généré par ChatGPT et annoté par des réviseurs humains. Le modèle lui-même génère parfois des hallucinations mais, en association avec un être humain, il produit une relecture du code plus efficace que par un humain seul. Et un jeu de données précieux pour le RLHF, l’entraînement continu du modèle basé sur les commentaires humains.
  Pour en savoir plus : Ars Technica

• Un LLM pour optimiser et compiler le code • Meta vient de présenter Meta Large Language Model Compiler. Cette suite de deux modèles d'IA, de 7 milliards et 13 milliards de paramètres, permet d’optimiser la compilation du code informatique et le code lui-même. LLM Compiler a été entraîné sur un corpus de 546 milliards de jetons en assembleur et en représentations intermédiaires (LLVM-IR). il est ensuite “fine-tuné” (surentraîné) avec 164 milliards de jetons supplémentaires, y compris issus du désassemblage.
  Pour en savoir plus : Chris Cummins et al., Meta Large Language Model Compiler: Foundation Models of Compiler Optimization, Meta AI

Source : Meta AI

MONNAIES NUMÉRIQUES ET BLOCKCHAINS

• Un pont numérique entre Hong Kong et Paris • Hong Kong et la France ont annoncé un essai d'interopérabilité des monnaies numériques de banque centrale. La Hong Kong Monetary Authority (HKMA) collaborera avec la Banque de France pour tester les paiements transfrontaliers en temps réel entre le projet Ensemble de Hong Kong et la plateforme DL3S de la France. Cet accord vise à améliorer les paiements transfrontaliers et à soutenir les projets de tokenisation.
  Pour en savoir plus : Ledger Insights

ÉDITION PREMIUM

En exclusivité pour les abonnés :

• Plus des deux tiers des responsables de la gestion des fraudes et de la conformité considèrent que l'IA sera plus utile aux criminels qu'aux banques.

• Le cas des agents IA inquiète particulièrement, ce qu’illustre une étude de l'université de l'Illinois.

• Le logisticien GXO va déployer une flotte de robots Digit dans une usine après un accord pluriannuel avec Agility Robotics.

Sécurité financière : la menace des agents d’IA

Alors que les responsables de gestion de fraude et de conformité s’inquiètent de l’utilisation de l’IA par les cyber-criminels, la menace des agents IA renforcera les préoccupations.

Les domaines de la criminalité financière qui seront les plus touchés par l'IA en 2024 (Source : Biocatch)

...