L’ÉVÉNEMENT

ChatGPT entre terrorisme et cybersécurité

Alors que les initiatives pour utiliser les modèles dans la cybersécurité se multiplient, le contre-espionnage anglais dénonce les risques de l’IA.

"Le robot et l'espion à Londres" (Midjourney)

La Grande-Bretagne sonne l'alarme sur les potentielles menaces que représente l'IA pour la sécurité nationale, et notamment ses capacités de manipulation. L’ancien avocat Jonathan Hall, désormais chargé d’évaluer la pertinence de la législation antiterroriste Outre-Manche, a ainsi déclaré que la technologie devait être conçue en tenant compte des intentions des terroristes. Il a également souligné que trop de développements d'IA sont centrés sur les aspects positifs de la technologie sans considérer son utilisation potentielle par les terroristes. Les services de sécurité britanniques sont particulièrement préoccupés par la capacité des chatbots à manipuler des mineurs, qui constituent une part croissante des cas de terrorisme suivis par le MI5.

Pourtant, l’usage de l’IA pour la cybersécurité commence à se répandre dans le secteur privé. OpenAI vient de lancer un programme de bourses en cybersécurité. Dotée de 1 million de dollars, l'initiative vise à soutenir des projets visant à développer des méthodes de quantification pour évaluer l'efficacité des modèles d'IA en cybersécurité et à favoriser des discussions approfondies sur la relation entre l'IA et la cybersécurité.

L’éditeur texan CrowdStrike vient ainsi de lancer Charlotte AI, un bot présenté comme un analyste de sécurité basé sur la génération automatique de données. Pour sa part, le géant américain de la distribution, Walmart, étudie l’utilisation de l’IA générative pour examiner la masse de données qu’il traite à la recherche d’activités suspectes. Rob Duhart, directeur adjoint de la sécurité de l'information de Walmart, a expliqué au Wall Street Journal que, pour gérer des milliards de lignes de code et de points de données chaque année, une certaine forme d'automatisation est inévitable. Cependant, l'IA est utilisée de manière guidée, nécessitant toujours le contrôle et l'intuition humaine pour interpréter le contexte que l'IA pourrait manquer.

Presque du journalisme.

Pour en savoir plus :

• The Guardian

• The Wall Street Journal

• CrowdStrike

• CoinTelegraph

L’ESSENTIEL

IA GÉNÉRATIVE

AI, AI, AI… Sundar Pichai résume l’air du temps

Meme créé à partir de l’allocution du CEO à Google I/O (lire Qant du 11 mai)

• L’envol du Falcon :Depuis que l'Institut de l'innovation technologique (IIT) des Émirats arabes unis (EAU) a changé la licence de Falcon, un modèle d'apprentissage automatique avec 40 milliards de paramètres, l’adoption de celui-ci semble décoller. Initialement soumis à une licence payante, il a été placé sous licence Apache 2.0, offrant ainsi à la communauté open source une alternative à Llama de Meta.
  Pour en savoir plus : The Decoder

• GPT-4 dans le métavers : Une équipe de chercheurs de Nvidia a créé un bot appelé Voyager qui utilise GPT-4 pour résoudre des problèmes dans le jeu Minecraft, générant des objectifs et du code pour améliorer ses compétences du bot au fil du temps.
  Pour en savoir plus : Ars Technica

AR-VR-XR-MÉTAVERS

• Le jour du casque : Le WWDC ouvre ses portes aujourd’hui et Apple devrait y présenter un casque de réalité mixte qui a pris sept ans à développer et qui veut répondre à la saturation du marché des smartphones, peut-être annonciatrice du déclin du produit phare de la firme. D’après les nombreuses indiscrétions qui ont précédé ce lancement, il devrait s’appeler Reality et, avec un prix de lancement six fois supérieur à celui de son plus proche concurrent, ne viser qu’à écrémer le marché. Mais on peut espérer quelques surprises.
  Pour en savoir plus : CNN

BLOCKCHAINS

• Une nouvelle proposition de loi pour les cryptos aux Etats-Unis : Face à la hausse des prix des cryptomonnaird, les représentants républicains, qui détiennent la majorité dans la chambre basse, viennent de proposé un "cadre fonctionnel" pour clarifier la réglementation des entreprises de crypto-monnaie dans le pays. Depuis début 2023, la valeur cumulée des actifs en Bitcoin, Ethereum, BNB et XRP a augmenté de 350 milliards de dollars.
  Pour en savoir plus : Forbes

QUANTIQUE

• Un boson dans la chaîne : Une équipe de chercheurs propose un nouveau protocole de consensus par preuve de travail pour la blockchain, basé sur des techniques de calcul quantique, qui pourrait offrir une accélération significative et des économies d'énergie par rapport aux systèmes classiques.
  Pour en savoir plus : CoinTelegraph

QANT EXPERT

RGPD : le problème ChatGPT

Après la querelle publique entre le commissaire européen Thierry Breton et le CEO d’OpenAI Sam Altman, le problème des données dans l’IA générative est devenu patent. Qant s’est procuré un document confidentiel d’une Cnil allemande qui le détaille. Mais l’Europe peut-elle se passer de ChatGPT ?

Une traduction officieuse de la requête officielle de la Cnil du Schleswig-Holstein à OpenAI, en date du 19 avril 2023

Après avoir interdit l'utilisation de ChatGPT pendant près d'un mois (voir Qant du 31 mars), la Cnil italienne, le GPDP, a fait machine arrière. Mais, comme OpenAI propose ses services dans tout le territoire européen sans être implantée dans l’un des pays de l’Union, toutes les autorités de protection des données du continent peuvent considérer qu’elles ont juridiction. Le questionnaire envoyé à OpenAI par Marit Hansen, la commissaire à la protection des données du land allemand du Schleswig-Holstein, circule ainsi depuis la semaine dernière. Quoique l’authenticité du document n’ait aucunement été confirmée, il récapitule avec cohérence l’ensemble des problèmes juridiques que pose ChatGPT à l’Europe.

...