« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

La cybersécurité passe à l’heure de l’IA

L’IA, générative ou non, se diffuse aussi bien dans les attaques des cybercriminels que dans l’arsenal de ceux qui défendent les entreprises. Une nouvelle course s’est engagée.

"La cybersécurité à l'ère de l'intelligence artificielle" (Qant, M. de R. avec Midjourney)

La sécurité informatique, entend-on souvent dire, commence et se termine par des êtres humains. D’un bout à l’autre de la chaîne, toutefois, la présence de l’IA commence à se généraliser. Par exemple, LinkedIn teste actuellement l'utilisation de l'intelligence artificielle générative pour aider ses employés et fournisseurs externes à obtenir rapidement des réponses concernant ses politiques de cybersécurité. La plateforme, propriété de Microsoft, a développé un chatbot dédié, basé sur les modèles de langage d'OpenAI, pour répondre aux questions de cybersécurité des employés en environ cinq secondes, contre quinze minutes pour une réponse humaine. Les premiers tests montrent que le modèle est précis à environ 90%: le gain est net, même si une supervision humaine reste nécessaire.

Phishing with AI

Plus en amont dans la chaîne, la diffusion de l’IA bénéficie aux bons comme aux méchants, aux voleurs comme aux gendarmes. L’IA générative, par exemple, permet de rendre plus crédibles les attaques de phishing, avec des expéditeurs plus vraisemblables que “Noreply-info-DGFIP <b30.26@icloud.com>” et des messages plus réalistes que par exemple celui-ci : 

“Après réevaluation fiscale et processus algorithmique de notre système suite aux multiples opérations de régularisation de la DGFIP sur vos multiples prélèvements bancaires, et compte tenu du montant de l’impôt réel à payer, nous vous informons que vous êtes à ce jour admissible à recevoir votre remboursement.

En second lieu, nous avons l’honneur de vous faire tenir ci-joint le montant perceptible par votre personne : 1479€.

A cet égard, vous êtes donc en droit à ce jour, d’entamer la procédure de remboursement directement dans votre espace personnel en cliquant ci-dessous.Veuillez nous soumettre votre demande de remboursement pour nous permettre de la traiter dans les plus bref délais.

Accéder au formulaire de remboursement

Notez bien que votre dossier sera validé dans un délai de 2 jours ouvrables à compter de la date d'envoi de votre demande.ATTENTION ! :Ce lien est valable pour une durée de 48 heures."

Dans le genre, ChatGPT peut clairement faire mieux. Mais les modèles d’OpenAI sont surveillés et entraînés pour ne pas répondre à ce genre de demande. Les acteurs de la cybercriminalité doivent donc intégrer des modèles open source, les débrider par un “jailbreak” et les installer sur leurs propres serveurs en se procurant les puces nécessaires. “Pour l’heure, la diffusion de l’IA favorise la défense”, explique Filippo Cassini, Global Technical Officer de la société de cybersécurité Fortinet, l’un des leaders du secteur : “Il ne s’agit pas que de mettre les mains sur un modèle d’IA, encore faut-il disposer des ressources de calcul que cela implique”. Ce n’est cependant probablement qu’une question de temps. 

Filippo Cassini vu par Midjourney (M. de R. pour Qant)

Menaces émergentes…

Outre le phishing, commente son collègue Derek Manky, Global VP, Threat Intelligence chez Fortinet, l’IA générative peut déjà faciliter des attaques de profiling. Il s’agit dans ces cas-là de remonter vers les cibles les plus profitables dans une entreprise, comme le directeur administratif et financier. Pour l’atteindre, les cybercriminels doivent envoyer des mails ciblés à ses collaborateurs – et l’IA générative peut être d’une grande aide.”Cela s’apparente à de l’OSINT, le renseignement sur sources ouvertes”, continue Derek Manky : “Nous vivons dans un monde riche en métadonnées, trop souvent librement disponibles”. 

Derek Manky vu par Midjourney (M. de R. pour Qant)

Les deep fakes ne sont que l’exemple le plus connu d’une boîte à outils pour cyber-escrocs qui s’enrichit et se perfectionne. L’association Mitre Corporation dénombre, dans un fascinant “Atlas” (​​Adversarial Threat Landscape for Artificial-Intelligence Systems), plus de 50 tactiques d’attaque où l’IA peut être utilisée ou l’a déjà été. .

L'agence européenne de cybersécurité, l'Enisa, a ainsi récemment alerté sur le risque que les nouveaux modèles d'IA puissent perturber les élections européennes de juin prochain, en étant utilisés dans des campagnes de manipulation d'informations à grande échelle (lire Qant du 25 octobre). Europol a également mis en garde contre l'utilisation criminelle de systèmes d'IA comme ChatGPT pour la fraude en ligne et d'autres cybercrimes. 

… et vrai business

Ces menaces ne représentent cependant que la pointe émergée de la cybercriminalité, qui prospère sur des attaques plus traditionnelles : failles zero-day, rançongiciels… Même les dénis de service distribué (DDOS) ne passent pas de mode. On voit en particulier prospérer les attaques zero-day, qui reposent sur des vulnérabilités que personne, avant le pirate, n’avait décelées. Fortinet en a recensé 22 000 depuis le début de l’année, contre 25 000 pour tout 2022. Les brokers en failles se structurent et perfectionnent leurs techniques de chantage et de blanchiment, via les cryptomonnaies. Un groupe de hackers pro-russe connu, Killnet, est allé jusqu’à établir sa propre bourse de cryptomonnaies, Killnet Exchange.

L’IA pourra aider ces pirates à déceler de nouvelles vulnérabilités. Mais dans l’immédiat, elle assiste les sociétés comme Fortinet à analyser les fichiers qui transitent dans un réseau d’entreprise, pour y déceler des virus ou d’autres menaces. Elle peut aussi traiter les logs en temps réel pour déceler des comportements anormaux, dans une logique assez proche des modèles qui décèle des fraudes dans une grande masse de transactions. Voire, à un terme assez proche, surveiller le trafic de tout un réseau.

Clausewitz, encore

Pour l’heure, dans une logique inspirée de L’Art de la guerre de Carl von Clausewitz, l’IA semble donc favoriser la défense plutôt que l’attaque, la cuirasse plus que la lance. Mais de nouveaux champs se profilent déjà à l’horizon : qu’en sera-t-il quand l’IA générative aidera, massivement, à casser les mots de passe des utilisateurs ? et pourra-t-on un jour attaquer des modèles d’IA ? Après tout, il est déjà possible de perturber leur fonctionnement par des prompts mal intentionnés (dans les prompt injections et les jailbreaks). Qui s’apercevra jamais qu’on a manipulé la boîte noire qu’est un réseau neuronal de deep learning ?

LinkedIn est loin d’être seul. De nombreuses autres grandes entreprises, comme le fabricant de jouets Mattel, expérimentent également l'utilisation de l'IA générative pour des tâches répétitives en cybersécurité. Mais ces questions resteront en filigrane de toute politique de déploiement de l’IA.

La cryptographie post-quantique promettait un nouveau départ à l’industrie de la cybersécurité. C’est l’IA qui pourrait lui apporter.

Pour en savoir plus :

• Mitre Atlas

• LinkedIn

• Enisa

• Forbes

• Fast Company

L’ESSENTIEL : Amazon, Circle, Figma, IBM, Kuka, Luminance, Samsung,

ROBOTS

Quand les robots tirent les fils

Un théâtre de marionnettes et une entreprise de robotique industrielle ont créé un spectacle où des robots jouent le rôle des marionnettistes.

L’hôtel de ville d'Augsbourg en Allemagne est depuis fin octobre le cadre d’une mise en abyme particulière : un spectacle où des robots animent des marionnettes. La mairie a réuni pour cela deux vieilles dames de la ville : Kuka AG, une multinationale de robotique industrielle fondée à Augsbourg il y a 125 ans, et le théâtre de marionnettes Augsburger Puppenkiste, qui fête son 75e anniversaire. 

Une exposition a été mise en place où les marionnettes de la Puppenkiste sont animées non pas par des mains humaines, mais par des robots de Kuka. Certaines, comme le dragon Famulus, ont été spécialement conçues et fabriquées à la main par le Puppenkiste pour cette occasion, nécessitant plus de 50 heures de travail minutieux. 

A la différence d’un marionnettiste, les robots, nommés "Mario" et "Nette", font partie du spectacle lui-même, dans une vitrine en verre. Il ne manque plus qu’un modèle de Text-to-Speech pour leur donner une voix.

Pour en savoir plus : Bayerischer Rundfunk, Kuka, Augsburger Puppenkiste

INTELLIGENCE ARTIFICIELLE

• Samsung fait de l’IA avec Gauss : Samsung a présenté hier à Séoul, en Corée, son propre modèle multimodal  d'intelligence artificielle générative, baptisé d’après le mathématicien allemand  Carl Friedrich Gauss. Il en dérive des modèles dédiés au langage, au code informatique et à la génération d'images. Samsung Gauss devrait être intégré dès janvier prochain au téléphone Galaxy S24, qui sera lancé en janvier prochain, et à son assistant vocal Bixby, déployé dans tous les appareils d’électroménager du constructeur. Il devrait être déployé en federated machine learning, et donc partiellement logé sur le terminal. Quoi qu’il en soit, le modèle occupe clairement une place centrale dans la stratégie du Coréen, mais étonnamment il n’a été présenté qu’à la fin de la deuxième journée, laissant notamment la lumière aux orateurs invités d’OpenAI.
  Pour en savoir plus: ZDNet, The Verge, Korea Times

• Amazon vise l’Olympe : Amazon s’est engagé dans le développement d'un modèle de langage qui, avec 2000 milliards de paramètres, pourrait rivaliser avec GPT-4. Baptisé "Olympus", le projet veut unifier les efforts en IA au sein de l'entreprise et  rendre les services d'AWS plus attractifs. Aucun calendrier n'a été précisé pour la mise à disposition du modèle.
  Pour en savoir plus: Reuters, Business Today

• La GenAI pour négocier les contrats : Pour la première fois, une intelligence artificielle a négocié un contrat de manière autonome avec une autre IA sans aucune intervention humaine, lors d'une démonstration par la société britannique Luminance, qui a développé un système d'IA pour analyser et modifier automatiquement les contrats. Bien que le processus de négociation soit entièrement automatisé, la signature du contrat nécessite toujours une intervention humaine.
  Pour en savoir plus: CNBC

• L’IA au tableau blanc : Figma vient de présenter un ensemble d'outils d'IA générative pour son service de tableau blanc collaboratif FigJam, destiné à réduire le temps de préparation des projets de conception en générant automatiquement des modèles prêts à l'emploi. Figjam AI est actuellement disponible en bêta ouverte et gratuite pour tous les clients, avec des fonctionnalités permettant de structurer automatiquement les idées et de résumer les informations sur les tableaux blancs.
  Pour en savoir plus: The Verge

• 500 millions pour l’IA B2B : IBM, qui avait notamment participé au tour de de série D de 235 millions de dollars pour la plateforme d'IA open source Hugging Face (lire Qant du 25 août), vient de lancer un fonds d'investissement de 500 millions de dollars destiné aux startups spécialisées dans l'intelligence artificielle pour les entreprises.
  Pour en savoir plus: Venture Beat

BLOCKCHAINS

• Circle vise de nouveau l’IPO : Circle, l'émetteur du stablecoin USDC, envisagerait une introduction en bourse (IPO) en 2024. Sa première tentative, via une Spac, avait échoué en 2022. Circle avait alors été évalué à 9 milliards de dollars, alors que la capitalisation totale de USDC était à l’époque de 55,6 milliards. Elle est aujourd’hui de 24,4 milliards de dollars.
  Pour en savoir plus: Bloomberg, The Block

QUANTUM

• Pour une poignée de milliards de dollars : À Washington, le Comité de la science, de l'espace et de la technologie de la Chambre des représentants vient de présenter un projet de loi pour investir massivement contre le risque de voir les États-Unis se faire distancer par la Russie et la Chine dans le développement de l’informatique quantique. Il renouvelle le Quantum Initiative Act de 2018 et prévoit des mesures spécifiques pour accélérer le développement américain, avec un financement proposé de plus de 3 milliards de dollars sur cinq ans. Le projet devra survivre au gymkhana législatif américain, où de nombreux projets urgents restent bloqués.
  Pour en savoir plus: The Register

EXPERT

Avis de tempête monétaire outre-Manche

Le gouvernement britannique vient de lancer un projet législatif qui permettra de payer des transactions de détail avec des “fiat-backed stablecoins”, des cryptoactifs indexés sur la valeur d’une devise d’État. Subrepticement, il ouvre ainsi la porte à des monnaies privées.

“La difficile réglementation des stablecoins” (Qant, M. de R. avec Midjourney)

Le premier ministre britannique Rishi Sunak a décidément la fibre technologique. Outre son mariage à l’héritière de la principale ENS indienne, Infosys, son gouvernement a présenté un projet de réglementation des cryptoactifs au lendemain du sommet de Bletchley Park sur la sécurité de l’IA. En matière de stablecoins, le projet est tout aussi ambitieux que l’a été le sommet (lire Qant du 6 novembre et du 30 octobre). 

...