Ami, entends-tu... les dangers des deepfakes audio

Pendant que Nicolas Gaudemet (Onepoint) analyse la manière dont l'écosystème de l'IA se structure, des deepfakes audios viennent perturber la vie politique, AMD rachète Nod.ai et McKinsey étudie comment les entreprises vont se réorganiser. Bienvenue dans Qant, jeudi 12 octobre 2023.

« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

Nicolas Gaudemet : « L’industrialisation de l’IA a déjà commencé »

Pionnier de l’IA en France, Nicolas Gaudemet est Chief AI Officer chez Onepoint. Diplômé de Polytechnique et multi-certifié en intelligence artificielle, il a fait ses premières armes chez Orange avant de devenir directeur du cabinet du secrétaire d’Etat au Numérique de 2018 à 2019. Il ouvre ce matin la première matinale de Qant, sur le thème : « IA : Créer des champions en France ».

Nicolas Gaudemet vu par Midjourney (Qant, M. de R.)Nicolas Gaudemet vu par Midjourney (Qant, M. de R.)

Qant. La France semble avoir accueilli l’IA générative avec méfiance. La plupart des grands groupes ont interdit ChatGPT, au point que 68% des salariés qui l’utilisent se cachent de leurs managers pour ce faire… Y a-t-il un rejet français de la révolution cognitive ?

Nicolas Gaudemet : La plupart des grandes entreprises ont en effet décidé de restreindre l’accès à ChatGPT pour des raisons de sécurité, mais ce n’est pas particulièrement lié à la France. C’est un phénomène mondial, dû au fait que les données d’utilisation sont enregistrées à des fins d’entraînement des futurs modèles. En conséquence, certains ont essayé de développer leurs solutions internes ; d’autres ont attendu que les outils professionnels soient disponibles. Ceux-ci commencent à arriver, chez OpenAI, Microsoft, Google… Tout au plus peut-on observer que pour des raisons règlementaires, les produits sont souvent disponibles en Europe bien après les États-Unis. Cela peut parfois poser problème. Mais on ne peut pas parler de rejet français : au contraire, un écosystème prometteur est en train de se constituer.

Qant. Le marché des grands groupes va donc s’ouvrir ?

Nicolas Gaudemet : L’intérêt de tous les grands clients pour ces questions est indéniable. La première phase, d’acculturation, a généralement pris fin à l’été. Nous entrons maintenant dans une phase de cadrage technologique et de prototypage. Certaines grandes entreprises en sont même à la mise en production. L’industrialisation de l’IA a déjà commencé, sous l’aiguillon le plus puissant qui soit : la compétitivité internationale. Chacun sait qu’il faut aller rapidement chercher des gains de productivité grâce à l’IA, sous peine d’être vite dépassé. Tout l’art, c’est d’orienter les ressources vers les bons cas d’usage…

 Qant. Quelle pourra être la part des startups ?

Nicolas Gaudemet : Notre écosystème de startups ne cesse de se consolider. Plusieurs ont pris le pari de l’open source, comme Mistral ou bien sûr la franco américaine HuggingFace. L’open source peut en effet se révéler nécessaire dans trois sortes de cas d’usage. Les modèles fermés ont généralement une tarification qui dépend de la quantité de données : si l’on a un énorme volume à traiter, il est rentable d’installer une solution open source sur son propre cloud.  De même, si vos données sont ultrasensibles, mieux vaut les traiter on premises, sur vos propres serveurs, ou via une solution comme celle de S3NS, la joint venture de Thalès et Google. Enfin, s’il vous faut un modèle à votre main, dont vous avez optimisé les différents paramètres, l’open source s’impose probablement. Certes, toutes les entreprises qui sont aujourd’hui hébergées chez Microsoft Azure ou Google Cloud Services bénéficieront de leurs modèles fermés (OpenAI, Palm…) mais aussi de modèles open-source : il y a une place à prendre ici.

Au delà de l’open-source, LightOn propose aussi des modèles de langage souverains et travaille déjà avec le secteur public. Et de belles startups comme PhotoRoom, Dust, Pimento, Gladia et de nombreuses autres proposent des applications business directes dans différentes verticales qui s’appuient sur de grands modèles de langage ou d’image fondationnels.

Qant. On retrouve en somme l’arbitrage entre la productivité et la souveraineté qu’on a déjà vu à l’œuvre dans le cloud… Le même phénomène va-t-il encore se produire alors que le marché évolue des modèles de fondation vers les applications ?

Nicolas Gaudemet : Indéniablement, la course pour les modèles de fondation est désormais réservée à quelques géants. Si Gemini arrive bien en décembre, les sociétés qui pourront lui opposer leur propre modèle se compteront sur les doigts d’une main. De même, l’intégration de l’IA dans les outils de marché va principalement bénéficier aux principaux acteurs, qu’il s’agisse de Salesforce, Microsoft, Youtube, Meta… L’IA générative, cependant, crée un immense appel d’air à l’innovation ! Partout dans le monde, des start-up se créent qui, pour développer tel ou tel usage, n’ont besoin que de millions, et non de milliards… Vraiment, quand on voit, à Paris, des sociétés comme celles que je viens de citer, on n’a pas d’inquiétude à se faire sur la vivacité de l’écosystème.

J.R.


Les deepfakes audios s’invitent dans la vie politique

Au Royaume-Uni, en Slovaquie ou encore en Inde, des fakes audios sont partagés sur les réseaux sociaux, visant à discréditer des personnalités politiques. Et la législation peine pour l’instant à réagir.

"Le robot s'exprime au micro" (Qant, M. de R. avec Midjourney)"Le robot s'exprime au micro" (Qant, M. de R. avec Midjourney)

Les deepfakes audio s'immiscent dans la vie politique britannique. Un enregistrement audio posté sur X-Twitter par un dénommé @leo_hutz prétend faire entendre Keir Starmer, le leader du parti travailliste, insultant un membre de son équipe. Hors toute vérification, la polémique a déjà enflé sur les réseaux sociaux. Peu d’outils de détection sont disponibles, ce qui rend difficile la vérification rapide de l'authenticité d'un enregistrement.

Déjà, les élections slovaques ont été entachées par divers fakes audio, favorisant l’extrême-droite sortie en tête du scrutin. Un enregistrement, prétendant faire entendre le leader du parti Progressive Slovakia Michal Šimečka parler de ses plans pour truquer les élections, a été publié sur Facebook. L’intéressé a dénoncé cet enregistrement comme faux mais il aurait suffisamment circulé pour avoir un impact sur les élections, remportée par l’extrême-droite prorusse.

D’autres enregistrements de ce genre ont également circulé au Soudan et en Inde. Alors que générer une vidéo reste un processus difficile au résultat incertain, des IA comme celles d’Eleven Labs permettent d’entraîner des voix de synthèse plutôt crédibles et susceptibles de s’exprimer dans toutes les langues (lire Qant du 25 septembre).

Aux Etats-Unis, le débat sur l'IA et la campagne présidentielle est vif, depuis la vidéo du parti républicain qui a utilisé l’intelligence artificielle pour décrire les catastrophes qu’entraînerait la réélection de Joe Biden (lire Qant du 27 avril). Le mois dernier, un groupe bipartisan de parlementaires a proposé d'interdire la "distribution de médias audio ou visuels générés par IA matériellement trompeurs" par des candidats à exercer un mandat fédéral. Ce projet a peu de chances de voir le jour avant la présidentielle alors que l’effet du laxisme de Youtube et Facebook se fait déjà sentir.

Pour en savoir plus :

L’ESSENTIEL : Adobe, AMD, Asean, AWS, Microsoft, Tesla, Waymo

ROBOTS

Waymo se renforce à San Francisco

La flotte de robotaxis de Waymo couvre désormais l’intégralité de la ville de San Francisco. La filiale d’Alphabet, cependant, ne réussit pas à répondre à la demande.

L'entreprise de véhicules électriques Waymo vient d'étendre son service de robotaxis à la quasi totalité de la ville de San Francisco, marquant une expansion significative de ses opérations de covoiturage sans chauffeur. En août dernier, Waymo et ses concurrents avaient obtenu l'approbation des régulateurs californiens pour exploiter leur service commercial 24h/24 et 7j/7 (lire Qant du 25 août). Cependant, le service de Waymo n’est pas encore accessible à tous ceux qui téléchargent l'application, la société est en train d'intégrer les utilisateurs de sa liste d'attente.

Après avoir investi, estime-t-on, au moins 1,1 milliard de dollars dans des véhicules autonomes depuis 2009 – et sans doute bien plus –, la filiale d’Alphabet peut donc enfin déployer ses services. Elle envisage de lancer des services similaires dans d'autres villes comme Los Angeles et prévoit de lancer l’an prochain un nouveau véhicule autonome, un minivan électrique construit par Zeekr, du groupe chinois Geely.

Pour en savoir plus : The Verge

IA

  • Copilot largement déficitaire pour Microsoft : Selon le Wall Street Journal, Microsoft enregistrerait des pertes allant jusqu'à 80 dollars par mois par utilisateur pour son service GitHub Copilot. Le service n’est facturé que 10 $ par mois et les coûts d'exploitation dépassent largement les revenus.
    Pour en savoir plus: The Register

  • AMD s’arme pour concurrencer Nvidia : AMD a annoncé son intention d'acquérir Nod.AI, une start-up spécialisée dans les logiciels d'intelligence artificielle open-source, dans le but de renforcer ses opérations en matière d'IA et de concurrencer Nvidia. Nod.AI est spécialisé dans l'apprentissage par renforcement.
    Pour en savoir plus: CNBC

  • Un label pour les créations de l’IA : Adobe, en collaboration avec d'autres entreprises, a créé un symbole pour identifier le contenu généré par l'IA et fournir une transparence sur son origine. Ce symbole, appelé "icône de transparence", sera intégré aux métadonnées des images, vidéos et PDFs via des plateformes comme Photoshop et sera également adopté par d'autres entreprises, dont Microsoft. Les métadonnées seront protégées pour ne plus être éditables.
    Pour en savoir plus: The Verge

  • Une nouvelle maison pour le Dojo : Selon The Information, Tesla construirait un nouvel espace à Austin, au Texas, pour héberger son superordinateur Dojo, destiné à gérer le logiciel d'intelligence artificielle derrière les capacités de conduite autonome de ses véhicules (lire Qant du 12 septembre). Elon Musk a évoqué la possibilité que Dojo devienne un service cloud vendable, similaire à Amazon Web Services. En outre, Tesla envisage de construire une ligne d'assemblage pour des robotaxis et une voiture à 25 000 $, et la société a conçu sa propre puce AI, appelée D1, pour réduire sa dépendance envers Nvidia, le principal fournisseur de puces pour l'IA.
    Pour en savoir plus: The Street

  • L’Asean tend la main aux Big Tech : Reuters rapporte que les pays d'Asie du Sud-Est auraient convenu d'adopter une approche favorable aux entreprises en matière de réglementation de l'intelligence artificielle. Ils pourraient ainsi contrarier l'ambition de l'Union européenne de mettre en place des règles harmonisées à l'échelle mondiale. Les entreprises sont encouragées à prendre en compte les différences culturelles des pays et aucune catégorie de risque inacceptable n'est prescrite.
    Pour en savoir plus: Cryptopolitan

BLOCKCHAINS

  • AWS veut promouvoir les jeux Web3 : La société australienne de jeux Web3 Immutable vient d'annoncer sa collaboration avec Amazon Web Services pour développer des initiatives d'infrastructure et de mise sur le marché afin d'accélérer l'intégration des studios de jeux Web3 et promouvoir la propriété numérique des objets in-game. Immutable bénéficiera de ressources d'AWS pour attirer des clients potentiels et conclure des accords avec des studios.
    Pour en savoir plus: Fortune

AR-VR-XR

  • La déprime des singes qui s’ennuient : Le studio de NFT Yuga Labs, connu pour le succès de ses Bored Apes pendant la bulle crypto, vient d’annoncer une restructuration impliquant des licenciements. L'entreprise entend se concentrer sur le développement de son métavers Otherside. Alors que les premières interrogations commencent à poindre sur la survie de l'écosystème crypto, Ledger et Chainalysis ont fait des annonces similaires.
    Pour en savoir plus: Bloomberg

EXPERT : McKinsey

Réorganiser l’entreprise avec l’IA

L’IA générative va révolutionner le monde de l’entreprise, encore plus tôt que prévu. A travers plusieurs rapports, le cabinet McKinsey liste les bonnes pratiques des entreprises les plus innovantes qui présideront à l’organisation de toutes les autres.

"Le robot conseille l'entrepreneur" (Qant, M. de R. avec Midjourney)"Le robot conseille l'entrepreneur" (Qant, M. de R. avec Midjourney)

...

Qant: Révolution cognitive et Avenir du numérique

Qant: Révolution cognitive et Avenir du numérique

Par QANT: Révolution cognitive et Avenir du numérique

Jean Rognetta

Binational franco-italien, économiste de formation, Jean devient journaliste au milieu des années 1990, après avoir fait ses premiers pas dans l’édition et la technologie. Il débute sa carrière au groupe Tests, leader de la presse informatique, puis se spécialise en financement de l’innovation et des PME. Il couvre le sujet pour Les Echos et Capital Finance de 2000 à 2015. En 2016, il rejoint le magazine Forbes et devient directeur de la rédaction de l’édition française.
Pendant la crise financière, il lance l’association PME Finance, à l’origine notamment du PEA-PME et de l’amortissement du corporate venture, ainsi que partiellement de la libéralisation du crowdfunding. Elle fusionne en 2015 avec le groupement d’entrepreneurs Croissance Plus.
Depuis 2020, Jean a lancé la revue SAY, édition française de Project Syndicate, dont il reste contributing editor, le supplément Corporate Finance du Nouvel Économiste et la collection Demain! aux Editions Hermann.

Maurice de Rambuteau

Diplômé du Centre de Formation des Journalistes (CFJ Paris) et de l'Ecole Supérieure de Commerce de Paris (ESCP BS), Maurice de Rambuteau a fait ses premières armes de journaliste dans le sport, pour le site et le magazine SoFoot, puis au sein de la rédaction football de L'Equipe. Il s'est ensuite tourné vers le journalisme économique au sein de la rédaction de La Croix, avant de donner libre cours à sa passion pour la technologie en rejoignant Qant en juin 2022 pour un premier tour d’horizon de l’IA générative. Depuis, il a percé les mystères des blockchains et du métavers et, surtout, passé des dizaines de modèles d’IA au banc d’essai.

Les derniers articles publiés