Le progrès est devant nous, à condition de dépasser sa propagande (P. Virilio)

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Pour cela, ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022. Les articles qui requièrent le plus de travail humain demandent un abonnement.

A LA UNE

Premières options politiques sur l’IA

Imaginez qu’un agent autonome chargé de détruire la planète finisse par trouver les clefs informatiques d’une puissance nucléaire. Et placez cette idée en filigrane des débats au Sénat américain, au Parlement européen et à la Cnil, dont voici les derniers rebondissements.

"Le témoignage de Sam Altman" (Midjourney)

Dans la foulée de l’adoption par le Parlement européen d’un AI Act mis à jour sur l’IA générative (lire Qant du 12 mai), la Commission nationale de l'informatique et des libertés (Cnil) a annoncé un plan d'action destiné à réglementer l'intelligence artificielle générative. Dans le but d'instaurer des règles claires pour protéger les données personnelles des citoyens européens et encourager le développement de systèmes d'IA respectueux de la vie privée, la Cnil examinera comment les données des utilisateurs et les informations publiquement disponibles sur Internet sont utilisées pour l'entraînement des modèles et publiera des recommandations pour les fournisseurs de services d'IA générative sur l’application du prochain règlement européen. Enfin, la Cnil effectuera des audits et des contrôles, en particulier en réponse aux plaintes déposées contre OpenAI.

Le débat promet cependant de dépasser rapidement les attributions de la Cnil. Lors d’une très médiatisée audition au Sénat américain, Sam Altman, cofondateur de OpenAI a offert son aide aux législateurs américains de réglementer rapidement l'intelligence artificielle (IA). Il rompt ainsi avec l’arrogance des grands entrepreneurs du numérique, qui semblent souvent – et pas toujours à tort – se considérer plus puissants que les politiques américains et bien mieux au fait de la technologie. Sam Altman a longuement abordé les questions éthiques soulevées par l'IA et insisté sur la nécessité d'une régulation plus stricte. il a notamment cité les bouleversements économiques et l'impact potentiel de l'IA sur la démocratie, évoquant la désinformation ciblée lors des élections à venir.

Pendant l’audition, le professeur Gary Marcus, convoqué aux côtés de Sam Altman, a réclamé une autorisation administrative de mise sur le marché pour les modèles, similaire à celle qui existe pour les médicaments et la création d’un agence ad hoc, de préférence internationale. Cela aurait pour effet de consolider l’avance des Etats-Unis, ce qui peut rendre l’idée intéressante aux yeux d’OpenAI et du législateur américain. Mais cela n’empêcherait en rien la prolifération d’agents autonomes et de modèles basés sur un simple ordinateur, comme Koala (voir ci-dessous). Un groupe nihiliste a déjà chargé l’un d’entre eux, ChaosGPT, de détruire l’humanité (lire Qant du 13 avril dernier).

Plus sérieusement, la réglementation ne peut répondre, seule, aux périls que l’IA générale qui se prépare peut faire courir à l’humanité. Les plus graves, en effet, relèvent des Etats eux-mêmes. “Sur le papier, les dirigeants militaires et politiques gardent le contrôle. (…) Mais comment sont-ils censés réagir si un système d'intelligence artificielle leur annonce qu'une attaque [nucléaire] peut survenir dans quelques instants et leur recommande une attaque préventive ? Oseront-ils ignorer les résultats de l'insondable boîte noire qu'ils auront développée au prix des centaines de milliards de dollars?” s’interrogeait par exemple Peter Coy sur le New York Times. Le débat dépassera vite les compétences de la Cnil.

Source : CNIL, PBS

Pour en savoir plus : L’Usine Digitale, BBC

CE QU’IL NE FAUT PAS AVOIR MANQUÉ

ROBOTS

Les bipèdes de Tesla

La semaine dernière, Tesla a présenté des robots humanoïdes, sous le nom d’Optimus. Un coup de comm pour le constructeur automobile, récemment condamné en justice pour avoir présenté comme pleinement autonomes des véhicules qui ne le sont pas. Mais la vidéo ci-dessous montre que que son expérience malheureuse avec l’option Full Self-Driving (FSD) a néanmoins doté l’entreprise d’une avance réelle en matière de sélection d’itinéraires et de prédiction du comportement d’autres agents sur le chemin, particulièrement humains, et surtout de vision par ordinateur. Le choix de s’appuyer sur des caméras plutôts que des lidars pour le FSD rend la technologie aisément transférable, que le robot soit sur quatre roues ou deux pieds. Peut-être un jour Tesla fera-t-elle même des autos robots.

GEN.AI

• StableStudio : StabilityAI lance une version open source de sa suite DreamStudio, qui permet dé générer mais aussi éditer des images via StableDiffusionXL.
  Pour en savoir plus : Tech Crunch

• Des agents dans l’entreprise : YellowAI lance EnterpriseGPT et YellowG, un agent génératif d’entreprise faisant appel à plusieurs LLM.
  Pour en savoir plus : Venture Beat

• ChatGPT sur iPhone : OpenAI lance aux US une app IOS gratuite, mais le chatbot était déjà disponible via BingChat, Poe de Quora et mille autres.
  Pour en savoir plus : Wired

QUANTUM

• Cent millions de dollars pour 100 000 qubits: IBM sponsorise les universités de Tokyo et Chicago pour atteindre son but en 2033
  

  
  Source: IBM

  BLOCKCHAINS & TOKENS

  • MultiversX à l’Opera : le navigateur norvégien intègre la plateforme blockchain roumaine à ses services.
    Pour en savoir plus : Finance Feeds

  • Un jeton pour courir : DeFit propose de récompenser l’activité physique grâce à des tokens.
    Pour en savoir plus : Capital

  AVATARS

  • Mondes virtuels : Le métavers sud-coréen Zepeto, fort de 20 millions d’utilisateurs, débarque en France.
    Pour en savoir plus : Le Figaro

QANT EXPERT

Chaque jour, un décryptage sur la recherche, le financement, l’impact ou la prise en mains des modèles d’IA générative. Aujourd’hui, l’entraînement controversé de Koala, et un hoax qui s’en inspire.

Koala monte sur l’arbre des LLMs

Qu’est-ce qui fait la valeur d’une bibliothèque, la quantité de livres qu’elle contient ou son système de classement ? Dérivé de Llama, Koala a été l’un des premiers à lancer la vague du “supervised fine-tuning” qui rend des modèles hébergés sur un ordinateur presque aussi efficaces que les grands, et notamment ChatGPT.

"Le koala veut jouer avec les grands" (Midjourney)

...