2024 à l'horizon

« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

ÉDITORIAL

Trêve d’IA

Après une année tumultueuse, Qant reviendra lundi 8 janvier. Ce n’est que la plus assurée de nos prévisions pour 2024.

Toute cette semaine, Qant a proposé à ses lecteurs l’analyse des tendances qui animent l’évolution des différents secteurs de la tech. En voici un résumé en cinq points :

1. 2023 a mis l’IA sur toutes les lèvres ; 2024 la mettra dans toutes les entreprises. Si l’augmentation de productivité est au rendez-vous, cela créera des tensions croissantes dans l’emploi et un appel d’air dans la formation, mais aussi dans la gouvernance de l’IA, à tous les niveaux, de l’entreprise aux États.

2. L’IA générative intègrera la recherche sur Internet, complétant le mouvement qui voit des assistants IA se généraliser dans toutes les applications.

3. 2023 a vu les premières tentatives de créer, grâce à l’IA, des objets numériques pour succéder au téléphone mobile, qui a atteint un plateau. La broche de Humane et les lunettes Meta-Ray Ban ne sont que les premières d’une longue série, qui a peu de chances de déboucher l’an prochain sur une adoption de masse ;

4. En revanche, les transformers pourraient bien étendre leurs compétences au-delà de l’IA générative. Sans même entrer dans le débat sur l’intelligence artificielle générale, les premières expérimentations dans la conduite de véhicules autonomes par des GPT sont très prometteuses. La structuration des applications d’IA et de l’Edge AI promet de très nombreuses surprises. Et l’IA prédictive est déjà en train d’accélérer les découvertes scientifiques.

5. 2023 a été l’année des stablecoins, 2024 sera celle des monnaies numériques. Les essais lancés par les banques centrales se multiplient partout dans le monde. Il faudra en décortiquer les résultats, alors que les poids lourds se préparent à lancer leurs monnaies à partir de 2025.

Il ne faut jamais faire de prévisions, surtout sur l’avenir, disait Pierre Dac. Rendez-vous l’an prochain pour analyser nos erreurs.

L’ÉVÉNEMENT

Aleph Alpha et Mistral : deux figures de proue pour l’Europe en 2024

Face aux colosses américains de l’IA, l’Europe présente deux champions : la française Mistral AI, qui a déjà cédé aux sirènes d’Outre-Atlantique, et l’allemande Aleph Alpha. Deux stratégies extrêmement différentes.

“Le robot veille sur l’Europe” (Qant, M. de R. avec Midjourney)

Voici deux start-up, lancées dans la très dispendieuse création de modèles de fondation. La française a réuni 490 millions d’euros en deux tours depuis sa création, l’allemande 494 millions en deux tours également. Toutes deux ont activement démarché leurs gouvernements, avec succès, pour éviter une règlementation trop intrusive sur leur activité. Là s’arrêtent, ou presque, les similarités entre les deux champions européens de l’intelligence artificielle, Mistral et Aleph Alpha.

Créée en avril 2023, la flamboyante pépite française Mistral AI a déjà accueilli à son capital la fine fleur des VCs américains de l’IA : Andreessen Horowitz (A16Z) et LightSpeed Ventures. Fondée en 2019, la plus discrète start-up allemande génère déjà du chiffre d’affaires ; elle s’appuie sur un incubateur du Bade-Wurtemberg et surtout sur les fleurons de l’industrie allemande : Bosch, SAP, Burda, Schwartz (Lidl)…

Start-up modèles

Portée par la machine marketing de ses investisseurs, Mistral revient de plus en plus souvent dans le buzz de la Silicon Valley. Sa dernière création, Mixtral 8x7B, s’inspire de l’architecture que l’on prête à GPT-4 (lire Qant du 3 juillet) : un « mélange d’experts » où plusieurs modèles sont mis en réseau.  Le cadre SMOE (Sparse Mixture of Experts) choisi permet de ne pas mobiliser l’ensemble du réseau neuronal pour le traitement de chaque jeton. Mixtral 8x7B atteint ainsi des performances comparables à celles de modèles à la taille beaucoup plus importante, comme Llama 2 de Meta ou GPT 3.5 d’OpenAI.

En outre, Mistral se présente comme un pionnier des petits modèles de langage : Mistral 7B a largement devancé les modèles de Microsoft (lire Expert ci-dessous) et de Google, qui ne lancera son Gemini Nano que l’an prochain. Or, depuis le succès ce printemps d’Alpaca, un modèle dégradé de Llama qui tournait sur un PC (lire Qant du 21 mars), s’est lancée une course vers la création d’un modèle de langage susceptible d’animer un téléphone mobile (plutôt que le paralyser, comme c’est le cas aujourd’hui).

De son côté, Aleph Alpha développe une série de grands modèles de langage multimodaux, Luminous, avec l’ambition de créer une IA « souveraine » et respectueuse de la diversité linguistique du Vieux Continent. Le principal modèle de la start-up allemande a notamment été entraîné sur des données textuelles en anglais, français, allemand, espagnol et italien. L’entreprise explique avoir pour ambition de développer l’application de l’IA générative dans des secteurs complexes comme la finance, la santé, le droit ou encore la sécurité, avec un accent mis sur la confidentialité des données et l’interopérabilité.

Marche américaine

Très différentes, les deux start-up ont néanmoins réuni leurs efforts cet automne, pour combattre les propositions du Parlement sur l’AI Act, jugées trop sévères pour les modèles de fondation. On a vu le couple franco-allemand se recomposer au Conseil européen pour obtenir un cadre plus favorable. Les détails précis doivent encore être publiés mais il semble que les efforts conjoints des deux start-up aient porté leurs fruits.

Si les deux côtés du Rhin fêtent – à raison - leurs champions respectifs, la marche pour concurrencer les géants américains reste titanesque. Même avec un renfort en venture debt, les fonds levés par Mistral ou Aleph Alpha semblent peser bien peu face aux 11,3 milliards d’OpenAI et à la puissance de groupes comme Google et Microsoft. 

Montants levés par les principales start-up créant des modèles de fondation. Source : Crunchbase

En revanche, les start-up européennes se comparent sans mal à la canadienne Cohere (435 M$), à l’israélienne AI21 (326,5 M$) ou à la britannique Stability AI (174 M$). Elles ont conjoint leurs efforts  cet automne dans le lobbying sur l’AI Act.

« En France, on n’a pas de pétrole mais on a des idées » scandait le slogan publicitaire en 1977, en plein choc pétrolier.  Un demi-siècle plus tard, Mistral AI et Aleph Alpha devront prouver la valeur des leurs.

Pour en savoir plus :

• Mistral AI

• Aleph Alpha

• Noam Shazeer et al.,Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer, Arxiv 2017

L’ESSENTIEL : Apple, Bitwise, DeepMind, MIT, Phantom, Stanford Internet Observatory

ROBOTS

Un copilote dans le labo

Un groupe de chercheurs à l’université Carnegie Mellon a synthétisé des produits chimiques en laboratoire via des LLM.

Dans un laboratoire de l’université Carnegie Mellon en Pennsylvanie, un système baptisé Coscientist est utilisé pour planifier des synthèses chimiques en se référant à des  informations publiques et des manuels techniques. Il peut utiliser ces connaissances pour contrôler une série d'équipements et s’intégrer dans un flux de travail de laboratoire, puis analyser les réactions chimiques provoquées et concevoir de meilleures conditions de réaction.

Pour cela, quatre LLM ont notamment été testés : GPT-3.5, GPT-4, Claude 1.3 et Falcon-40B-Instruct. GPT-4 et Claude 1.3 se sont révélés les plus satisfaisants. Trois instances ont été créées. L’une effectue des recherches sur Internet, une autre a été spécialisée sur les manuels des équipements de laboratoire et la troisième génère du code Python et contrôle les équipements automatisés.

Les tests ont montré la capacité de Coscientist à accélérer la recherche dans diverses tâches, dont des couplages croisés catalysés au palladium. Le système a également fait preuve de "raisonnement chimique", en utilisant des informations chimiques disponibles publiquement et en modifiant ses plans expérimentaux en fonction de la structure des molécules.

Pour en savoir plus : Nature, Ars Technica

INTELLIGENCE ARTIFICIELLE

• L’IA ne passe pas le brevet : La Cour suprême du Royaume-Uni a statué que l'intelligence artificielle ne peut être considérée comme un « inventeur » pour les brevets. Elle a rejeté la demande d’un scientifique américain, Stephen Thaler, qui voulait breveter des inventions créées par son système IA nommé Dabus. Cette décision suit le refus initial de l'Office de la propriété intellectuelle du Royaume-Uni, affirmant que l'inventeur doit être une personne physique ou une entreprise.
  Pour en savoir plus: Reuters

• L’IA pour créer des antibiotiques : Des chercheurs du MIT ont utilisé l'apprentissage profond pour découvrir une nouvelle classe de composés capables de tuer le Staphylococcus aureus résistant à la méthicilline (Sarm), une bactérie résistante aux médicaments responsable de plus de 10 000 décès par an aux États-Unis. Ces composés sont de bons candidats pour de nouveaux antibiotiques en raison de leur faible toxicité pour les cellules humaines.
  Pour en savoir plus: Phys.org

• Des images d’abus sexuels pour entraîner Stable Diffusion : Une étude du Stanford Internet Observatory vient de révéler l'existence de milliers d'images d'abus sexuels sur enfants dans la base de données Laion, notamment utilisée pour entraîner le modèle Stable Diffusion. Suite à cette découverte, l'accès à ces images a été suspendu.
  Pour en savoir plus: Bloomberg

• DeepMind améliore son image : Google DeepMind vient de présenter Imagen 2, une version améliorée du modèle d'IA pour la création d'images, offrant la capacité de générer du texte et des logos. Google n'a pas donné d'information sur les données utilisées pour l'entraînement du modèle et ne propose pas d'option de retrait ou de compensation pour les créateurs ayant contribué involontairement aux données.
  Pour en savoir plus: Tech Crunch

BLOCKCHAINS

• Phantom élargit son portefeuille : Phantom, un portefeuille initialement développé pour Solana par des créateurs d'Ethereum, a annoncé la prise en charge du Bitcoin, des Ordinals et des tokens BRC-20, permettant désormais le commerce et le transfert de ces actifs. Cette évolution marque une étape supplémentaire vers la polyvalence de la chaîne pour Phantom, déjà converti en portefeuille multi-chaînes avec le support d'Ethereum et de Polygon.
  Pour en savoir plus: The Block

• Les ETF Bitcoin font leur pub : En 48 heures, trois publicités pour des ETF Bitcoin ont été diffusées à la télévision américaine. Bitwise a ainsi présenté deux publicités avec l'acteur américain Jonathan Goldsmith, suivies par Hashdex avec une publicité mettant en scène un camion-benne.
  Pour en savoir plus: Coin Telegraph

AR-VR-XR

• Les Vision de février : Apple prévoirait de lancer le Vision Pro dès février prochain, selon Bloomberg. Ce lancement, qui implique la formation des employés des Apple Stores et l'introduction du système d’exploitation VisionOS. Un email envoyé aux développeurs cette semaine leur suggère de se préparer au lancement imminent du Vision Pro, et de tester leurs applications et services sur VisionOS.
  Pour en savoir plus: Bloomberg, The Verge

EXPERT

De 2023 à 2024 : les tendances et les questions clés de l’IA

Les premières tendances lourdes se dessinent pour l’intelligence artificielle. Avec une cohorte de questions auxquelles on peut apporter quelques réponses, sous forme de prévisions.

"Deviner l'avenir de l'IA" (Qant, M. de R. avec Midjourney)

...