« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Pony.ai galope vers la production en série

La solution Virtual Driver de Pony.ai sera intégrée à trois nouveaux véhicules, produits avec Toyota, BAIC et GAC.

Un convoi de camions en Chine utilisant le système "driver out" de Pony.ai

Pony.ai vient de présenter la septième génération de sa plateforme de conduite autonome.  La technologie sera intégrée dans trois modèles de robotaxis, développés avec Toyota et deux constructeurs chinois, BAIC et GAC. Au Salon international de l'automobile de Shanghai, la société a annoncé que la production en série serait lancée d'ici la mi-2025. Pour Pony.ai, 2025 sera "l’année inaugurale" de ses robotaxis produits en série, selon son PDG et cofondateur James Peng. L’entreprise, basée à Guangzhou et en Californie, a été créée en 2016.

Au même moment, Waymo et Toyota ont annoncé un partenariat pour développer ensemble une plateforme d’autonomie afin de porter la technologie des robotxis de Waymo sur les véhicules individuels du constructeur.

Le temps est long, parfois.

Dexterity, Figure, Hugging Face, The Robot Studio, UPS

• UPS se Figure des humanoïdes dans ses entrepôts • UPS discute avec la start-up Figure AI pour intégrer des robots humanoïdes dans son réseau logistique. Bien que les tâches précises ne soient pas encore connues, Figure a récemment montré que son robot de 1,68 mètre est capable de trier de petits colis. UPS, qui utilise jusqu’à présent des bras robotisés fixes, a noué un partenariat avec Dexterity, spécialisée dans les robots industriels. En savoir plus… 

• Hugging Face joue le gros bras • Hugging Face vient de lancer le SO-101, un bras robotique programmable et imprimable en 3D à partir de 100 dollars, développé avec la française The Robot Studio et plusieurs partenaires. Successeur du SO-100, le SO-101 peut être entraîné par apprentissage par renforcement pour réaliser des tâches simples. En savoir plus…

Le bras robotique SO-101 de Hugging Face

Comment préparer l’AGI ?

Sécuriser les infrastructures, comprendre les modèles et poser des garde-fous : aux États-Unis, anticiper l’arrivée de l’intelligence artificielle générale (AGI) n’est plus un débat abstrait.

Préparer la superintelligence. • Qant avec GPT-4o

Dario Amodei, cofondateur d’Anthropic, et le prix Nobel Demis Hassabis, PDG de Google DeepMind, viennent de rendre publiques leurs interrogations sur les IA de plus en plus puissantes qu’ils préparent, capables du pire comme du meilleur. Et le cabinet Gladstone AI vient de publier un rapport qui propose des mesures pour encadrer les futures superintelligences par des mécanismes de contrôle robustes, analogues à ceux mis en place pour les armes nucléaires. Et pour préserver l’avance des États-Unis.

Un nouveau risque de l’IA : les salariés

L’ usage caché de l’IA au travail soulève de nouveaux risques pour les entreprises.

• Une enquête menée par l'université de Melbourne et KPMG auprès de 48 000 personnes dans 47 pays montre que les économies émergentes font davantage confiance à l'intelligence artificielle que les économies avancées, avec un taux de confiance de trois personnes sur cinq contre deux sur cinq. 

• Par ailleurs, 57 % des employés interrogés ont reconnu avoir caché leur utilisation de l'intelligence artificielle à leurs managers et collègues, souvent pour améliorer leur productivité malgré les restrictions internes.

• Le rapport indique que 66 % des utilisateurs de l’IA n’en vérifient pas les résultats, 48 % partagent des données sensibles sur des plateformes publiques, et 56 % ont commis des erreurs professionnelles liées à une mauvaise utilisation.

• Selon l'étude, 83 % des participants estiment que l'intelligence artificielle apportera de nombreux avantages, mais 58 % considèrent l’IA comme peu fiable, un taux en hausse depuis l'apparition de ChatGPT.

• À SURVEILLER : La gouvernance interne de l'IA. Dans certaines entreprises, a constaté Qant, certaines unités développent des apps ou des agents d’IA sans en référer aux DSI/DSSI. L'absence de transparence et de formation adéquate expose les entreprises à des risques accrus de violation de données, de non-conformité réglementaire et d'atteinte à leur réputation.

Anthropic, Duolingo, Meta, Reddit

• LlamaCon explore l’IA sociale • Meta a tenu cette nuit la première conférence développeurs de sa suite open source Llama, dont les modèles d’IA ont été téléchargés 1,2 milliard de fois. Il en émerge une API, qui permettra au groupe de monétiser cette massive communauté de développeurs – les API sont la principale source de chiffre d’affaires d’OpenAI – et, surtout, une évolution de MetaAI, qui se distingue du modèle de ChatGPT que chacun suit jusqu’à présent. Comme Grok sur X, MetaAI a été jusqu’à présent, pour l’essentiel, un chatbot contextuel, rendu disponible dans les fils sociaux de l’utilisateur. Le fil Discover permet désormais de partager des prompts et des créations avec son réseau, réinventant le fil Facebook d’origine. Meta coiffe ainsi au poteau OpenAI, qui multiplie les fonctionnalités de partage et prépare la transformation de ChatGPT avec des fonctionnalités de réseau social. En savoir plus…

• Du rififi sur Reddit • Des chercheurs de l’université de Zurich ont mené sans autorisation une expérience sur Reddit, utilisant des bots pour publier des commentaires générés par IA dans le subreddit r/changemyview, afin d’étudier la capacité des LLM à influencer les opinions. Les modérateurs dénoncent une manipulation psychologique et ont déposé plainte, tandis que Reddit a banni les comptes liés à l’expérience et envisage des poursuites légales. Les chercheurs, qui affirment avoir obtenu un accord éthique, justifient leur démarche par la nécessité d’anticiper des usages malveillants des IA. En savoir plus… 

• Anthropic crée un conseil des sages de l’IA • Anthropic vient d'annoncer la création d’un Conseil consultatif économique chargé d’analyser les impacts du développement de l’IA sur l’emploi, la croissance et les systèmes socioéconomiques. Composé de huit économistes issus d’institutions comme le MIT ou encore la London School of Economics, ce conseil orientera notamment les travaux liés à l’Economic Index d’Anthropic, qui vise à mesurer l’impact de l’IA sur l’économie réelle à partir de données d’utilisation concrètes. Le Conseil comprend notamment Tyler Cowen, très optimiste sur l’arrivée proche de l’AGI. En savoir plus… 

• Duolingo se réinvente • Duolingo va adopter une stratégie “AI-first” et remplacer progressivement les prestataires par des solutions d’IA pour les tâches automatisables. La start-up, leader de l’apprentissage des langues sur smartphone, intégrera l’usage de l’IA dans ses critères de recrutement et d’évaluation, et elle limitera les embauches aux postes non automatisables. En savoir plus…

Mastercard cède à l’engouement pour les stablecoins

Avec de nouveaux partenariats, Mastercard introduira des stablecoins dans toute sa chaîne de paiement, du wallet aux commerçants.

• Mastercard vient d’annoncer que les commerçants pourront désormais recevoir des paiements en stablecoins, grâce à de nouveaux partenariats dans l'écosystème crypto.

• L'entreprise collabore avec Nuvei, Circle, Paxos et OKX pour développer des services de règlement, de portefeuilles numériques et de cartes crypto. 

• Mastercard et OKX vont lancer une OKX Card permettant aux utilisateurs d'accéder directement à leurs fonds numériques et d’effectuer des paiements. 

• Le partenariat avec Nuvei permettra aux commerçants d’accepter les paiements en stablecoins, avec un objectif d'intégration simple et rapide.

• À SURVEILLER : L’appétit pour la dollarisation. L’adoption des cartes crypto par les commerçants et les consommateurs pourrait rapidement s’étendre au-delà de pays à monnaie faible. En Europe, la combinaison d’une forte adoption crypto, d’une infrastructure bancaire robuste et d’un cadre réglementaire potentiellement favorable pourrait permettre une intégration rapide – conduisant de facto les consommateurs européens à financer le déficit fédéral américain.

Coinbase, World Federation of Exchanges

• Monnaies numériques et tokénisation • La World Federation of Exchanges (WFE), qui regroupe les principales bourses mondiales, a publié un rapport examinant l’impact potentiel des monnaies numériques de banque centrale sur l’adoption de la tokenisation. L’étude souligne les avantages des monnaies numériques pour améliorer la confiance, la liquidité et l’inclusion financière, citant l’exemple suisse du projet pilote wCBDC de SIX Digital Exchange. Elle pointe aussi les défis techniques et réglementaires, notamment l’intégration avec les systèmes existants. En savoir plus… 

• Ouvrir le bitcoin aux investisseurs institutionnels • Coinbase Asset Management lancera demain, 1er mai, le Coinbase Bitcoin Yield Fund, destiné aux investisseurs institutionnels hors États-Unis, avec un objectif de rendement annuel net de 4 % à 8 % en bitcoin. Le fonds utilisera une stratégie de “cash-and-carry trade”, qui exploite les écarts entre le prix du bitcoin au comptant et celui des contrats perpétuels — des produits dérivés sans date d’échéance qui permettent de spéculer en continu sur l’évolution du cours. Les bitcoins déposés seront conservés par Coinbase et d’autres dépositaires agréés. Soutenu notamment par Aspen Digital, une plateforme de gestion de patrimoine privée basée à Abu Dhabi, le fonds vise à offrir aux détenteurs de bitcoins une possibilité de rendement régulier, comparable aux revenus générés par le staking sur d'autres blockchains comme Ethereum ou Solana, mais sans nécessiter de conversion en un autre cryptoactif. En savoir plus…

Palo Alto Networks consolide la sécurité de l’IA

Spécialiste américain de la cybersécurité, Palo Alto Networks annonce l'acquisition de Protect AI pour plus de 500 millions de dollars et dévoile de nouveaux outils pour sécuriser les modèles d'intelligence artificielle, alors que son portefeuille de produits et sa valorisation boursière continuent de croître.

• Palo Alto Networks, l'un des principaux acteurs américains de cybersécurité, vient de faire l'acquisition de Protect AI, une start-up de Seattle spécialisée dans la sécurisation des applications d'intelligence artificielle et d'apprentissage automatique, sous réserve des autorisations réglementaires.

• La technologie de Protect AI se concentre sur l'identification et l'atténuation des risques tout au long du cycle de vie de l'IA, notamment l'analyse des modèles, la détection de l'empoisonnement des données et la sécurité d'exécution de l’IA générative.

• L'équipe de Protect AI intégrera Palo Alto Networks pour renforcer Prisma AIRS, une nouvelle plateforme dédiée à la sécurité de l'intelligence artificielle, capable de tester des modèles avant leur déploiement, de filtrer des prompts malveillants et de protéger des agents IA.

• Protect AI serait valorisée plus de 650 millions de dollars, selon SecurityWeek. Elle avait levé 108,5 millions auprès d'investisseurs comme Salesforce Ventures et Samsung Electronics.

• À SURVEILLER : La vague de consolidation dans la sécurité de l’IA. Jusqu’à présent, la défense contre les injections de prompts et le jailbreaking relevait plutôt de start-up. Les seules acquisitions notables dans le secteur ont été celle de Robust Intelligence par Cisco dans la gouvernance de l’IA et celle de Splunk dans les données (lire Qant du 20 mars 2024). L’opération de Palo Alto Networks pourrait déclencher une vague d’émules.

EN EXCLUSIVITÉ POUR LES ABONNÉS :

• Alors que Dario Amodei et Demis Hassabis préparent l’opinion, Gladstone AI appelle les États-Unis à lancer un projet national pour sécuriser le développement de la superintelligence artificielle.

• Pony.ai présente la septième génération de sa plateforme de conduite autonome et prévoit la production massive de robotaxis dès cette année.

Comment préparer l’AGI ?

Sécuriser les infrastructures, comprendre les modèles et poser des garde-fous : aux États-Unis, anticiper l’arrivée de l’intelligence artificielle générale (AGI) n’est plus un débat abstrait.

Préparer la superintelligence. • Qant avec GPT-4o

Dario Amodei, CEO et cofondateur d’Anthropic, vient de publier une tribune plaidant pour l’urgence de développer des outils capables d’examiner de l’intérieur les intelligences artificielles. L’opacité de l’IA rend en effet difficile la détection de comportements émergents indésirables, comme la dissimulation ou la recherche de pouvoir. Grâce à des percées récentes en "interprétabilité mécanistique", cependant, Amodei juge possible de créer, dans les prochaines années, des outils capables de diagnostiquer et de corriger les biais, les déviations ou les risques systémiques des modèles. Mais pour cela, prévient-il, il faut investir massivement dès maintenant. Sinon, l’AGI – ou l’IA puissante, dans sa terminologie – émergera avant que nous sachions la contrôler.

Un nouveau cadre à inventer

...