« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

L’ÉVÉNEMENT

Face aux risques de l’IA, le défi des « red teams »

Microsoft, Google, OpenAI, Meta. Tous les grands de l’IA ont leurs équipes d’experts, chargés de garantir l’alignement et de traquer les faiblesses de leurs modèles. La sécurité de l’IA commence à se structurer.

“La Red Team examine le robot” (Qant, M. de R. avec Midjourney)

Présentes dans toutes les grandes entreprises d'IA et obligatoires aux États-Unis, les red teams sont chargées de garantir l’alignement des modèles d’IA, puis de déceler les faiblesses des systèmes d'IA. Meta va plus loin et s’inspire des pratiques de la cybersécurité en y ajoutant une blue team, chargée de la défense. Le coût de créer et maintenir une IA augmentent d’autant, poussant la sécurité de l’IA à s’organiser.

Microsoft vient ainsi de rendre public Pyrit (Python Risk Identification Toolkit), un outil initialement utilisé par sa red team pour identifier les risques dans les systèmes d'intelligence artificielle générative, y compris Copilot. Et un premier benchmark général, comprenant 18 méthodes de red teaming, vient d’être publié en open source.

L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE

L’ESSENTIEL : ARM, Figure, Google, Haomo.AI, Kraken, Microsoft, Nuro, Sony

ROBOTS

ARM intègre ses puces aux robots-livreurs de Nuro

Créée par deux anciens de Google, Nuro annonce une collaboration avec ARM pour développer une nouvelle génération de véhicules autonomes de livraison.

Nuro, une start-up californienne spécialisée dans la livraison par robots, vient d'annoncer sa collaboration avec le leader de puces mobiles ARM pour développer sa troisième génération de véhicules autonomes robotisés. Il s’agit non seulement d'améliorer les capacités et l'autonomie des robots électriques de Nuro, mais également d'accélérer la production et la commercialisation de leur service de livraison. 

Le "Nuro Driver", qui englobe le matériel et le logiciel nécessaires au fonctionnement des véhicules de livraison autonomes de l'entreprise, intégrera la technologie Automotive Enhanced d'ARM, conçue spécifiquement pour le marché automobile. Nuro espère ainsi améliorer l'efficacité et l'autonomie du robot R3 jusqu'à 20% sans modifier la taille de la batterie du véhicule. 

La technologie d'ARM, qui consomme très peu d'énergie, permettra de dédier plus de ressources à l’IA de Nuro, responsable des décisions en temps réel concernant le fonctionnement et la sécurité du véhicule. Le R3 offrira le double d'espace de chargement par rapport au modèle de deuxième génération. Il comprendra également des inserts modulaires et des compartiments à température contrôlée pour maintenir les aliments au chaud ou au froid.

Cette annonce intervient dans un contexte difficile pour les développeurs de véhicules autonomes ou semi-autonomes. Avant même la déroute de Cruise (lire Qant du 10 novembre 2023 et du 29 janvier), les investissements se raréfiaient et les délais de développement s'allongeaient. Nuro avait annoncé en mai dernier une réduction de 30% de ses effectifs pour diminuer ses coûts.

Pour en savoir plus :

• The Verge

  ---

• Figure AI fait l’unanimité • Jeff Bezos, Nvidia, ainsi que d'autres grands noms de la tech, s'apprêtent à investir dans Figure AI, spécialisée dans le développement de robots à l'apparence humaine, dans un tour de financement de 675 millions de dollars valorisant la société à environ 2 milliards de dollars. Parmi les investisseurs figurent également OpenAI, Microsoft, ainsi que des fonds affiliés à Amazon. L'objectif de Figure AI est de créer des robots capables d'effectuer des tâches dangereuses ou inadaptées pour les humains, contribuant ainsi à pallier les pénuries de main-d'œuvre. En janvier, BMW a annoncé le déploiement du robot Figure 01 de l'entreprise dans son usine américaine (lire Qant du 22 janvier).
  Pour en savoir plus: Bloomberg, Fortune

• Presque 15 millions pour Haomo • La start-up chinoise Haomo.AI, spécialisée dans les technologies de conduite autonome et soutenue par Great Wall Motor, a levé 100 millions de yuan (environ 13,9 millions d'euros) lors d'un nouveau tour de financement de Série B. Cette levée de fonds, réalisée auprès du groupe d'investissement Chengdu Wufa, fait suite à plus d'un milliard de yuan de capital obtenus depuis la création de l'entreprise en 2019. Les fonds récemment acquis seront investis dans le développement de technologies robotiques pour des véhicules autonomes destinés à des services comme le nettoyage et les patrouilles de police, prévus dans le district de Wuhou à Chengdu.
  Pour en savoir plus: South China Morning Post

INTELLIGENCE ARTIFICIELLE

• Microsoft lance un effaceur IA • Microsoft vient d'introduire Generative Erase, une fonctionnalité permettant de modifier des photos via l'IA dans l'application Photos, disponible sur Windows 11 et également sur Windows 10. Cette mise à jour permettra d'effacer des éléments comme des laisses de chien ou des personnes en arrière-plan de façon intuitive. Generative Erase est actuellement disponible pour les Windows Insiders, une communauté de bêta-testeurs. Microsoft n'a pas précisé si les photos éditées incluront des métadonnées ou des filigranes pour les distinguer des originaux. De très nombreuses apps de retouche photo avec l’IA sont déjà disponibles, comme Lensa, Luminar, DXO, Topaz... et bien sûr Photoshop d’Adobe.
  Pour en savoir plus: The Verge

  Source : Microsoft 

• Un assistant rédacteur dans Chrome • Google vient de lancer aux États-Unis Help Me Write, une fonctionnalité expérimentale dans le navigateur Chrome. En se fondant sur les modèles Gemini, elle vise à aider les utilisateurs à écrire ou affiner des textes sur des sites web. La fonctionnalité d’IA génère en effet des suggestions de rédaction pour des contenus courts comme les sondages numériques, les avis, les demandes d'informations sur des produits, ou les descriptions pour la vente en ligne. Elle peut intégrer des informations pertinentes du contexte de la page web dans ses suggestions, comme souligner les caractéristiques clés d'un produit lors de la rédaction d'un avis. Présentée pour la première fois pour Gmail lors de l'événement Google I/O en mai dernier (lire Qant du 11 mai 2023), Help Me Write apparaît désormais comme une fenêtre flottante avec des options pour ajuster la longueur et le ton du texte. Google recommande de ne pas fournir d'informations personnelles à l'outil, tout en précisant que les données saisies ne seront pas utilisées pour l'entraînement des modèles d'IA.
  Pour en savoir plus: The Verge

MONNAIES NUMÉRIQUES ET BLOCKCHAINS

• Pékin s’arme contre les crypto-criminels • Le Parquet populaire suprême chinois (SPP) vient d'annoncer qu'il intensifiait ses efforts contre les cybercrimes liés à la blockchain. Le procureur national cible les activités illégales dans les projets de blockchain et de métavers. Le SPP a signalé une augmentation alarmante des fraudes en ligne, de la cyber-violence et des atteintes aux informations personnelles, avec une hausse notable des crimes utilisant les cryptomonnaies pour le blanchiment d'argent.
  Pour en savoir plus: Coin Telegraph

• Pour 2024, l’Afrique du Sud mise sur la blockchain • Dans son budget annuel rectificatif pour 2024, le Trésor sud-africain a annoncé un plan pour promouvoir l'adoption des paiements numériques, en envisageant notamment l'utilisation des stablecoins et de la blockchain pour améliorer la vie des groupes marginalisés. Les stablecoins seront réglementés comme une catégorie spécifique d'actifs cryptographiques et l'impact de la tokenisation sur les marchés financiers domestiques fera l’objet d’une étude spécifique.
  Pour en savoir plus: Cointelegraph

• Kraken contre-attaque • La plateforme d'échange de cryptomonnaies Kraken a déposé une demande de rejet de la plainte déposée contre elle par le gendarme boursier américain. La SEC (Securities and Exchange Commission) avait accusé Kraken en novembre dernier d'opérer sans aucun enregistrement légal tout à la fois comme bourse, courtier et chambre de compensation (lire Qant du 22 novembre 2023). Kraken conteste ces allégations, arguant que les cryptomonnaies concernées par la plainte de la SEC devraient être considérées comme des marchandises et non des valeurs mobilières. Kraken souligne que la SEC n'a pas allégué de fraude ni de préjudice aux consommateurs et compare également les cryptomonnaies listées dans la plainte de la SEC au bitcoin et à l'éther. En août, les tribunaux avaient donné tort à la SEC contre Grayscale et autorisé des produits dérivés négociés, les ETF bitcoin, qui défraient désormais la chronique.
  Pour en savoir plus: Coindesk

JEUX ET MÉTAVERS

• Le casque PS VR 2 s’étend de la PlayStation aux PC • Sony se prépare à étendre le support du casque PlayStation VR2 sur PC, dès 2024. Cela élargira la gamme de jeux accessibles au-delà des titres disponibles via la PlayStation5.
  Pour en savoir plus: The Verge

ÉDITION PREMIUM

En exclusivité pour les abonnés :

• Comment la sécurité de l’IA se structure progressivement, à partir des “red teams” qu’Open AI a réunies pour l’alignement de ses modèles.

...