« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio
Les modèles de DeepSeek auront des principes
La modélisation de récompense généraliste (GRM) permettra de réduire les coûts des modèles en leur faisant suivre des “principes”.
La startup chinoise Butterfly Effect, créatrice du modèle DeepSeek, a collaboré avec l’université Tsinghua de Pékin pour concevoir une nouvelle méthode d’apprentissage par renforcement qu’elle vient de pré-publier.
Baptisée Self-Principled Critique Tuning (SPCT), elle permet à des modèles de récompense généralistes (GRM) de générer des principes et des critiques pour évaluer les réponses.
Cette approche est appliquée dans les modèles DeepSeek-GRM, publiés en open source, qui peuvent s'améliorer avec davantage de calcul à l'inférence, notamment grâce à un processus de vote guidé par un méta-modèle de récompense.
Les résultats empiriques montrent que cette “scalabilité” au moment de l'inférence peut même dépasser l'amélioration obtenue par l'augmentation de la taille des modèles lors de l'entraînement.
À SURVEILLER : Le débat sur les scaling laws. Les lois d’amélioration de l’IA (“scaling laws”) formulées par OpenAI en 2020 veulent qu’un modèle s’améliore quand on augmente sa taille, la quantité de données d’entraînement et les ressources de calcul dont il dispose. Elles semblent cependant se heurter à des rendements décroissants, ce qui a expliqué le choc DeepSeek cet hiver. Depuis, cependant, les performances des gigantesques modèles américains ont repris leur marche. Claude 3.7 Sonnet, Gemini 2.5 et Llama 4 augurent bien des futurs Claude 4, GPT-5, Gemini 3. DeepSeek GRM devra se mesurer aux perspectives de l’AGI qui se rapprochent.
Un rayon de lumière dans l’inconnu
Anthropic a mis au point un outil pour suivre les circuits internes d’un réseau neuronal, activés par un modèle de langage à chaque inférence. Ses “graphes d’attribution” révèlent les chaînes causales d’activation entre concepts, permettant de décortiquer raisonnement, planification ou détection de requêtes sensibles.
Les chercheurs d’Anthropic ont publié deux études détaillant un nouvel outil d’interprétabilité des grands modèles de langage. En combinant une décomposition en représentations internes interprétables avec une méthode d’attribution linéaire, ils construisent des graphes qui rendent visibles les circuits activés à chaque étape du traitement. Ces « graphes d’attribution » retracent les liens de cause à effet entre les concepts manipulés par le modèle, révélant comment une réponse est calculée à partir d’éléments intermédiaires comme des connaissances, des raisonnements ou des signaux de sécurité. Le travail s’inscrit dans le champ de l’interprétabilité “mécanistique”, qui cherche à cartographier le fonctionnement interne des réseaux de neurones.
DeepMind, Meta
DeepMind alerte sur l’AGI • Google DeepMind appelle à se préparer sérieusement à l’arrivée potentielle d’une IA générale (AGI), qu’elle estime plausible d’ici 2030. Dans un rapport de 145 pages, l’entreprise identifie quatre grands types de risques : usage malveillant, actions non prévues, erreurs accidentelles et effets systémiques entre agents IA. DeepMind plaide pour une régulation et une mobilisation collective, alors que l’attention politique s’est déplacée vers la course à la compétitivité, au détriment des enjeux de sécurité. En savoir plus…
Un Llama pas si performant ? • Les résultats flatteurs du nouveau modèle Llama Maverick de Meta, publié ce week-end, ont été obtenus sur une version différente de celle que l’on peut tester sur LM Arena — une plateforme où des humains jugent les réponses des modèles et qui fait désormais référence. Des chercheurs ont noté des écarts de comportement importants entre les deux versions, remettant en question la transparence des performances affichées. Meta admet que la version évaluée est un prototype optimisé pour les conversations, ce qui fausse les comparaisons avec d'autres modèles. LM Arena a changé ses conditions d’utilisation. En savoir plus…
Tether lance une offensive de charme envers Trump
Le créateur de l’USDT prépare un stablecoin destiné uniquement au marché américain et veut s’ouvrir à un véritable audit de ses réserves.
Tether mène des discussions avec des responsables américains sur la régulation des stablecoins, a déclar hier son CEO Paolo Ardoino au Financial Times.
La société envisage notamment de lancer un jeton réservé aux États-Unis, si les nouvelles règles s’y prêtent, particulièrement destiné au marché des paiements.
Bien que les actifs numériques de Tether soient les plus échangés au monde, avec 400 millions de détenteurs, l’entreprise ne peut accepter de clients domiciliés sur le sol américain ni, depuis l’entrée en vigueur du règlement Mica, en Europe.
Grâce aux taux d’intérêts élevés sur les bons du Trésor américains, les jetons en circulation de Tether, qui valent aujourd’hui presque 150 milliards de dollars, ont généré l’an dernier environ 13 milliards de bénéfices à la société.
D’après son CEO, Tether est en train de négocier avec les Big Four pour que ses réserves bénéficient d’un audit indépendant.
EN FILIGRANE : Le chemin de Genius. Un projet de loi sur la réglementation des stablecoins, baptisé Genius Act, a été validé mi-mars en commission par le sénat américain. Un projet similaire a été déposé à la chambre des représentants. Tous deux prévoient des audits sur les stablecoins.
À SURVEILLER : L’effet Trump. La société, désormais installée au Salvador, collabore avec le FBI et d’autres services de renseignement américain pour lutter contre l’utilisation criminelle de son stablecoin (lire aussi Qant du 6 mai 2024).
Le Doge consolide les données fédérales
Un des décrets signés par Donald Trump élargit drastiquement l’accès aux données personnelles détenues par l’État fédéral.
Le décret intitulé Stopping Waste, Fraud, and Abuse by Eliminating Information Silos oblige les agences fédérales à partager toutes leurs données non confidentielles, sans exigences de cybersécurité pour prévenir les abus ou les fuites.
Le Doge (Department of Government Efficiency) se voit accorder un accès généralisé à des informations sensibles, qu’elles soient contenues dans des bases de données publiques ou celles de prestataires privés, recevant des fonds fédéraux.
La presse américaine relève que le Doge cherche à fusionner des données fiscales, de sécurité sociale et d’immigration, et que des agents réfractaires à ces pratiques ont été écartés ou remplacés.
À SURVEILLER : Les risques de la consolidation des bases publiques. Outre les questions de protection de la vie privée dans le droit américain, la simple compromission d'identifiants pourrait exposer massivement des données à des cyberattaques ou à une utilisation abusive.
XiaoFeng Wang
Chasse aux Chinois dans l’Indiana • Le professeur en cybersécurité XiaoFeng Wang et son épouse ont disparu, le 28 mars, sans donner de nouvelles, alors que le FBI venait perquisitionner leur domicile et que leur employeur, l’université d’Indiana Bloomington, effaçait toute trace de leur collaboration. Une semaine plus tard, leur avocat a indiqué qu’ils n’ont été ni arrêtés ni inculpés. Leur syndicat dénonce un licenciement irrégulier et la Chine craint une reprise de la “China Initiative” du premier mandat de Donald Trump. Aux relents maccarthystes, celle-ci ciblait les chercheurs soupçonnés d’avoir des liens avec la Chine. En savoir plus…
Hyundai cueille les fruits de son investissement dans Boston Dynamics
Hyundai Motor Group prévoit d’acquérir plusieurs dizaines de milliers de robots Boston Dynamics, dont des robots humanoïdes Atlas, pour équiper ses usines et accélérer sa transition vers une automatisation avancée.
Le groupe Hyundai Motor a officialisé un partenariat stratégique renforcé avec Boston Dynamics, prévoyant l’achat de « plusieurs dizaines de milliers » de robots au cours des prochaines années. L’accord couvre l’ensemble de la gamme du fabricant américain, notamment le robot quadrupède Spot, le robot humanoïde Atlas, ainsi que le robot logistique Stretch conçu pour le déchargement automatisé de camions. Hyundai, qui a racheté l’américaine Boston Dynamics en 2021, intégrera ses capacités industrielles à celles de sa filiale afin de développer conjointement la production de robots mobiles avancés.
EN EXCLUSIVITÉ POUR LES ABONNÉS :
• Anthropic dévoile un outil pour cartographier les circuits internes des LLM, permettant d’identifier les chaînes de raisonnement à l’origine des réponses.
• Hyundai prévoit d’équiper ses usines avec des dizaines de milliers de robots Boston Dynamics, dont le robot humanoïde Atlas.
Un rayon de lumière dans l’inconnu : Anthropic cartographie le fonctionnement de ses modèles
Anthropic a mis au point un outil pour suivre les circuits internes d’un réseau neuronal, activés par un modèle de langage à chaque inférence. Ces “graphes d’attribution” révèlent les chaînes causales d’activation entre concepts, permettant de décortiquer raisonnement, planification ou détection de requêtes sensibles.
Les chercheurs d’Anthropic ont publié deux études détaillant un nouvel outil d’interprétabilité des grands modèles de langage. En combinant une décomposition en représentations internes interprétables avec une méthode d’attribution linéaire, ils construisent des graphes qui rendent visibles les circuits activés à chaque étape du traitement. Ces « graphes d’attribution » retracent les liens de cause à effet entre les concepts manipulés par le modèle, révélant comment une réponse est calculée à partir d’éléments intermédiaires, comme des connaissances, des raisonnements ou des signaux de sécurité. Le travail s’inscrit dans le champ de l’interprétabilité mécanistique, qui cherche à cartographier le fonctionnement interne des réseaux de neurones.
Une décomposition en concepts interprétables
...
