[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"news-post-\u002Ffr\u002Fnews\u002Fmit-programmation-espace-des-poids-gpt-6-astra-modifie-poids-reseaux-de-neurones":3,"news-related-fr-\u002Ffr\u002Fnews\u002Fmit-programmation-espace-des-poids-gpt-6-astra-modifie-poids-reseaux-de-neurones":249,"hreflang-mit-weight-space-programming-gpt-6-astra-2026-11":270},{"doc":4,"redirect":8},{"id":5,"title":6,"author":7,"author_avatar":8,"body":9,"category":227,"date":228,"description":229,"extension":230,"image":231,"meta":232,"navigation":233,"path":234,"seo":235,"seoDescription":236,"seoTitle":237,"stem":238,"tags":239,"translationKey":247,"updatedAt":8,"__hash__":248},"news_fr\u002Ffr\u002Fnews\u002Fmit-programmation-espace-des-poids-gpt-6-astra-modifie-poids-reseaux-de-neurones.md","Des chercheurs du MIT montrent que GPT-6 Astra sait lire et modifier directement les poids d'un réseau de neurones","Paul Lefizelier",null,{"type":10,"value":11,"toc":219},"minimark",[12,25,34,43,48,56,79,82,86,94,97,100,104,113,120,182,197,200,204,207,216],[13,14,15,16,24],"p",{},"Une équipe du MIT CSAIL a publié des premiers résultats qui suggèrent qu'un modèle de pointe généraliste peut travailler sur les poids d'un réseau de neurones comme un développeur travaille sur du code. Dans un billet intitulé ",[17,18,23],"a",{"href":19,"rel":20,"target":22},"https:\u002F\u002Frikiyat.github.io\u002Fblog\u002Fweight-space-programming\u002F",[21],"nofollow","_blank","Sparks of Weight-Space Programming",", daté du 2 novembre, Rikiya Takehi, Jayden Teoh, Alex Zhang et Omar Khattab rapportent que GPT-6 Astra sait dire à quoi un réseau a été entraîné à partir de ses poids bruts, écrire de petits réseaux de zéro et corriger un défaut connu d'un vrai modèle de langage en modifiant une infime partie de ses paramètres, sans aucune descente de gradient.",[13,26,27,28,33],{},"Le billet s'est rapidement hissé en tête de ",[17,29,32],{"href":30,"rel":31,"target":22},"https:\u002F\u002Fnews.ycombinator.com\u002Fitem?id=50341174",[21],"Hacker News",", avec plus de 2 300 points et plus de 700 commentaires en une journée. Les auteurs appellent cette approche « Weight-Space Programming », la programmation dans l'espace des poids : le modèle lit et écrit des poids à partir d'un objectif formulé en langage naturel, parfois sans aucun retour de l'environnement.",[13,35,36,37,42],{},"Il s'agit de résultats publiés sur un blog, pas d'un article évalué par des pairs. Les auteurs les qualifient de « très préliminaires » et jugent les capacités « enthousiasmantes mais encore limitées ». Ils ont publié ",[17,38,41],{"href":39,"rel":40,"target":22},"https:\u002F\u002Fgithub.com\u002FRikiyaT\u002Flm_understand-logs",[21],"l'intégralité des logs de chaque expérience"," : les prompts, les réponses du modèle, le code qu'il a exécuté et les évaluations.",[44,45,47],"h2",{"id":46},"lire-des-poids-à-quoi-ce-réseau-a-t-il-été-entraîné","Lire des poids : à quoi ce réseau a-t-il été entraîné ?",[13,49,50,51,55],{},"Les premières expériences testent si le modèle peut déduire un comportement à partir de simples nombres. Selon le ",[17,52,54],{"href":19,"rel":53,"target":22},[21],"billet"," :",[57,58,59,67,73],"ul",{},[60,61,62,66],"li",{},[63,64,65],"strong",{},"Jeux."," Quatre petits réseaux identiques (17 253 poids chacun) ont été entraînés avec PPO sur des versions en grille de Breakout, Pong, Pac-Man et Freeway. Avec seulement les poids sous forme de texte, et sans connaître la liste des jeux, Astra a trouvé le bon jeu pour les quatre.",[60,68,69,72],{},[63,70,71],{},"Modèles de diffusion."," Trois petits modèles DDPM ont été entraînés à générer des cercles, des triangles et des carrés. Sans exécuter le moindre passage avant (forward pass), Astra a identifié la forme produite par chacun. Les auteurs notent qu'il a dessiné chaque forme en contour alors que les vrais modèles génèrent des formes pleines, ce qu'ils interprètent comme le signe qu'il raisonne sur la structure des poids plutôt qu'il ne simule le réseau.",[60,74,75,78],{},[63,76,77],{},"Modèles de langage."," Trois modèles de 7,2 millions de paramètres, entraînés caractère par caractère sur du code Python, du japonais en romaji et de l'anglais. Sans les couches d'entrée et de sortie, avec Python autorisé pour l'analyse mais pas pour exécuter le réseau, Astra a trouvé la bonne langue lors des deux essais pour les trois modèles, et repéré exactement les têtes de copie (« induction heads ») confirmées ensuite par la mesure.",[13,80,81],{},"Un test n'a pas fonctionné aussi nettement. Face à deux copies affinées de Gemma 3 270M, l'une entraînée à répondre correctement, l'autre à flatter l'utilisateur, Astra n'a pas su les distinguer à partir des seuls poids en quatre essais. Il n'a réussi sur les trois paires qu'une fois autorisé à observer les motifs d'attention sur des textes qu'il rédigeait lui-même.",[44,83,85],{"id":84},"écrire-des-poids-corrections-et-réseaux-créés-de-zéro","Écrire des poids : corrections et réseaux créés de zéro",[13,87,88,89,93],{},"La seconde moitié du billet porte sur l'écriture. Dans une tâche de contrôle physique de l'environnement Kinetix, une politique PPO entraînée sur un milliard d'étapes ne parvenait jamais à faire franchir une rampe à une voiture. Avec les poids, une description de la scène et un épisode enregistré, Astra a modifié 3,5 % des poids en une seule réponse, et la voiture a ensuite réussi les 1 024 épisodes de test, ",[17,90,92],{"href":19,"rel":91,"target":22},[21],"selon les auteurs",".",[13,95,96],{},"Sur trois jeux MinAtar, Astra a écrit des réseaux à partir de poids tous à zéro, en une seule réponse, sans données, sans gradients, sans outils et sans partie d'essai. Ses réseaux ont dépassé PPO entraîné sur 100 millions d'étapes dans les trois jeux. Face à PPO entraîné sur 500 millions d'étapes, le tableau du billet donne 517,4 contre 25,3 sur Breakout, 53,2 contre 55,2 sur Asterix et 53,1 contre 88,9 sur Seaquest. Les auteurs expliquent qu'Astra décide d'abord quel programme chaque couche doit calculer (pour Breakout, où la balle va tomber, puis où déplacer la raquette), puis l'encode sous forme de poids.",[13,98,99],{},"À plus grande échelle, Astra a écrit un réseau de 1,48 million de poids pour le Go en 9x9 dans un bac à sable Python, sans entraînement. Sans aucun passage avant, il a gagné plus de la moitié de ses parties contre deux réseaux PPO plus petits ; avec un budget de 50 passages avant, son réseau a battu un réseau PPO de même taille entraîné sur 20 millions de parties.",[44,101,103],{"id":102},"le-résultat-sur-qwen","Le résultat sur Qwen",[13,105,106,107,112],{},"L'expérience qui a le plus retenu l'attention porte sur ",[17,108,111],{"href":109,"rel":110,"target":22},"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen3.5-0.8B",[21],"Qwen3.5-0.8B",", un petit modèle de raisonnement à poids ouverts. Les auteurs rappellent que la fiche du modèle publiée par Qwen prévient qu'il a tendance à tourner en boucle pendant sa réflexion. Dans leur configuration, 85 de ses 96 premières réponses d'entraînement allaient jusqu'à la limite de 32 768 tokens.",[13,114,115,116,119],{},"Astra travaillait dans une session Python ouverte sur les poids, avec des problèmes d'entraînement tirés de GSM8K et MATH et un budget fixe de passages avant, mais sans aucun entraînement. Il a relié les boucles à une seule direction écrite par les MLP des couches 15 et 19, et a retiré cette direction de 64 colonnes de sortie dans chacune, soit 131 072 poids, 0,016 % du modèle. Avec 50 passages avant, le ",[17,117,54],{"href":19,"rel":118,"target":22},[21]," rapporte :",[121,122,123,144],"table",{},[124,125,126],"thead",{},[127,128,129,132,135,138,141],"tr",{},[130,131,111],"th",{},[130,133,134],{},"MATH-500",[130,136,137],{},"GSM8K",[130,139,140],{},"IFEval",[130,142,143],{},"Réponses atteignant la limite de tokens",[145,146,147,165],"tbody",{},[127,148,149,153,156,159,162],{},[150,151,152],"td",{},"Base",[150,154,155],{},"7,9 %",[150,157,158],{},"13,8 %",[150,160,161],{},"21,0 %",[150,163,164],{},"93,0 %",[127,166,167,170,173,176,179],{},[150,168,169],{},"Modifié (50 passages avant)",[150,171,172],{},"48,1 %",[150,174,175],{},"67,1 %",[150,177,178],{},"62,3 %",[150,180,181],{},"33,1 %",[13,183,184,185,190,191,196],{},"Avec 10 ou 25 passages avant, les gains étaient bien plus faibles et les boucles persistaient en grande partie. Le modèle modifié est ",[17,186,189],{"href":187,"rel":188,"target":22},"https:\u002F\u002Fhuggingface.co\u002FRikiyaT\u002FQwen3.5-0.8B-weight-space-programming",[21],"publié sur Hugging Face",", et Ahsen Khaliq, de Hugging Face, l'a reconstruit à partir des logs, a relancé l'évaluation et mis en ligne une ",[17,192,195],{"href":193,"rel":194,"target":22},"https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fakhaliq\u002Fweight-space-programming-demo",[21],"démo",", d'après les auteurs.",[13,198,199],{},"Les auteurs restent prudents sur la portée du résultat. Supprimer les boucles permet au modèle de terminer des réponses qu'il savait déjà trouver ; cela n'ajoute pas de connaissances. Quand ils ont appliqué la même méthode à Gemma 3 270M, qui boucle rarement, aucune modification n'a fait bouger MATH-500 de plus d'un point environ. Selon eux, modifier les poids « pouvait lever un obstacle qui masquait une capacité, mais pas ajouter une capacité absente du modèle ».",[44,201,203],{"id":202},"pourquoi-cest-important-pour-ceux-qui-construisent-avec-lia","Pourquoi c'est important pour ceux qui construisent avec l'IA",[13,205,206],{},"Pour la plupart des développeurs, on change le comportement d'un modèle par le prompt, le fine-tuning ou des adaptateurs, ce qui demande des données et des entraînements. Si ces résultats se confirment, ces travaux ouvrent une autre voie pour des changements ciblés : décrire le problème, laisser un modèle de pointe trouver le composant responsable et le corriger directement. Les auteurs évoquent des usages possibles comme l'audit de comportements cachés ou de portes dérobées sans benchmark, le désapprentissage ou l'ajout de capacités précises sans données, ou la greffe de circuits entre modèles d'architectures différentes. Ce sont des pistes qu'ils proposent, pas des résultats démontrés.",[13,208,209,210,215],{},"Les limites sont nettes aujourd'hui. La plupart des expériences portent sur des réseaux assez petits pour tenir dans le contexte du modèle ; les cas plus grands reposent sur un environnement sur mesure et un budget de passages avant. Le modèle utilisé est GPT-6 Astra, proposé par OpenAI dans ",[17,211,214],{"href":212,"rel":213,"target":22},"https:\u002F\u002Fhelp.openai.com\u002Fen\u002Farticles\u002F20001516-managing-usage-with-gpt-6-astra-in-work-and-codex",[21],"ChatGPT Work et Codex",", et le billet ne présente pas de résultats avec d'autres modèles de pointe. Aucune réplication indépendante, au-delà de la reconstruction par Hugging Face, n'a encore été publiée.",[13,217,218],{},"L'équipe indique préparer un benchmark et un environnement pour mesurer la programmation dans l'espace des poids de façon standardisée. En attendant, les logs restent le meilleur moyen de vérifier les résultats par soi-même, et le checkpoint Qwen modifié le plus simple à tester.",{"title":220,"searchDepth":221,"depth":221,"links":222},"",2,[223,224,225,226],{"id":46,"depth":221,"text":47},{"id":84,"depth":221,"text":85},{"id":102,"depth":221,"text":103},{"id":202,"depth":221,"text":203},"ai","2026-11-03T08:10:00","Dans un billet publié le 2 novembre, une équipe du MIT CSAIL rapporte que GPT-6 Astra identifie la tâche apprise par de petits réseaux à partir de leurs poids bruts, écrit de zéro des réseaux qui jouent à des jeux, et fait passer Qwen3.5-0.8B de 7,9 % à 48,1 % sur MATH-500 en modifiant 0,016 % de ses poids, sans descente de gradient.","md","\u002Fimages\u002Fnews\u002Fmit-weight-space-programming-gpt-6-astra-edits-neural-network-weights.jpg",{},true,"\u002Ffr\u002Fnews\u002Fmit-programmation-espace-des-poids-gpt-6-astra-modifie-poids-reseaux-de-neurones",{"title":6,"description":229},"Une équipe du MIT CSAIL montre que GPT-6 Astra lit des poids bruts, écrit des réseaux de zéro et corrige les boucles de Qwen3.5-0.8B en modifiant 0,016 % de ses poids.","MIT : GPT-6 Astra lit et modifie les poids d'un réseau de neurones","fr\u002Fnews\u002Fmit-programmation-espace-des-poids-gpt-6-astra-modifie-poids-reseaux-de-neurones",[240,241,242,243,244,245,246],"recherche","gpt-6-astra","openai","qwen","interpretabilite","mit-csail","weight-space-programming","mit-weight-space-programming-gpt-6-astra-2026-11","Avi5BP5VYdOYyH-o1ksLA1W8Hms0tm1tkZlVNT-ZRcM",[250,256,263],{"title":251,"description":252,"path":253,"date":254,"image":255,"category":227},"Dans son dossier d'introduction en Bourse, Anthropic dit pouvoir bientôt franchir son propre seuil de recherche en IA accélérée par l'IA","Dans son S-1 amendé, Anthropic ajoute un facteur de risque : ses estimations internes pour de futurs modèles indiquent qu'il pourrait « de manière imminente » atteindre la définition de « progrès considérablement accéléré attribuable à l'IA » de sa Responsible Scaling Policy. Aucun modèle actuel ne l'a franchie. Ce que recouvre ce seuil et ce que le document dit de Claude qui construit Claude.","\u002Ffr\u002Fnews\u002Fanthropic-s1-auto-amelioration-recursive-seuil-rsp-recherche-ia","2026-11-03T10:20:00","\u002Fimages\u002Fnews\u002Fanthropic-s1-recursive-self-improvement-rsp-threshold-ai-rd.jpg",{"title":257,"description":258,"path":259,"date":260,"image":261,"category":262},"OpenAI a reconstruit le backend Git de son monorepo pour suivre le rythme des agents Codex","OpenAI détaille Pando, un backend compatible Git développé en 10 semaines avec Codex. Il coordonne chaque branche séparément, réutilise les packfiles d'un fetch à l'autre, a divisé par près de 5 la latence médiane des push et sert près d'un pétaoctet de données Git par jour.","\u002Ffr\u002Fnews\u002Fopenai-pando-backend-git-monorepo-agents-codex","2026-11-03T10:15:00","\u002Fimages\u002Fnews\u002Fopenai-pando-git-backend-monorepo-codex-agents.jpg","tools",{"title":264,"description":265,"path":266,"date":267,"image":268,"category":269},"DeepSeek publie en open source dsh-superagent, un agent de code qui sépare le routage de l'exécution","L'équipe Harness de DeepSeek a publié dsh-superagent, un prototype de recherche sous licence MIT qui transforme un dépôt GitHub en agent de code proactif : un Router permanent reçoit les demandes et confie chacune à une session Worker isolée. Fonctionnement, mesures de DeepSeek et points de vigilance avant de l'installer.","\u002Ffr\u002Fnews\u002Fdeepseek-dsh-superagent-agent-de-code-open-source-router-worker","2026-11-02T20:20:00+01:00","\u002Fdeepseek-dsh-superagent-open-source-router-worker-coding-agent.jpg","vibecoding",{"en":271,"fr":471,"es":8},{"id":272,"title":273,"author":7,"author_avatar":8,"body":274,"category":227,"date":228,"description":460,"extension":230,"image":231,"meta":461,"navigation":233,"path":462,"seo":463,"seoDescription":464,"seoTitle":465,"stem":466,"tags":467,"translationKey":247,"updatedAt":8,"__hash__":470},"news_en\u002Fnews\u002Fmit-weight-space-programming-gpt-6-astra-edits-neural-network-weights.md","MIT researchers show GPT-6 Astra can read and edit neural network weights directly",{"type":10,"value":275,"toc":454},[276,283,290,298,302,310,330,333,337,344,347,350,354,361,368,420,433,436,440,443,451],[13,277,278,279,282],{},"A team at MIT CSAIL has published early results suggesting that a general-purpose frontier model can work on neural network weights the way a programmer works on code. In a blog post titled ",[17,280,23],{"href":19,"rel":281,"target":22},[21],", dated November 2, Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report that GPT-6 Astra can tell what a network was trained to do from its raw weights, write small networks from scratch, and fix a known failure in a real language model by editing a tiny fraction of its parameters, with no gradient descent involved.",[13,284,285,286,289],{},"The post quickly reached the top of ",[17,287,32],{"href":30,"rel":288,"target":22},[21],", where it collected more than 2,300 points and over 700 comments within a day. The authors call the idea \"Weight-Space Programming\": the model reads and writes weights against a natural-language goal, sometimes with no feedback from the environment at all.",[13,291,292,293,297],{},"These are results from a blog post, not a peer-reviewed paper. The authors describe them as \"very early\" and say capabilities are \"exciting but still limited\". They have published ",[17,294,296],{"href":39,"rel":295,"target":22},[21],"the full logs of every experiment",", including prompts, the model's replies, the code it ran and the evaluations.",[44,299,301],{"id":300},"reading-weights-what-was-this-network-trained-for","Reading weights: what was this network trained for?",[13,303,304,305,309],{},"The first experiments test whether the model can infer behavior from numbers alone. According to the ",[17,306,308],{"href":19,"rel":307,"target":22},[21],"post",":",[57,311,312,318,324],{},[60,313,314,317],{},[63,315,316],{},"Games."," Four identical small networks (17,253 weights each) were trained with PPO on grid versions of Breakout, Pong, Pac-Man and Freeway. Given only the weights as text, and without being told the list of games, Astra named the right game for all four.",[60,319,320,323],{},[63,321,322],{},"Diffusion models."," Three small DDPM models were trained to generate circles, triangles and squares. Without running a forward pass, Astra identified the shape each one produces. The authors note it drew every shape as an outline, while the real models generate filled shapes, which they read as a sign that it reasons about the weight structure rather than simulating the network.",[60,325,326,329],{},[63,327,328],{},"Language models."," Three 7.2M-parameter character-level models were trained on Python code, Japanese in romaji and English. With the input and output layers removed, and with Python allowed for analysis but not for running the network, Astra named the right language in both attempts for all three, and identified exactly the copying (\"induction\") heads that measurements later confirmed.",[13,331,332],{},"One test did not work as cleanly. Given two fine-tuned copies of Gemma 3 270M, one trained to answer correctly and one trained to be sycophantic, Astra could not tell them apart from the weights alone in four attempts. It succeeded on all three pairs only once it was allowed to look at attention patterns on texts it wrote itself.",[44,334,336],{"id":335},"writing-weights-fixes-and-networks-from-scratch","Writing weights: fixes and networks from scratch",[13,338,339,340,93],{},"The second half of the post is about writing. In a physics control task from the Kinetix environment, a PPO policy trained for a billion steps never got a car over a ramp. Given the weights, a scene description and one recorded episode, Astra changed 3.5% of the weights in a single reply, and the car then succeeded in all 1,024 test episodes, the ",[17,341,343],{"href":19,"rel":342,"target":22},[21],"authors report",[13,345,346],{},"On three MinAtar games, Astra wrote networks from all-zero weights in one reply, with no data, no gradients, no tools and no test runs. Its networks outscored PPO trained for 100 million steps on all three games. Against PPO trained for 500 million steps, the blog's table shows 517.4 against 25.3 on Breakout, 53.2 against 55.2 on Asterix and 53.1 against 88.9 on Seaquest. The authors explain that Astra first decides what program each layer should compute (for Breakout, where the ball will land, then where to move the paddle) and then encodes it as weights.",[13,348,349],{},"At a larger scale, Astra wrote a 1.48-million-weight network for 9x9 Go inside a Python sandbox, without training. With no forward passes it won more than half of its games against two smaller PPO networks; with a budget of 50 forward passes, its network beat an equal-sized PPO network trained on 20 million games.",[44,351,353],{"id":352},"the-qwen-result","The Qwen result",[13,355,356,357,360],{},"The experiment that drew the most attention involves ",[17,358,111],{"href":109,"rel":359,"target":22},[21],", a small open-weight reasoning model. The authors note that Qwen's own model card warns the model is prone to thinking loops. In their setup, 85 of its first 96 practice answers ran to the 32,768-token limit.",[13,362,363,364,367],{},"Astra worked in a Python session over the weights, with practice problems from GSM8K and MATH and a fixed budget of forward passes, but no training. It traced the looping to a single direction written by the MLPs of layers 15 and 19, and removed that direction from 64 output columns in each layer, 131,072 weights in total, or 0.016% of the model. With 50 forward passes, the ",[17,365,308],{"href":19,"rel":366,"target":22},[21]," reports:",[121,369,370,385],{},[124,371,372],{},[127,373,374,376,378,380,382],{},[130,375,111],{},[130,377,134],{},[130,379,137],{},[130,381,140],{},[130,383,384],{},"Answers hitting the token limit",[145,386,387,403],{},[127,388,389,391,394,397,400],{},[150,390,152],{},[150,392,393],{},"7.9%",[150,395,396],{},"13.8%",[150,398,399],{},"21.0%",[150,401,402],{},"93.0%",[127,404,405,408,411,414,417],{},[150,406,407],{},"Edited (50 forward passes)",[150,409,410],{},"48.1%",[150,412,413],{},"67.1%",[150,415,416],{},"62.3%",[150,418,419],{},"33.1%",[13,421,422,423,427,428,432],{},"With 10 or 25 forward passes, the gains were much smaller and the loops largely remained. The edited model is ",[17,424,426],{"href":187,"rel":425,"target":22},[21],"published on Hugging Face",", and Hugging Face's Ahsen Khaliq rebuilt it from the logs, re-ran the evaluation and put up a ",[17,429,431],{"href":193,"rel":430,"target":22},[21],"live demo",", according to the authors.",[13,434,435],{},"The authors are careful about what this shows. Fixing loops lets the model finish answers it could already work out; it does not add knowledge. When they tried the same approach on Gemma 3 270M, which rarely loops, no edit moved MATH-500 by more than about a point. In their words, editing weights \"could remove an obstacle that hid an ability, but it could not add an ability the model lacked.\"",[44,437,439],{"id":438},"why-it-matters-for-people-building-with-ai","Why it matters for people building with AI",[13,441,442],{},"For most developers, model behavior is changed through prompts, fine-tuning or adapters, all of which require data and training runs. If the results hold up, this work points to a different path for small, targeted changes: describe the problem, let a frontier model find the responsible component, and patch it directly. The authors list possible uses such as auditing models for hidden behaviors or backdoors without benchmarks, unlearning or adding narrow capabilities without data, and grafting circuits between models with different architectures. These are directions they propose, not results they have demonstrated.",[13,444,445,446,450],{},"There are clear limits today. Most experiments use networks small enough to fit in the model's context; the larger cases depend on a custom harness and a budget of forward passes. The model used is GPT-6 Astra, which OpenAI offers in ",[17,447,449],{"href":212,"rel":448,"target":22},[21],"ChatGPT Work and Codex",", and the post does not report results with other frontier models. Independent replication beyond the Hugging Face rebuild has not been published yet.",[13,452,453],{},"The team says it is building a benchmark and a harness to measure weight-space programming in a standardized way. For now, the logs are the best place to check the claims for yourself, and the edited Qwen checkpoint is the easiest one to try.",{"title":220,"searchDepth":221,"depth":221,"links":455},[456,457,458,459],{"id":300,"depth":221,"text":301},{"id":335,"depth":221,"text":336},{"id":352,"depth":221,"text":353},{"id":438,"depth":221,"text":439},"In a blog post published November 2, an MIT CSAIL team reports that GPT-6 Astra can identify what small networks were trained to do from their raw weights, write working game-playing networks from scratch, and lift Qwen3.5-0.8B from 7.9% to 48.1% on MATH-500 by editing 0.016% of its weights, without gradient descent.",{},"\u002Fnews\u002Fmit-weight-space-programming-gpt-6-astra-edits-neural-network-weights",{"title":273,"description":460},"An MIT CSAIL team reports GPT-6 Astra can read raw weights, write networks from scratch and fix Qwen3.5-0.8B's looping by editing 0.016% of its weights.","MIT: GPT-6 Astra reads and edits neural network weights","news\u002Fmit-weight-space-programming-gpt-6-astra-edits-neural-network-weights",[468,241,242,243,469,245,246],"research","interpretability","jmTUBXQCLowa7jLgEBkNBlxPvOwz2ho58KqVTWrfjOw",{"id":5,"title":6,"author":7,"author_avatar":8,"body":472,"category":227,"date":228,"description":229,"extension":230,"image":231,"meta":604,"navigation":233,"path":234,"seo":605,"seoDescription":236,"seoTitle":237,"stem":238,"tags":606,"translationKey":247,"updatedAt":8,"__hash__":248},{"type":10,"value":473,"toc":598},[474,479,484,489,491,496,510,512,514,519,521,523,525,530,535,577,585,587,589,591,596],[13,475,15,476,24],{},[17,477,23],{"href":19,"rel":478,"target":22},[21],[13,480,27,481,33],{},[17,482,32],{"href":30,"rel":483,"target":22},[21],[13,485,36,486,42],{},[17,487,41],{"href":39,"rel":488,"target":22},[21],[44,490,47],{"id":46},[13,492,50,493,55],{},[17,494,54],{"href":19,"rel":495,"target":22},[21],[57,497,498,502,506],{},[60,499,500,66],{},[63,501,65],{},[60,503,504,72],{},[63,505,71],{},[60,507,508,78],{},[63,509,77],{},[13,511,81],{},[44,513,85],{"id":84},[13,515,88,516,93],{},[17,517,92],{"href":19,"rel":518,"target":22},[21],[13,520,96],{},[13,522,99],{},[44,524,103],{"id":102},[13,526,106,527,112],{},[17,528,111],{"href":109,"rel":529,"target":22},[21],[13,531,115,532,119],{},[17,533,54],{"href":19,"rel":534,"target":22},[21],[121,536,537,551],{},[124,538,539],{},[127,540,541,543,545,547,549],{},[130,542,111],{},[130,544,134],{},[130,546,137],{},[130,548,140],{},[130,550,143],{},[145,552,553,565],{},[127,554,555,557,559,561,563],{},[150,556,152],{},[150,558,155],{},[150,560,158],{},[150,562,161],{},[150,564,164],{},[127,566,567,569,571,573,575],{},[150,568,169],{},[150,570,172],{},[150,572,175],{},[150,574,178],{},[150,576,181],{},[13,578,184,579,190,582,196],{},[17,580,189],{"href":187,"rel":581,"target":22},[21],[17,583,195],{"href":193,"rel":584,"target":22},[21],[13,586,199],{},[44,588,203],{"id":202},[13,590,206],{},[13,592,209,593,215],{},[17,594,214],{"href":212,"rel":595,"target":22},[21],[13,597,218],{},{"title":220,"searchDepth":221,"depth":221,"links":599},[600,601,602,603],{"id":46,"depth":221,"text":47},{"id":84,"depth":221,"text":85},{"id":102,"depth":221,"text":103},{"id":202,"depth":221,"text":203},{},{"title":6,"description":229},[240,241,242,243,244,245,246]]