GPT-6 без дообучения улучшила веса Qwen3.5-0.8B. В главном эксперименте авторы дали Astra веса крошечной Qwen3.5-0.8B и попросили улучшить ее способности в математике. В итоге Astra обнаружила в весах нейроны, из-за которых модель зацикливалась в рассуждениях, и исправила их. Всего она переписала около 0.016% весов, и после этого на MATH-500 скор Qwen3.5-0.8B вырос с 7,9% до 48,1%, а на GSM8K – с 13,8% до 67,1%.Это не все. Оказалось, что Astra может неплохо интерпретировать модели по весам. Например, ученые дообучили 4 одинаковые модели играть в разные игры: Breakout, Pong, Pac-Man и Freeway. Astra получила только веса (около 17 тысяч чисел) и описание входов, без названий игр, и смогла угадать, чему учили эти модели, во всех четырех случаях. В другом эксперименте три диффузионные модели рисовали круг, квадрат и треугольник. Astra по весам определила каждую фигуру, прочитав выходной слой. Важно, что при этом она не запускает эти сети, а просто читает веса.
А еще Astra умеет писать нейросети с нуля. Она без обучения, с нуля, взяла и выдала веса сетей для трех игр MinAtar. Во всех трех случаях она обошла модели, которые были обучены с помощью обучения с подкреплением (PPO) на 100 млн шагов.Также авторы просили ее написать сеть для игры в Go. Она написала веса одним скриптом на 336 строк и выиграла больше половины партий у двух маленьких обученных на PPO сетей. С помощью Weight-Space Programming можно было бы делать элаймент, аудит моделей, дешевую инициализацию весов, ну и рекурсивное самоулучшение на десерт.Сейчас авторы делают бенчмарк и харнесс для оценки способностей моделей к такому программированию весов.
https://rikiyat.github.io/blog/weight-space-programming/
