Substrat
Un calcul clairsemé, localement récurrent et conscient de l'énergie comme cible de recherche de première classe.
Au-delà des transformers
Un pari de recherche, avec les résultats négatifs sur la même page que les réussites.
Calcul à priorité biologique et cognition native au substrat — y compris les résultats négatifs.
Citation
ReasonLoom Research · Au-delà des transformers · registre interne, 2026.
Pourquoi c'est important
Un pari différent sur l'origine du progrès
Le pari dominant de la dernière décennie a été « mettre l'attention à l'échelle ». Notre pari de recherche est différent : la prochaine étape est un substrat différent, organisé autour de codes de population clairsemés, de récurrence locale et de routage conscient de l'énergie. Nous poursuivons ce pari de bout en bout — substrat, mémoire, boucle d'entraînement, silicium — et nous publions les falsifications aux côtés des réussites.
Lignes de travail
Quatre lignes qui composent le pari
La recherche au-delà des transformers chez ReasonLoom n'est pas un seul article ; ce sont quatre programmes parallèles qui convergent.
Mémoire
La liaison structurée comme substitut aux fenêtres de contexte.
Entraîneur
Une boucle développementale qui ancre la production, avec un vérificateur typé au milieu.
Silicium
Des puces dont la disposition partage la géométrie qu'utilise le substrat.
Falsifications que nous avons publiées en interne
Ce qui n'a pas fonctionné, et ce que cela nous a appris
Des résultats négatifs honnêtes sont un avantage concurrentiel. Chaque entrée ci-dessous est une falsification que nous avons menée nous-mêmes et que nous avons choisi de consigner.
N1
Négatif 1
falsifié · publié
Pont matériel falsifié à l'échelle
Un pont de calcul proposé a été surpassé par une référence dense bien réglée au seuil du million d'entrées. Ce résultat négatif a remodelé la feuille de route silicium.
multi-graines held-out retiré de la feuille de route
N2
Négatif 2
falsifié · publié
Affirmation sur les priors architecturaux falsifiée
Un test A/B propre face à une référence transformer solide a montré que notre architecture post-transformer ne l'emporte pas, à elle seule, ni sur le nommage ni sur la continuité. La valeur robuste réside dans l'objectif d'entraînement et la liaison à mémoire structurée, et non dans l'architecture.
multi-graines held-out retiré de la feuille de route
N3
Négatif 3
falsifié · publié
Le raccourci par distillation s'effondre en table de consultation
Une voie de distillation qui paraissait séduisante dans les premiers tests s'est effondrée en table de mémorisation sous évaluation held-out. Nous la publions comme un avertissement au niveau du paradigme.
multi-graines held-out retiré de la feuille de route
Honnêteté multi-graines
Ce qui survit, avec des barres d'erreur
Chaque affirmation est associée à la variance entre les graines. Une réussite sur une seule graine n'est pas un résultat — une réussite sur cinq en est un, et un non-résultat est rapporté de la même façon.
| Axe | Valeur | ± graines | n | Statut |
|---|---|---|---|---|
| Lifelong retain-advantage | +0.65 | ±0.02 | 5 | survives |
| CLS sample efficiency | 1.90× | ±0.14 | 5 | survives |
| Slot 2-factor lift | +0.82 | ±0.08 | 5 | survives |
| Imprevisto recovery | +0.13 | ±0.09 | 5 | survives · soft |
| Arch-on-naming win | 0.00 | ±0.00 | 5 | retired |
| Arch-on-continuity win | −0.28 | ±0.27 | 5 | retired |
Pourquoi nous publions ce qui ne fonctionne pas
Des résultats négatifs honnêtes sont un avantage concurrentiel. La plupart des affirmations au-delà des transformers dans le domaine ne survivent pas à une évaluation contrôlée ; les nôtres sont éprouvées face à des références solides et soit survivent, soit sont retirées. Nous publions les deux issues, car le domaine avance plus vite lorsque les impasses sont documentées.
Ce qui survit
La mémoire structurée l'emporte comme substitut aux fenêtres de contexte. Une boucle d'éducation développementale l'emporte comme méthode d'entraînement. Les mesures multi-graines séparent ces deux éléments des priors architecturaux qui n'ont pas survécu.