研究領域 · プログラム · 4つのライン · rev. 2026-05

トランスフォーマーを超えて

研究上の賭け——成果と同じページに否定的な結果も載せて。

生物学を基盤とした計算と基板ネイティブな認知——否定的な結果も含めて。

引用

ReasonLoom Research · トランスフォーマーを超えて · 内部記録、2026年。

なぜこれが重要なのか

進歩がどこから生まれるのかについての、異なる賭け

過去10年の支配的な賭けは「アテンションをスケールさせること」でした。私たちの研究上の賭けはそれとは異なります——次の一歩は異なる基板であり、それはスパースな集団符号、局所的な再帰、そしてエネルギーを意識したルーティングを軸に組織化されます。私たちはその賭けをエンドツーエンドで——基板、メモリ、トレーニングループ、シリコンまで——追求し、成果と並べて反証も公開します。

取り組みのライン

賭けを構成する四つのライン

ReasonLoomにおけるトランスフォーマーを超えた研究は、単一の論文ではありません。収束していく四つの並行プログラムです。

基板

スパースで、局所的に再帰的で、エネルギーを意識した計算を、第一級の研究対象として。

メモリ

コンテキストウィンドウの代替としての構造化バインディング。

トレーナー

中央に型付き検証器を据え、産出を地に足のついたものにする発達的ループ。

シリコン

基板が用いるジオメトリをそのレイアウトで共有するチップ。

私たちが社内で公開してきた反証

うまくいかなかったこと、そしてそれが教えてくれたこと

誠実な否定的結果は競争上の優位性です。以下の各項目は、私たち自身が実施し、あえて記録に残すことを選んだ反証です。

N1

否定的結果 1

反証 · 公開済み

スケールにおいて反証されたハードウェアブリッジ

提案された計算ブリッジは、100万エントリの地点で、よく調整された密なベースラインに上回られました。この否定的結果がシリコンのロードマップを作り直しました。

マルチシード ホールドアウト ロードマップから撤退

N2

否定的結果 2

反証 · 公開済み

アーキテクチャの事前知識に関する主張の反証

強力なトランスフォーマーのベースラインに対するクリーンなA/Bテストは、私たちのポストトランスフォーマー・アーキテクチャが、それ単独では命名にも継続性にも勝らないことを示しました。堅牢な価値は、アーキテクチャではなく、トレーニング目的関数と構造化メモリのバインディングに宿ります。

マルチシード ホールドアウト ロードマップから撤退

N3

否定的結果 3

反証 · 公開済み

蒸留のショートカットはルックアップに崩れ落ちる

初期テストでは魅力的に見えた蒸留経路は、ホールドアウト評価のもとで記憶テーブルに崩れ落ちました。私たちはこれをパラダイムレベルの警告として公開します。

マルチシード ホールドアウト ロードマップから撤退

マルチシードの誠実さ

生き残ったもの——誤差棒つきで

すべての主張には、シード間のばらつきが添えられています。一つのシードでの勝利は結果ではありません — 五つのシードを横断した勝利こそが結果であり、非勝利も同じように報告されます。

± シード n ステータス
Lifelong retain-advantage +0.65 ±0.02 5 survives
CLS sample efficiency 1.90× ±0.14 5 survives
Slot 2-factor lift +0.82 ±0.08 5 survives
Imprevisto recovery +0.13 ±0.09 5 survives · soft
Arch-on-naming win 0.00 ±0.00 5 retired
Arch-on-continuity win −0.28 ±0.27 5 retired
01

うまくいかないものを公開する理由

誠実な否定的結果は競争上の優位性です。この分野におけるトランスフォーマーを超えた主張のほとんどは、統制された評価を生き残りません。私たちのものは強力なベースラインに対して検証され、生き残るか撤退するかのどちらかです。私たちは両方の結果を公開します。行き止まりが文書化されているとき、この分野はより速く進むからです。

02

生き残ったもの

構造化メモリは、コンテキストウィンドウの代替として勝ちます。発達的な養育ループは、トレーニング手法として勝ちます。マルチシード測定が、この二つを、生き残らなかったアーキテクチャの事前知識から切り分けます。