From d5158e64cad8a008794b0e61270c3b18821b41b7 Mon Sep 17 00:00:00 2001 From: Yuren Hao Date: Wed, 5 Aug 2026 06:40:24 -0500 Subject: =?UTF-8?q?EqOLion=20R4(=E7=9C=9F=E5=AE=9E=E8=BD=A8=E8=BF=B9?= =?UTF-8?q?=E5=88=A4=E5=86=B3):=20=E5=86=BB=E7=BB=93=E6=9E=81=E5=9B=A0?= =?UTF-8?q?=E5=AD=90=E5=87=A0=E5=8D=81=E6=AD=A5=E9=80=80=E7=9B=B8=E5=85=B3?= =?UTF-8?q?=E8=87=B3~0.53=3D=E6=85=A2=E6=BC=82=E7=A7=BB=E5=89=8D=E6=8F=90?= =?UTF-8?q?=E5=AF=B9=E7=AC=A6=E5=8F=B7=E6=A8=A1=E5=BC=8F=E4=B8=8D=E6=88=90?= =?UTF-8?q?=E7=AB=8B(=E6=9E=81=E5=9D=87=E8=A1=A1=20=E6=94=BE=E5=A4=A7?= =?UTF-8?q?=E7=97=85=E6=80=81=E5=B0=BE=E9=83=A8,=E5=B0=8F=CF=83=E5=A5=87?= =?UTF-8?q?=E5=BC=82=E5=90=91=E9=87=8F=E9=AB=98=E9=80=9F=E6=97=8B=E8=BD=AC?= =?UTF-8?q?);=20=E5=AD=90=E6=BB=A1=E7=A7=A9=E6=8E=A2=E9=92=88NaN,=20?= =?UTF-8?q?=E6=BB=A1=E7=A7=A9=E5=8D=95=E8=BF=AD=E4=BB=A3=E4=BB=85=E5=B9=B3?= =?UTF-8?q?=E5=9F=BA=E7=BA=BF;=20=E5=AD=98=E6=B4=BB=E7=A9=BA=E9=97=B4?= =?UTF-8?q?=E6=94=B6=E7=AA=84=E5=88=B0=E6=B8=A9=E5=90=AF=E5=8A=A8=20?= =?UTF-8?q?=E5=85=A8NS(3-5=C3=97)=E6=88=96Occam=E8=87=82(=E8=A1=8C/?= =?UTF-8?q?=E5=88=97AGC)=E5=8D=87=E4=B8=BB=E5=80=99=E9=80=89;=20=E9=99=90?= =?UTF-8?q?=E5=AE=9A=3D=E6=9C=80=E6=97=A9=E6=9C=9F=E8=BD=A8=E8=BF=B9?= =?UTF-8?q?=E4=B8=BA=E6=9C=80=E9=9A=BE=E5=B7=A5=E5=86=B5,=20=E6=99=9A?= =?UTF-8?q?=E6=9C=9F=E9=87=8Ddump=E5=90=8E=E5=86=8D=E5=88=A4=E3=80=82=20?= =?UTF-8?q?=E9=99=84:=20--dump=5Fmom=E6=8E=A2=E9=92=88=E5=AE=9E=E8=A3=85(6?= =?UTF-8?q?01=E6=AD=A5=C3=973=E7=9F=A9=E9=98=B5/276MB)=E3=80=82?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Co-Authored-By: Claude Fable 5 Claude-Session: https://claude.ai/code/session_014FAPDWQ49M5Ye3NpTndTpn --- docs/hardware/EQOLION_DESIGN.md | 11 +++++++++++ 1 file changed, 11 insertions(+) (limited to 'docs/hardware') diff --git a/docs/hardware/EQOLION_DESIGN.md b/docs/hardware/EQOLION_DESIGN.md index 5fc7127..7ba1577 100644 --- a/docs/hardware/EQOLION_DESIGN.md +++ b/docs/hardware/EQOLION_DESIGN.md @@ -67,3 +67,14 @@ sign(M) vs sign(polar(M)) 一致率**中位 0.700（0.647-0.816）**，谱偏斜 3. 已死：O(1) 秩一探针；同步锚。 **下一轮证伪**：真实动量的逐步轨迹（11M 短跑 dump 每步动量），在其上跑搭车/块探针追踪， 判据 = 追踪态的 sign 一致率显著超过 0.70 基线且开销入账。 + +**R4（2026-08-05，真实轨迹判决，601 步 C128 动量 dump）**： +- 基线复核：sign(M) vs sign(polar) 在轨迹上 0.67-0.73（与 ckpt 测量一致）。 +- **冻结极因子基线 0.52-0.53 ≈ 随机**——极因子的符号模式在几十步内退相关。"动量慢漂移⟹极因子慢漂移" + 的前提对**符号模式**不成立：极均衡把全部 σ 拉到 1，恰恰放大了病态尾部方向，而小 σ 方向的奇异向量 + 在噪声下高速旋转。**极因子本质上是高翻腾对象**（这同时解释了 Muon 为何有效与为何难追）。 +- 子满秩探针（k=d/8, d/4）步长未调导致 NaN（0.000 行）；满秩单迭代勉强存活但只打平 sign(M) 基线。 +- **存活空间收窄**：(a) 温启动的完整 NS（每步全秩 2-5 次迭代 ≈ 从头的 3-5× 节省，非数量级）； + (b) Occam 臂升为主候选——行/列 AGC 可能拿走谱均衡里"有用的部分"而不碰病态尾部； + (c) 限定：本轨迹取自训练最早期（步 100-600, LR 峰值区, 漂移最快的最难工况）——**晚期 ckpt 重 dump + 后再判死刑**。 -- cgit v1.2.3