summaryrefslogtreecommitdiff
path: root/docs/hardware
diff options
context:
space:
mode:
authorYuren Hao <yurenh2@illinois.edu>2026-08-05 04:24:55 -0500
committerYuren Hao <yurenh2@illinois.edu>2026-08-05 04:24:55 -0500
commit61d55ff1fdf53fd58d8939087ce81f92c7197b7f (patch)
treecbb88422fa64bd52cba168547406c6c2b9c524ba /docs/hardware
parent2bb35988232d5d2e84a9b6afa617c4dc3de776ec (diff)
表征方案修订(用户纠正): 优化器建模义务不因不造板而消失
撤回"Muon问题消解"的说法: 消失的只是台架工程风险, 被模拟的系统必须带基底做得出的优化器。 新增: 测量项#6写入路径(单步增量/上下不对称/电荷注入/最小可写增量=硬件版舍入地板, 与fp32 读出地板同构=预注册预测点); 优化器行为级设计节(SGDM/Lion/factored-Adam三候选全部从元件表 取参数, 旧"Lion发散"判决系修复前旧架构须复测); 优化器价目表实验从可选升级为必做(理想数学 版与叠加实测缺陷版两级分开报); 增设混合信号对照臂使全模拟vs混合信号成为可测轴。 Co-Authored-By: Claude Fable 5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_014FAPDWQ49M5Ye3NpTndTpn
Diffstat (limited to 'docs/hardware')
-rw-r--r--docs/hardware/COMPONENT_CHARACTERIZATION_PLAN.md22
1 files changed, 20 insertions, 2 deletions
diff --git a/docs/hardware/COMPONENT_CHARACTERIZATION_PLAN.md b/docs/hardware/COMPONENT_CHARACTERIZATION_PLAN.md
index 805419a..183ccba 100644
--- a/docs/hardware/COMPONENT_CHARACTERIZATION_PLAN.md
+++ b/docs/hardware/COMPONENT_CHARACTERIZATION_PLAN.md
@@ -27,7 +27,13 @@
2. **单元间 + 同片通道间散布**(买双/四通道芯片的原因:片内失配免费拿)→ 持久缺陷分布的 σ 和形状(正态性检验);
3. **噪声谱**:输入折合噪声 PSD、1/f 拐点(音频 ADC 采样 + Welch 法)→ 刷新噪声幅度;
4. **漂移**:上电后 30 分钟漂移曲线 + 粗温度系数(吹风机/冰袋两点即可)→ 慢时变项;
-5. **电容单测泄漏**:充电后开路电压衰减 → 权重保持时间常数。
+5. **电容单测泄漏**:充电后开路电压衰减 → 权重保持时间常数;
+6. **写入路径(08-05 补,用户指出的缺口)**:权重不只被"读",每步还要被"更新"——更新通路
+ 自己的缺陷是优化器行为的物理来源,必须单列:
+ - DAC 码写入:单步增量的实际大小 vs 标称、上调/下调不对称性、增量对当前存值的依赖(非线性);
+ - 电容增量写:单脉冲电荷注入量及其散布、连续小增量的累积误差、写-读串扰;
+ - 更新粒度地板:能可靠写进去的最小增量(低于它的更新丢失 = 硬件版的舍入地板,
+ 与 fp32 读出地板同构,同一条 err≈eps/r 律应适用——预注册预测点)。
纪律:每单元编号留档、原始波形全存、温度记录、CSV + 拟合脚本一并入库 → **这张表本身就是
可发表的公共品**("physical-learning 模拟的器件级 imperfection 数据集",正合 Eder 的口味)。
@@ -38,7 +44,19 @@
- ADC 有效位数直接给对比读出的物理 epsilon,用已验证的地板律 err≈eps/r 先做**预测**再仿真验证
(预注册式:律先出数,仿真只判对错)。
-## 不做的事
+## 优化器的行为级设计与验证(08-05 补:模拟路线不豁免这一层,只豁免造它)
+被模拟的系统必须带一个**基底做得出的优化器**;Muon 只能留在"GPU 参照臂"。三个候选,全部
+从上面的元件表取参数:
+| 候选 | 物理实现 | 缺陷来源(均在清单内) | 现状 |
+|---|---|---|---|
+| SGDM | 动量 = 电容+泄漏的积分器(天然 EMA) | 电容泄漏速率、写入路径 #6 | 旧判决"发散"来自修复前的旧架构,**须复测** |
+| Lion/sign | 动量积分器 + 比较器取号 + 定幅脉冲写 | 比较器阈值失配、写入不对称性 | 同上须复测 |
+| factored-Adam | 行/列统计 AGC(平方器+RC+除法器) | 晶体管阵列失配、乘法器刻度误差 | 从未在级联 LM 上验证过质量 |
+**由此"优化器价目表"实验从可选升级为必做**:级联 11M/18M 全程跑 EP×{SGDM, Lion, AdamW,
+Adafactor(≈factored-Adam 的行为级)}对照 Muon 基线——先理想数学版定质量折价,再叠加实测缺陷
+(泄漏=动量时间常数、写入粒度=更新舍入)定物理版折价。两级分开报。
+模拟里同时保留一个**混合信号对照臂**(数字优化器+按 ADC 位数量化的梯度读出),把"全模拟 vs
+混合信号"的质量-能量取舍变成可测量的轴而不是立场。
- 不搭学习环路、不做闭环收敛调试(原 MVP rung 1-2 的主要风险项全部删除);
- 元件间连线只到"单元测试夹具"级,不追求系统级板。