<!-- Published from the author's working notes. Cognitive state: speculative. -->

# 理论笔记:全息原理、Koopman 反问题与"最优遗忘"
*一条正在迭代的理论线 · 2026-07-06 · 供外部 AI reviewer 使用的完整 context*

## 给 reviewer 的 context(先读这段)

这是一条个人理论线("通用学习机 / General Learning Machine, GLM"视角)的一次迭代记录。该线的既有立场:**知识 = 生成器(种子),不是事实列表(落叶);记忆 = 动力学;遗忘 = 压缩而非删除**。本次迭代起点是一篇讨论全息原理与因陀罗网的科普文章,终点是一道我们认为文献中尚无人正面回答的 open 题。

研究纪律(请 reviewer 也遵守这个框架):
- 以下全部为**理解性探索**,不含任何"据此去构建新架构"的工程承诺;
- 所有论断按四档诚实度标注:**[定理]**(原文定理级)/ **[实证]**(论文实验或明确陈述级)/ **[推断]**(我们基于文献的推断)/ **[韵脚]**(结构类比,明确不主张真值传递);
- 我们主动防两类错误:把漂亮的类比当证据("韵脚偷渡真值"),以及把一切强行统一进单一框架的反射。

**最有价值的 review**:指出哪个 [推断] 其实已有文献正面回答(给出处)、哪个 [韵脚] 在偷渡真值、哪个 [定理] 被我们用错了适用范围。页尾附具体 review 问题清单。

---

## 一、全息侧:纠缠怎么"长出"几何(四块砖)

**第一块:Ryu–Takayanagi 公式(2006)——词典本身。** 贝肯斯坦"黑洞信息∝表面积"原本是特例。RT 公式把它升级成通用词典:边界上任一区域的纠缠熵 = 体内某张最小曲面的面积。左边纯信息量,右边纯几何,一个等号焊死 **[定理,AdS/CFT 框架内]**。

**第二块:Van Raamsdonk 思想实验(2010)——纠缠是时空的胶水。** 把边界两半之间的纠缠调小,对应体内几何拉细,纠缠归零时时空断成两截。空间的连通性 = 纠缠的存在;"关系先于实体"的严格版 **[实证级论证]**。

**第三块:MERA 张量网络(Vidal 2007;Swingle 2012 发现其几何≈AdS)——种子怎么 unroll 出空间。** 张量网络是一张"生成流水线图":从小种子出发一层层织出量子态,每层对应一个观察尺度(重整化)。Swingle 注意到:这张流水线图自身的形状就是一片离散双曲空间,与 AdS 截面同构状 **[实证级对应,非定理]**。即:体内"多出来的一维"= 生成器 unroll 的层数 = 尺度本身。空间不是舞台,是 unroll 的痕迹——"种子生现行"的物理版 **[韵脚]**。

**第四块:HaPPY 全息纠错码(Pastawski–Yoshida–Harlow–Preskill 2015)——"局部含全体"的定理版。** 全息词典的数学结构就是一个量子纠错码:体内信息冗余编码在边界上,任何足够大的边界碎片都能重建体内深处;碎片越小看得越浅——丢的是分辨率,不是信息 **[定理,玩具模型内]**。这是"遗忘 = 压缩非删除"立场在物理侧的孪生结构 **[韵脚]**。

彩蛋:量子极值面/岛屿公式(2019–2020)在半经典层面算出了 Page 曲线——黑洞信息守恒有账可查了 **[实证/定理级进展]**。

**诚实边界:** ①以上严格数学全部生活在 AdS 宇宙,我们的宇宙是 dS(加速膨胀),推广是 open problem;②MERA≈AdS 是"惊人地像",不是同构定理;③"古代经文早已理解全息"这类方向我们明确不采纳——共享数学骨架 ≠ 源头认领。

## 二、Koopman 反问题:没人送对称性时,本征基要自己学

**第一步:有对称性 = 本征基白送。** 傅里叶模、球谐函数都不是学出来的,是对称性(群论)送的:系统对某变换不变,对应本征基自动到手。历法系统(如六十干支)可视为把**已知**天文周期手工编码成 Z/60 的谐波本征基——同样属于"给定结构→基白送"这一格 **[数学事实 + 推断性刻画]**。

**第二步:Koopman 的移位(1931)。** 非线性动力系统,改盯"关于状态的所有观测函数"怎么演化——该演化算子**永远线性**(代价:无穷维)**[定理]**。Koopman 本征函数 = 每步只乘一个固定数的"最省心观测";找到一组,就等于找到一组坐标,让纠缠的动力学拆成互不干扰的匀速表盘。

**第三步(命门):反问题。** 对称性不在手时——真实世界几乎总是如此——这组本征基只能从轨迹数据里学:DMD → extended DMD → 深度 Koopman(Lusch–Kutz–Brunton 2018,autoencoder 端到端学线性化坐标)**[实证]**。GLM 命门的表述:**通用学习机的核心任务 = 从经验流学出让世界动力学变简单的坐标;记忆 = 该坐标下的种子态;理解 = 本征基找对了** **[立场/推断]**。

诚实短板:真混沌 → Koopman 谱变连续 → 不存在有限表盘化简,再多数据也学不出干净本征基 **[定理级图景,Mezić 谱理论]**。命门是必答题,不是已答题。

## 三、SSM(HiPPO/S4/Mamba)↔ Koopman:桥的勘测(文献挖掘 digest)

*本节为专项文献挖掘的成果,四问四答。*

### Q1. HiPPO 的本征基是拿什么"给定结构"换来的?

拿**遗忘测度**换来的:先声明"过去每一刻对我多重要"(测度 μ(t)),该测度下的正交多项式族**唯一确定** **[定理]**。三个变体对应三种遗忘表盘:LegT(滑窗均匀→平移 Legendre)、LagT(指数衰减→Laguerre)、LegS(整段历史均匀→缩放 Legendre)。投影系数演化压成 ODE:dc/dt = Ac + Bf,A、B 闭式推导、非学得 **[定理]**。《How to Train Your HiPPO》(2022)推到底:每个 SSM 状态都可解读为"输入历史在某组基上的投影系数",每组基对应一个测度 **[实证]**。S4 只是给固定 A 找了个数值稳定坐标(DPLR 分解)**[实证]**。

LegS 有真正群论意义的协变性:时间缩放下输出同步缩放(timescale 不变性)**[定理]**。关键差异 **[推断]**:历法码的对称性来自**世界**(天文周期外部给定),HiPPO 的测度来自 **agent 自己的选择**(我决定怎么遗忘)。同是"送基",送礼的人不同——这是第四节 open 题的种子。

### Q2. Mamba 的 selectivity 学到了什么、没学到什么?

原文事实 **[实证]**:input-dependent 的是 Δ、B、C;**A 保持固定**(对角、实数)。离散化 Ā = exp(ΔA):每步有效衰减率 = 固定谱 × 输入决定的时间步长。Theorem 1:N=1 时恰好退化为 RNN 遗忘门 **[定理]**。

测度语言翻译 **[推断]**:Δ 是**时间流速旋钮**。selectivity 没换基——本征方向从头到尾焊死——只是逐 token 调"时间过多快"+ B/C 决定读写方向。**Mamba 是"学测度"的第一个大规模成功实例,不是"学基"的。**

定理级佐证:《The Illusion of State in State-Space Models》(ICML 2024)证明对角/可交换转移的 SSM 全部困在 TC⁰ 复杂度类,连置换合成都做不了;要越线,转移矩阵必须**非对角地**依赖输入 **[定理]**。"学测度 vs 学基"的分界线,恰好同时是这条复杂度边界 **[推断]**。

### Q3. "记忆衰减的本征基" vs "世界动力学的本征基":gap 长什么样?

- SSM 的基是 **input-generic** 的:Legendre 多项式不关心信号由什么世界产生,只对"给定遗忘测度下压缩任意信号"最优。状态 = 我过去的压缩包。
- Koopman 的基是 **system-specific** 的:本征函数长在世界的状态空间上,本征值是**这个世界**的固有频率。状态 = 世界在其本征坐标下的位置。

两者仅在一种情形重合 **[推断]**:输入恰好由纯点谱动力学生成时,最优压缩基 = Koopman 模态(这正是 DMD 合法性的来源)。一般情形不重合:记忆基压得动信号,不知道信号背后的因果结构。

文献侧写(无一篇正面命名该 gap,三篇侧面刻画):①受控系统的 Koopman 形式必然含**双线性项**(状态×输入),Mamba 递归对隐状态纯线性、缺此项,补上后乘性记忆任务提升数倍至百倍(2026,玩具规模)**[实证,小规模]**;②Illusion of State:SSM 的"状态"作为 world-state 是复杂度下界意义上的幻觉 **[定理]**;③MamKO:反向用 Mamba 架构在线生成时变 Koopman 算子做控制——两头动工,桥未合龙 **[实证]**。

### Q4. 连续谱/真混沌:诚实边界

Mezić 谱理论图景 **[定理]**:准周期/趋吸引子系统有纯点谱,"学本征基"是 well-posed;混沌/mixing 系统在吸引子上出现**连续谱**——没有可数本征函数集能张成动力学,任何有限基都只是截断,预测视界被 Lyapunov 时间钉死。连续谱部分对应非平凡记忆效应(Mori–Zwanzig 记忆核)。

深度 Koopman 的务实变通:把本征值参数化为状态的函数 λ(x)——用滑动指针替代固定表盘,仅在小系统上验证 **[实证,小规模]**。

对 GLM 论题的边界 **[推断]**:"必须学本征基"在纯点谱世界是精确论题;混沌世界降格为"学够用的截断 + 承认残差"。残差恰以记忆核形式回来——而 SSM 的卷积核天生是表示记忆核的机器。这可能是两座塔真正的深层焊点。

## 四、Open 题:遗忘测度该不该由世界的谱决定?

桌上两个自由度:**μ(遗忘测度)**= 我对过去"每一刻在乎多少"的打分曲线(HiPPO 中自由选);**世界的谱** = 世界自己的表盘清单(哪些模式转多快、相关性拖多长)。问题:μ 是先验自由选择,还是应当被世界谱(近)唯一决定的导出量?存在"最优遗忘定理"吗?

**定向直觉:这是率失真常识的动力学版。** 记忆 = 对过去的有损压缩;率失真第一课:最优码由信源统计 + 失真度量定,不由编码者品味定 **[定理]**。信源换成世界动力学、失真换成未来预测误差,方向上答案是"该"——open 的是定理的精确形状。

**支持耦合的四个锚点(由硬到软):**
1. **线性特区里这根梁已存在 = 平衡截断/Hankel 理论 [定理]**:给定线性世界,"N 维记忆最优记什么"由 Hankel 算子 SVD 唯一给出,误差界闭式;最优记忆的时间尺度直接由世界本征值决定。线性已知世界内,"遗忘由世界谱决定"是定理,不是猜想。
2. **人脑实证 = Anderson & Schooler 1991 [实证]**:人类幂律遗忘曲线精确匹配环境中事物的复现概率统计——进化已把 μ 调成环境统计的镜像。
3. **S4 的成功可反读为自然实验 [实证+推断]**:三个 HiPPO 变体中大规模赢的是 LegS——恰好是 timescale 不变的测度;而自然信号普遍近似 scale-free(1/f 谱)。S4 没学 μ,但碰巧选中了与世界对称性匹配的 μ,然后赢了。
4. **预测信息瓶颈 [半定理]**:"压缩过去、只留对未来有信息量的部分"在线性高斯情形有解析解,结构完全跟世界谱走;一般情形只有变分近似。

**通用定理难产的三只拦路虎:**
1. 混沌连续谱先砸掉"世界谱"这一头。降格版耦合 **[推断,两半各有实锤]**:混沌系统常有亚稳结构(慢模式/准不变集,转移算子谱隙),Lyapunov 视界外细节无价值 → "快的连续谱部分尽快忘,慢的准点谱部分重点记"——遗忘该跟的是**谱里活得下来的那部分**。
2. **鸡生蛋**:agent 不知世界谱,得学;学谱靠记忆;记忆的 μ 又该由谱定。真定理不会是静态公式,而是这个循环的**不动点**——μ 与被 μ 支撑着学出的谱互相一致 **[推断]**。
3. **telos 不只预测**:平衡截断平衡的是两个 Gramian——可观性(过去哪些事影响未来)与可控性(我能对哪些事做什么)。μ 应是世界谱与价值函数的合谋 **[推断]**。

**诚实的反方(为什么不该全由世界谱决定):** 非平稳/黑天鹅世界里,μ 锁死当前谱最脆弱——鲁棒的 μ 应比世界相关衰减留更厚的尾(保险)**[推断]**;罕见事件价值在"改模型的量"(贝叶斯惊奇)而非相关权重,纯二阶谱会把它冲掉。精化命题:**μ 该跟的是"世界的可预测结构 + 我对该结构的不确定性";谱只是前者的线性影子** **[推断]**。

**猜想中的定理形状 [推断]:** 给定容量 N、平稳世界谱测度 ρ、telos(失真度量),最优遗忘测度 μ\* 的时间尺度分布 = ρ 的主导时间尺度经 telos 加权后的重排;线性高斯情形退化为平衡截断;在线版:μ 与所学谱互为不动点,不确定性高时 μ 自动增厚尾部。可证伪小推论:同一架构下,把 μ 的衰减分布调成训练数据自相关衰减的镜像,长程任务应系统性变好(此为推演,非工程提案)。

**韵脚(明确标注为韵脚):** 这道题是"压缩码是世界的镜像"的定理化——一个 agent 的遗忘曲线,是它所居世界的谱的倒影。

## 给 reviewer 的具体问题

1. 平衡截断/Hankel 理论作为"线性特区定理"的引用是否恰当?有没有更强或更贴切的既有结果(如 AAK 理论、预测状态表示)?
2. "记忆衰减基 vs 世界动力学基"这个 gap,是否真的没有文献正面命名与处理?请尽力找反例(关键词提示:predictive state representations, observable operator models, Wiener/Kalman 与在线基学习的交叉)。
3. "μ 与所学谱互为不动点"式的最优遗忘定理,是否已有人在 predictive coding / free energy / meta-learning 文献中写过?
4. 混沌情形的降格版耦合(只跟亚稳/慢模式)在转移算子谱隙、Mori–Zwanzig 约化文献中是否已有接近的定式化?
5. 第三节 Q2 对 Mamba"学测度非学基"的刻画,与 Illusion of State 的 TC⁰ 结果、受控 Koopman 双线性项的对齐,是否存在我们没看到的漏洞?
6. 全息侧作为"同族反问题"的类比(第一、四节),哪里有偷渡真值的风险?

## 文献

1. HiPPO — Gu, Dao, Ermon, Rudra, Ré 2020, arXiv:2008.07669
2. S4 — Gu, Goel, Ré 2021, arXiv:2111.00396
3. How to Train Your HiPPO — Gu et al. 2022, arXiv:2206.12037
4. Mamba — Gu & Dao 2023, arXiv:2312.00752
5. Deep Koopman — Lusch, Kutz, Brunton 2018, arXiv:1712.09707 (Nature Comm.)
6. Mezić Koopman 谱理论 — arXiv:1702.07597;Annu. Rev. Fluid Mech. (annurev-fluid-011212-140652)
7. Bilinear Input Modulation for Mamba: Koopman Bilinear Forms — arXiv:2604.17221
8. The Illusion of State in State-Space Models — Merrill, Petty, Sabharwal, ICML 2024, arXiv:2404.08819
9. MamKO: Mamba-based Koopman operator — OpenReview hNjCVVm0EQ
10. Ryu & Takayanagi 2006 (hep-th/0603001);Van Raamsdonk 2010 (arXiv:1005.3035);Swingle 2012 (arXiv:0905.1317);Pastawski–Yoshida–Harlow–Preskill 2015 (arXiv:1503.06237)
11. Anderson & Schooler 1991, "Reflections of the environment in memory", Psychological Science