一、先补齐你已列出的算子(归类)
1. 线性代数/矩阵运算类
矩阵分解(SVD、Eig、Cholesky、QR、LU、极分解、Schur)、各类距离(欧氏、曼哈顿、余弦、测地线距离、KL散度、Wasserstein距离)、正交/流形约束投影映射、张量缩并、克罗内克积、Moore-Penrose伪逆。
2. 流形微分几何高阶运算(你说的对数/指数映射)
exp/log\exp/\logexp/log映射、测地线求解、黎曼梯度、切空间投影、收缩映射Retraction、李群伴随映射、Baker–Campbell–Hausdorff(BCH)公式。
3. 概率与分析运算
数值微分/偏导、雅克比矩阵、海森矩阵、数值定积分/不定积分、概率密度求值、期望/方差/协方差、对数似然、熵、互信息、条件概率积分。
二、同体系下工程完全可数值计算、多模态/流形学习高频在用补充全集
按五大模块整理,全部可代码落地(PyTorch/Jax/Geomstats/Pymanopt)
模块1:黎曼流形内蕴几何运算(最贴合你切空间-指数对数体系)
- 度量张量 & 拉回度量 Pullback Metric
多模态不同模态私有流形度量拉回至共享联合流形,统一内积规则,解决异构模态度量不兼容问题,多模态对齐底层数学。 - 克里斯托费尔符号 Christoffel Symbol
数值求解测地线方程、协变导数必备,通用流形上梯度传播依赖。 - 协变导数、黎曼Laplace–Beltrami算子
流形上光滑函数扩散、表征平滑、图神经网络几何正则项。 - 曲率计算:黎曼曲率张量、Ricci曲率、标量曲率、平均曲率
用于判断表征空间紧致性、流形坍塌检测、模型表征退化监控。 - 流形插值、测地线中点、黎曼均值(Fréchet均值)
向量加权平均不能直接欧氏相加,必须Log切空间平均再Exp回流形;CLIP向量融合、姿态插值核心。 - 平行移动 Parallel Transport
切向量在流形两点间平移,扰动传播、流形上数据增强。 - 体积元、流形上积分
单位球面潜空间概率积分、密度估计、归一化流体积矫正。
模块2:李群/群表示论可计算算子(机器人姿态、等变多模态)
- 伴随算子 Adjoint、李代数括号(泊松括号)
SE(3)/SO(3)扰动模型、微小姿态增量复合。 - BCH近似公式
两个微小扰动exp(δ1)exp(δ2)≈exp(δ1+δ2+12[δ1,δ2])\exp(\delta_1)\exp(\delta_2)\approx\exp(\delta_1+\delta_2+\frac12[\delta_1,\delta_2])exp(δ1)exp(δ2)≈exp(δ1+δ2+21[δ1,δ2]),SLAM、具身智能误差累积计算。 - 不可约表示分解、CG系数、Wigner-D矩阵
3D等变网络(e3nn)、点云多模态、旋转不变表征。 - 群作用、不变量提取
旋转/平移等变特征,保证图像姿态变化后向量语义不变。
模块3:张量与谱分析高级运算(表征降维、模态解耦)
- 图拉普拉斯、谱分解、热核滤波
流形学习Isomap/LLE、图模态关联、特征平滑、异常表征剔除。 - 张量分解:CP分解、Tucker分解、张量奇异值分解t-SVD
超高维多模态联合张量压缩、模态因子解耦、内存优化。 - 莫尔–彭罗斯广义逆、低秩逼近、核范数最小化
投影头矩阵低秩约束,防止跨模态投影过拟合。 - Sinkhorn迭代、最优传输OT矩阵
模态分布对齐、跨模态匹配代价矩阵求解、多模态分布匹配损失。
模块4:概率几何 & 信息几何运算(分布空间也是黎曼流形)
- Fisher信息度量矩阵
概率分布流形的黎曼度量,自然梯度下降、贝叶斯神经网络优化。 - α-散度、α-联络
广义KL散度,分布偏移度量、域自适应多模态迁移。 - 微分熵、流形上互信息、条件互信息
衡量图像-文本表征依赖度,约束跨模态对齐强度。 - Wasserstein距离(1/2阶)、熵正则化OT
模态分布差异量化,比KL更鲁棒,用于多模态域漂移检测。 - 归一化流Jacobian行列式对数绝对值
可逆表征变换概率密度矫正,VAE、Flow模型隐空间概率计算。
模块5:拓扑与持续同调(高阶空间结构可计算)
- 持续同调PH、条形码、贝蒂数
检测多模态嵌入流形是否出现空洞、聚类簇数量、表征拓扑坍塌(判断模型是否学碎语义)。 - Morse函数、临界点检测
语义表征局部极值点挖掘,对应关键概念锚点。
模块6:优化与变分法可计算算子(训练/微调落地)
- 黎曼随机梯度下降RSGD、共轭梯度、信赖域法
球面/SO(3)流形参数更新,严格约束参数始终在合法流形上。 - 变分导数、欧拉–拉格朗日方程数值求解
正则项极小化、表征光滑性约束。 - 收缩映射Retraction(Exp低成本近似)
工程替代指数映射,降低算力开销。
模块7:泛函与积分变换类
- 傅里叶变换、球谐函数展开
球面嵌入向量频域分解、旋转对称表征编码。 - 路径积分数值近似
扩散模型概率路径积分、生成潜空间采样权重。 - 残差积分、留数定理数值逼近
复杂似然函数积分简化。
三、回归你上一个问题:向量维度变化&预测有效的底层约束(精简版)
1. 维度升降必须遵守的数学规律
- 升维(编码器内部):维度 ≥ 数据内在本征维度,保证独立语义因子线性可分,映射为光滑浸入映射,无奇点、不自交;
- 跨模态投影:所有模态输出严格同维,嵌入同一个黎曼流形,度量张量拉回统一;
- 最终表征维度:不能过小(维度坍缩,测地线距离失效)、不能过大(体积弥散,相似度信噪比暴跌);工程常用512/1024,匹配语义本征维数。
2. 保证预测不失效的运算铁律(最关键)
- 流形上禁止直接向量加减:必须log\loglog切空间线性运算 →exp\expexp回流形;
- 共享空间必须为紧致黎曼流形(如单位超球面Sd−1S^{d-1}Sd−1),距离良定义、梯度闭环;
- 向量分布满足各向同性+均匀铺展,奇异值平缓,不坍缩到低维子流形;
- 概率计算依赖流形体积元矫正,归一化Jacobian行列式,保证密度积分自洽;
- 优化更新使用黎曼梯度+切空间投影+指数映射回退,参数始终合法。
四、极简可背诵清单(全部可代码实现)
已有
矩阵分解、各类距离、投影映射、Exp/Log映射、数值微分、定/不定积分、概率期望方差熵互信息
新增高频可计算项
- 黎曼:度量张量、Christoffel符号、协变导数、曲率、Fréchet均值、平行移动、测地线方程
- 李群:BCH公式、伴随映射、李括号、CG系数等变表示
- 谱/张量:图拉普拉斯、张量分解、Sinkhorn最优传输、低秩逼近
- 信息几何:Fisher度量、α散度、Wasserstein距离、流形熵
- 拓扑:持续同调、贝蒂数
- 优化:黎曼梯度下降、Retraction收缩映射、变分极小化
- 变换:球谐展开、傅里叶变换、流形体积积分