企业官网建设流程全解析

# Component and Dimension Sparsity in Transformer Refusal Mechanisms 论文总结
> 论文信息：arXiv:2610.06903，接收于COLM 2026，作者：Vincent Siu, Glenn Grant‑Richards, Vlad Pavlovich, Yizhou Sun, Dawn Song, Chenguang Wang

## 一、文章主要内容
本文针对大语言模型**拒绝行为（Refusal，即模型拒绝回答有害问题）**的激活 steering（激活干预）机制开展可解释性研究。现有工作可以通过修改模型内部激活实现诱导/抑制拒绝行为，但人们并不清楚拒绝行为究竟编码在Transformer的哪些模块与维度中。

1. 实验使用4个开源权重模型（Gemma2‑2B‑IT、Qwen3‑4B、Mistral‑3.2‑Small、Phi4‑Mini），把拒绝行为的激活干预拆解到**组件粒度（注意力头/层、MLP层）**，筛选出能够复现完整拒绝行为的稀疏组件子集。
2. 实验发现：只操纵上游28‑48%的组件，就可以保留88‑101%完整的steering效果；在这些筛选出的组件内部，仅约50%残差流维度就可以保留85‑98%的干预效果。
3. 拒绝信号存在**两级稀疏性**：①组件级稀疏：只有部分注意力、MLP组件承载拒绝信号；②维度级稀疏：在这些组件内部，也只有部分残差维度携带拒绝信息。拒绝行为不是弥散分布在整个Transformer，而是由一套结构化、可定位的电路机制组装而成。
4. 旋转残差基之后干预效果近乎消失，证明拒绝信号依赖模型原生的特权基（privileged basis），不是随机子空间。
5. 开源全部代码与原