企业官网建设流程全解析

做微博评论的情感二分类，我前后折腾了三周左右才把整个链路完全跑通。刚开始很多人问我为什么要把LSTM和CNN拼在一起用，还要额外加载GloVe预训练词向量，看起来像把两套不相关的东西硬凑到一起。但等我把对比实验做完，发现这组搭配处理中文短文本其实非常务实。这篇文章我就把整个项目完整拆开，包括为什么这样选型、数据怎么洗、模型怎么搭、训练怎么调参，以及我踩过的坑，尽量让看完的人能直接照着做。

如果你正在做中文短文本分类、商品评论情感分析，或者想用一个靠谱的深度学习方案做评论倾向判断，这篇文章应该能帮你省掉不少试错时间。整体方案不追求花哨，追求的是效果稳定、容易复现。后面我会把每个关键参数的思考过程都写出来，包括哪些地方容易翻车。

1. 整体设计思路与方案选型

1.1 任务拆解：把“情感判断”变成“文本分类”

先明确这个项目到底在解决什么问题。微博评论文本很短，口语化严重，经常有网络梗、表情、反讽、缩写，传统基于关键词匹配的规则几乎没法应付。于是我把它抽象成一个标准的文本二分类问题：输入一条评论文本，输出正向或负向的概率。但文本分类听起来简单，真正做起来有几个绕不开的痛点。

第一，短文本信息密度极低。一条微博评论可能只有十几个字，能提供判断依据的词可能只有两三个，信息越少对特征提取的要求就越高。第二，中文不像英文天然分词，缺少空格边界，分词结果直接影响模型能看到的“词”是什么。第三，微博评论里大量存在“还行吧”“不至于”“也就那样”这类模棱两可的表达，单纯统计词频会失效。第四，反讽和语气转折特别多，字面是褒义但实际情绪是负面的，这类样本单靠局部关键词容易误判。

这些痛点决定了模型必须具备两种能力：一是抓取局部关键组合的能力，二是理解语序和上下文转折的能力。前者是CNN的强项，后者是LSTM的强项，所以把它们拼在一起从任务角度是顺理成章的。我最后选了“双通道并行”的结构，一个通道用CNN，另一个通道用BiLSTM，然后把两路特征拼接起来再进入分类层。

说到为什么不是串行结构，比如CNN接LSTM或者LSTM接CNN。串行结构的问题是信息会经过一次压缩之后再进入另一个结构，前面结构提取不到的信息后面很难补回来。并行双通道的好处是两条分支互不干扰，各自从原始序列里提取自己擅长的特征，最后再做融合。我在实验里对比过串行和并行，并行在F1上大概高了1到2个点，稳定性也更好，所以后面就固定用并行双通道。

1.2 为什么是LSTM+CNN这个组合

我习惯用一个类比来解释这个组合：CNN像一台“局部扫描雷达”，它通过不同尺寸的卷积核在文本上滑动，专门捕捉“太棒了”“气死我了”“绝了”这类短语级别的信号。LSTM则像一个“通读全文的读者”，它沿着句子顺序逐词阅读，把“虽然……但是……”这种转折关系记下来，最后根据完整语境下判断。

拿微博评论“这电影前面还行，后面就拉胯了”举例。CNN会重点命中“拉胯”这个负面信号，但“前面还行”这部分如果单独看是正向，CNN很难判断整体情绪到底是正还是负。LSTM的优势在这里就体现出来了，“还行”出现在转折词之前，而“拉胯”在后面，整个序列的语义重心更偏向负面，LSTM能记住这种依赖关系。反之，纯LSTM对短文本的问题在于，句子太短时隐藏状态里的信息被压缩，局部关键词的强度会被稀释，CNN恰好在特征强度上做了补充。

所以结论很明确：CNN管“局部特征强度”，LSTM管“上下文演变顺序”。微博评论恰好两种问题都有，所以组合是合理方案。为了保证两路特征尺度不要差太多，CNN分支最后经过池化输出一个固定维度的向量，BiLSTM分支则取最后时间步的隐藏状态，两路都变成一维向量后再拼接。

1.3 为什么选择GloVe预训练词向量

词向量这块当时有三个选项：随机初始化、GloVe预训练、BERT动态词向量。我没有用BERT，原因是这个任务的数据量不算大，微调BERT的运行成本和内存开销偏高，而且评论短、口语化，BERT带来的收益不一定能抵消复杂度的代价。最终选了GloVe预训练静态词向量。

GloVe的核心思想是基于全局词共现统计来学习词向量。它统计一个窗口内两个词共同出现的次数，构建共现矩阵，然后通过目标函数让词向量的点积尽量拟合共现频次的某种变换。用生活化的话说，它给每个词安排了一组“特征档案”，经常在同一语境出现的词，档案会非常接近。比如“好吃”和“美味”经常出现在类似语境里，它们的向量在空间里就会比较靠近。相比之下，word2vec更多利用局部窗口做预测，而GloVe对整个语料库的全局统计更敏感，在相似性任务上更稳定。

中文场景下，我用的是开源中文预训练GloVe词向量，维度选了300维。这类向量一般在海量网络语料上训练过，对“绝绝子”“yyds”这种网络热词也有不错的覆盖。加载预训练向量的本质是给模型注入外部语言先验知识，模型不用从零开始学词汇关系，这在数据量不够大时效果特别明显，相当于还没开始训练，模型已经“认识”了大部分常用词。

这里要补充一个关键判断：预训练词向量用静态还是动态取决于任务和成本。短文本分类、评论情感这种任务，词义变化不复杂，静态向量足够用。后续如果想要更高精度，可以再考虑BERT等动态方案，但整套方案的复杂度会明显上升，训练时间也会拉长很多。

2. 数据准备：微博评论怎么洗、怎么截断、怎么平衡

2.1 数据清洗：哪些符号要删，哪些要保留

文本清洗是整个流程里最容易被低估的环节。很多人拿到数据后第一件事就是正则一顿删，结果把有用的信息也删掉了。微博评论里常见的特殊元素有这几种：URL链接、@用户名、话题标签、HTML实体、多余空格、emoji和连续标点。

我的清洗策略是这样的：URL直接删除，因为链接文本对情感判断通常没有贡献；@用户名统一替换成特殊占位符，比如“@USER”，因为评论的情感可能是对某个用户的回应，但具体用户名没有意义；HTML实体比如“&”要还原成原始符号或删除；连续标点像“！！！”可以压缩成一个“！”；emoji不能全删，有些表情本身就是强烈的情感信号，比如“哭”“生气”的表情，保留下来对模型有帮助。

这里有一个容易犯的错：话题标签比如“#电影推荐#”，直接把整个标签删掉会丢失主题，但保留原文又会让分词器把话题切得乱七八糟。我的处理是提取标签内部的文字，替换成普通文本参与后续建模。比如“#电影推荐#”变成“电影推荐”，这样既保留了语义，又不干扰分词。

清洗完成后还要做一次人工抽检。我每次只抽几十条，看一下清洗结果是否合理。这一步不要省，因为正则规则很容易出现误伤，比如把“哈”字当成噪音删掉，或者把中文逗号转成英文逗号导致分词变化。抽检能快速发现这类问题，比写一堆复杂正则再调试要高效得多。

2.2 分词与词表构建：别把“不”字的感情删没了

中文文本必须分词后才能映射到词表。我用的是开源中文分词工具，配合自定义词典补充一些网络热词和品牌词，保证“好家伙”“集美们”“破防了”这类词不会被切碎。

分词之后要构建词表，这一步有两个关键参数：min_count和vocab_size。min_count指的是词在语料里出现的最小次数，小于这个值就归入OOV（未登录词），统一映射到“[UNK]”。我一开始把min_count设为5，结果词表太小，很多低频但情感强烈的词比如“踩雷”“避雷”直接变成了[UNK]，模型完全看不到它们的语义。后来把min_count降到2，词表从一万出头涨到四万多，F1提升了将近两个点。为什么？因为情感判断特别依赖那些出现一两次但信息量极大的中频词，词表门槛设太高等于主动放弃这部分信息。

停用词表也要小心处理。标准停用词表里通常包含“不”“没”“太”这类否定词和程度副词，直接套用会把“我不开心”变成“我开心”，情感方向完全反过来。我的经验是停用词表只删两种情况：一种是“的”“了”“吗”等没有情感倾向的纯虚词，另一种是高频但和任务无关的通用词。否定词和程度副词的列表要单独保留，甚至可以做特征强化。

词表构建还有一个隐藏问题：英文和数字的大小写统一。GloVe词向量训练时一般会做小写归一化，如果你的分词器保留了大写字母，后面加载词向量时会出现大量匹配失败。所以我在分词前统一转小写，数字可以替换成“NUM”占位符，避免因为具体数字不同导致向量浪费。

2.3 长度统计与序列填充：max_len不是随便拍脑袋

序列长度是另一个容易被拍脑袋决定的地方。很多人习惯把所有句子统一填充到128或者256，觉得越长越安全。但对于微博评论这种平均长度只有二三十个字的文本，设成256意味着超过八成的位置都是padding，计算浪费不说，模型还可能学到“padding区域没有信息”这种无意义模式。

我的做法是：先统计所有评论分词后的长度分布，然后取95%分位数作为max_len。假设统计结果显示90%的评论分词后不超过32个词，95%分位数是45，那我就把max_len设成48，留一点余量。这样大部分样本不需要截断，少数超长样本做截断处理也不会损失太多信息。

截断方向也需要根据任务选。常规做法是truncating='post'，也就是从头保留、截掉尾部。但微博评论有很强的“先扬后抑”或“先抑后扬”特点，情感往往在句子末尾给结论。比如“画面不错但剧情乱成一锅粥”这样的转折句，结论在最后。针对这类情况，我反而建议用truncating='pre'，也就是截掉头部、保留尾部，确保转折和结论信息尽可能留存。这个细节看起来不起眼，实际在验证集上能带来0.5到1个点的差异。

padding的方向则相反，统一在序列左侧填充，保证每个batch里样本对齐方式一致。另外一个细节是：验证集和测试集在填充之前，必须在同一套分词器和词表下完成映射，不能单独走一套流程，否则索引空间对不上，后面加载GloVe时会出现严重bug。

3. 模型构建：从Embedding到特征融合

3.1 Embedding层：把GloVe权重“搬”进模型

Embedding层是整个模型接收文本的入口。它做的事情是把每个词的索引映射成一个稠密向量。如果用随机初始化，这个向量一开始毫无意义，模型要靠大量数据从零学习；加载GloVe是提前把这个维度空间铺好，让语义相近的词在初始阶段就有相近的向量表示。

具体加载分四个步骤。第一步，读取GloVe词向量文件，我用的版本是300维，文件格式是每行一个词、一个空格、然后300个浮点数。第二步，建立“词到向量”的映射字典，这样后面查询复杂度是O(1)。第三步，遍历分词器生成的word_index，对每个词去GloVe映射里查向量，查到就填入，查不到就随机初始化。第四步，把构建好的矩阵作为Embedding层的weights传进去。

这里最大的坑是索引对齐。分词器的word_index是一个字典，比如{'我':1, '爱':2, '你':3}，GloVe映射是{'你':[...], '爱':[...], '我':[...]}。构建嵌入矩阵时必须以word_index的编号作为矩阵行号，去GloVe映射里取值，顺序一旦颠倒，整个Embedding层等于随机初始化，之前的预训练工作全部白费。我第一版就栽在这个坑上，后面AI值一直上不去，排查发现矩阵里第1行存的是“你”的向量而不是“我”的向量。

Embedding层还有一个重要开关：trainable参数。冻结表示预训练向量在训练过程中不更新，微调表示允许模型根据任务数据微调向量。训练数据多的时候微调效果更好；数据量小的时候微调容易过拟合。我后面训练截图里有具体对比，实操上一般建议：先冻结跑一遍看基准，再打开微调配合小学习率看是否有提升。

3.2 CNN分支：多尺寸卷积核扫n-gram

CNN分支用在文本上主要做的是局部特征提取。文本经过Embedding之后是一个形状为[max_len, 300]的矩阵，一维卷积沿着词序方向滑动，每个卷积核相当于在扫描固定长度的词组合。

我用了三个尺寸的卷积核并行扫描：kernel_size分别为2、3、4。为什么选这三个尺寸？因为中文词组和短语的长度大多集中在2到4个字，比如“好吃”是2-gram，“太棒了”是3-gram，“真没想到”是4-gram。多个尺寸并行，相当于同时用不同长度的放大镜扫描文本，能覆盖不同粒度的短语。

每个尺寸下我设置了128个卷积核，也就是每个尺寸会生成128张特征图。卷积之后跟一个最大池化层，把每个特征图的最大值取出来，相当于只保留这个尺寸下最强烈的信号。三个尺寸池化后的结果拼在一起，得到一个由三个部分组成的局部特征向量，再接Dropout防止过拟合。

在具体配置上，我建议卷积层用padding='same'来保证序列长度不变，主要为了避免不同尺寸卷积核输出长度不一致给池化带来麻烦。padding='same'不会增加模型复杂度，但对代码实现和调试友好很多。CNN分支的输出维度是384维，三个尺寸各128维。

3.3 BiLSTM分支：双向读入全句

LSTM分支负责建模序列依赖。我没有用单向LSTM，而是用了BiLSTM，也就是双向长短期记忆网络。单向LSTM只能从前往后阅读，无法利用“后面出现的内容”对“前面内容”的修饰关系；BiLSTM同时跑一个正向序列和一个反向序列，每个位置的输出是正向和反向隐藏状态的拼接。

选择BiLSTM还有一个现实原因：微博评论经常有“大无语事件”“属于是那种谁看了谁沉默的程度”这类结构，它的情感重心可能不在句首，也不在句尾，而是在某个靠后位置的评价词上。双向建模能让当前位置同时感知前后语境，对这类集中式评价词的捕捉更准。

BiLSTM的units我设成了128，表示每个方向的隐层维度是128，拼接后输出维度是256。返回序列还是返回最后状态？这里要看两路特征怎么融合。我采用的是取最后一个时间步的隐藏状态作为整条序列的语义表示，因为后续要跟CNN分支的池化向量拼接，需要的是一个固定长度向量而不是时间步序列。dropout=0.2和recurrent_dropout=0.2参考常见做法配置，训练时双向一起过Dropout。

还有一个调节项是层数。LSTM叠两层通常能提升对复杂语义的建模能力，但对短文本来说收益很有限，而且训练速度明显变慢。实验下来单层就够用，双层反而有过拟合风险。如果你的数据量很大，可以尝试两层，否则建议单层起步。

3.4 特征融合与输出层

两路特征在得到后可以直接拼接，CNN分支输出384维向量，BiLSTM分支输出256维向量，拼接后得到一个640维的组合特征。这个特征同时包含局部短语信号和全局语境依赖，作为整条评论的综合表示。

接下来接一个全连接层，我用Dense(64, activation='relu')做一次非线性变换，再加Dropout=0.5防止全连接层过拟合。输出层用Dense(1, activation='sigmoid')，因为这是二分类任务，输出一个0到1之间的概率值，大于0.5判为正向，否则判为负向。

损失函数用binary_crossentropy，优化器用Adam，学习率初始设为1e-3。整个模型的可训练参数量大约在150万到300万之间，具体取决于词表大小和Embedding是否微调。如果用GloVe加载后冻结Embedding层，那一大部分参数不参与更新，训练起来非常快。

最后把整个模型的参数整理成一个表格，方便做实验时对照参考：

4. 训练策略与实验复盘

4.1 实验设计与基线对比

有了模型结构，接下来最紧要的是设计对比实验，验证每一步改动到底值不值得。我同时实现了三个方案：纯TextCNN、纯BiLSTM、并行双通道LSTM+CNN，并且都加载同样的GloVe预训练词向量，保证变量只差在模型结构上。训练集大约两万条，验证集三千条，测试集三千条，分布保持一致。

记录下来的结果大致是这样：

虽然准确率看起来三个模型差距不大，但F1和AUC差距更明显。纯CNN分类精度高，但对转折和反讽的容忍度弱；纯LSTM能理解语序，可惜局部关键信号被均摊。并行双通道的F1优势主要来自对“转折类”和“反讽类”样本的判断更稳，特别是“表面积极实则消极”这类样本，纯CNN几乎拦不住，加上LSTM后有明显改善。

这里要专门强调一下为什么F1比准确率重要。假设测试集正负样本比例是7:3，模型把所有样本都预测成正向，准确率也有70%，但这个模型没有任何价值。F1综合了精确率和召回率，能反映模型在少数类上的真实表现。所以每次调参我都以验证集的F1为主目标，平均准确率作为参考值。

参数配置上，batch_size设成64，初始学习率1e-3，总共训练大约12到15个epoch就触发了早停。训练到第八个epoch前后验证集F1基本到顶，之后再过两个epoch如果不回调学习率，验证损失大概率开始反弹。

4.2 类别不平衡的样本权重

微博评论的天然分布通常不是均衡的，正向样本往往比负向样本多。如果不做任何处理，模型会对负向样本的召回率偏低，因为从损失函数角度来看，预测成正向的“错误代价”更小。解决这个问题有两个常用办法：一是给少数类更高的样本权重，二是在损失函数层面做调整。

样本权重的计算逻辑很简单。假设负向样本占总样本的35%，正向占65%，那么给负向样本的权重可以设为65%除以35%，约等于1.86，给正向样本的权重设为1。在训练时，负向样本每产生一次错误预测，其loss贡献会被放大到原来的1.86倍，模型就会更重视负向样本的分类效果。

这个改动在实验里很有效，负向样本的召回率从79%提升到86%，F1整体上涨了两个多百分点。不过权重调得过大也有副作用，比如模型会开始把很多边界样本强行判为负向，导致正向样本的精确率下降。我的建议是class_weight不要超过两倍，设置之后要同时观察两个类别的精确率和召回率，而不是只看整体F1。

如果你还想更细调，可以考虑Focal Loss这类难样本挖掘损失函数。它会让模型重点关注难分类样本，减少易分类样本的损失占比。我在这套模型上简单试过，复杂度增加了不少，但收益和class_weight差距不大。对于一般场景，class_weight已经足够，Focal Loss更适合长尾分布极严重的时候。

4.3 早停、学习率衰减与词向量微调

训练这套模型的稳定性来自三个机制配合：EarlyStopping、ReduceLROnPlateau和模型保存。早停的耐心值我设为5，也就是连续5个epoch验证集损失没有下降就停止；学习率衰减的机制是验证损失连续两个epoch不降就让学习率乘0.5，最低降到1e-6。模型只保存验证集上F1最高那一次的权重，不保存最后一个epoch的权重，避免过拟合后回退。

词向量的冻结和微调，我分别做了实验。冻结Embedding时，模型只更新CNN、LSTM和全连接层的参数，训练速度快，每个epoch大概不到一分钟，F1稳定在0.88左右。微调Embedding时，我把Embedding层的参数也加入更新，但给了一个全模型十倍小一点的学习率，比如全模型学习率1e-3时，Embedding层学习率设为1e-4，防止预训练权重被大范围冲掉。微调之后F1继续爬升到0.89以上，AUC也提高了约1.2个百分点。

微调Embedding有几个前提条件：一是训练数据不能太少，少于一万条时微调反而容易过拟合；二是语料领域和预训练语料最好有一定重叠，如果完全跨领域，比如拿新闻语料向量做美妆评论，微调效果也会打折扣；三是embedding的L2范数要可控，不稳定时可以在Embedding层加普通Dropout或者SpatialDropout1D来缓解。

4.4 错误样本复盘：讽刺与网络梗为什么难搞

训练完之后，我没有只盯着指标，而是把测试集里预测错误的样本拉出来看了一遍。这个习惯非常有用，它能告诉你模型的边界在哪。错误样本里大概有三类：一类是反讽，比如“这电影真是太好了，看了五分钟我就关了”，“太好了”字面是正向，但后半句明显是负面，模型容易被前半句带偏。一类是网络梗，比如“麻了”这种词，单独看根本没有明确情感倾向，需要结合上下文才能判断。还有一类是情绪混合的样本，一条评论里既夸了画面又骂了剧情，整体倾向怎么定依赖标注者的主观判断。

针对反讽，直接改进模型结构收益不大，更有效的方向是增加特征工程，比如把转折词“但是”“然而”“不过”后面的分句单独抽出来强化；或者引入情感词典做弱监督信号，让模型在关注字面词汇的同时参考情感先验。网络梗的问题更难，因为梗更新速度快，预训练向量可能还没有覆盖到新的语义。我的处理办法是单独整理网络热词表，在分词阶段强制切分，并在清洗阶段保留原始文本，然后看看能不能靠微调让模型学会这些词的语境。

这个复盘过程虽然不产生直接的模型改动，但它帮我明确了后续优化方向。下一次迭代我不会盲目改网络结构，而是优先在反讽样本和网络热词上做数据增强。

5. 常见问题与排查技巧实录

5.1 GloVe索引和分词器索引对不上，Embedding层形同虚设

这是最容易踩也最难发现的问题。现象是：模型能正常训练，loss也在下降，但整体F1始终卡在0.8以下上不去。排查步骤很简单：加载完GloVe之后随便取几个词，打印对应向量，看看“电影”和“影院”的距离是否比“电影”和“汽车”更近。如果不近，大概率嵌入矩阵行序乱了。

出现这个问题的原因通常是分词器的word_index构建顺序和加载GloVe的遍历顺序不一致。正确做法是遍历word_index的每一项，用它去GloVe字典里取值，然后按word_index的编号填入矩阵。而不是遍历GloVe字典，按GloVe自己的编号填到嵌入矩阵。前者以模型词表为准，后者以预训练词表为准，模型词表和预训练词表的索引空间根本不对齐。

为了避免这个问题，我习惯在训练前写一个二十行的自检函数：随机抽十个高频词、十个低频词，分别查它们在Embedding矩阵里的向量，再和GloVe原始文件里的向量做比对，计算余弦相似度是否接近1。如果接近1说明加载正确，否则直接停止训练去排查映射逻辑。

5.2 OOV与UNK占比过高

词表外词占比过高是短文本分类里的经典问题。提供几个排查思路：先看分词结果是否合理，如果“破防了”被切成“破防”“了”，导致“破防了”变成口味很重的OOV词，那问题出在分词粒度；如果GloVe词表本身没有包含这个网络新词，那问题出在预训练语料覆盖度。

解决的思路有三种。第一种是调整min_count，让更多低频词进入模型词表，这样即使GloVe没有向量，模型也可以给它们随机初始化并在微调时学习到语义。第二种是扩充自定义词典，强制分词工具把特定网络热词作为整体切分，这样词表里才可能包含它。第三种是考虑用更多语料重新训练一份词向量，但这个成本偏高，只在数据量充足时才推荐。

还有一个细节容易被忽略：中文里数字、日期、单位这类词，比如“2024”“1000万”“第3名”，它们的具体数值对情感判断往往没有意义，但会占用大量词表容量。把数字统一替换成“NUM”这种特殊token，能显著降低OOV比例，同时减少词表体积，让模型集中学习真正有价值的情感词。

5.3 训练时显存不足或收敛过慢

如果你用了比较大的max_len和Batch，训练时显存溢出很常见。有几个立竿见影的调整方法：把max_len从128降到64或48，能直接减少Embedding后的序列长度；把batch_size从64降到32，显存压力几乎减半；如果batch_size降下来后训练震荡比较厉害，可以打开梯度累积，把两步的梯度合并后再更新一次。

收敛过慢首先检查学习率。Adam虽然自适应，但初始学习率通常还是应该落在1e-3到5e-4区间，太小会收敛很慢，太大则震荡。其次检查Embedding层是否冻结，如果冻结Embedding，模型整体参数少，训练慢多半是LSTM的序列计算瓶颈，可以尝试减小BiLSTM的units。最后检查数据增强里的padding是不是把所有句子都变成了48，如果大部分句子只有十几个词，即使max_len=48也会增加大量计算冗余，可以考虑padding到平均长度加两个标准差，而不是生搬硬套95%分位数。

5.4 离线指标高但实际效果差

F1在0.89附近但上线发现误判很多，这种情况通常来自评估集和真实业务环境不一致。一个常见原因是数据泄露：清洗或拆分时不小心把同一条用户的多条评论同时放进了训练集和验证集，模型在验证集上看到过类似文本，自然指标虚高。另一个原因是标注不一致：情感标注本身有主观性，两条内容相似的评论可能被标成不同标签，模型学到的边界就会模糊。

解决办法有两个。一是做分层抽样，按用户或按来源拆分训练、验证、测试集，避免同源样本泄漏。二是对标注不一致的样本进行清洗，比如让两个标注者独立标注同一批数据，只保留意见一致的样本参与训练，意见不一致的样本可以单独做成“边界样本集”用于评估。这样虽然可用数据量减少了，但模型边界清晰很多，离线指标和线上效果的相关性会更好。

5.5 讽刺和语气转折样本仍是难点

即便用上了并行模型，讽刺这类样本还是容易出错。原因很简单：讽刺的判断依赖常识和社交语境，模型只能看到字面文本，缺少真实场景信息。我试过在输入层额外拼接情感词典特征，也就是把每个词在通用情感词典里的情感分值作为一维特征拼到Embedding向量后面，效果有一些提升，但幅度不大，说明结构上的改进空间有限。

更实际的方向是在数据层面做针对性增强。比如收集一批明显的反讽样本，对它们做同义改写扩充，再在训练时额外提高这些样本的权重；或者在预处理阶段做分句，把转折词后面的分句单独抽取出来作为附加特征送进模型。这些方法不改变模型骨架，但能有效提升难点样本的召回。

最后再分享一段个人体会：这个项目做下来，我最大的感受是数据预处理比模型结构更能决定最终效果。GloVe选型和加载方式、max_len的取法、停用词表的坑，每一个细节的影响都能在F1上反映出来。如果让我重新跑一遍，我会先用百分之十的样本做人工粗标，把手头的情感词典和网络热词表整理干净，再安心去调模型。先把数据底子打好，后面的模型哪怕结构简单一点，效果也不会差到哪里去。