RNN（循环神经网络）和Transformer是处理自然语言处理（NLP）任务区别
RNN（循环神经网络）和Transformer是处理自然语言处理（NLP）任务区别
RNN（循环神经网络）和Transformer是处理自然语言处理（NLP）任务的两种核心模型，它们的设计原理、处理序列的方式以及适用场景有显著区别，以下从核心差异和实例两方面说明：
一、核心差异
| 维度 | RNN（含LSTM/GRU等变体） | Transformer |
|---|---|---|
| 处理序列的方式 | 串行处理：按顺序逐个处理token（如单词），前一个token的输出作为后一个token的输入，依赖序列顺序。 | 并行处理：同时处理所有token，通过“自注意力机制”直接计算任意两个token的关联，不依赖序列顺序。 |
| 长距离依赖捕捉 | 能力弱：由于“梯度消失/爆炸”问题，对长序列中远距离token的关联（如句子开头和结尾的词）记忆衰减快。 |