全连接层神经网络-(又名多层感知机MLP)

参考:https://zhuanlan.zhihu.com/p/63184325
https://zhuanlan.zhihu.com/p/399078506
在这里插入图片描述
在这里插入图片描述

LSTM

参考:https://blog.csdn.net/qq_40922271/article/details/120961760
https://blog.csdn.net/qq_40922271/article/details/120961760
在这里插入图片描述在这里插入图片描述
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述

GRU

参考:https://blog.csdn.net/u012328159/article/details/87907739

LSTM在NLP的很多场景下都表现出很好的性能。
LSTM存在一个问题:计算开销大;原因:内部结构复杂

GRU也是旨在解决标准RNN中出现的梯度消失问题,可以看作是LSTM的一种变种。

LSTM和GRU比较
同:大多数情况下性能相差无几
异:GRU简单,计算开销小,更加适用于大规模数据集

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐