torch.nn.RNN(input_size, hidden_size, num_layers)

pytorch官方文档链接：https://pytorch.org/docs/stable/generated/torch.nn.RNN.html#torch.nn.RNN

input_size：每个token作为输入时的向量长度
hidden_size：中间的隐层向量长度
num_layers：RNN模型的层数

以下对于batch_size=1举例
rnn = nn.RNN(10, 20, 2)
input = torch.randn(3, 10)
h0 = torch.randn(2, 20)
output, hn = rnn(input, h0)
# output.shape应该是(3,20)；hn.shape应该是(2,20)

计算过程可根据下图理解。
在这里插入图片描述
官方文档中计算h_t的公式可根据手绘图中的“框1”理解。
在这里插入图片描述

# python # rnn
Logo
2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

cover

2025届学术党必备的五大AI学术方案推荐榜单

avatar 2048 AI社区

【MySQL】SQL菜鸟教程（一）

1.从 “Websites” 表中删除网站名为 “Facebook” 且国家为 USA 的网站。1.把 “菜鸟教程” 的 alexa 排名更新为 5000，country 改为 USA。在表中，一个列可能会包含多个重复值，有时您也许希望仅仅列出不同（distinct）的值。constraint: 列的约束（如 PRIMARY KEY、NOT NULL 等）。ORDER BY: 排序方式，ASC 表

avatar 2048 AI社区

【Linux C/C++开发】第7章：面向对象基础

本文系统介绍了面向对象编程的基础知识，包括三大核心特征（封装、继承、多态）及其应用。重点讲解了类的定义与结构，成员函数设计（构造函数、析构函数、this指针、常量成员函数、静态成员），以及RAII资源管理原则和友元机制。通过实际代码示例阐释了面向对象设计的思想精髓，如封装数据、隐藏实现细节、通过方法操作对象等。文章还提出了面向对象设计的两大原则：单一职责原则和接口清晰原则，强调每个类应聚焦单一功能

avatar 2048 AI社区