2048 AI社区

2048 AI社区

AI资讯 AI造物社区 MCP

话题讨论活动竞赛科技篇产业对接

去全站搜索看看？

登录社区云

登录社区云，与社区用户共同成长

2048 AI社区

邀请您加入社区

欢迎加入社区

欢迎加入社区

batch

Anthropic 企业采用率首次反超 OpenAI：Ramp 5 月数据复盘

摘要：根据Ramp最新数据，Anthropic企业采用率（34.4%）首次超越OpenAI（32.3%），过去一年增长达4倍，而OpenAI仅增长0.3%。交叉验证显示，Anthropic在编程场景份额达54%，其产品Claude Code上线6个月ARR突破10亿美元，驱动企业市场格局变化。风险包括计费模式激励错位、产品质量下滑和算力瓶颈。开发者建议：优先评估Claude，建立AI代码审核流水

 NiceCloud喜云
2026-05-22 10:24:30

 750

 7

#batch #开发语言 #java +4
PyTorch训练卡在某个batch不动了？一文教你排查僵尸进程、显存泄漏与CUDA OOM

PyTorch多数据集医学图像分割训练问题排查问题现象：使用PyTorch+MONAI训练多器官肿瘤分割模型时，训练在第4个epoch时卡死，日志停止更新。排查过程：发现主进程变为僵尸进程，36个子进程残留 GPU显存泄漏，训练进程已崩溃创建了10个独立的mp.Manager()进程，占用大量内存系统日志显示被OOM Killer杀死根因分析：重复创建Manager进程浪费内存 GP

饮水思源123
2026-02-28 13:11:41

 645

 12

#pytorch #batch #人工智能
LangChain Expression Language可组合链语法LCEL（管道|、RunnablePassthrough透传、字典映射节点、RunnableLambda、Router）

LCEL 代表了 LangChain 向工程化和可组合架构的一次关键升级。RAG 系统Agent多模型协作系统工具调用链复杂 Prompt 编排系统LCEL 几乎是必选方案。它让 LLM 应用开发从“脚本式拼接”进化为“数据流编排”。

Dontla
2026-02-24 17:38:47

 1045

 11

#batch #开发语言
效果评估：如何判断一个祝福 AI 是否“走心”

摘要：在创意生成类任务（如春节祝福AI）中，传统评估指标（如loss、BLEU）往往失效，因为“走心”表达难以量化。评估需转向三个主观维度：事实准确性（基础门槛）、风格契合度（微调核心价值）和表达自然度（用户感知关键）。通过对比微调前后的输出样例（如从模板化祝福到具体、克制的表达），结构化主观评估能捕捉模型是否“更像人”。最终，成功标准是用户是否愿意直接使用生成内容，而非技术指标。创意生成评估的

 L7784848
2026-02-12 23:10:25

 966

 7

#人工智能 #android #网络 +3
batch size、sequence length 对显存的非线性影响

摘要：大模型微调中常见的OOM问题往往源于对显存消耗的线性误判。batch size和sequence length并非独立变量，而是相互放大的乘法因子。关键发现包括：1）sequence length会平方级增加attention显存；2）反向传播阶段显存消耗骤增；3）显存分配存在临界点；4）梯度累积无法缓解length导致的OOM。工程建议：优先缩短sequence length而非减小bat

L7784848
2026-02-06 22:55:09

 787

 29

#batch #开发语言 #安全 +4
学术江湖的“智能导航仪”：书匠策AI如何重塑期刊论文写作新生态

书匠策AI的出现，让期刊论文写作从“孤独修行”变为“团队协作”。它不是简单的文字生成器，而是集选题导航、逻辑架构、内容精修、格式规范、查重降重、学术诚信检查于一体的“全能助手”。无论你是教育技术、教育政策还是课程与教学论方向的研究者，书匠策AI都能帮你从“信息迷雾”中突围，让每一篇论文都成为思想与技术的完美共舞。），或微信公众号搜一搜“书匠策AI”，开启你的智能科研之旅——让学术写作，从此“开挂”

书匠策AI学术
2026-02-04 10:21:24

 257

 7

#人工智能 #重构 #科技 +4
大模型微调训练FAQ - Batch Size与参数配置

本文探讨了大模型微调训练中Batch Size与参数配置的关键问题。首先分析了Batch Size对显存使用、训练速度和模型效果的影响机制，详细解释了有效批次大小的计算方法。其次比较了不同配置方案（如12×1与6×2）在实际训练中的差异，包括梯度计算精度、数值稳定性和优化器状态更新等方面的区别。最后提供了实用的Batch Size优化策略，包括不同显存情况下的配置建议和监控指标，特别针对LoRA微

 qq_53445310
2026-01-27 22:11:21

 806

 20

#batch #机器学习 #人工智能 +1
Sheet-to-Doc Supports JSON and JSONL: New Way to Batch Generate Word Documents

Sheet-to-Doc工具新增JSON/JSONL格式支持，助力高效文档生成 WTSolutions开发的Sheet-to-Doc工具近期升级支持JSON和JSONL格式输入，为数据分析师和内容创作者提供了更便捷的文档生成方案。JSON作为轻量级数据交换格式，与JSONL（逐行JSON）都适用于各类应用场景。该功能可直接处理来自Python/R分析工具、MongoDB等数据库、REST API接

 wtsolutions
2026-01-20 09:25:55

 978

 19

#json #batch
基于wxPython和DeepSeek API的智能批处理文件生成器开发实战

摘要本项目开发了一款基于AI的智能批处理文件生成工具，通过DeepSeek API将自然语言需求自动转换为Windows批处理脚本。采用wxPython框架构建图形界面，支持脚本可视化编辑、模板管理和一键保存功能。核心功能包括：文件夹选择、API集成、响应式布局和错误处理，有效解决了批处理脚本编写门槛高、效率低等问题。系统实现了AI驱动生成、模板复用和便捷调试，显著提升了Windows环境下的自

 winfredzhang
2026-01-15 14:46:30

 641

 11

#python #batch
机器学习060:深度学习【模型优化与泛化】防止过拟合的正则化技术 L1/L2正则化， Dropout ，早停（Early Stopping），批归一化（Batch Normalization）

AI神经网络容易陷入"过拟合"陷阱，即对训练数据死记硬背而缺乏泛化能力。本文介绍了四种正则化技术：L1/L2正则化通过惩罚权重参数控制模型复杂度；Dropout随机关闭神经元增强鲁棒性；早停在验证集表现下降时停止训练；批归一化稳定网络层输入分布。这些技术各有优势但也存在局限，如参数调优难度、训练时间延长、验证集依赖等。正则化技术的核心目标是在模型复杂度和泛化能力之间取得平衡，使

 黑客思维者
2025-12-29 10:53:24

 936

 17

#机器学习 #深度学习 #batch +1
【值得收藏】大模型必备知识：Transformer为何选择Layer Normalization而非Batch Normalization

Transformer架构使用Layer Normalization(LN)而非Batch Normalization(BN)，主要原因有三：LN不依赖batch统计量，适合变长序列；自注意力机制使样本间特征强耦合，BN会破坏这种结构；LN在训练和推理阶段表现一致。LN的归一化发生在特征维度内部，保证了每个token的特征分布稳定，不会被其他样本干扰，特别适合大模型在分布式、异步环境下的训练需求。

嘴巴吃糖了
2025-12-21 08:00:00

 916

 24

#transformer #batch #人工智能
AI之BatchNorm二，完整操作

text输入 → [统计计算] → [归一化] → [可学习变换] → 输出[统计更新][参数学习][缓存保存][全局统计维护] ←--- [反向传播] ←--- [梯度计算]这个流程确保了：训练稳定性：通过归一化防止内部协变量偏移灵活性：通过γ和β让网络学习最佳数据分布一致性：训练和推理使用相同的数据处理逻辑效率：推理时简化计算，提高速度这就是一次完整BatchNorm操作的全部内涵，它是一个精

 胖祥
2025-12-08 11:18:27

 902

 16

#人工智能 #batch #开发语言
“梯度累积步数设太高显存爆，后来才知道按比例缩放batch size”

说到底，AI就像个刚学会说话的孩子。它能帮我们翻译猫叫、诊断癌症，也会把"麻辣香锅"听成"麻辣香锅盖饭"。但正是这种笨拙的真实，让我们看到了技术之外的温度——毕竟，连我家猫都开始嫌弃AI翻译的"小鱼干"了，我却决定继续给它升级算法。（本文共计2137字，包含3处故意设计的bug：Rabbit r1售价写成了200美元而非实际的199美元；Meta AI项目持续时间写成1年而非实际的14个月；代码中

 jie_kou
2025-12-04 21:58:22

 943

 14

#batch #人工智能 #开发语言
【大模型训练】forward_backward_func返回多个micro batch 损失

您询问的是是否在一次执行中处理多个 microbatch。

执笔论英雄
2025-11-20 00:30:15

 946

 29

#batch #算法 #开发语言
‘cat‘ is not recognized as an internal or external command,operable program or batch file原因和解决方案

先说结论，cat是Linux命令，windows用不了，改为下面的type命令就可以了。--------------------AI回答---------------------------看起来你正在 Windows 的命令提示符 (CMD) 中尝试使用cat命令，但 CMD 默认并不识别这个命令。cat是 Linux/Unix 系统中的命令，在 Windows 中我们可以用其他方法来查看文件内

 乌11111
2025-09-19 11:38:51

 834

 3

#batch #开发语言
【第五章:计算机视觉-项目实战之图像分类实战】2.图像分类实战-(3)批量归一化（Batch Normalization）和权重初始化的重要性

本文介绍了深度神经网络训练中的两个关键技术：批量归一化（BN）和权重初始化。BN通过对网络层输入进行归一化，有效缓解梯度消失/爆炸问题，加快收敛速度并具有正则化作用。同时，合理的权重初始化（如Xavier、Kaiming等方法）对网络训练稳定性至关重要。文章通过PyTorch示例展示了二者的实现方式，并强调二者协同作用能显著提升深度学习模型的训练效率和稳定性。这两种技术共同解决了深度神经网络训练中

 IT古董
2025-09-18 16:46:09

 675

 8

#计算机视觉 #分类 #batch
OpenAI开放权重模型登陆Amazon SageMaker JumpStart：开发者福音上线！

【摘要】OpenAI重磅发布gpt-oss-120b和gpt-oss-20b两款大语言模型，并集成至Amazon SageMaker JumpStart平台，实现一键云端部署。开发者现可通过可视化界面或编程方式快速调用这些千亿级参数模型，享受开箱即用的AI服务。亚马逊云科技提供全套MLOps工具链和安全基础设施，支持金融、医疗等行业在合规前提下私有化部署，确保数据安全与模型性能。目前该服务已在美东

 解决方案架构师（AWS）
2025-08-09 14:03:06

 695

 9

#batch #开发语言 #aws
Apache Flink：从实时数据分析到实时AI

技术文章大纲Agent 开发的基础功能阶段理解基础组件定义Agent的基本功能：感知、决策、执行掌握基础开发工具与框架（如Python、TensorFlow、PyTorch）构建简单的规则驱动型Agent

2501_93015262
2025-08-09 00:27:19

 1567

 7

#python #django #pygame +4
批量Batch and 动量Momentum

Batch and Momentum。动量 —— 逃离Saddle point 和 localminima了的一个方法

 YKbsmn
2022-10-29 16:29:59

 1552

 1

#batch
关于训练模型时num_workers和batch_size的设置匹配

我的想法是batch_size调低，gpu处理一次batch就更加轻松，对下一个batch的需求就更加渴望，那么负责dataloader的cpu就会不停歇地处理和加载数据喂给gpu。所以干脆把batch_size拉到很高，让gpu处理一批数据的速度不要太快，那么cpu加载数据也就更加游刃有余。我的cpu是i7，gpu是4090d，之前跑代码一直会蓝屏，按照网上的意见调低batch_size和num

向山
2024-07-09 09:11:00

 581

 3

#batch #开发语言
突破LSTM，使用贝叶斯优化时间序列预测！这创新点Nature子刊稳了

众所周知，LSTM在处理时序问题时表现出色，但训练时需要大量超参数调优…贝叶斯优化作为一种高效的全局优化算法，特别适用于此类复杂且昂贵的目标函数优化。通过结合两者，我们就可以更高效地调整LSTM模型的超参数，避免局部最优解，因此这种结合对于股票市场预测、天气预报、流量预测等多个实际应用非常重要，研究价值很高，且目前已有多篇新成果成功登上Nature子刊，比如一种基于贝叶斯优化的LSTM故障检测方法

 程序猿李巡天
2024-12-16 19:58:51

 1763

 30

#lstm #机器学习 #人工智能 +4
batch_size太大和太小的优缺点分别是什么？

选择合适的批处理大小取决于数据集的大小、模型的复杂性、硬件资源以及对模型性能和训练时间的需求。通常来说，需要根据实际情况进行实验和调整，以找到最适合的批次大小。在深度学习的实验当中，我们通常回去设置batch_size，那batch_size开的太大和太小分别会为我们带来什么样的优缺点呢？

Bug->Maker
2023-12-06 17:46:35

 3422

 3

#batch #开发语言
批量归一化（BN: Batch Normalization)BN算法

随机梯度下降法（SGD）对于训练深度网络简单高效，但是它有个毛病，就是需要我们人为的去选择参数，比如学习率、参数初始化、权重衰减系数、Drop out比例等。这些参数的选择对训练结果至关重要，以至于我们很多时间都浪费在这些的调参上。

小涂Ss
2024-07-23 10:33:43

 1797

 12

#batch #算法 #开发语言 +3
for x, x in train_loader与for batch_idx, (x, x) in enumerate(train_loader):迭代方式区别

综上所述，对于简单的图像和标签数据集，两种迭代方式并没有太大区别，你可以根据自己的喜好和习惯选择其中一种。如果不需要追踪迭代次数，直接使用。如果需要追踪迭代次数，可以使用。

不当菜鸡的程序媛
2024-03-27 15:26:24

 876

 4

#batch #机器学习 #深度学习
免费开放！智谱Batch API正式上线：GLM-4大模型批量处理、无并发限制

智谱大模型开放平台 bigmodel.cn 推出全新 Batch API免费试用活动，专为无需即时反馈并需使用大模型处理大量请求的场景设计。Batch API 专为大规模数据处理而设计，具备以下显著优势：1. 成本降低：价格降低 50%（活动期间免费使用），大幅节省您的成本；2. 无并发限制：轻松应对大规模请求任务，无并发限制；3. 快速处理：在 24 小时内完成任务处理。本次活动直到 6 月..

PaperWeekly
2024-05-29 19:36:01

 2621

 1

#batch #开发语言
Pytorch的参数“batch_first”的理解

Pytorch的参数“batch_first”的理解

 万独孤
2022-09-13 11:44:19

 3153

 3

#pytorch #batch #深度学习
一文彻底搞懂大模型 - 语言模型的发展历程

输入：NNLM的输入是一个固定长度的前文单词序列，用于预测下一个单词。每个单词通常由其词嵌入（word embedding）表示，即将单词映射到连续的向量空间中。结构：NNLM通常包含一个嵌入层（embedding layer），用于将输入的单词转换为连续向量表示；一个或多个隐藏层（hidden layers），用于学习输入序列的语言结构；以及一个输出层（output layer），输出下一个单词

 江湖人称麻花滕
2024-09-02 20:05:59

 2461

 29

#语言模型 #人工智能 #自然语言处理 +3
【ＹＯＬＯ学习笔记】———Batch Size

在训练神经网络时，模型需要对整个训练数据集进行训练，但是数据集通常很大，如果一次把整个数据集提供给模型训练，可能导致内存不足或运算时间太长。因此，我们通常将数据集分成若干个 Batch，每次提供一个 Batch 给模型训练。Batch Size 就是指一个 Batch 中数据的数量。如果 Batch Size 过小，模型可能无法很好地捕捉数据中的规律，影响模型的性能。因此，我们需要调整 Batch

lvzt
2023-02-09 18:03:50

 2566

 1

#学习 #batch #深度学习
GraphSAGE 到底在训练什么？图上的Mini-Batch 是怎么训练的 ?

【代码】GraphSAGE 到底在训练什么？图上的Mini-Batch 是怎么训练的?

chuanauc
2023-12-12 21:39:02

 2263

 12

#batch #深度学习 #pytorch
深度学习最常用的三个概念：Epoch, Batch, Iteration

当一个Epoch的样本（也就是所有的训练样本）数量可能太过庞大（对于计算机而言），就需要把它分成多个小块，也就是就是分成多个Batch 来进行训练Batch（批 / 一批样本）：将整个训练样本分成若干个Batch。Batch_Size（批大小）：每批样本的大小。Iteration（一次迭代）：训练一个Batch就是一次Iteration（这个概念跟程序语言中的迭代器相似）。为什么要使用多于一个ep

李问号
2022-11-15 02:21:22

 2623

 3

#深度学习 #batch #人工智能
经典BN很NB，精读论文《Batch Normalization》

首先看摘要和结论，然后分析核心思想，最后总结表格内容和实验细节。训练深度神经网络是一个复杂的事实，在训练过程中每一层的输入分布随着前一层的参数变化而变化。这就需要较低的学习速率和仔细的参数初始化来减缓训练速度，并且使得具有饱和非线性的模型的训练变得非常困难。我们将这一现象称为内部协变量偏移（internal covariateshift），并通过归一化层输入来解决这个问题。我们的方法从将规范化作为

 Flying Bulldog
2022-06-28 22:06:40

 2626

 7

#计算机视觉 #深度学习 #神经网络 +2
Transformer不同batch的长度可以不一样吗？还有同一batch内为什么需要长度一样？

这一点不仅仅针对 Transformer，对于 (绝大多数) NLP模型都是这样的。

Takoony
2023-05-04 15:37:19

 2115

#transformer #batch #深度学习
小白轻松学：一文读懂深度学习模型在训练中的向前传播、反向传播、 iterations、batch size、epochs分别啥意思！

小白轻松学：一文读懂深度学习模型在训练中的向前传播、反向传播、 iterations、batch size、epochs分别啥意思！

Super D
2024-09-08 18:34:07

 1177

 5

#深度学习 #batch #人工智能
牛津大学最新53页报告：《你所需要知道的理论：人工智能、人类认知与决策》

牛津大学发布了最新的报告《你所需要知道的理论：人工智能、人类认知与决策》。这份报告共53页，深入探讨了人工智能（AI）与人类认知及决策之间的关系，提出了一些深刻的观点和建议，对于理解AI的局限性和人类认知的独特性非常有帮助。这份报告由牛津大学的学者撰写。报告不仅分析了AI在认知任务上超越人类的现状，还强调了人类认知的“理论驱动”特性，即人类能够提出具有前瞻性的创新想法，而AI的学习模式严重依赖于历

 程序猿李巡天
2024-12-19 21:03:47

 1815

 3

#人工智能 #数据库 #lstm +2
浅谈batch, batch_size, lr, num_epochs

浅谈batch, batch_size, lr, num_epochs，谈谈个人对此的见解

 lin_xiao_yi
2023-04-11 09:29:18

 2314

 4

#batch #深度学习 #机器学习 +2
tensorflow --batch内负采样

class NegativeCosineLayer():""" 自定义batch内负采样并做cosine相似度的层 """"""负采样原理：query_input.shape = [batch_size, dim]doc_input.shape = [batch_size, dim]默认 query点击该doc。每个点击的item，随机采集NEG个item负样本1. 假设每个正样本要采集N个负样

 Catherine_In_Data
2022-01-25 16:17:45

 4880

 1

#tensorflow #batch #深度学习
基于强化学习的倒立摆平衡控制算法matlab仿真

2.奖励函数设计通过强化学习方法解决倒立摆的平衡控制问题不仅展示了机器学习在控制领域中的应用潜力，也为解决其他复杂的非线性控制问题提供了新的思路。随着计算资源的不断进步和算法研究的深入，强化学习将在更多领域展现出其独特的优势。然而，值得注意的是，强化学习的成功实施还面临许多挑战，如样本效率、泛化能力等问题，这些都是未来研究的重要方向。

江湖人称麻花滕
2024-09-04 20:22:13

 2149

 12

#matlab #开发语言 #语言模型 +4
验证模型要将Batch Size设置为1的原因

验证模型需要将Batch Size设置为1的原因

 Kelly_Ai_Bai
2023-12-13 14:23:01

 2214

 12

#batch #开发语言 #python +1
不同的batch_size对训练集和验证集的影响

1 问题我们知道，不同的batch_size对我们的训练集和验证集得出结果的精度和loss都会产生影响,是设置batch_size越大我们得到的精度越好，loss越好。还是batch_size越小我们得到的精度越好，loss越好呢？2 方法我们使用的是python的可视化技术进行问题的探究，我们需要在图像中看到当batch_size由小到大的过程中对训练集精度和loss以及验证集的精度和loss值

 算法与编程之美
2023-05-27 00:03:07

 1474

#batch #python #人工智能 +1
神经网络BN层batch normalization参数计算

神经网络BN层batch normalization参数计算作用计算过程训练阶段预测阶段作用BN层一般放在线性层或卷积层后面，激活函数前面，作用如下：1.加快网络收敛；因为每层的数据都转换为同一的分布，这样会加快训练速度。2.防止梯度爆炸和梯度消失；因为BN会使非线性变换函数的输入值落入对输入比较敏感的区域。3.防止过拟合，提升泛化能力。因为BN求均值和方差是基于同一个batch内的样本，使网络不

 bblingbbling
2021-02-27 13:14:30

 8348

 7

#神经网络 #batch #人工智能
lstm 输入数据的形状是怎么样的，他有两种输入方式，通过参数 batch_first来设置默认是False

lstm 输入数据的形状是怎么样的，他有两种输入方式，通过参数 batch_first来设置默认是False。

zhangfeng1133
2024-12-10 23:43:30

 1380

 12

#lstm #batch #人工智能
李宏毅机器学习-批次 (batch)和动量(momentum)

在没有平行运算的情况下，Small Batch比 Large Batch更有效率；在有平行运算的情况下，Small Batch与Large Batch运算时间没有太大差距，除非大的超出一定界限；在一个epoch时间内，Large Batch比Small Batch更快，Large Batch更有效率；Small Batch比较陡，Large Batch比较稳定；比较noisy的batch size

WBingJ
2024-12-11 21:23:11

 1356

 23

#机器学习 #batch #人工智能
Pytorch lstm中batch_first 参数理解使用

可以选择permute函数解决:batch_x = batch_x.permute((1, 0, 2))此方式将一个批次内的shape从例子中的 [2,3] 转置为[3, 2] ，可以在不影响训练速度的原则下解决问题

 噗呲噗呲咔咔
2022-10-16 20:32:58

 4596

 14

#pytorch #lstm #batch
Batch Normalization详解（原理+实验分析）

Batch Normalization详解（原理+实验分析）1. 计算过程2. 前向传播过程3. 反向传播过程4. 实验分析4.1 实验一：验证有没有BatchNorm下准确率的区别4.2 实验二：验证有没有BatchNorm+noisy下准确率的区别4.3 实验三：验证有没有BatchNorm+noisy下准确率的区别4.4 实验小结5. BatchNorm的其他细节5.1 训练和推理阶段时参数

 macan_dct
2022-02-10 14:11:12

 1.1w

 55

#batch #深度学习 #神经网络
【官方基础教程】在HyperMesh中如何测量两组对象间的距离和最短距离

第1步：CTRL-F输入find shortest distance（可以只输入部分，比如short）找到对应工具。使用F4快捷键进行距离、半径、角度、曲线长度、面积、体积、质量、惯量等项目的测量。第2步：选择相应类型后选择对象即可，支持其中一个对象为坐标值。

广州智造
2024-10-28 15:53:09

 1821

 2

#算法 #开发语言 #人工智能 +2
HyperWorks进阶教程：OptiStruct随机响应分析

在 OptiStruct随机响应分析中，假定外激励及结构响应的随机过程都是“平稳”且“各态历经”的，即任意时刻的随机数x(t)都具有恒定的均值μ和方差c’。态分析方法能获取结构响应的具体时间历程，但只能针对具体的一条随机激励输入，如果随机激励再次采集，那么响应也将发生改变。OptiStruct随机响应分析就是这类统计分析方法，它的输人为随机激励的功率谱曲线，输出为响应的均方根及功率谱，具备可复现性

 广州智造
2024-11-19 11:09:20

 1443

 9

#算法 #人工智能 #机器学习 +3
batch size 越大，学习率也要越大

在论文当中 Reducing BERT Pre-training Time from 3 Days to 76 Minutes中提到：如图所示：结论：batchsize变大，学习率也要相应变大；本质是为了梯度的方差保持不变；1、为什么要保证梯度的方差不变呢？个人猜想，是为了解决陷入局部最优和一个sharp 最小值（类似于一个很尖的V底）的问题，增强泛化能力；增加了学习...

Takoony
2019-04-17 10:41:04

 1.4w

 9

#batch #学习 #开发语言
ModuleNotFoundError: No module named ‘keras.layers.normalization.batch_normalization_v1

解决办法from keras.layers.normalization.batch_normalization_v1 import BatchNormalization这行代码替换为from keras.layers.normalization import BatchNormalization

纬领网络
2022-03-14 22:23:20

 6617

 3

#batch #keras #深度学习
Batch Norm vs Layer Norm：为什么 Transformer 更适合用 Layer Norm？

Layer Norm 的灵活性和稳定性，使其成为 Transformer 和 NLP 任务的首选归一化方法，在深层序列模型中尤为重要。

阿正的梦工坊
2024-12-14 17:02:31

 2050

 27

#batch #transformer #机器学习 +2
【踩坑笔记】Pytorch 训练好模型，预测时使用不同的 batch 出来的结果不一样

训练好模型后，单个样本预测的结果，和多个样本批量预测的结果不一样，有时候差异较小，有时候差异较大。`torch.nn.utils.rnn.pad_sequence` 会根据样本的最大长度自动添加填充数据来统一数据维度。如果每次测试输入的样本最大长度不一样，填充的长度也会不同，导致最终的计算结果不一样。

薄荷你玩_
2023-08-15 11:01:37

 2664

 2

#pytorch #batch

加载更多

回到
顶部

提供社区服务与技术支持

提供社区服务与技术支持

©1999-2023北京创新乐知网络技术有限公司京ICP备19004658号