文章目录

问题

将特征全都标准化到 [0,1]，设计了多层 Dense， 训练，发现评估指标一直不下降，而且预测值全部都相同，如下所示：
在这里插入图片描述
在这里插入图片描述

原因

看了一下激活函数用的是relu，因为relu的激活小于0全等于0，大于0就保持不变；猜测是全部都小于0，导致全部都等于0，于是对于所有样本都输出同一个预测值。
在这里插入图片描述

解决方案

激活函数改为tanh，性能评估指标发生了变化，预测值也发生变化
在这里插入图片描述
在这里插入图片描述

Logo
2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

cover

【自然语言处理与大模型】三种实现多模态技术的路线

avatar 2048 AI社区
cover

抖音私信+豆包智能体+大模型实现抖音后台私信智能人工客服

avatar 2048 AI社区
cover

【VLM】vLLM-Omni多模态推理框架

avatar 2048 AI社区