剪枝标签_2048 AI社区

剪枝

【Agent-阿程】AI先锋杯·14天征文挑战第14期-第2天-大模型部署与优化实战

本文探讨了大模型部署的挑战与优化技术。文章首先分析了大模型从训练到部署面临的五大挑战：内存墙问题、计算延迟、并发压力、成本控制和可扩展性。随后介绍了部署优化的技术演进过程，从全量部署到量化压缩、模型蒸馏再到混合部署。重点深入解析了模型量化技术，包括量化的基本原理、对称与非对称量化的区别、以及动态量化与静态量化的实现方法。文章通过代码示例展示了量化误差分析、量化参数校准、以及量化模型性能评估等关键技

 竹之却
2026-04-09 23:26:00

 554

 17

#人工智能 #AI #剪枝 +1
一篇文章搞懂模型压缩、量化、蒸馏、剪枝

模型压缩技术综述：让大模型"瘦身"运行本文系统介绍了三种主流模型压缩技术：量化、知识蒸馏和剪枝。量化通过降低数值精度（如FP32转INT8），在BERT模型上实现了62.8%的体积缩减和82.4%的速度提升；知识蒸馏采用"教师-学生"模式，将BERT的知识迁移到BiLSTM，使学生模型体积缩减至26.7%而精度仅下降2.39%；剪枝则通过删除冗余权重，以约

 2301_76243776
2026-04-02 15:58:44

 1115

 26

#剪枝 #人工智能 #算法
CCF-CSP 36-4 跳房子【C++】考点：BFS+剪枝

TUOJhttps://sim.csp.thusaac.com/contest/36/problem/3思路参考：出处是这个博客的评论区：CCF-CSP第36次认证第四题——跳房子【NA！巧妙利用BFS】_csp跳房子-CSDN博客BFS：通过队列逐层扩展，首次到达终点的路径即为最短跳跃次数。剪枝：由于是从最远端（k[t.pos]）开始向近端尝试，如果某个跳跃点 t.pos + i 之前已经被其他

 zero
2026-03-12 11:23:49

 852

 28

#c++#宽度优先 #剪枝 +2
基于k折交叉验证的BP神经网络回归预测：MATLAB代码详解

这个代码实现了一个基于k折交叉验证的BP神经网络回归预测模型，适合初学者使用。代码结构清晰，注释详细，方便修改和扩展。如果你的数据集较小，或者特征维度不高，这个模型应该能取得不错的效果。基于k折交叉验证的BP神经网络回归预测MATLAB代码代码注释清楚。main为主程序，可以读取EXCEL数据，使用换自己数据集。很方便，初学者容易上手。当然，BP神经网络也有一些不足之处，比如容易陷入局部最优，训练

 JnnRrfmk
2026-03-03 08:30:00

 526

 11

#剪枝
AI架构师必会：家居场景下的模型剪枝

随着AIoT（人工智能物联网）的蓬勃发展，智能家居设备日益普及，从智能音箱、扫地机器人到智能门锁、环境监测传感器，背后都离不开AI模型的支撑。这些设备通常具有。

AGI大模型与大数据研究院
2026-02-23 19:16:34

 834

 25

#人工智能 #剪枝 #算法
文献复现基于分布式模型预测控制的多智能体点对点转移的轨迹生成摘要—本文介绍了一种基于分布式...

最近复现了篇DMPC的论文，发现他们整了个挺有意思的"按需碰撞"策略，这里拆开说说门道。现在看仓库里无人机群流畅穿梭的画面，真有种在看蜂群舞蹈的魔幻感——当然，背后是无数个把碰撞约束从四次方降到二次方的数学魔术。最后说下并行化技巧。所提出的算法可以以分布式方式实现，并且与基于顺序凸规划（SCP）的先前优化方法相比，计算时间缩短了超过85%，同时对计划的最优性影响很小。所提出的算法可以以分布式方式实

 axPpcfNN
2026-02-20 17:17:03

 422

 12

#剪枝
基于搜索的剪枝方法

从表中可以看出，基于重要性的剪枝依赖人工设计的重要性评价准则，在低压缩率下尚能保持精度，但随着剪枝比例提升，精度会出现明显下降；而基于搜索的剪枝将剪枝视为结构搜索问题，通过强化学习、演化算法、可微分搜索等策略自动优化通道配置，能够在更高压缩率下更稳定地保持模型精度。其中，DMCP、AutoSlim 等可微分搜索剪枝方法，在搜索效率与性能上均表现突出，成为当前结构化剪枝的主流发展方向。

摸肚子的小胖子
2026-02-10 09:01:56

 345

 10

#剪枝 #算法 #机器学习 +3
我和 AI 聊了一晚上，第二天它说“你好，请问有什么可以帮你？“凌晨我的 AI 尽然悄悄把记忆清空了!——OpenClaw Session 完全生存指南：重置、压缩、剪枝、记忆一网打尽

用 OpenClaw 搭了个 AI 助手，聊得好的，第二天一早它就"失忆"了？本文从一个真实踩坑出发，系统拆解 OpenClaw 的 Session 机制——重置（Reset）、压缩（Compaction）、剪枝（Pruning）、记忆（Memory）、会话控制（Session Tool）——帮你彻底搞懂"对话为什么会消失"以及"怎么让 AI 记住你"

aiAIman
2026-02-09 11:09:56

 5729

 27

#人工智能 #剪枝 #算法
即插即用系列 | AAAI 2025 Mesorch：CNN与Transformer的双剑合璧：基于频域增强与自适应剪枝的篡改定位

本文提出了一种名为 Mesorch 的新型架构，用于图像篡改定位任务。该模型创新性地引入"介观"概念，通过并行结合 CNN（捕捉微观纹理）和 Transformer（提取宏观语义），并辅以频域双流增强与自适应加权模块，实现了多尺度特征的高效融合。实验表明，Mesorch 在多个基准数据集上达到 SOTA 性能，同时通过二次剪枝策略大幅降低计算成本（FLOPs 减少约50%）。该

 花开山岗红艳艳
2026-01-24 08:59:07

 949

 22

#cnn #transformer #剪枝 +4
PTA团体程序设计天梯赛 L3-033 教科书般的亵渎（DP状压+剪枝）（30/30) (Java实现)

九条可怜最近在玩一款卡牌游戏。在每一局游戏中，可怜都要使用抽到的卡牌来消灭一些敌人。每一名敌人都有一个初始血量，而当血量降低到 0 及以下的时候，这名敌人就会立即被消灭并从场上消失。现在，可怜面前有 n 个敌人，其中第 i 名敌人的血量是 ai，而可怜手上只有如下两张手牌：如果场上还有敌人，等概率随机选中一个敌人并对它造成一点伤害（即血量减 1），重复 K 次。对所有敌人造成一点伤害，重复该效果

 weixin_43897853
2026-01-21 08:19:45

 1272

 5

#剪枝 #算法 #机器学习
神经网络剪枝在卫星图像分析AI中的轻量化应用

随着卫星技术的不断发展，卫星图像数据量呈爆炸式增长。这些图像数据在农业、气象、环境监测、城市规划等众多领域具有重要的应用价值。然而，传统的神经网络模型在处理这些大规模卫星图像数据时，面临着计算资源消耗大、存储需求高以及推理速度慢等问题。本研究的目的是探索如何利用神经网络剪枝技术对应用于卫星图像分析的AI模型进行轻量化处理，以降低模型的计算复杂度和存储需求，同时尽可能保持模型的性能。范围涵盖了从神经

 AIGC应用创新大全
2026-01-18 23:35:28

 448

 11

#人工智能 #神经网络 #剪枝
大模型应用层开发必备！政务网站资讯日报自动化实战：从采集到LLM生成的全链路落地！

跳出这个项目来看，这类需求其实非常普适。政策研究机构追踪部委公告、行业协会收集会员单位新闻、企业市场部监控行业资讯、投资机构追踪标的公司公告，本质上都是"从若干固定信息源定期采集增量内容"。这类需求的共同特点是目标网站技术上不复杂、需要增量监控而非一次性采集、对实时性要求不高、体量也不大。大模型的成熟给这类需求解锁了一些新的可能。以前信息采集就只是采集，输出的是原始素材，后续的摘要、加工、分发还得

 程序猿李巡天
2026-01-09 21:40:34

 1620

 24

#政务 #自动化 #运维 +4
【文献阅读】Optimal Brain Compression A Framework for Accurate Post-Training Quantization and Pruning

本文提出了一种名为"最优脑压缩"（OBC）的新型训练后神经网络压缩框架，能够高效统一地处理权重剪枝和量化问题。该框架基于经典最优脑外科医生（OBS）方法，通过创新算法将其计算复杂度从O(d⁴)降低到O(d·d_col²)，使其适用于现代大规模神经网络。实验表明，OBC在图像分类、目标检测和语言建模任务中显著优于现有训练后方法，并能实现剪枝与量化的复合压缩。例如，在GPU上实现1

Toky丶
2026-01-08 17:12:22

 661

 25

#剪枝 #算法
从“搜索引擎“到“备忘录“：RAG与CAG技术选型指南，小白也能秒变AI专家！

文章详细对比了两大大模型知识整合技术：检索增强生成(RAG)和缓存增强生成(CAG)。RAG通过实时检索获取最新信息，适合动态知识场景；CAG预加载信息到缓存，追求高效响应，适用于稳定知识领域。文章解析了两者工作原理、优劣势、适用场景及行业应用案例，指出混合方案可能成为未来趋势，帮助开发者在性能与准确性间找到平衡。

程序猿李巡天
2026-01-08 14:18:55

 618

 11

#搜索引擎 #人工智能 #算法 +3
一文理清21种关键的智能体设计模式（全文1.5万字）

短短两年间，AI范式发生了巨大转变，从简单自动化迈向复杂自主系统。最初，工作流依赖基础提示和触发器，利用LLM处理数据。随后，检索增强生成（RAG）技术出现，通过事实信息提升模型可靠性。接着，单体智能体诞生，能够调用多种工具。如今，我们正步入智能体AI时代，多个专业智能体协作完成复杂目标，AI的协同能力实现了质的飞跃。图2：AI范式变化，从LLM到RAG，到智能体RAG，最终迈向智能体AI。

程序猿李巡天
2026-01-08 14:11:26

 1007

 23

#设计模式 #算法 #剪枝 +3
不用 Cursor 也能搞？Milvus-MCP 惊艳登场，极简构建本地知识库，太香了！

摘要：本文介绍了一套基于Cherry Studio和Milvus的企业知识库快速搭建方案，通过整合AI交互界面与高性能向量数据库，解决企业信息管理痛点。教程详细演示了Milvus部署、Cherry Studio配置、MCP服务器连接等关键步骤，强调其低门槛特性，即使非技术人员也能在十分钟内完成部署。系统可有效解决员工知识获取、历史文档检索等问题，提升企业信息流转效率。

小马不会过河
2026-01-07 16:04:31

 847

 23

#milvus #人工智能 #计算机视觉 +2
美国地产交易被AI大模型颠覆，RAG+混合搜索效率提升40%，程序员都在学！

美国地产交易服务商Rexera利用大模型和向量数据库技术（Zilliz Cloud）优化交易流程。通过RAG架构和混合搜索功能，高效处理上千页房地产文档，节省客户时间并降低成本。其AI agent架构包括文档提取与嵌入、agent编排、上下文检索、多模型验证和流式更新等环节，实现了地产交易的智能化处理，为传统行业提供了AI应用的典范。

小马不会过河
2026-01-07 15:59:00

 1074

 15

#人工智能 #计算机视觉 #剪枝 +1
粒子群优化与LSTM的完美结合：如何让模型参数不再“任性”

构建LSTM网络layers = [end% 训练函数end这段代码定义了一个简单的LSTM网络结构，并使用Adam优化器进行训练。createLSTM函数返回一个定义好的LSTM模型，trainModel函数则用于模型的训练，并返回模型的训练损失。粒子群优化算法在优化LSTM超参数方面表现出色，特别是QPSO算法，能够快速找到全局最优解。通过这种方式，我们可以有效减少手动调参的时间和精力，提升模

 侠***I
2025-12-31 10:45:00

 934

 40

#剪枝
NAS生成模型边缘部署延迟高后来才知道分层剪枝关键路径

最后，我想说，AI不是来抢人类饭碗的，而是来当我们的“生活搭子”。它可以帮你编辑视频、翻译心声、自动驾驶、管理家居，甚至哄你睡觉。虽然它偶尔会犯点小错误（比如年份写错、冷笑话不好笑），但正是这些“不完美”，让它更像我们身边的朋友。如果你觉得这篇文章“这人真像我”，那我成功了！毕竟，AI的终极目标不是复制人类，而是让人类活得更轻松。下次见面，咱们聊聊“AI如何帮我写年终总结”？（当然，它可能会把“总

 jie_kou
2025-12-24 15:11:56

 1016

 22

#剪枝 #算法 #机器学习 +2
大模型剪枝新范式：先浓缩，再剪枝——DenoiseRotator技术解读

美团智能交互团队联合上海交通大学听觉认知与计算声学实验室，以及香港科技大学的研究者，共同完成了大模型剪枝方法的创新研究，提出了名为DenoiseRotator的新技术。通过首先对参数矩阵进行变换，“将知识和推理能力浓缩到由少量参数组成的子网络内”，“再裁剪掉子网络外的参数”，实现了大模型剪枝的新范式。

美团技术团队
2025-12-19 15:01:03

 2910

 25

#剪枝 #算法 #机器学习
【万字长文】AI架构师崛起：AI与传统DDD模式结合，开发效率提升新境界！

本文以淘宝闪购系统为例，展示如何利用AI技术辅助DDD落地解决单体架构问题。通过AI分析代码结构、识别领域边界、生成领域模型和代码骨架，结合人工修正，实现了架构解耦和重复代码消除。实践证明，AI辅助架构设计可显著提升开发效率（代码生成准确率99%+），降低开发成本（从5-8人天降至配置化），缩短重构周期（75%+），为智能化架构演进提供了可行路径。

荔枝学Python
2025-12-19 14:14:44

 1212

 18

#人工智能 #剪枝 #机器学习 +2
神经网络剪枝：优化AI Agent的模型大小

随着人工智能技术的不断发展，神经网络在各个领域得到了广泛的应用。然而，大型神经网络模型通常具有大量的参数，这不仅增加了模型的存储需求，还导致了计算资源的浪费。神经网络剪枝技术的出现，为解决这些问题提供了有效的途径。本文的目的是深入探讨神经网络剪枝技术，详细介绍其原理、算法和实际应用，帮助读者了解如何通过剪枝来优化AI Agent的模型大小，提高模型的计算效率和可部署性。本文的范围涵盖了神经网络剪枝

 Golang编程笔记
2025-12-16 01:27:57

 632

 16

#人工智能 #神经网络 #剪枝
大模型压缩技术全解析：从剪枝到量化，程序员必学收藏指南

本文详细介绍了大模型压缩技术，包括剪枝(移除冗余连接)、量化(降低数值精度)和知识蒸馏(教师-学生模式)三大核心方法，并推荐了"知识蒸馏→剪枝→量化"的组合优化流程。通过系统压缩技术，可将庞大模型转化为轻量化模型，实现更小尺寸、更快推理速度和边缘设备部署能力，解决大模型存储和计算资源限制问题。

m0_48891301
2025-12-15 14:10:16

 1376

 13

#剪枝 #算法 #机器学习 +2
AR语义分割延迟高，后来才知道用MobileNetV3+剪枝优化

我家的"智能音箱"最近开始耍心眼。更绝的是它学会了"阴阳怪气"——每次我说"开灯"，它就用播音腔说"好的主人，灯光已为您开启"，活像《机器人总动员》里的瓦力。（突然正经）说真的，AI就像我们发明的火药——既能点燃烟花，也可能炸了自己的脚。就像我那个会写诗的扫地机器人，虽然总把"尘埃"押韵成"心塞"，但至少它扫地很干净啊！对了，如果你看到这篇文章里有啥错别字——比如把"2025年"写成"2052年"

jie_kou
2025-12-12 23:07:53

 757

 26

#剪枝 #算法 #机器学习 +2
AI模型压缩加速全攻略：量化、剪枝、蒸馏三大核心技术详解！

文章介绍AI模型压缩与加速技术，包括量化(降低精度减少存储计算)、剪枝(移除冗余结构)和知识蒸馏(小模型学习大模型)。详细解释各方法原理及工业部署中的组合策略：先剪枝减少冗余，再量化降低精度，最后通过蒸馏恢复精度，配合推理引擎优化，以提升模型推理性能。

荔枝学Python
2025-12-09 14:36:21

 990

 21

#人工智能 #剪枝 #算法 +2
动态稀疏训练不收敛，后来才知道剪枝频率要动态调整

明明是想系统学习AI，结果把Prompt写成"帮我写篇关于量子物理的七言绝句"，系统回我："您需要先理解薛定谔的猫..."更离谱的是，设计师说AI生成海报时会有固定审美偏好，这不就是电子版"我妈觉得你好"？原来最可怕的不是AI失控，而是我们开始用"有没有用"衡量一切。就像我老板现在要求每周汇报"AI使用时长"，搞得我每次用AI写日报都像在给机器打工...（我用AI分析多肉叶片发黄，得到的建议是"建

 jie_kou
2025-12-05 09:14:23

 692

 20

#剪枝 #算法 #机器学习 +2
学习笔记（4）：网络的轻量化研究

在深度学习领域，卷积神经网络（CNN）的性能提升往往伴随着参数量和计算量的爆炸式增长——比如ResNet-152拥有超5.7亿参数，处理一张224×224图像需113亿次浮点运算（FLOPs）。这让CNN在手机、嵌入式传感器等终端设备上的部署举步维艰。模型压缩成为破局关键，而剪枝作为其中高效且易落地的技术，一直是研究热点。近期研读了程点等人发表在《小型微型计算机系统》的《基于相似度感知的深度卷积神

 Seagull_06
2025-12-03 17:40:04

 735

 23

#人工智能 #剪枝 #深度学习
模型压缩“四剑客”实战出招：量化、剪枝、蒸馏、二值化，到底该怎么选？

模型压缩技术旨在降低大模型的存储与计算开销，使其能在边缘设备高效部署。主要方法包括量化(降低数值精度)、剪枝(移除冗余参数)、蒸馏(知识迁移)和二值化(参数二值化)。每种技术各有优势与局限，需根据应用场景选择合适方法。未来发展方向包括多技术融合、硬件协同设计和自动化工具开发，以实现更高效的模型压缩和优化。

全栈大佬！
2025-12-03 10:19:28

 1015

 21

#人工智能 #剪枝 #算法 +4
“医学影像边缘部署内存爆，后来才知道分层剪枝+量化补偿”

上周三我对着抽油烟机摔了手机——不是因为它漏油，而是它在AI生成的"分子料理食谱"指导下，把我的厨房变成了化学实验室。事情是这样的：我让AI助手推荐一道"适合程序员的5分钟料理"，结果它给我列了个需要液氮和海藻酸钠的食谱...现在每次路过宜家都得绕着走，因为那里的液氮罐太像我的失败纪念品了。他们花500万美元请来汤姆·布雷迪的AI分身"Brady"，结果这位"虚拟体育评论员"在回答"谁是史上最佳四

 jie_kou
2025-12-03 06:06:17

 819

 22

#剪枝 #人工智能 #算法 +2
前AWS科学家惊天实验：让AI学会“内卷”与“争吵”！群体智能，是进化还是失控？

单一 Agent 的能力和价值已毋庸置疑的当下，多个 Agent 如何协作成为 2025 年下半年的又一风口。很多人认为，这是 AI的第二次觉醒。第一次觉醒的标志事件是大语言模型的诞生——AI 由此学会了理

 沈页
2025-12-02 15:36:16

 725

 25

#aws #人工智能 #云计算 +4
Agent跑久了就崩溃？Anthropic官方出手！高效运行框架彻底解决“长时任务”噩梦！

随着 AI Agent（智能体）的能力越来越强，开发者越来越多地要求它们承担需要跨越数小时甚至数天才能完成的复杂任务。然而，**如何让 Agent 在多个“上下文窗口”（Context Window）之间保持工作的连贯性**，仍然是一个悬而未决的问题。

沈页
2025-12-02 15:34:37

 719

 24

#服务器 #人工智能 #运维 +4
急诊预警延迟高，边缘计算+模型剪枝救急

这种"过度诊断"在斯坦福的研究中屡见不鲜：模型对eGFR指标能正确标注临界值，但改善建议却模板化得像是从教科书里抄来的。他们开发的医疗大模型会把"蛋白尿"直译成德文术语，把"心脏骤停史"当现症。最后送你个小冷笑话收尾：为什么AI医生总分不清"心绞痛"和"心电图"？那个在诊室里反复揉搓药盒的糖尿病患者，那个把降压药藏在枕头下的高血压老人——这些人性的细节，永远需要你用眼睛去看，用心去感受。在广东某三

 J'ax
2025-12-02 01:09:41

 715

 15

#边缘计算 #剪枝 #人工智能 +2
知识图谱构建还在靠专家“人肉”维护？太慢了！大模型引爆人机协同革命，一周干完过去一年的活！

本文探索利用开源大语言模型实现知识图谱的半自动构建，提出了一个包含能力问题生成、本体开发、知识图谱构建和评估的完整管道。研究以深度学习方法论为例，通过学术出版物构建知识图谱，显著降低了人工参与成本，为知识工程领域提供了创新解决方案。

沈页
2025-12-01 13:50:56

 1836

 10

#知识图谱 #人工智能 #计算机视觉 +3
边缘部署内存溢出，后来才知道分层剪枝+量化补偿

更绝的是AI生成式艺术工具，我让它画"赛博朋克风格的猫"，它居然给猫咪加了机械义眼和霓虹灯牌——这哪是猫啊，分明是《攻壳机动队》的主角！最绝的是有次我问它"如何优雅地装死"，它认真分析了《红楼梦》里林黛玉葬花的体态描写...马斯克气得在推特上咆哮："这AI怎么比我的前女友还会演？就像我上周发现，那个总出错的AI助手，反而教会了我"煮鸡蛋要冷水下锅"这个祖传秘诀。（此处应有一张"时间线混乱"的漫画，

jie_kou
2025-11-30 15:17:33

 848

 21

#剪枝 #算法 #机器学习 +2
从“一次性生成”到“迭代式优化”！Unified-GRPO，如何让多模态模型拥有“思考闭环”？

多模态大模型（UMMs）长期面临“理解–生成”目标割裂的困境：主流做法将图像到文本（I2T）理解与文本到图像（T2I）生成视为两条独立管线，分别优化交叉熵或去噪 MSE，导致双方表征空间错位、梯度冲突，难以实现可验证的互惠提升。

沈页
2025-11-30 10:00:00

 964

 8

#计算机视觉 #人工智能 #剪枝 +3
底层冗余性原理探秘模型剪枝（Pruning）为何能“无损”压缩模型？

摘要：本文探讨了深度学习模型剪枝技术的底层原理与优势。研究表明，大型神经网络普遍存在“过参数化”冗余，类似于人脑的稀疏编码机制。剪枝通过权值敏感度分析识别冗余连接（如微小权重），采用“删除-再训练”迭代策略保留关键知识路径，实现模型压缩。结构化剪枝通过移除规则结构（如整个卷积核），显著降低FLOPs和内存占用，提升边缘设备推理效率。结合硬件兼容性优化，剪枝技术能与量化、蒸馏等方法协同，成为高效A

黑客思维者
2025-11-29 15:42:34

 986

 17

#剪枝 #算法 #机器学习
【智能体开发新范式】一文掌握MCP，构建你的“AI工具链”知识体系！

随着模型能力不断增强，AI Agent 正在从“单轮对话助手”向“能够连续运行数小时甚至数天的自主系统”进化。然而，工程实践一再证明：让一个 Agent 在长时任务中持续、稳定地推进，远比想象困难。上下文窗口有限、会话之间没有记忆、反复返工、误判进度等问题，会让一个复杂项目在数轮执行后彻底失控。

Python_金钱豹
2025-11-29 11:11:33

 632

 28

#人工智能 #微服务 #架构 +3
别再以为是“百度文库”了！大模型训练数据的“真面目”，可能让你大吃一惊！

你可能听过：

Python_金钱豹
2025-11-28 15:01:50

 889

 25

#百度 #人工智能 #产品经理 +2
2025年最新全模态RAG知识库框架深度评测，助力大模型开发效率提升！

文章介绍了2025年最新开源的5个全模态RAG知识库框架，包括UltraRAG 2.1、RAGFlow、Morphik等。这些框架在架构设计、检索精度和工程化成熟度方面各有优势，可实现文件解析、多模态索引到生成式问答的完整闭环。文章提供了详细评估、对比矩阵和选型决策树，帮助开发者根据不同场景选择最适合的RAG解决方案。

程序员王饱饱
2025-11-27 16:43:53

 1009

 25

#人工智能 #剪枝 #算法 +2
彻底搞懂Transformer：从零开始掌握大模型核心原理！

文章详细介绍了Transformer模型的整体架构，包括tokenization、位置编码、编码器和解码器的工作原理。作为BERT和GPT等大模型的核心，Transformer通过注意力机制融合上下文信息，编码器处理输入，解码器采用自回归方式生成序列。理解Transformer对掌握现代AI技术至关重要。

进击的码农！
2025-11-27 16:23:07

 892

 29

#transformer #深度学习 #人工智能 +2
AI大模型压缩秘籍：量化、剪枝、蒸馏三大技术深度剖析！

本文详解了AI模型三大压缩加速技术：量化(降低精度)、剪枝(移除冗余结构)和知识蒸馏(小模型模仿大模型)。这些技术可显著减少模型参数量和计算量，提升推理速度，同时保持精度。文章分析了各技术原理、优缺点及组合策略，为AI工程师提供了模型优化的实用指南，帮助解决大模型部署中的计算和存储压力问题。

程序员王饱饱
2025-11-26 15:59:17

 868

 8

#人工智能 #剪枝 #算法 +2
MCP终极指南：AI产品经理必看！一文搞懂“上下文操作系统”的过去、现在和未来！

你有没有遇到过这些场景？* 开发Agent时，发现模型会忘了之前的操作步骤；* 多个工具调用状态丢失，导致任务中断；* 不同AI系统协作时，上下文无法传递，各自为战；* 想让AI记住用户偏好，却只能靠Prompt？

Python_金钱豹
2025-11-26 14:32:58

 1094

 14

#人工智能 #产品经理 #剪枝 +3
你的Agent为什么又慢又贵？因为你还在用LLM“大炮打蚊子”！SLMs才是精准打击的“狙击手”！

过去几年，大模型（LLM）像“万能插件”一样被应用在各种 Agent 里：代码 Agent、检索 Agent、行动规划 Agent……但实际工程实践更接地气：

Python_金钱豹
2025-11-25 16:04:47

 908

 18

#剪枝 #算法 #机器学习 +2
《急诊模型量化后精度暴跌，梯度敏感动态剪枝救场》

它不是神明，而是个需要持续教育的学生。就像我现在的牙医说的："AI能帮我看到X光片里的'猫腻'，但诊断是门艺术，不是数学题。在这个AI医生快速成长的时代，或许我们更需要的不是对抗，而是建立新的医患关系：医生成为AI的教练，患者化身数据科学家，而监管者要做的，就是确保这个"AI医疗生态"不变成潘多拉魔盒。毕竟，比误诊更可怕的，是失去对生命的敬畏。（全文共2187字，包含1处故意错误：代码示例中缺少隐

 J'ax
2025-11-25 12:33:53

 898

 30

#剪枝 #算法 #机器学习 +2
《急诊模型轻量化后精度暴跌，动态剪枝救场》（聚焦：模型量化压缩技术；场景：三甲医院急诊AI预警系统部署；痛点：模型轻量化导致心梗识别率下降40%；解决方案：基于梯度敏感度的动态剪枝策略）

上周复查时，医生指着AI生成的诊断报告说：“这个结论70%可信，剩下的30%需要我来补全。AI不是在替代医生，而是在重新定义“医生”这个词的含义。就像我那只会挑猫粮的AI助手，终究还是得听我的猫主子发号施令。最后分享个段子：为什么AI医生总分不清感冒和流感？因为它们都属于“上呼吸道感染”——但人类患者可不想被当成同一种病对待啊！本文提及的所有医疗案例均为虚构，如有雷同纯属巧合。AI医生请记住：您的

 J'ax
2025-11-24 13:52:42

 996

 29

#人工智能 #剪枝 #算法 +2
洛谷 P7961 [NOIP2021] 数列题解

给定整数nmk，和一个长度为m1的正整数数组v0v1vm。对于一个长度为n，下标从1开始且每个元素均不超过m的非负整数序列ai，我们定义它的权值为va1×va2×⋯×van。当这样的序列ai满足整数S2a12a2⋯2an的二进制表示中1的个数不超过k时，我们认为ai是一个合法序列。计算所有合法序列ai的权值和对998244353取模的结果。

xbeixbdjsj
2025-11-22 02:57:56

 884

 27

#算法 #c++#动态规划 +1
《踩坑日记：边缘推理卡顿，后来才知道分层剪枝+缓存激活值》

昨天路过地铁站，看到有人用AI生成的广告牌卖"会跳舞的花生"。这让我想起那个深夜里的冷笑话：为什么AI永远不会成为伟大的艺术家？因为它们不知道花生不能开花，而人类恰恰知道这一点，所以才创造出美。所以啊，与其纠结AI能做什么，不如想想它不能做什么。毕竟连花生都知道要埋在土里，而我们人类，总该知道什么时候该笑，什么时候该停下来说："这事儿不对劲。（本文中提到的2024年错误已在2025年修正，但历史不

 jie_kou
2025-11-21 19:58:41

 1041

 11

#剪枝 #缓存 #算法 +2
《踩坑日记：边缘部署内存爆表，后来才知道要分层动态剪枝关键层》

这让我想起去年用这款设备的经历——当时它可是排队三天才能买到的"科技新宠"，结果现在躺在抽屉里和我的《AI伦理》课本玩俄罗斯方块。我亲自测试过——它会说"四分卫的抛物线是艺术"，但被问到橄榄球规则时就开始说"这个嘛...其实我更擅长打篮球"。更绝的是生成的报告里写着："用户存在97%的幽灵附体可能性"——这比我的舞蹈天赋真实多了。它照出我们的认知盲区，就像上周那个突然问"AI能否预测人类何时会打喷

 jie_kou
2025-11-21 14:17:10

 854

 30

#剪枝 #人工智能 #算法 +2
DeepSeek-V3.2-Exp技术探秘：稀疏化技术与权重剪枝全攻略，建议收藏！！

本文详解了大模型稀疏化技术中的权重剪枝方法，包括无结构剪枝（如SparseGPT）和结构化剪枝（如LLM-Pruner）的原理、优缺点及典型实现。无结构剪枝可实现高稀疏度但硬件加速受限，结构化剪枝更硬件友好但可能带来较大性能损失。通过这些技术，可在保持模型性能的同时减小规模、提高计算效率，是优化大语言模型的重要手段。

健忘的派大星
2025-11-19 14:16:09

 648

 12

#剪枝 #人工智能 #DeepSeek