登录社区云，与社区用户共同成长
邀请您加入社区
天数智芯通过适配Triton框架实现了国产GPU的高效AI计算，主要优势包括：1）基于LLVM生态的无缝兼容；2）GPGPU架构的高度契合；3）支持Triton Kernels零改写复用。适配工作聚焦编译器层优化，在FlashAttention算子中实现了Block Tiling、MMA指令优化和延时归约等技术，使V2版本性能显著提升。该方案支持开发者直接迁移现有Triton代码，为国产AI芯片生
摘要：针对ComfyUI插件安装后出现的"Failed to import comfy_kitchen"报错问题，本文提供了一套在RTX3090显卡上强制启用comfy-kitchen官方加速库的解决方案。通过三步操作：1）利用系统级CUDA13.1编译专属Wheel包；2）修改源码绕过硬件检测限制；3）应用自动化补丁脚本，成功在CUDA12.6环境下激活了原本仅支持新架构的F
本文对比分析了GPU编程模型Triton与昇腾NPU编程模型AscendC的核心差异，重点探讨了在AscendC中优化大模型推理的四大关键技术：KVCache增量解码、稀疏矩阵乘法、混合精度计算和多核负载均衡。通过实测数据验证，AscendC的精细化控制能带来4-5倍性能提升，尤其在长序列场景优势显著。文章还提供了完整代码示例和优化实践指南，揭示了从"抽象编程"到"硬
华为CANN8.0异构计算架构技术解析 本文深入剖析华为CANN8.0的技术创新，重点展示其七层软件栈架构如何通过三大核心技术实现性能突破：1）BiSheng编译器支持Triton前端，降低CUDA算子迁移成本90%；2）智能算子融合引擎实现89%融合覆盖率；3）P-D分离架构优化大模型推理性能20%+。关键技术包括动态资源调度、异构芯片统一封装和AIIR中间表示跨框架迁移能力，并配有Llama-
本文深入解析如何在昇腾AI处理器上通过OpenAI Triton语言实现高性能算子开发与跨架构迁移。Triton-昇腾协同架构的深度解析、基于Block的并行编程模型端到端开发实战示例，以及迁移过程中的典型"坑"与解决方案。关键技术点包括：通过Triton Pythonic前端实现开发效率的5-10倍提升；利用自动代码生成与优化技术达到接近手写Ascend C的85-90%性能；掌握跨架构通用设计
2025 Meet AI Compiler 第 8 期技术沙龙将于 12 月 27 日在上海创智学院举办。
本文探讨了通用编程模型Triton与专用AI硬件昇腾Ascend的深度集成，展示了如何通过Python语法实现高性能AI计算。文章详细解析了昇腾硬件架构特性（3D计算单元和分级缓存）以及Triton编译器的工作原理，包括从Python到AscendC的转换流程和内存访问优化。通过矩阵乘法案例展示了优化前后的性能对比（2.6倍提升），并介绍了动态形状适配、混合精度等高级优化技巧。最后展望了自动算子生
本文深入解析Triton在昇腾AI处理器上的内存管理和并行计算优化技术。涵盖内存层次架构数据布局优化并行调度策略等核心内容，通过完整代码示例展示如何提升算子性能2-5倍。文章包含昇腾平台特有的UB缓存管理原子操作优化动态负载均衡等实战技巧，为AI开发者提供从入门到精通的完整解决方案。基于实际项目经验，分享独特优化见解，帮助读者掌握高性能算子开发的关键技能。本文系统解析了Triton在昇腾平台上的并
摘要：本文系统研究了Triton硬件无关编程模型在昇腾AI处理器上的实现机制。针对CUDA生态锁定问题，深入解析了Triton中间表示层对异构计算的抽象方法，重点探讨了SPMD模型与昇腾达芬奇架构的映射策略。通过矩阵乘法和卷积算子的完整移植案例，展示了从CUDA到Ascend的代码迁移过程，并首次公开了在万亿参数推荐系统中的实战性能数据。研究表明，Triton-on-Ascend方案能保持90%以
Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境，以高效编写自定义 DNN 计算内核，并能够在现代 GPU 硬件上以最大吞吐量运行。这里大多数命名的成员函数都是 triton.language 中自由函数的重复。例如，triton.language.sqrt(x) 等同于 x.sqrt()。triton.language 中的大多数函数对 tensors
