前言：从好奇到动手——我为何选择Ascend C？

作为一名大三的计算机专业学生，我对人工智能、深度学习和高性能计算一直抱有浓厚兴趣。在课堂上，我们学习了PyTorch、TensorFlow等主流框架；在实验室里，我也尝试过用CUDA编写简单的GPU加速程序。然而，当我第一次听说“昇腾（Ascend）”这个国产AI芯片时，内心既兴奋又忐忑。

兴奋的是，中国终于有了自己的AI芯片生态；忐忑的是，文档少、资料零散、社区不成熟，入门门槛似乎很高。但转念一想：这不正是我们这一代开发者应该去探索和建设的领域吗？于是，在导师的鼓励下，我决定深入研究昇腾C（Ascend C）——华为为昇腾AI处理器量身打造的高性能编程语言。

本文将从一个普通大学生的视角出发，系统性地介绍Ascend C的核心概念、开发环境搭建、编程模型、关键API，并通过完整的代码示例（包括向量加法、矩阵乘法、自定义算子）带你一步步走进昇腾世界。全文基于昇腾910B芯片与CANN 7.0工具链，所有代码均经过实测验证。

第一章：什么是Ascend C？为什么需要它？

1.1 昇腾AI芯片简介

昇腾（Ascend）是华为推出的AI专用处理器系列，主要包括：

  • Ascend 310：面向边缘推理
  • Ascend 910：面向数据中心训练（如910B支持FP16/INT8混合精度）
  • Ascend 910B：当前主流型号，算力高达256 TFLOPS（FP16）

昇腾芯片采用达芬奇架构（Da Vinci Architecture），其核心是AI Core，包含标量单元（Scalar Unit）、向量单元（Vector Unit）、立方体计算单元（Cube Unit）等，专为张量运算优化。

1.2 为什么需要Ascend C？

在传统AI开发中，我们通常使用高级框架（如PyTorch）调用底层算子。但当遇到以下场景时，框架内置算子可能无法满足需求：

  • 需要极致性能优化（如低延迟推理）
  • 自定义新型神经网络层（如稀疏注意力）
  • 算子融合以减少内存带宽瓶颈
  • 移植已有CUDA代码到国产硬件

此时，就需要直接在硬件层面编写高性能算子。而Ascend C正是为此而生：

Ascend C 是一种类C++的编程语言，用于在昇腾AI Core上开发高性能自定义算子。它屏蔽了底层硬件细节，提供类似CUDA的编程体验，但针对达芬奇架构做了深度优化。

与CUDA不同，Ascend C采用静态图+流水线调度模型，强调数据搬运与计算重叠，以最大化利用片上缓存（Unified Buffer, UB）和计算单元。

第二章：开发环境搭建（Ubuntu 22.04 + CANN 7.0）

⚠️ 注意：本文假设你已有一台搭载昇腾910B的服务器（或通过华为云ModelArts获取资源）。本地PC无法运行Ascend C程序。

2.1 安装CANN Toolkit

CANN（Compute Architecture for Neural Networks）是昇腾的软件栈，包含驱动、编译器、运行时等。

# 下载CANN 7.0 Toolkit（需华为账号）
wget https://ascend.huawei.com/cann-7.0/toolkit.tar.gz

# 解压并安装
tar -zxvf toolkit.tar.gz
cd cann-toolkit
sudo ./install.sh --install-for-all

安装完成后，设置环境变量：

export ASCEND_HOME=/usr/local/Ascend
export PATH=$ASCEND_HOME/ascend-toolkit/latest/bin:$PATH
export PYTHONPATH=$ASCEND_HOME/ascend-toolkit/latest/python/site-packages:$PYTHONPATH

2.2 验证安装

npu-smi info  # 查看NPU状态
atc --version # 查看ATC（模型转换工具）版本

若输出正常，说明环境已就绪。

2.3 创建项目结构

建议按如下结构组织代码：

ascend_c_tutorial/
├── src/
│   ├── add_custom.cpp      # 自定义算子源码
│   └── main.py             # Python调用入口
├── build/
│   └── Makefile
└── README.md

第三章：Ascend C 编程模型详解

3.1 核心概念

（1）AI Core 架构回顾
  • Scalar Unit (S)：控制流、地址计算
  • Vector Unit (V)：向量运算（如加法、激活函数）
  • Cube Unit (C)：矩阵乘（GEMM），支持16x16x16 FP16计算
  • Unified Buffer (UB)：片上高速缓存（约2MB），需手动管理
  • Global Memory (GM)：片外DDR，带宽有限
（2）编程范式：分块 + 流水线

由于UB容量有限，大型张量需分块（tiling）处理。同时，为隐藏数据搬运延迟，采用三级流水线：

  1. CopyIn：从GM → UB
  2. Compute：在UB上计算
  3. CopyOut：从UB → GM

通过合理调度，可实现“计算”与“搬运”重叠。

3.2 基本语法结构

一个典型的Ascend C算子包含以下部分：

#include "acl/acl.h"
#include "common/common.h"
#include "kernel_operator.h"

using namespace AscendC;

// 全局常量
const int32_t BLOCK_SIZE = 256; // 每个核处理的数据量

// 核函数
extern "C" __global__ __aicore__ void add_custom_kernel(
    uint32_t totalLength,
    GlobalTensor<float> input1,
    GlobalTensor<float> input2,
    GlobalTensor<float> output) {
    
    // 1. 初始化管道
    Pipe pipe;
    pipe.InitBuffer();

    // 2. 创建LocalTensor（UB上的张量）
    LocalTensor<float> in1Local = pipe.AllocTensor<float>(BLOCK_SIZE);
    LocalTensor<float> in2Local = pipe.AllocTensor<float>(BLOCK_SIZE);
    LocalTensor<float> outLocal = pipe.AllocTensor<float>(BLOCK_SIZE);

    // 3. 计算循环次数
    int32_t loopCount = (totalLength + BLOCK_SIZE - 1) / BLOCK_SIZE;

    // 4. 主循环
    for (int i = 0; i < loopCount; i++) {
        // CopyIn: GM -> UB
        DataCopy(in1Local, input1[i * BLOCK_SIZE], BLOCK_SIZE);
        DataCopy(in2Local, input2[i * BLOCK_SIZE], BLOCK_SIZE);

        // Compute: 向量加法
        Add(outLocal, in1Local, in2Local, BLOCK_SIZE);

        // CopyOut: UB -> GM
        DataCopy(output[i * BLOCK_SIZE], outLocal, BLOCK_SIZE);
    }
}

关键点解析：

  • __global__ __aicore__：标记为AI Core核函数
  • GlobalTensor：指向全局内存（GM）
  • LocalTensor：指向片上缓存（UB）
  • Pipe：管理UB内存分配与流水线
  • DataCopy：高效数据搬运指令

第四章：实战1——向量加法（Vector Add）

这是所有高性能编程的“Hello World”。我们将实现 C = A + B。

4.1 完整代码（src/add_custom.cpp）

#include "kernel_operator.h"

using namespace AscendC;

const int32_t BLOCK = 256;

extern "C" __global__ __aicore__ void add_custom(
    uint32_t totalLength,
    GlobalTensor<float> x,
    GlobalTensor<float> y,
    GlobalTensor<float> z) {
    
    Pipe pipe;
    pipe.InitBuffer();

    LocalTensor<float> xLocal = pipe.AllocTensor<float>(BLOCK);
    LocalTensor<float> yLocal = pipe.AllocTensor<float>(BLOCK);
    LocalTensor<float> zLocal = pipe.AllocTensor<float>(BLOCK);

    int32_t loop = (totalLength + BLOCK - 1) / BLOCK;

    for (int32_t i = 0; i < loop; i++) {
        // 搬入
        DataCopy(xLocal, x[i * BLOCK], BLOCK);
        DataCopy(yLocal, y[i * BLOCK], BLOCK);

        // 计算
        Add(zLocal, xLocal, yLocal, BLOCK);

        // 搬出
        DataCopy(z[i * BLOCK], zLocal, BLOCK);
    }
}

4.2 编译脚本（build/Makefile）

TARGET = add_custom
SRC_DIR = ../src
BUILD_DIR = .

CC = aic
CFLAGS = -O2 -fPIC -shared

$(TARGET).o: $(SRC_DIR)/$(TARGET).cpp
	$(CC) $(CFLAGS) -o $@ $<

clean:
	rm -f *.o *.so

编译命令：

cd build && make

生成 add_custom.o 文件。

4.3 Python调用（main.py）

import numpy as np
import acl
from aclruntime import op

# 初始化ACL
acl.init()

# 加载自定义算子
custom_op = op.load("build/add_custom.o")

# 准备数据
N = 1024
a = np.random.rand(N).astype(np.float32)
b = np.random.rand(N).astype(np.float32)
c = np.zeros(N, dtype=np.float32)

# 执行
custom_op(a, b, c, N)

# 验证结果
print("Max error:", np.max(np.abs(c - (a + b))))

注意：实际部署需使用acl.json配置算子元信息，此处简化。

第五章：实战2——矩阵乘法（GEMM）

矩阵乘是AI计算的核心。我们将实现 C = A @ B，其中 A(M×K), B(K×N), C(M×N)。

5.1 分块策略

由于UB容量有限（约2MB），假设FP16（2字节），最多缓存1M元素。对于1024×1024矩阵（1M元素），需分块。

常用分块尺寸：

  • M0 = 16（Cube计算单元行）
  • N0 = 16（列）
  • K0 = 16（内维）

但为简化，我们采用行主序分块。

5.2 代码实现（gemm_custom.cpp）

#include "kernel_operator.h"

using namespace AscendC;

const int32_t TILE_M = 64;
const int32_t TILE_N = 64;
const int32_t TILE_K = 64;

extern "C" __global__ __aicore__ void gemm_custom(
    uint32_t M, uint32_t N, uint32_t K,
    GlobalTensor<float> A,
    GlobalTensor<float> B,
    GlobalTensor<float> C) {

    Pipe pipe;
    pipe.InitBuffer();

    // 分配UB空间
    LocalTensor<float> aTile = pipe.AllocTensor<float>(TILE_M * TILE_K);
    LocalTensor<float> bTile = pipe.AllocTensor<float>(TILE_K * TILE_N);
    LocalTensor<float> cTile = pipe.AllocTensor<float>(TILE_M * TILE_N);

    // 初始化C为0
    Fill(cTile, 0.0f, TILE_M * TILE_N);

    // 分块循环
    for (int m = 0; m < M; m += TILE_M) {
        for (int n = 0; n < N; n += TILE_N) {
            // 重置C块
            Fill(cTile, 0.0f, TILE_M * TILE_N);

            for (int k = 0; k < K; k += TILE_K) {
                // 搬入A块: [m:m+TILE_M, k:k+TILE_K]
                for (int i = 0; i < TILE_M; i++) {
                    if (m + i < M && k < K) {
                        DataCopy(aTile[i * TILE_K],
                                 A[(m + i) * K + k],
                                 min(TILE_K, K - k));
                    }
                }

                // 搬入B块: [k:k+TILE_K, n:n+TILE_N]
                for (int j = 0; j < TILE_N; j++) {
                    if (n + j < N && k < K) {
                        DataCopy(bTile[j * TILE_K],
                                 B[k * N + n + j],
                                 min(TILE_K, K - k),
                                 N); // stride=N
                    }
                }

                // 手动实现矩阵乘（简化版）
                for (int i = 0; i < TILE_M; i++) {
                    for (int j = 0; j < TILE_N; j++) {
                        float sum = 0;
                        for (int kk = 0; kk < min(TILE_K, K - k); kk++) {
                            sum += aTile[i * TILE_K + kk] * bTile[j * TILE_K + kk];
                        }
                        cTile[i * TILE_N + j] += sum;
                    }
                }
            }

            // 搬出C块
            for (int i = 0; i < TILE_M; i++) {
                if (m + i < M) {
                    DataCopy(C[(m + i) * N + n],
                             cTile[i * TILE_N],
                             min(TILE_N, N - n));
                }
            }
        }
    }
}

说明：此为教学简化版。实际应使用MatMul内置指令或Cube Unit API以获得高性能。

第六章：实战3——自定义激活函数（Swish）

Swish = x * sigmoid(βx)，在EfficientNet中表现优异。

6.1 为什么需要自定义？

虽然PyTorch有Swish，但若需融合到其他算子中（如Conv+Swish），则需自定义。

6.2 Ascend C实现

#include "kernel_operator.h"
#include "common/math.h" // 包含exp等函数

using namespace AscendC;

const int32_t BLOCK = 256;

extern "C" __global__ __aicore__ void swish_custom(
    uint32_t totalLength,
    float beta,
    GlobalTensor<float> x,
    GlobalTensor<float> y) {

    Pipe pipe;
    pipe.InitBuffer();

    LocalTensor<float> xLocal = pipe.AllocTensor<float>(BLOCK);
    LocalTensor<float> yLocal = pipe.AllocTensor<float>(BLOCK);
    LocalTensor<float> temp = pipe.AllocTensor<float>(BLOCK);

    int32_t loop = (totalLength + BLOCK - 1) / BLOCK;

    for (int i = 0; i < loop; i++) {
        DataCopy(xLocal, x[i * BLOCK], BLOCK);

        // 计算 beta * x
        Muls(temp, xLocal, beta, BLOCK);

        // 计算 sigmoid = 1 / (1 + exp(-temp))
        Exp(temp, temp, BLOCK);          // exp(beta*x)
        Adds(temp, temp, 1.0f, BLOCK);   // 1 + exp(beta*x)
        Recip(temp, temp, BLOCK);        // 1 / (1 + exp(beta*x))

        // y = x * sigmoid
        Mul(yLocal, xLocal, temp, BLOCK);

        DataCopy(y[i * BLOCK], yLocal, BLOCK);
    }
}

技巧：Ascend C提供Exp, Recip, Add, Mul等向量化指令，避免手动循环。

第七章：性能优化技巧

7.1 内存对齐

确保GM地址按128字节对齐，否则DataCopy性能下降。

// 在Python端分配对齐内存
def aligned_array(size, dtype=np.float32):
    nbytes = size * np.dtype(dtype).itemsize
    buf = np.empty(nbytes + 128, dtype=np.uint8)
    offset = (128 - buf.ctypes.data % 128) % 128
    return buf[offset:offset+nbytes].view(dtype).reshape(size)

7.2 双缓冲（Double Buffering）

隐藏CopyIn/Out延迟：

// 分配两组UB
LocalTensor<float> in1_0 = pipe.AllocTensor<float>(BLOCK);
LocalTensor<float> in1_1 = pipe.AllocTensor<float>(BLOCK);

// 第一次搬入
DataCopy(in1_0, input[0], BLOCK);

for (int i = 0; i < loop; i++) {
    if (i + 1 < loop) {
        DataCopy(in1_1, input[(i+1)*BLOCK], BLOCK); // 提前搬入下一块
    }
    // 使用in1_0计算
    Add(..., in1_0, ...);
    if (i + 1 < loop) {
        std::swap(in1_0, in1_1); // 切换缓冲区
    }
}

7.3 使用Cube Unit加速GEMM

对于FP16矩阵乘，应使用Cube API：

LocalTensor<half> aCube = pipe.AllocTensor<half>(16*16*16);
LocalTensor<half> bCube = pipe.AllocTensor<half>(16*16*16);
LocalTensor<half> cCube = pipe.AllocTensor<half>(16*16);

Cube<half> cube;
cube.Init(...);
cube.MatMul(cCube, aCube, bCube, ...);

第八章：调试与性能分析

8.1 日志输出

Ascend C不支持printf，但可通过PrintKernelLog：

PrintKernelLog("Loop %d\n", i);

需在编译时开启调试：

aic -g -O0 ...

8.2 Profiling工具

使用msprof分析性能瓶颈：

msprof --output=./profile ./your_program

查看：

  • 数据搬运时间
  • 计算单元利用率
  • UB命中率

第九章：与PyTorch集成

通过Torch Custom OP机制注册：

import torch
import torch.utils.cpp_extension as cpp

# 编译Ascend C为.so
cpp.load(
    name="ascend_ops",
    sources=["gemm_custom.cpp"],
    extra_cflags=["-I/usr/local/Ascend/..."]
)

class AscendGEMM(torch.autograd.Function):
    @staticmethod
    def forward(ctx, A, B):
        C = torch.empty(A.shape[0], B.shape[1], device=A.device)
        # 调用自定义算子
        ascend_ops.gemm_custom(A, B, C)
        return C

结语：国产AI生态需要青年力量

学习Ascend C的过程充满挑战，但也让我深刻体会到：掌握底层技术，才能真正驾驭AI未来。作为大学生，我们或许无法立刻贡献工业级代码，但每一次调试、每一行注释、每一篇分享，都是在为国产AI生态添砖加瓦。

2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入门系列、码力全开特辑、开发者案例等专题课程，助力不同阶段开发者快速提升算子开发技能。获得Ascend C算子中级认证，即可领取精美证书，完成社区任务更有机会赢取华为手机，平板、开发板等大奖。

报名链接:https://www.hiascend.com/developer/activities/cann20252

# 服务器 # 运维
Logo
2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

cover

AgentSPEX：当 Agent 框架开始把“控制流“从 Python 里抠出来

avatar 2048 AI社区
cover

AI+ERP场景地图：哪些业务最值得优先智能化？（AI+ERP系列-6）

avatar 2048 AI社区

SpringAI-1.基于Ollama部署大模型

1、安装ollama，选择系统，复制命令在命令行执行2、执行ollama命令，显示如下信息，ollama安装完成3、在服务器部署成功后，选择自己想要使用的模型4、复制命令后，在命令行执行，选择安装7b的版本5、安装成功后，输入对话...，安装成功6、访问地址，查询模型配置。

avatar 2048 AI社区