---

作者书籍推荐：
⚡ 内地版本：电子工业出版社已出版，并在大陆热销。Yocto项目实战教程:高效定制嵌入式Linux系统
⚡ 海外版本：繁体中文版支持全球华人购买，让更多开发者轻松掌握嵌入式系统核心技能。 金石堂购买链接
🎥 更多学习视频请关注 B 站：嵌入式Jerry

---

Jetson 嵌入式 AI · 第一课：Jetson 与 JetPack 核心概念（最基础但最重要）

这一课的目标只有两个：

1. 让你彻底理解 Jetson 是什么
2. 让你准确理解 JetPack / L4T 的软件结构**

不讲应用、不讲产品、不讲生态，只讲两个最核心的基础概念。

如果你理解了这两个概念，后续学习（模型推理、驱动、GStreamer、TensorRT）都会清晰许多。

---

零、Jetson 当前有哪些产品？（系列与分类，一次讲透）

为了理解 Jetson 的定位，先要搞清楚 当前市面上有哪些 Jetson 产品系列，它们之间有什么差别。下面用最简单、最通俗的方式讲明白。

Jetson 全系列分为三大类：Nano、NX、AGX

它们就像手机的入门款、中端款、旗舰款，很好记。

---

⭐ Jetson 系列核心对比表（最实用）

型号	GPU TOPS（AI 性能）	内存	功耗范围	典型场景	官方链接
Jetson Orin Nano 4GB	20 TOPS	4GB	5–7W	入门、轻量 AI	https://www.nvidia.com/zh-cn/autonomous-machines/embedded-systems/jetson-orin-nano/
Jetson Orin Nano 8GB	40 TOPS	8GB	7–15W	中低负载 AI、学习	同上
Jetson Orin NX 8GB	70 TOPS	8GB	10–25W	机器人、AI 摄像头	https://www.nvidia.com/zh-cn/autonomous-machines/embedded-systems/jetson-orin/
Jetson Orin NX 16GB	100 TOPS	16GB	10–25W	工业视觉、多摄像头	同上
Jetson AGX Orin 32GB	200 TOPS	32GB	15–50W	高性能机器人、SLAM	https://www.nvidia.com/zh-cn/autonomous-machines/embedded-systems/jetson-agx-orin/
Jetson AGX Orin 64GB	275 TOPS	64GB	15–60W	自动驾驶原型、重载 AI	同上

表格结论：Orin Nano 入门，Orin NX 主流，AGX Orin 顶配。

---

1. Jetson Nano / Orin Nano（入门级）

适合：学习 AI、轻量边缘推理、单路摄像头。

特点：

• 价格最低
• 功耗最低
• 适合轻量模型（YOLOv5n、分类、人脸检测）

推荐型号：

• Jetson Orin Nano 8GB（40 TOPS） → 入门最佳

---

2. Jetson Orin NX（主流选择）

适合：机器人、工业视觉、多路视频 AI。

特点：

• 70–100 TOPS 性能
• 能跑 YOLOv8-L、OCR、跟踪、多摄像头
• 功耗可控，适合产品化

主流型号：

• Orin NX 16GB（性能/成本最均衡）

---

3. Jetson AGX Orin（旗舰级）

适合：高负载视觉、多传感器融合、自动驾驶原型。

特点：

• 200–275 TOPS 顶级性能
• 支持多路高分辨率摄像头实时推理
• 工业与科研常用

代表型号：

• AGX Orin 64GB → AI 最强性能

---

如果你是新手，怎么选？

• 学 AI / 初学者 → Orin Nano 8GB
• 机器人 / 工业视觉 → Orin NX 16GB
• 企业 / 极限负载 → AGX Orin 64GB

---

🔥 Jetson vs 市场同类产品对比（用一张表讲清楚）

为了帮助你做产品选型，这里给出最清晰、最实用的一张对比表。

⭐ 嵌入式 AI 平台核心对比表

平台	AI 性能（推理速度）	GPU 能力	视频多媒体能力	驱动成熟度	开发生态	价格	缺点
NVIDIA Jetson Orin 系列	★★★★★（TensorRT 最强）	★★★★★	★★★★★（NVENC/NVDEC/ISP）	★★★★★	★★★★☆	较高	部分组件闭源、成本高
Rockchip RK3588	★★★（NPU 不稳定）	★★（Mali GPU）	★★★（RGA/硬解码）	★★★	★★★★	低	NPU 框架兼容性弱、驱动需厂商支持
Raspberry Pi 5	★（无 NPU）	★	★★	★★	★★★★★（社区最大）	超低	基本无 AI 能力，不适合工业
Intel NUC / x86 Mini PC	★★★★（CPU 强）	★★★	★★★	★★★★★	★★★★★	中～高	功耗高，不适合嵌入式产品

表格结论（非常重要）：

• Jetson → 最强 AI + 最强视频处理 + 最成熟驱动（适合产品）
• RK3588 → 性价比最高的 AI 替代方案（适合中低成本）
• 树莓派 → 适合教育，不适合 AI
• x86 → 适合边缘服务器，不适合嵌入式或电池供电

---

一、Jetson 是什么？（核心本质，用一句话说明）

在正式进入 Jetson 的核心本质之前，我们需要补充一个所有人都会看到，但往往不理解的性能指标：TOPS。
这对理解 Jetson 性能差异非常关键。

---

🔍 TOPS 是什么？（简单一句话，不是核心概念）

在了解 Jetson 的性能时，你经常会看到 “20 TOPS / 40 TOPS / 100 TOPS”。
这里简单说明，不展开：

TOPS（Tera Operations Per Second）＝ 每秒能执行多少万亿次运算，用来描述 AI 推理能力。

它只是一个 参考指标，不是 Jetson 的核心概念，也不需要深入研究。

更重要的是：

• Jetson 的真实性能取决于 GPU 架构 + CUDA + TensorRT 的组合
• TOPS 只代表 理论最大能力，不能完全代表实际速度

所以：

理解 TOPS 是帮助你区分不同 Jetson 型号，而不是理解 Jetson 的核心。

（下面继续正文）

---

🧩 TOPS、GPU、CUDA、TensorRT 之间的关系

很多新手会混淆，这里用一句话讲清楚：

• TOPS 表示理论 AI 能力（硬件天花板）
• GPU 是实际执行运算的硬件（执行者）
• CUDA 是让 GPU 能算起来的软件底层（驱动层）
• TensorRT 是把模型推到最大速度的优化器（效率工具）

总结：

GPU 决定“能不能跑”，TOPS 决定“能跑多快”，TensorRT 让速度最大化。

---

📏 那 Jetson 的 GPU TOPS 是怎么算的？

NVIDIA 通常提供：

• FP32（单精度）
• FP16（半精度）
• INT8（量化推理）

真正用于 AI 推理的是 INT8 TOPS（速度最高）。

例如：

• Orin Nano：20–40 TOPS（INT8）
• Orin NX：70–100 TOPS（INT8）
• AGX Orin：200–275 TOPS（INT8）

越往上，处理能力呈倍数增长。

---

🛠 影响性能的三大关键因素（很多人误解）

1. TOPS（硬件上限）

决定“最大可能性能”。

2. 内存大小（能不能加载大模型）

例如：

• 4GB → 只能跑小模型
• 8GB → 中型模型
• 16GB → 多输入/多摄像头
• 32GB / 64GB → 大型 Transformer/多路高清输入

3. TensorRT 优化（实际性能关键）

TensorRT 可让模型：

• 体积减小
• 推理速度提升 5~20 倍
• 延迟更低

真正的 Jetson 性能来自：TOPS × TensorRT × 优化程度。

---

一、Jetson 是什么？（系列与分类，一次讲透）

为了理解 Jetson 的定位，先要搞清楚 当前市面上有哪些 Jetson 产品系列，它们之间有什么差别。下面用最简单、最通俗的方式讲明白。

Jetson 全系列分为三大类：Nano、NX、AGX

它们就像手机的入门款、中端款、旗舰款：

---

1. Jetson Nano / Orin Nano（入门级）

适合：学习 AI、边缘轻量级应用、教育/开发者入门。

特点：

• 功耗低（5W～10W）
• GPU 性能适中
• 适合跑轻量模型：分类、轻量 YOLO、人脸检测
• 成本最低

现役型号：

• Jetson Orin Nano（8GB/4GB） → 推荐入门首选

---

2. Jetson Orin NX（中高性能）

适合：机器人、工业视觉、实时视频处理、室内 SLAM 等。

特点：

• 性能远超 Nano 系列
• GPU、NVDLA 完全可用
• 可跑 YOLOv8、OCR、跟踪、多路视频
• 功耗一般在 10W～25W 可调

现役型号：

• Jetson Orin NX 16GB（性能最推荐）
• Jetson Orin NX 8GB

这是目前最均衡、最常见的 Jetson 型号。

---

3. Jetson AGX Orin（旗舰级）

适合：无人机、重型机器视觉、自动驾驶原型、多摄像头 AI 处理。

特点：

• 超强 GPU（高达 275 TOPS）
• 支持多路高清摄像头实时推理
• 面向企业级或重载应用
• 功耗可调（15W～60W）

现役型号：

• Jetson AGX Orin 64GB
• Jetson AGX Orin 32GB

一句话概括：

Nano 入门、NX 主流、AGX 顶配。

---

如果你是新手，选哪款？

• 预算有限、学基础 → Orin Nano
• 想做机器人、目标检测、工业视觉 → Orin NX
• 企业开发或追求极限性能 → AGX Orin

---

一、Jetson 是什么？（核心本质，用一句话说明）

Jetson = 一块运行 Linux 的嵌入式电脑 + NVIDIA GPU。

所以它本质有三个关键要素：

1. ARM CPU（运行 Linux 系统）

Jetson 并不是 MCU 或 RTOS，而是完整 Linux 电脑。
它能：

• 运行 Ubuntu
• apt 安装软件
• 运行 Python/C++
• 使用系统服务（systemd、udev）

CPU 负责系统与逻辑，但不是 Jetson 的核心价值所在。

2. NVIDIA GPU（Jetson 的真正价值）

Jetson 最特别、最核心的部分，是 GPU。
这使它可以：

• 运行 AI 推理
• 图像处理
• 视频编解码加速
• CUDA 并行计算

如果你把 GPU 拿掉，那 Jetson 和普通 ARM 板几乎没区别。

3. 统一的软件栈（Jetson 的灵魂）

GPU 强还不够，Jetson 最关键的优势是：

它拥有一整套 NVIDIA 官方提供、深度优化过的软件栈。

这套软件栈就是 JetPack（稍后讲）。

总结成一句话：

Jetson = 嵌入式硬件 + GPU + NVIDIA 官方软件栈。

这就是它与树莓派、RK3588 的根本差异。

---

二、JetPack 是什么？（必须理解的核心）

JetPack 是 Jetson 的软件发行版。
无论你使用 Orin Nano、Orin NX、AGX Orin，系统都是 JetPack。

其本质包含两个部分：

JetPack = L4T（Linux + 驱动） + NVIDIA AI 软件

这句话必须完整理解。

---

三、什么是 L4T？（JetPack 的底座）

L4T = Linux for Tegra
是 NVIDIA 为 Jetson 修改优化过的系统底层。

它包含：

• Linux 内核（带 NVIDIA 补丁）
• GPU 驱动
• 显示驱动
• NVDLA/视频编解码驱动
• 摄像头 ISP 驱动（nvargus）
• I2C/SPI/UART/GPIO 等常用外设驱动

总结：

L4T 管理“硬件层”。保证 Jetson 上所有硬件能工作。

如果没有 L4T，GPU、视频、摄像头都无法跑起来。

---

四、JetPack 包含哪些软件？（最核心的软件结构）

JetPack = L4T + AI 相关软件（用户层）

从软件架构看，JetPack 包含：

JetPack 软件结构：

┌──────────────────────────┐
│  AI 加速库（TensorRT、cuDNN、CUDA） │  ← AI 的核心
├──────────────────────────┤
│  多媒体框架（GStreamer、V4L2、NVENC/DEC） │
├──────────────────────────┤
│  图形与显示（EGL、OpenGL）            │
├──────────────────────────┤
│  系统服务（Argus Camera、nvpmodel、systemd） │
├──────────────────────────┤
│  L4T 内核 + 驱动（GPU、ISP、Codec 等）   │  ← 与硬件直连
├──────────────────────────┤
│  Ubuntu 根文件系统                  │
└──────────────────────────┘

核心层级解释：

1. CUDA（GPU 计算基础）

用于并行计算，是所有 AI 计算的基础。

2. cuDNN（深度学习基础库）

TensorFlow、PyTorch 都依赖它加速卷积等算子。

3. TensorRT（AI 推理引擎）

Jetson 上 AI 推理性能提升 5~20 倍的关键。

4. 多媒体加速（NVENC/DEC + GStreamer）

Jetson 的视频处理全部依赖它。

5. Camera ISP（nvargus）

NVIDIA 专门为摄像头做的 ISP 处理管线。

最终：

JetPack 把 GPU + AI + 多媒体 + Linux 整合成一个统一系统。

你刷完 JetPack，所有这些能力开箱就能用。

---

五、为什么 JetPack 是 Jetson 的核心？（必须搞懂）

因为 JetPack 决定了：

• GPU 是否真正被启用
• TensorRT 是否能跑
• 摄像头是否能打开
• 视频是否能解码
• GStreamer 是否能走硬件加速
• CUDA 是否能调用
• AI 模型是否能运行

Jetson 的所有能力都来自 JetPack。

换句话说：

硬件是身体，JetPack 是灵魂。

如果你不用 JetPack，而使用没有 NVIDIA 驱动的通用 Linux —— Jetson 就废了。

---

六、一句话重新总结（最核心的三条）

✔ Jetson 是什么？

一块带 GPU 的嵌入式 Linux 计算平台。

✔ JetPack 是什么？

Jetson 的官方系统发行版，包含驱动、CUDA、TensorRT、GStreamer、摄像头 ISP 等所有软件栈。

✔ L4T 是什么？

JetPack 的内核与驱动底层（Linux for Tegra）。

做到这三点理解，你就已经比 90% 的 Jetson 新手理解得更深入。

下一节课，我们将进入：

如何在 Jetson 上运行第一个 AI 模型（不用写代码）。

这会让 JetPack、CUDA、TensorRT 的概念彻底串起来。

---

作者书籍推荐：
⚡ 内地版本：电子工业出版社已出版，并在大陆热销。Yocto项目实战教程:高效定制嵌入式Linux系统
⚡ 海外版本：繁体中文版支持全球华人购买，让更多开发者轻松掌握嵌入式系统核心技能。 金石堂购买链接
🎥 更多学习视频请关注 B 站：嵌入式Jerry

---