一句话答案：训练用 PyTorch，部署不用 PyTorch。通过模型导出 + 轻量推理引擎 + 工程优化，你也能做出 30MB 内置 OCR 的“小而美”工具。

---

🔍 问题起源：小工具为何能“自带 OCR”？

你是否曾好奇：像 PixPin、Snipaste、ShareX 这类截图工具，体积仅 20–50 MB，却能实现文字识别（OCR）？而我们熟悉的深度学习框架如 PyTorch、TensorFlow 动辄 几百 MB，加载一个模型似乎“理应很重”。

这背后其实藏着现代 AI 部署的核心秘密：

训练和推理是两回事。
训练需要庞大生态，但推理只需精简引擎。

本文将手把手教你如何绕过“重型框架”，用 ONNX + 预训练模型 构建一个真正轻量、跨平台、脱离 PyTorch/TensorFlow 的 OCR 小工具，并告诉你哪里可以免费获取高质量 OCR 模型。

---

🧠 一、为什么小工具不依赖 PyTorch？

1. 推理 ≠ 训练

• PyTorch 包含自动微分、优化器、数据加载器等训练组件——这些在推理时完全无用。
• 实际推理只需要：前向计算图 + 权重参数。

2. 轻量推理引擎才是关键

主流部署方案：

引擎	特点	典型体积
ONNX Runtime	微软开源，支持 CPU/GPU，跨平台	8–15 MB
NCNN / MNN	腾讯/阿里出品，移动端极致优化	5–10 MB
TFLite	Google 轻量，适合 Android/iOS	<5 MB
Paddle Lite	百度生态，对 Paddle 模型友好	~12 MB

✅ 结论：用 ONNX Runtime + ONNX 模型，是最通用、最轻量的选择。

---

🚀 二、ONNX 方案：构建你的 OCR 小工具

步骤 1：获取预训练 OCR 模型（无需训练！）

你不需要从头训练！以下平台提供开箱即用的 ONNX 格式 OCR 模型：

✅ 推荐 1：PaddleOCR 官方 ONNX 模型（精度高、体积小）

尽管来自 Paddle 生态，但官方已直接提供 .onnx 文件，无需安装 Paddle！

• 中文检测模型（DB）：ch_PP-OCRv4_det_innx（~3.5 MB）
• 中文识别模型（SVTR）：ch_PP-OCRv4_rec_onnx（~6.8 MB）

💡 合计不到 11 MB，支持中英文混合、倾斜文本、低分辨率图像。

✅ 推荐 2：ModelScope（魔搭）—— 阿里开源模型平台

搜索 “OCR ONNX”，可找到：

• PP-OCRv5 ONNX 版
• CRNN 中文识别模型
• 表格识别、公式识别等专用模型
  🔗 https://www.modelscope.cn

✅ 推荐 3：GitHub 开源项目

• OnnxOCR：封装好的 PP-OCR ONNX 推理代码，无 Paddle 依赖。
• EasyOCR-ONNX：社区版 EasyOCR 导出，支持 80+ 语言。

---

步骤 2：极简 Python 推理代码

只需 3 个依赖：

pip install onnxruntime opencv-python-headless numpy

使用 opencv-python-headless 可避免 GUI 依赖，体积减少 20 MB！

检测模型推理示例：

import onnxruntime as ort
import cv2
import numpy as np

# 加载 ONNX 模型
session = ort.InferenceSession("ch_PP-OCRv4_det_infer.onnx")

# 图像预处理
img = cv2.imread("screenshot.png")
orig_h, orig_w = img.shape[:2]
img = cv2.resize(img, (640, 640)).astype(np.float32) / 255.0
img = np.transpose(img, (2, 0, 1))[None, :]  # -> (1, 3, 640, 640)

# 推理
boxes = session.run(None, {"x": img})[0]  # 输出 shape: [1, 2, H, W]
print("Detected text regions:", boxes.shape)

识别模型同理，只需更换模型文件和输入尺寸。

---

步骤 3：打包为独立 EXE（可选）

使用 PyInstaller 打包：

pip install pyinstaller
pyinstaller --onefile --exclude-module torch --exclude-module tensorflow ocr_tool.py

最终体积分析：

组件	大小
ONNX Runtime (CPU)	~8 MB
OCR 模型（det + rec）	~11 MB
OpenCV (headless) + NumPy	~12 MB
Python 解释器（打包后）	~10 MB
总计（未压缩）	~40 MB
UPX 压缩后	✅ 25–30 MB

🎯 对比：PixPin 安装包约 35 MB，你的工具完全可以做到同等甚至更小！

---

⚖️ 三、ONNX vs Paddle Lite：怎么选？

维度	ONNX Runtime	Paddle Lite
是否需安装训练框架	❌ 不需要	❌ 不需要（但模型来源受限）
模型兼容性	✅ 支持所有主流框架导出	❌ 仅支持 Paddle 模型
运行时体积	更小（8 MB）	稍大（12 MB）
GPU 支持	✅ CUDA / DirectML / CoreML	❌ Python 版仅 CPU
跨平台性	极强（Win/macOS/Linux/Android/iOS/Web）	较好，但生态封闭

✅ 除非你深度绑定 Paddle 生态，否则 ONNX 是更优解。

---

💡 四、进阶建议：如何做得更小更快？

1. 模型量化：将 FP32 模型转为 INT8，体积减半，速度提升 2–3 倍（ONNX Runtime 支持）。
2. 裁剪 OpenCV：若只需基础图像读写，可用 Pillow 替代，再省 5–10 MB。
3. C++ 重构：用 ONNX Runtime C++ API + Qt/WxWidgets，可压到 <20 MB（适合专业工具）。
4. 按需加载：首次使用再下载模型，安装包可缩小至 10 MB 以内。

---

🌟 五、总结：小工具的“大智慧”

• 不要被训练框架吓到：推理可以非常轻量。
• ONNX 是部署的“通用语言”：一次导出，处处运行。
• 优质预训练模型唾手可得：PaddleOCR、ModelScope 等平台已为你准备好。
• 30 MB 内置 OCR 不是梦：用 ONNX Runtime + 超轻量模型，你也能做到。

真正的工程之美，在于用最小的代价，解决最大的问题。

---

📦 附录：快速启动资源

• 📘 PaddleOCR ONNX 模型列表：https://github.com/PaddlePaddle/PaddleOCR/blob/release/2.7/doc/doc_en/models_list_en.md
• 🧪 OnnxOCR 项目（免 Paddle）：https://gitcode.com/OnnxOCR/OnnxOCR
• 🧰 ONNX Runtime 官网：https://onnxruntime.ai
• 🧠 ModelScope OCR 模型库：https://www.modelscope.cn/models?task=ocr

---

动手试试吧！
用不到 50 行代码，你就能拥有一个媲美商业软件的 OCR 功能。这才是 AI 民主化的真正意义——人人皆可构建智能工具。