第0章：学习目标与前置知识

一、学习目标

1.1 全链路能力构建

LLMOps 需要构建从研究到落地的完整能力链条，包括：

1.2 核心能力矩阵

能力域	关键技能	产出物
数据工程	数据清洗、标注、向量化、质量评估	高质量训练/评估数据集
模型工程	微调、对齐、量化、蒸馏	优化后的领域模型
评估工程	离线评估、在线AB、指标设计	评估报告、改进建议
部署工程	容器化、K8s编排、GPU调度	高可用推理服务
监控工程	指标采集、日志分析、追踪	可观测性平台
治理工程	质量控制、安全防护、合规审计	治理策略与规则
成本工程	资源优化、缓存策略、容量规划	成本优化方案
SRE工程	CI/CD、灰度发布、应急响应	稳定性保障体系

1.3 能力成长路径

二、前置知识体系

2.1 Linux/Unix 系统基础

关键知识点

• 系统管理：进程管理、内存管理、文件系统、用户权限
• Shell编程：Bash/Zsh脚本、自动化运维、日志处理
• 性能调优：CPU/内存/IO分析、系统调优参数
• 网络基础：TCP/IP、防火墙、负载均衡、DNS

应用场景

2.2 容器与Kubernetes

关键知识点

• Docker：镜像构建、容器运行、网络与存储、多阶段构建
• Kubernetes：Pod/Deployment/Service、调度与亲和性、存储卷、配置管理
• GPU调度：NVIDIA Device Plugin、GPU共享、MIG、时间切片
• 服务网格：Istio/Linkerd、流量管理、可观测性

K8s部署LLM架构

2.3 网络基础

关键知识点

• 协议栈：HTTP/HTTPS、gRPC、WebSocket、SSE（Server-Sent Events）
• 负载均衡：L4/L7负载、会话保持、健康检查
• 网络优化：TCP调优、连接池、超时策略
• 安全：TLS/mTLS、防火墙、DDoS防护

LLM推理网络架构

2.4 GPU基础

关键知识点

• CUDA编程：核函数、内存层次、并行模式
• NCCL通信：集合通信、多GPU并行、拓扑优化
• 显存管理：显存分配、内存池、OOM处理
• 性能分析：nvprof、nsys、nvidia-smi、DCGM

GPU资源管理流程

2.5 Python编程

关键知识点

• 核心库：numpy、pandas、asyncio、multiprocessing
• ML框架：PyTorch、Transformers、PEFT、TRL
• Web框架：FastAPI、Flask、Gradio、Streamlit
• 工具库：requests、pydantic、loguru、typer

LLMOps Python技术栈

2.6 Git/CI/CD

关键知识点

• 版本控制：Git工作流、分支策略、代码审查
• CI/CD工具：Jenkins、GitLab CI、GitHub Actions、Tekton
• 制品管理：模型版本、镜像仓库、依赖管理
• 发布策略：蓝绿、金丝雀、灰度、回滚

LLMOps CI/CD流程

2.7 云平台基础

关键知识点

• IaaS：虚拟机、网络、存储、GPU实例
• PaaS：托管K8s、数据库、对象存储
• MLaaS：SageMaker、Vertex AI、Azure ML
• 成本管理：资源标签、成本分析、预留实例

云原生LLMOps架构

三、DevOps实践基础

3.1 基础设施即代码（IaC）

关键工具

• Terraform：多云资源编排
• Ansible：配置管理与自动化
• Helm：K8s应用包管理
• ArgoCD：GitOps持续部署

IaC工作流程

3.2 监控与可观测性

三大支柱

四、学习方法建议

4.1 理论与实践结合

4.2 学习资源推荐

类型	资源	说明
在线课程	Andrew Ng - ML/DL课程	基础理论
论文	Attention is All You Need	Transformer原理
开源项目	Hugging Face Transformers	模型库与工具
社区	GitHub、Stack Overflow	问题解答
博客	OpenAI Blog、Google AI Blog	前沿动态
书籍	《深度学习》花书	系统学习

4.3 能力验证清单

前置知识验证

• 能独立部署和维护Linux服务器
• 熟练使用Docker构建和运行容器
• 能在K8s上部署和管理应用
• 理解TCP/IP协议和网络调优
• 掌握CUDA基础和GPU监控
• 能用Python开发Web服务和数据处理
• 熟悉Git工作流和CI/CD流程
• 了解至少一个公有云平台

五、从运维到LLMOps的转型路径

5.1 能力迁移映射

5.2 新增技能树

六、总结

本章建立了LLMOps学习的基础框架：

1. 明确目标：全链路能力构建，从数据到SRE的完整闭环
2. 夯实基础：Linux、容器、网络、GPU、Python、CI/CD、云平台
3. 方法论：理论实践结合，持续学习迭代
4. 转型路径：从传统运维到AI运维的能力升级

接下来的章节将逐步深入各个专业领域，构建完整的LLMOps知识体系。