Demo能跑面试却总挂？大模型应用项目该补的工程化最后一课

Agent智能体

268人浏览 · 2026-08-25 17:37:38

Agent智能体 · 2026-08-25 17:37:38 发布

聊《岗位变化这么快，计算机专业就业真正该补的是什么？》之前，先说一句实在的：别急着背概念，先看它在真实项目里到底解决什么问题。

摘要

去年秋招，我带过一个学生小陈，简历上写了个"基于LangChain的问答系统"，GitHub链接也给了。面试时他现场跑了一遍，RAG流程顺得很，检索、生成、输出都没问题。我接着问了三个问题：你怎么记录每次调用的输入输出？怎么追踪一个请求经过了多少个Agent节点？权限怎么控制，谁能调哪个接口？他卡住了。

后来我帮他改简历，把项目从"能跑"升级到了"可观测"，再投出去，面试官的关注点完全不一样了。这件事让我意识到，大模型时代的学生准备，缺的不是Demo，而是把Demo变成能上生产的东西的能力。

就业市场在变，但变的不是技术栈
基础课没有过时，只是用法变了
一个真实案例：从Demo到可观测的改造
排查过程：一个典型的权限配置翻车
代码解释：用OpenTelemetry接入可观测性
失败原因：三类错误怎么区分
适用边界：什么时候该补，什么时候可以跳过
实习准备：简历怎么写
求职路径：不同方向怎么准备
总结

就业市场在变，但变的不是技术栈

文章插图 1

先说个现象：2024到2026年，大厂和大模型创业公司的岗位描述里，"熟悉LangChain"这类词出现频率在降，取而代之的是"具备可观测性建设经验""熟悉权限与审计设计"。这不是招聘方在玩文字游戏，而是行业从Demo阶段进入了生产阶段。

企业现在招的不是"能把Demo跑起来的人"，而是"能把系统接进现有架构、写出日志、配好权限、出了问题能排查的人"。

我翻过不少社招JD，发现一个规律：初级岗位依然要求基础扎实，中级岗位要求有完整的项目闭环经验。而"闭环"的定义，已经从"输入到输出"变成了"输入到输出到监控到告警到回滚"。

这意味着什么？意味着学生阶段的项目，如果只停留在调API、跑通流程，简历上写出来就是"我会用工具"；但如果补上权限、日志、追踪，写出来就是"我能把系统上线"。

基础课没有过时，只是用法变了

文章插图 2

很多人说，大模型时代，数据结构、操作系统还用不用学？我的答案是：用，但用法变了。

以前学数据结构，是为了刷题、为了面试手撕代码。现在学，是为了理解Agent的规划过程——比如你写一个Multi-Agent系统，节点之间的调用关系本质上就是图遍历问题，深度优先还是广度优先，直接影响性能和正确性。

操作系统里的进程、线程、锁，在Agent系统里对应的是并发调用、资源竞争、状态一致性。你不懂这些，写出来的Agent在 Demo 里跑得欢，一到并发场景就崩。

网络协议也是。RAG系统的性能瓶颈，很多时候不在模型，而在网络——向量库查询延迟、HTTP超时、流式响应的断点续传。这些问题的排查，靠的是计算机网络的基础。

所以基础课不是没用，而是你在做项目的时候，会发现这些知识突然"活"了。

一个真实案例：从Demo到可观测的改造

我带学生做项目时，会要求他们完成一个完整的RAG系统，输入是PDF文档，输出是自然语言回答。Demo阶段大家都能做，但我要看的是生产级能力。

输入：一份50页的技术文档，包含章节、代码块、表格。
步骤：
1. 文档切分，使用递归字符切分器，chunk size 500，overlap 50。
2. 向量嵌入，使用text-embedding-3-small，维度1536。
3. 向量存储，使用ChromaDB，持久化到磁盘。
4. 检索，Top-K=5，使用余弦相似度。
5. 生成，使用Claude 3.5 Sonnet，temperature=0.3。
6. 可观测性接入，使用OpenTelemetry。

可观察结果：

每次请求有唯一trace_id
每个节点（切分、嵌入、检索、生成）有独立的span
请求耗时、token消耗、错误码都有记录
权限控制：普通用户只能访问公开文档，管理员可访问全部

改造后的系统，在面试中可以直接演示trace链路，面试官问"怎么排查慢查询"，你能直接打开Jaeger给出答案。

排查过程：一个典型的权限配置翻车

去年有个学生做Agent项目，Demo跑通后准备上线，结果第一天就翻车了。现象是：内部测试没问题，用户反馈"无法访问某些功能"。

排查过程：
1. 先确认是权限问题还是代码bug。通过日志发现，请求能到达服务，但返回403。
2. 检查权限配置，发现JWT token的claim里没有role字段。
3. 追溯token生成逻辑，发现OAuth回调里没有解析role信息。
4. 修复：在token生成时注入role claim，并在中间件里校验。

排除结果：不是业务逻辑错误，也不是环境问题，是配置遗漏。这类问题在Demo阶段不会暴露，因为Demo通常没有真正的用户体系。

这个案例说明，权限不是"上线前随便加一下"的东西，而是从设计阶段就要考虑的问题。

CSDN资料领取方式

代码解释：用OpenTelemetry接入可观测性

下面是接入OpenTelemetry的核心代码，我逐段解释：

from opentelemetry import trace
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor
from opentelemetry.exporter.jaeger.thrift import JaegerExporter
from opentelemetry.trace.status import Status, StatusCode

# 初始化TracerProvider，关联Jaeger导出器
provider = TracerProvider()
jaeger_exporter = JaegerExporter(
    agent_host_name="localhost",
    agent_port=6831,
)
provider.add_span_processor(BatchSpanProcessor(jaeger_exporter))
trace.set_tracer_provider(provider)
tracer = trace.get_tracer("rag-system")

@tracer.start_as_current_span("retrieve_documents")
def retrieve(query: str, top_k: int = 5) -> list:
    """检索文档片段，记录耗时和结果数量"""
    with tracer.start_as_current_span("vector_search") as span:
        results = vector_db.similarity_search(query, k=top_k)
        span.set_attribute("result_count", len(results))
        span.set_attribute("query", query[:100])  # 只记录前100字符，避免日志过大
    return results

@tracer.start_as_current_span("generate_response")
def generate(query: str, contexts: list) -> str:
    """生成回答，记录token消耗"""
    with tracer.start_as_current_span("llm_call") as span:
        response = llm.chat(messages=[...])
        span.set_attribute("model", "claude-3.5-sonnet")
        span.set_attribute("input_tokens", response.usage.input_tokens)
        span.set_attribute("output_tokens", response.usage.output_tokens)
        if response.is_error:
            span.set_status(Status(StatusCode.ERROR))
            span.record_exception(response.error)
    return response.text

输入：查询字符串query，top_k参数。
核心逻辑：使用装饰器@tracer.start_as_current_span自动创建span，在函数执行前后记录开始和结束时间。span.set_attribute用于记录关键指标。
输出：返回检索结果或生成文本，同时在Jaeger中生成trace。
异常处理：通过span.set_status和span.record_exception记录错误，方便后续排查。

这段代码的关键是：每个函数都是一个span，span可以嵌套，形成完整的调用链路。面试时如果你能说出"我用OpenTelemetry做了全链路追踪"，比"我用LangChain做了RAG"有价值得多。