从后端到 AI Agent 开发:我在技术转型中学到的 5 件事
从后端到 AI Agent 开发:我在技术转型中学到的 5 件事
背景
写这篇博客之前,我是一个干了三年后端的开发。Spring Boot、MySQL、Redis、Kafka——我的技术栈是标准的”后端全家桶”。写接口、调存储、做监控,稳得很。
转型的契机是 2024 年底参与的内部 LLM 落地项目。一开始我只是负责给 AI 组搭 API 网关,后来被拉进 Agent 系统的开发——再后来就彻底转了方向。
到现在做 Agent 开发一年半,回头看这个转型,有些经验值得记录下来。不是为了证明”转型多厉害”,而是给同样在路上的后端工程师一份实际的参考。
5 件让我最受冲击的事
1. “确定性编程”到”概率性编程”的思维切换
后端开发的核心假设是确定性的:输入相同的参数,同一个接口返回相同的结果(幂等)。即便有 bug,也是可复现、可调试的。
Agent 开发完全是另一回事。同样的 prompt、同样的输入、同样的参数——LLM 的输出每次都不一样。而且不是你写错了,是模型本来就是这样的。
我花时间最长的一件事:接受”有些问题不能靠修代码解决”。
后端的故障定位路径是:查日志 → 找到异常堆栈 → 修代码 → 上线验证。
Agent 的故障定位路径是:查日志 → 看到 LLM 输出不符合预期 → 改 prompt → 评测集跑一下 → 通过率从 82% 升到 85% → 还是不知道 15% 为什么失败。
我的心态转变:从追求 100% 正确,到追求 95%+ 的稳定可控。不是我标准降低了,而是在概率系统中,那最后 5% 的边际成本是前 95% 的 10 倍。你的工程能力不体现在修复了多少 Bug,而体现在把失败率从 10% 降到 1% 的过程中做了哪些系统性改进。
2. 后端技能的可迁移部分
后端经验在 Agent 开发中不是白费的。以下几个能力直接迁移过来:
系统设计能力:做 Agent 架构本质上也是在做系统设计。请求怎么流转、状态怎么管理、失败怎么兜底、监控怎么覆盖——和设计一个微服务架构没有本质区别。我在后端做过的限流、熔断、超时控制,在 Agent 系统里以另一种形式全部重现。
数据建模能力:RAG 的知识库切分策略、向量数据库的索引选择、Embedding 模型的效果评估——这些本质上都是”怎么把非结构化数据变成可检索的结构化数据”,和后端做 MySQL 表结构设计的底层思维一致(只是工具不同)。
测试与质量保障:后端的单元测试 → Agent 的评测集。后端的 CI/CD → Agent 的回归跑批。后端的线上监控 → Agent 的在线指标归因。质量保障的体系化思维是完全通用的,换个行业也换不掉。
3. 让我最痛苦的三件事
第一件:失去了”断点调试”的能力
后端的 Bug 可以用 IDE 断点一步步追,变量的值、方法的调用栈清清楚楚。Agent 出问题怎么办?打开 LangSmith 看 trace,看到某个节点的 LLM 输出是”我不确定,让我重试一下”——然后?没有然后了。你不能在 LLM 内部设断点。
第二件:评估标准的不确定性
后端接口的性能指标是明确的:P99 延迟 < 200ms,吞吐量 > 1000 QPS。Agent 系统呢?”任务完成率 92%——这个 92% 够不够好?”没人能回答。因为没有一个公式可以计算”这个 Agent 应该做多好”。每个版本发布前,你都在做相对比较(和上一版比、和 baseline 比),而不是绝对度量(做到了 95% 就是好)。
第三件:Prompt 的”玄学”
改了 prompt 里的一个标点符号,通过率涨了 3%。删了一句指令,掉了 5%。加上一段 few-shot example,涨回来了——但只针对某类 case。没人能解释为什么。后端的直觉告诉你”可解释性是工程的基本要求”,但在 LLM 面前,你的直觉不适用。
4. 后端的”工程纪律”在 Agent 开发中更难但更重要
你可能觉得:Agent 开发反正都是”黑盒”,随便改改 prompt 测试一下就行,不需要后端那么严格的流程。
恰恰相反。
因为我见过太多没有工程纪律的 Agent 项目翻车:
- 没有版本管理:昨天还能用的 prompt 今天找不到了,因为直接在线上改的
- 没有评测集:每次改完 prompt 觉得”好像变好了”,但没有数据支撑
- 没有回归测试:修复了一个 case,导致另三个 case 变差了,完全不知道
- 没有 A/B 测试:上线新模型,用户满意度下降 20%,但过了 3 天才发现
你在后端养成的所有工程好习惯,在 Agent 开发里一个都不能丢,而且更重要——因为 Agent 系统的可观测性天然比后端差,你需要用更强的工程纪律来弥补。
5. 转型中最有用的学习方式
不是读论文。
我一个转型过来的后端工程师,最不需要的就是花两周去啃 Transformer 的注意力机制论文。
最有用的方式是:
- 做一个小而完整的 Agent 项目:给自己搭一个自动化工作流的 Agent,跑通完整的”规划→执行→反馈”闭环。不需要复杂,一个工具调用就行。你会在做中学到 80% 的核心概念。
- **先理解”是什么”,再问”为什么”**:先用 LangChain/LangGraph 把东西跑起来,遇到”为什么这个模型不听我的”的时候,再去读相关的资料。以问题驱动学习,比从零开始系统学习高效得多。
- 读代码比读博客快:LangGraph 的源码、LangChain 的 tool 抽象层、开源的 Agent 项目——直接读代码,看别人怎么处理状态管理、怎么处理工具返回、怎么做错误恢复。代码不会骗你,也不会注水。
给转型路上的后端工程师
如果你也在考虑从后端转向 AI Agent 开发,以下是我最真诚的建议:
| 你的后端技能 | 在 Agent 开发中的对应 |
|---|---|
| REST API 设计 | Tool 接口定义 |
| 数据库事务 | Agent 状态一致性 |
| 限流与熔断 | Agent 超限保护 |
| 单元测试 | 离线评测集 |
| CI/CD | 回归跑批流水线 |
| 监控告警 | 在线指标归因 |
| 幂等设计 | 工具调用去重 |
| 分布式事务 | 多 Agent 状态同步 |
你已有的工程能力不是负担,而是巨大的优势。 转型不需要”清零重来”,而是”换个上下文复用你的工程经验”。
你现在怕的(我不懂 NLP、我没调过模型、我不会写 prompt),这些到了第 6 个月你都会习惯。真正决定你能走多远的,是你有没有把评测体系搭起来、有没有把回归流程跑通、有没有让 Agent 系统的质量可观测——而这些,是后端工程师最擅长的。
写在最后
一年半之前,我写的是 @PostMapping 和 @Transactional。现在,我写的是 StateGraph 和 ToolSpec。
最大的感受不是”AI 开发更难”,而是**”AI 开发更需要工程化”**——而这恰好是后端工程师的强项。不是因为你懂 Attention 机制,而是因为你懂如何把不可靠的东西变得可靠。
所以如果你有后端背景,别怕转型。你害怕的”不懂 AI”,是可以补的;而你已经掌握的”工程化思维”,是大部分 AI 开发者真正欠缺的东西。