这个项目源于团队内部的真实痛点:传统 OnCall 依赖人工值守和问题排查,响应慢,也占用大量研发精力。上游同事天天反复问同一个报错怎么解决,明明文档里已有方案,还是要重复回答。这些杂事耗费了很多时间,于是我开始思考,怎样主动突破现状,做些更有价值的工作。
这两年 AI 很火,我也开始考虑:能否用 AI 打造一个智能化的 CloudOps 助手,让它自动回答常见问题,并在故障发生时主动进行初步排查?我先基于 Eino 框架设计并搭建 RAG 知识库,让 AI 能根据内部文档回答问题,再实现几类 Agent,包括用于对话的对话 Agent 和用于运维排障的运维 Agent。
最终,系统上线后,很多重复性的咨询和告警都能由Agent⾃动处理并给出解决方案,显著减轻了值班的负担。
内容介绍
项目里一共实现了3个Agent,分别是知识库Agent、对话Agent和运维Agent。
知识库Agent的核心目标是作为团队文档管理和AI应用的基础设施,通过自动化流程,将我们日常积累的文档(告警处理手册、技术方案、错误码文档),转化为可被AI高效检索的向量,为后续的RAG提供了高质量的向量数据支撑。举个最常见的例子,当我们想根据一个模糊的回忆找文档的时候,可以根据模糊的提问快速检索到对应文档,不必再在层层嵌套的目录里逐个查找。
对话Agent本质上是一个基于大模型+知识库构造的智能交互系统。你可以把它看作是一个能够像真人一样理解问题、调用知识库检索并给出精准回答的小助手。它最重要的使命就是帮助团队挡掉高频的重复咨询,加速问题解决,从而提高整体的工作效率。
运维 Agent 是为了解决值班排查问题的痛点而做的。我们团队维护了多个服务,这些告警从服务错误、性能波动,到中间件异常、下游依赖故障,告警太多了。传统的处理方式往往依赖于人工排查:看告警、查日志、查监控,最终才能判断问题的根源。整个过程重复、耗时,特别是在晚上或节假日,响应效率和准确性更是难以保障,值班的时候告警一多就很痛苦。运维 Agent 可以通过调用各平台的 API,实现跨系统联动,一站式完成排查。例如,它可以自动从告警中提取接口名和时间范围,查询日志、查询监控、查询告警处理手册,将所有信息汇总成一份结构化的故障排查报告。
要点介绍
项目核心亮点可概括为3点:
-
知识库系统:核心就是RAG,只要文档上传到知识库了,就能进行知识检索。
-
对话Agent:用ReAct解决交互类问题,彻底从人工客服解放。问题匹配+知识检索无缝对接所有涉及到文档的场景。
- 运维Agent:用Plan-Execute-Replan解决流程化任务,打通日志、监控、告警群、知识库。
价值兜售
- 业务价值:对话Agent承接 80% 重复咨询,释放中台人力聚焦核心开发; 运维Agent让故障响应时间从30分钟缩短至10秒,跨系统联动日志和监控,提升效率
- 技术价值:掌握RAG,ReAct,Plan-Execute-Replan,SSE,多轮对话,AI实践经验 等前沿技术,为团队后续AI项目提供参考
- 团队价值:标准化运维与咨询流程,降本增效
面试节奏
我实习的时候,被重复问题烦到想骂人。之前上游同事天天问同一个问题报错怎么解决,明明文档里写了解决方案还反复问。做Agent项目前,我就天天面对这些事,像全职客服,把时间耗在重复回答上,非常的打杂,所以我就思考怎么样能主动去突破,做一些高价值工作。
不是说值班就不是高价值工作,确实能很快的根据问题来熟悉组里面的服务。但是遇到重复问题,重复回答还是很难受。所以我想了很久,最后决定用Agent来自动化这些重复工作。但不是随便做一个啊,而是针对不同场景设计了不同的模式。比如对话场景用ReAct模式,运维场景用Plan-Execute-Replan模式。
先说说对话场景的ReAct模式吧。最早做的就是很简单的对话+RAG,但是这种模式只能处理简单的单轮问题,比如直接问这个报错怎么处理。但遇到复杂问题就回答不知道了,用ReAct模式的话,Agent会先拆解步骤,然后一步步调用工具查,最后整合结果给答案。比如我想让AI帮我查一下这个 req id 的所有error日志,没有用ReAct之前肯定是调用不了工具的,但是用了之后,大模型就可以使用查日志的功能,日常使用起来就很方便。
…
…
运维场景的Plan-Execute-Replan模式核心就是自动规划步骤,然后按照步骤执行,遇到异常情况可以重新规划步骤。比如接口失败就查日志、看监控、问下游,但遇到日志没异常的情况就停滞了。比如CPU使用率突增的告警,按固定步骤查日志没结果,Agent就不知道怎么办了。但用这个模式的话,Agent会根据结果动态调整计划,比如日志没异常就先查高耗CPU进程,找到问题后再继续分析根因。这样即使遇到预设步骤外的情况,Agent也能自主排查。
我把问题匹配和知识检索的核心逻辑抽象成对话Agent,一次开发就能对接多个场景,比如给业务方用自动答文档问题,给研发用告警自动出方案,给运维用历史工单RAG分析。效率提升非常多,以前人工排查故障要5到10分钟,现在Agent1分钟内就能完成日志检索、错误分类和根因推测。
知识沉淀也是一个重要的点,我后面打算接入群聊,把工单问题和解决方案的聊天记录,自动总结沉淀为知识库里的文档,下次遇到了相同的问题问一遍AI,快速解决。
总结
其实做Agent项目的面试亮点,核心就是把这些真实的痛点讲清楚,再把技术怎么解决这些痛点的过程说透。你不用刻意堆术语,只要让面试官感受到这个项目确实帮团队解决了大问题,而且你对技术选型有自己的思考就行。
比如你可以说针对 对话和运维场景分别使用了ReAct和Plan-Execute-Replan模式,因为不同场景的需求不一样。