一、架构总览业务系统分为前端层、业务微服务层、智能中台层、中间件 存储层。 核心目标业务微服务通过统一网关调用 LangGraph 智能中台支持同步问答、异步长任务、向量知识库检索、日志检索、缓存加速所有服务注册发现由 Nacos 管理。组件职责表格组件职责Vue前端页面业务表单、AI 对话窗口、知识库管理、历史记录、检索结果展示Spring Cloud业务微服务集群网关 Spring Cloud Gateway服务注册到 NacosNacos服务注册 / 发现、配置中心管理业务服务、LangGraph 中台服务配置RocketMQ异步消息队列AI 长任务大文档解析、批量向量入库、消息通知、削峰LangGraph智能编排中台Agent 工作流、工具调用、多轮对话状态管理Milvus向量数据库文档 Embedding 向量存储、相似度检索RAG 核心ElasticSearch原始文档存储、全文检索、对话日志、审计日志Redis对话会话缓存、限流、热点检索缓存、分布式锁、任务状态缓存MySQL业务主数据用户、权限、知识库元信息、任务基础信息数据流Vue → Gateway → 业务微服务 →同步 / 异步→ LangGraph 中台 → 调用工具链 (Milvus 向量检索 / ES 全文检索 / Redis 缓存)二、两种调用模式设计模式 1同步调用短对话、简单问答适合普通问答响应快Vue 前端提交提问请求Gateway 鉴权、路由转发至业务微服务业务服务参数校验、权限判断业务服务调用 LangGraph 中台 OpenAPIHTTPLangGraph 执行 Graph 流程先调用 Embedding 模型生成 query 向量Milvus 向量相似度检索召回向量 TopKES 根据召回文档 ID 获取原文片段拼接上下文交给 LLM 生成回答返回结果逐级回传给前端异步落库对话记录写入 ESMySQLRedis 更新会话缓存模式 2RocketMQ 异步调用长耗时任务文档解析、批量知识库导入、复杂 Agent 任务避免 HTTP 超时大任务解耦前端提交任务业务微服务先在 MySQL 创建任务记录状态 处理中业务服务发送消息到 RocketMQAI_TASK_TOPICLangGraph 中台消费者监听 Topic消费消息启动 Graph 工作流LangGraph 执行文档切片、向量化、批量写入 Milvus文档原文存入 ES任务进度实时写入 Redis完成后更新 MySQL 任务状态可推送通知给前端前端轮询 Redis / 接口查询任务进度三、服务拆分业务微服务business-service用户权限、业务表单、知识库元数据管理MySQLAI 请求入口参数校验、权限控制封装调用 LangGraph 中台 SDK/HTTP 接口生产 RocketMQ 任务消息LangGraph 智能中台服务ai-graph-service对外提供 HTTP 接口 RocketMQ 消费者Graph 工作流定义RAG 检索节点、LLM 调用节点、工具节点、记忆节点集成 Milvus 向量查询、ES 文档查询会话状态读写 Redis对话日志写入 ESGateway 网关spring-cloud-gateway统一入口鉴权、限流、路由、跨域注册到 Nacos公共基础服务文件服务文档上传、切片预处理权限服务用户 / 角色 / 资源权限四、核心 RAG 流程LangGraph GraphSTART ↓【输入节点】接收用户query 会话ID ↓【缓存判断节点】Redis读取会话历史存在则带入上下文 ↓【Query改写节点】可选Agent优化用户问题 ↓【Embedding节点】文本转向量 ↓【Milvus检索节点】向量召回TopK文档ID ↓【ES文档读取节点】根据ID获取原文片段 ↓【上下文组装节点】拼接检索片段历史对话 ↓【LLM生成节点】调用大模型输出答案 ↓【结果输出节点】返回回答 ↓【日志持久化节点】异步写入ES、MySQL更新Redis会话缓存ENDLangGraph 状态 State 结构示例{ query: 用户问题, session_id: 会话id, chat_history: [], vector_result: [], context_docs: [], answer: , status: success}五、中间件分工要点Nacosbusiness-service、ai-graph-service、gateway 注册到 Nacos实现服务发现配置统一管理Milvus 连接地址、ES 地址、RocketMQ 地址、LLM 密钥、向量检索 TopK 参数RocketMQTopicai_task_topic长任务ai_notify_topic结果通知消费者ai-graph-service生产者business-service消息体携带taskId、知识库 ID、文件地址、任务类型Milvus存储文档切片向量向量检索不存原始文本原始文本放 ESElasticSearch存储文档原文、对话日志支持全文检索用于向量召回后的原文获取Redissession 会话缓存、任务进度缓存、接口限流、分布式锁防止重复向量入库MySQL用户、角色、知识库基础信息、任务主表六、接口调用示例业务服务调用 LangGraph 中台 HTTP 接口POST /api/langgraph/chat{ sessionId: sess_123456, query: 介绍下产品报销流程, knowledgeBaseId: kb_001, stream: false}streamtrue支持流式 SSE 返回Vue 前端做打字机效果七、关键点与坑点LangGraph 部署LangGraph 可以封装为独立 Java/Python 服务推荐 Python作为中台独立部署SpringCloud 业务服务通过 HTTP 调用不要把 LangGraph 嵌入业务微服务解耦便于迭代 Agent 流程。向量库隔离不同知识库 Milvus 分 Collection。幂等性RocketMQ 消息消费要做幂等用 taskId 在 Redis/MySQL 做消费标记防止重复向量化。限流熔断Gateway Sentinel对 LangGraph 中台接口限流防止 LLM 和向量服务被打满。会话管理多轮对话状态交给 LangGraph 管理Redis 持久化会话会话过期自动清理。链路追踪接入 SkyWalking完整追踪Vue → Gateway → business-service → ai-graph-service → Milvus/ES。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
