首屏导读 · 本教程配套付费专栏 大模型工程师修炼手记19.9 元AI 编程 / Agent 实战 本文同主题系统课程· AI时代程序员的自我提升49.9 元AI 时代成长方法论。单篇不过瘾订阅解锁全量源码、实战与答疑文末附资料包领取方式 ↓在RAG系统的溯源实践中工具调用法Tool Calling / Function Calling是目前最结构化、最可靠的实现方案。它并非将模型作为文本生成器而是通过预定义严格的输出“工具”强制模型以特定格式如JSON返回答案与引用从而有效避免格式错误和幻觉引用。⚙️ 核心原理工具调用法的本质是将“生成带引用的答案”视为一次对特定工具的调用。开发者预先定义一个名为generate_cited_answer的函数或工具并详细描述其参数如answer字符串、citations对象数组。当用户提问时请求中会包含这个工具的定义模型推理后会选择调用此工具并严格按照参数Schema返回结构化数据。整个过程通常不涉及执行真实的本地函数而是利用模型遵循Schema的能力将其输出“格式化”为JSON。在支持原生Function Calling的模型如GPT-4、Claude、文心一言、GLM-4等上这是标准能力。 实现步骤与代码示例以下以OpenAI的Function Calling API为例展示完整的实现流程。1. 定义工具Tool Definition这是最关键的一步需要清晰地定义输出的结构。tools[{type:function,function:{name:generate_cited_answer,description:生成一个详细答案并为答案中的每个关键事实提供对源文档的引用。,parameters:{type:object,properties:{answer:{type:string,description:使用Markdown格式生成的答案文中应使用引用标记如[1]、[2]标明来源。,},citations:{type:array,description:答案中出现的所有引用来源列表。,items:{type:object,properties:{citation_id:{type:integer,description:在answer中使用的引用标记数字如[1]。,},source_document:{type:string,description:文档名称或ID。,},quoted_text:{type:string,description:从源文档中摘录的支持当前事实的具体文本片段。,},page_number:{type:integer,description:引文所在的页码如适用。,},},required:[citation_id,source_document,quoted_text],},},},required:[answer,citations],},},}]2. 构建对话与调用API在请求中我们将检索到的上下文片段放入messages并强制模型使用tool_choice调用我们定义的工具。importopenaidefgenerate_answer_with_citations(question,retrieved_chunks):# 1. 格式化上下文注意为每个片段保留ID和元数据context_textfori,chunkinenumerate(retrieved_chunks):context_textfSource ID:{i1}\ncontext_textfDocument:{chunk.metadata[source]}\ncontext_textfPage:{chunk.metadata.get(page,N/A)}\ncontext_textfContent:{chunk.page_content}\n\nmessages[{role:system,content:你是一个严谨的助手。请仅基于提供的上下文回答问题并使用工具生成带引用的答案。},{role:user,content:f上下文信息\n{context_text}\n\n问题{question}}]responseopenai.ChatCompletion.create(modelgpt-4o,messagesmessages,toolstools,tool_choice{type:function,function:{name:generate_cited_answer}}# 强制调用)# 3. 解析返回的工具调用参数tool_callresponse.choices[0].message.tool_calls[0]structured_outputjson.loads(tool_call.function.arguments)returnstructured_output# 包含 answer 和 citations 字段的字典3. 前端呈现获得结构化数据后可以灵活地将引用转换为超链接或脚注。resultgenerate_answer_with_citations(RAGFlow的溯源特性是什么,chunks)print(result[answer])# 输出RAGFlow提供了**可视化溯源**[1]用户可以清晰看到答案引用的具体文档段落。forciteinresult[citations]:print(f[{cite[citation_id]}]{cite[source_document]}-{cite[quoted_text]}) 与其他方法的对比特性工具调用法直接提示法两次调用法结构可靠性极高。模型必须遵循预定义的JSON Schema否则会报错或重试。较低。依赖模型对文本格式如[1]的遵循易出现格式漂移。较高。但两次调用增加了延迟和成本。引用准确性高。由于要求提供quoted_text字段模型会显式对比原文减少了幻觉引用的概率。中。模型可能生成不存在的引用标记。最高。第一次调用专注事实第二次调用专注标注减少了并行处理负担。实现复杂度中。需定义Schema但主流SDK已简化流程。低。仅需编写Prompt。高。需编排两次独立的模型调用。适用模型支持Function Calling的模型GPT系列、Claude、文心4.0、GLM-4等。所有文本生成模型。所有文本生成模型。性能开销低。单次API调用。最低。单次调用。高。两次调用延迟加倍。✨ 优势与适用场景工具调用法的核心优势在于将非结构化的文本生成任务转化为结构化数据提取任务这对于需要在前端展示引用链接、脚注或生成报告的场景至关重要。尤其适合企业级知识库问答要求答案与来源一一对应供审计或复核。法律、医疗、金融等合规领域对事实准确性有极高要求。需要二次开发的场景结构化输出便于后续程序处理如自动生成引用报告、在原文中高亮显示对应片段。⚠️ 注意事项模型依赖并非所有开源模型都原生支持Function Calling。但像Llama 3、Qwen 2.5等较新的模型已具备此能力本地部署时可借助vLLM或llama.cpp的语法约束功能来模拟。Schema的健壮性设计参数时避免过度嵌套或必填字段过多以免模型无法完全遵循。关键字段如answer、citation_id设为必需即可。上下文长度限制由于工具调用会额外消耗Token需要确保检索到的上下文加上Schema定义不超出模型的上下文窗口。工具调用法是目前生产级RAG应用实现溯源的首选路径它平衡了准确性、可靠性与开发效率。hrefhttps://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/markdown_views-e1cc28b339.css relstylesheet hrefhttps://csdnimg.cn/release/blogv2/dist/mdeditor/css/style-d1e89cace4.css relstylesheet内容来源csdn.net作者昵称Tom·Ge原文链接https://blog.csdn.net/gedonshen/article/details/160356252作者主页https://blog.csdn.net/gedonshen标签#人工智能确定要放弃本次机会福利倒计时::立减 ¥普通VIP年卡可用立即使用延伸阅读 · 我的付费专栏觉得这篇文章对你有帮助我把同类主题的系统化内容沉淀成了付费专栏欢迎订阅支持持续输出专栏定价内容大模型工程师修炼手记19.9 元AI 编程 / Agent 深度实战AI时代程序员的自我提升49.9 元AI 时代成长方法论本文配套代码 / 资料包欢迎在评论区留言「求代码」我会私信发送完整资源
