DiscussLLM: Teaching Large Language Models When to Speak
DiscussLLM研究总结与关键内容翻译一、文章主要内容总结1. 研究背景与核心问题当前大型语言模型(LLMs,如GPT-4、Gemini 2.5等)虽具备强大的文本理解与生成能力,但本质上是反应式智能体,仅在接收明确指令时才会响应,存在“感知缺口”(Awareness Gap)。在实际场景(如头脑风暴、学习小组讨论)中,无法像人类专家一样主动识别对话中的关键时机(如事实错误、概念混淆)并介入,即无法解决“何时发言”(When to Speak)的核心问题。2. 核心解决方案:DiscussLLM框架为填补“感知缺口”,研究团队提出DiscussLLM框架,核心目标是训练LLM主动判断“是否发言”与“何时发言”,而非仅被动响应。框架通过以下关键组件实现:特殊沉默令牌(Silent Token):训练模型在无需介入时输出该令牌,避免无意义打断;仅在能提供有价值贡献时生成干预内容。两阶段合成数据集生成 pipeline:解决“何时发言”训练数据稀缺的问题,具体流程如下:场景合成阶段(Stage 1):以Yahoo! Answers Topics数据集为基础,过滤后得到高质量话题-内容对,再通过Llama 3 8B Instruct模型生成结构化场景(含对话背景、指定AI干预类型,共5