Seed-Thinking-v1.5— 字节跳动推出的最新思考模型

Seed-Thinking-v1.5是什么

seed-thinking-v1.5 是字节跳动推出的推理智能模型，采用混合专家（moe）架构，总参数量为 200b，每次激活 20b 参数。模型在多个基准测试中表现出色，如在 aime 2024 测试中获得 86.7 分，在 codeforces 评测中 pass@8 指标达到 55.0 分，在 gpqa 测试中获得 77.3 分。在非推理任务中胜率比 deepseek r1 高出 8%，展现出广泛的适用性。seed-thinking-v1.5 的开发涉及精心策划的训练数据、先进的强化学习框架、双层奖励系统和高效的基础设施。模型将于 4 月 17 日通过火山引擎开放接口供用户体验。

Seed-Thinking-v1.5的主要功能

• 卓越的推理能力：Seed-Thinking-v1.5 在多个权威基准测试中表现出色，例如在 AIME 2024 测试中获得 86.7 分，在 Codeforces 评测中 pass@8 指标达到 55.0%，在 GPQA 测试中获得 77.3 分。表明其在 STEM（科学、技术、工程和数学）领域以及编程方面具有强大的推理能力。
• 广泛的泛化能力：模型在非推理任务中也表现出色，胜率比 DeepSeek R1 高出 8%，显示出其在复杂用户场景处理能力方面的优势。
• 高效的基础设施：为支持大规模训练，Seed-Thinking-v1.5 采用了 HybridFlow 编程模型和流式推理系统（SRS），通过三层并行架构（张量/专家/序列并行）优化了训练效率。

Seed-Thinking-v1.5的技术原理

• 混合专家模型（MoE）架构：Seed-Thinking-v1.5 采用了混合专家模型（Mixture-of-Experts, MoE）架构，总参数量为 200B，每次激活 20B 参数。在保持高性能的同时，显著减少了计算资源的消耗，提高了模型的效率。
• 强化学习算法
  • VAPO 和 DAPO 框架：为解决强化学习训练中的不稳定性问题，研究团队提出了 VAPO（面向 Actor-Critic）和 DAPO（面向 Policy Gradient）两大框架。这两种方法能提供稳健的训练轨迹，有效优化推理模型。
  • 奖励建模：团队设计了两种奖励建模方案，Seed-Verifier 和 Seed-Thinking-Verifier。Seed-Thinking-Verifier 通过详细的推理过程，解决了奖励欺骗、预测不确定性和边界情况处理失败等问题。
• 数据处理与增强
  • 可验证问题：包括数学、编程和逻辑谜题，通过严格筛选与增强（如将选择题转为填空题），确保模型学习到真实的推理能力。
  • 非可验证问题：如创意写作和对话，通过动态过滤低方差样本，避免模型陷入局部优化。
  • 数据增强策略：例如用模型生成候选答案，结合人工验证修正错误参考答案，提升数据可靠性。
• 分布式训练基础设施
  • 混合并行架构：结合张量并行（TP）、专家并行（EP）和上下文并行（CP），支持高效的大规模训练。
  • 流式生成系统（SRS）：通过异步处理和动态资源调度，将长文本生成的效率提升 3 倍，解决了传统同步框架的“拖尾问题”。
  • 自动调优系统：根据实时负载动态选择最优计算配置，平衡内存与计算资源。

Seed-Thinking-v1.5的项目地址

• Github仓库：http://github.com/ByteDance-Seed/Seed-Thinking-v1.5

Seed-Thinking-v1.5的性能表现

• 数学推理：在 AIME 2024 测试中获得 86.7 分，与 OpenAI 的 o3-mini-high 持平。
• 编程任务：在 Codeforces 评测中，pass@8 指标达到 55.0%，优于 DeepSeek-R1。
• 科学问答：在 GPQA 测试中准确率达 77.3%，接近顶尖模型水平。
• 非推理任务：在非推理任务中，胜率比 DeepSeek R1 高出 8%，表现出较强的泛化能力。

Seed-Thinking-v1.5的应用场景

• 科学问答：Seed-Thinking-v1.5 在科学问答方面也有显著表现。模型能理解和回答涉及科学概念和原理的复杂问题，适用于教育和研究领域。
• 创意写作：模型能生成跨时空对话，例如模拟历史人物的内心独白或融合不同领域术语的叙事。在内容创作、广告、剧本编写等领域具有潜在的应用价值。
• 逻辑推理：Seed-Thinking-v1.5 在处理需要逻辑分析和推理的问题时具有显著优势，适用于需要逻辑判断和分析的场景，如法律分析、市场策略规划等。
• 教育辅助：Seed-Thinking-v1.5 的推理能力可以帮助学生解决数学和科学问题，提供编程练习的反馈，辅助语言学习。