在单个 H200 GPU Droplet 上微调 LLM Ornith 9b：成本、延迟和服务开销

构建面向用户的 agentic 产品的模型提供商通常会在两个糟糕的默认选项之间做选择：完全隐藏推理过程，这使得调试和建立信任更加困难；或者将原始思维链直接抛给用户，而思维链通常冗长、重复，有时还包含你不希望逐字呈现的信息。一个能够原生生成干净、结构化推理摘要的模型，无需单独的摘要步骤或第二次模型调用，是一条值得用真实数据验证的中庸之道。

从抽象层面看，这并非新奇的想法，但其背后有一个值得测试的具体主张：为现有 agentic 模型添加这一行为，是否会在服务时带来任何成本？从推理角度来看，改变输出格式而非输出内容的微调通常被认为“免费”。我们想确认这一点，而不是凭空假设；与未修改的基线的完整对比见下文结果。

Ornith-1.0-9B 是 DeepReinforce AI 的 Ornith-1.0 系列中最小的检查点，该系列是一组开源的、MIT 许可的模型，专门为 agentic 编码而构建（该系列还包括 31B dense、35B MoE 和 397B MoE 检查点）。它是一个 dense 9B 模型，在 Qwen 3.5 之上进行了后训练，并且足够小，可以在单个 80GB GPU（约 19GB VRAM）上以 bf16 运行。该系列在架构上的独特之处不在于大小，而在于训练方法：Ornith-1.0 没有将模型与固定的人工设计的 agent 框架配对，而是通过强化学习训练模型在构建解决方案的同时构建自己的脚手架，并联合优化两者。DeepReinforce 报告称，该 9B 模型在 Terminal-Bench 2.1 上达到 43.1，在 SWE-Bench Verified 上达到 69.4，尽管规模较小，但在类似基准测试上匹配或超越了更大的开源模型。我们的微调不会改变这些；我们不会触及脚手架生成行为或编码性能，只会改变模型向最终用户展示其推理的方式。

数据集 SupraLabs/reasoning-summaries-61k 包含 61,000 个示例，专门用于训练模型生成清晰、结构化的推理链摘要，而不是暴露原始思维链。每个示例都配对了原始推理轨迹和摘要版本，以及结构化字段（标题、副标题、摘要、当前任务）。该数据集基于明确署名且已获许可的上游来源构建，而非抓取或专有数据，这对于任何评估是否复现的人来说都很重要：数据谱系可追溯，许可条款在开始时便已知。

我们使用 LLaMA-Factory 在单个 H200 GPU Droplet 上运行微调。

按照 $3.44/小时（单个 H200），24.675 小时总计为 $84.88，即可对全部 61K 示例数据集进行三轮微调。这是完整的训练成本，而非估算（仅计算运行时；请注意，DigitalOcean 按秒计费 GPU Droplet，并且在 Droplet 关机期间继续计费，因此在销毁 Droplet 之前，资源创建和空闲时间会单独计费）。无论创始人接下来会问什么（我们能负担得起尝试吗，实际账单是多少），这个数字都能回答。

微调模型

（并发级别5的数据排除了上述冷启动试验；并发级别20的数据包含那次失败的请求。）

一旦服务器预热，TTFT从单请求一直到20个并发请求都保持接近平稳，范围在20至47毫秒之间。每请求吞吐量在20倍并发时下降约15%（从187.63降至159.05令牌/秒），而聚合吞吐量大约扩展17倍（从187.63升至3,181.02令牌/秒）。这就是对任何规划容量的人来说重要的权衡：每请求适度减速，以换取总吞吐量的大幅提升。

微调模型与基础模型对比

我们针对未修改的基础Ornith-1.0-9B模型运行了完全相同的基准测试，相同的提示词、相同的硬件，每个并发级别进行相同的五次试验。

这里的每个差异都落在基础模型自身试验间变异的噪声范围内（仅其并发级别20的TTFT在五次试验中就在0.043秒至0.051秒之间波动）。简而言之：微调Ornith-1.0-9B以生成结构化推理摘要，在我们测试的任何并发级别上都没有增加可测量的服务开销。

有一个值得标记而非过度强调的数据点：基础模型在并发级别20下最差的单请求TPS读数为133.94令牌/秒（是减速，不是失败），而微调模型在同一并发级别下出现了一次零令牌失败。由于在该负载级别下每个模型只有100个请求，这还不足以说明微调导致了失败，或者它与基础模型偶尔的减速有任何关联。这是一个悬而未决的问题，而非结论。

上述数字表明微调在服务时不会产生任何额外成本。它真正改变的，是输出本身的形态。以下是针对两个模型运行的相同提示词（“二氧化碳排放如何影响现代生活？”）。

基础模型：

未修改的模型将其完整推理过程暴露为一段冗长、自由格式的“思考”块：在最终给出答案之前，包含编号步骤、嵌套项目符号点，以及对语气、目标和结构的连续评论。它是可读的，但很原始。面向用户的产品要么必须完全隐藏它，要么将其原样发布，而这种非结构化文本的长度不可预测。

微调模型：

微调后的模型在收到相同提示词时，返回的则是一个单一的结构化对象：

{
  "title": "CO2 Impact Analysis",
  "sub_title": "Exploring how carbon dioxide emissions influence daily life and the environment.",
  "summary": "I'm considering how carbon dioxide exhaust influences modern life, focusing on environmental and health effects. I plan to examine air quality, climate impacts, and policy responses to provide a comprehensive overview.",
  "cur_task": "I'm thinking about how carbon dioxide emissions affect everyday life and the environment."
}

根据 SupraLabs/reasoning-summaries-61k 数据集卡，这是微调模型被训练生成的确切结构：一个 title 和一个 sub_title 作为推理步骤的简短、人类可读的标题，一个 summary 概括实际的推理内容，以及一个 cur_task 字段，用于命名模型当前正在执行的任务。与其呈现一整面嵌套推理的墙，UI 可以渲染一个标题和一行状态，按需展开摘要，并且完全不显示原始轨迹。

相同的底层任务、相同的模型系列，以及（根据上述基准测试）相同的延迟和吞吐量特征。区别完全在于推理结果是以松散的文本形式到达，还是以一个小型、可预测的对象形式到达，前端可以实际基于该对象进行构建。

如果你希望模型在不暴露完整思维链的情况下，向用户提供透明的推理过程，并且希望在确定生产环境中的并发目标之前获得真实的成本和延迟数据，请使用此方法。

不要将此作为任务准确性或智能体可靠性提高的证据。此微调改变的是输出格式，而不是任务性能，我们在此未对后者进行测量。

• Ornith-1.0-9B 模型卡 (DeepReinforce AI)
• SupraLabs/reasoning-summaries-61k 数据集卡
• LLaMA-Factory，用于训练的微调框架
• vLLM，用于推理的服务引擎，及其 CUDA 图形捕获设计文档
• DigitalOcean GPU Droplets 和 GPU Droplet 定价
• DigitalOcean Bring Your Own Model，用于提供微调模型服务的部署路径
• Terminal-Bench 2.1 和 SWE-Bench Verified，DeepReinforce 为基础模型报告的基准测试