2026年LLM推理成本对比：DigitalOcean与Together AI、Fireworks AI、Modal、Nebius、Baseten和OpenRouter

下图分解了文本生成API定价如何根据输入/输出消耗的令牌进行计算。还展示了基于缓存令牌和使用其他服务功能的额外计算。

在货比三家选择LLM推理提供商时，请记住这个公式，但务必查看每个提供商关于缓存、工具/函数调用、网络搜索、存储、区域使用和专用基础设施的最新定价。

考虑gpt-oss-120b。最便宜的LLM API取决于输入和输出令牌之间的平衡。使用10,000个输入令牌和100个输出令牌，DigitalOcean的成本约为0.00107美元，比Together AI/Fireworks的0.00156美元便宜约31%。使用100个输入令牌和10,000个输出令牌，Together AI/Fireworks的成本约为0.00 6015美元，比DigitalOcean的0.00701美元便宜约14%。

DigitalOcean在输入密集型工作负载方面成本较低，而Together AI和Fireworks在输出密集型工作负载方面成本较低。当输入令牌量是输出令牌量的两倍时，这些提供商达到盈亏平衡点。

该表直接列出同一模型，比较了 DigitalOcean、Together AI、Fireworks AI 和 Baseten 的典型无服务器输入/输出价格。表中还包含 Modal 和 Nebius 作为平台示例，因为它们的部署经济性会随计量计算利用率而变化；OpenRouter 作为路由层示例被纳入，因为其有效价格取决于所选的模型/提供商路由和平台费用规则。OpenAI 仅在专有模型定价背景下展示。价格于 2026 年 7 月 30 日核实，可能会随时间变化。

重要定价说明

• Fireworks 定价中的三个数字分别表示未缓存输入 / 缓存输入/输出。
• 对于 GPT-5.6 Luna、Terra 和 Sol，所示价格适用于不超过 272,000 个 token 的提示词。
• DigitalOcean 表示其 OpenAI（商业模型）集成使用客户的 OpenAI API 密钥，计费由 OpenAI 完成。
• Claude Sonnet 5 的 $2/M 输入和 $10/M 输出价格为推广价。自 2026 年 9 月 1 日起，Anthropic 公布的标准价格将变为 $3/M 输入和 $15/M 输出。

本比较使用直接发布的无服务器列表价格，不包括批量折扣、优先层级、谈判合同、税费、存储、网络费用、失败请求和专用 GPU 部署。在做出购买或架构决策之前，请核实所链接的定价页面。

请注意，此表并非试图进行质量排名。不同提供商提供的 checkpoints 可能具有不同的量化、上下文窗口、吞吐量或可靠性。同一提供商提供的相同模型名称并不保证操作等效性。请记录完整的模型标识符，并使用相同的提示词、采样参数、输出长度上限、并发度和评估数据集进行基准测试。

批量推理异步处理文件或请求组。结果无需立即返回，因此提供商可以更优地调度工作并降低收费。批量处理非常适合分类、元数据提取、内容审核、评估、离线摘要、合成数据生成、嵌入管道——基本上任何不是交互式聊天或对延迟敏感的智能体任务的场景。

DigitalOcean 的推理定价文档明确表示，对于受支持的 OpenAI 和 Anthropic 模型，折扣“最高 50%”。他们的批量推理指南详细介绍了工作流程、预期的 24 小时完成时间，并明确说明了商业模型的支持范围。无服务器推理概览清楚地说明了基于 token 的无服务器计费方式，以及相对于专用推理何时应使用它。Fireworks AI 指出，批量输入/输出的定价为无服务器定价的 50%，使其比提供商的实时价格更便宜。OpenAI 的 Batch API 同样为受支持的模型和端点提供比同步 API 处理低 50% 的成本。

在进行运营评估时，不要只比较百分比。测试文件大小限制、作业配额、完成超时、取消、部分失败、结果排序、幂等性、重试、可观测性等。

下面的简短示例演示了如何将上面对比表中的价格应用于实际工作负载。有关何时以及如何使用批量推理与实时推理的说明和指导，请参阅 DigitalOcean 的《介绍统一批量推理》和《LLM 推理三难困境：吞吐量、延迟和成本》。这些文章解释了批量实现以及选择推理端点时涉及的权衡，而本页面提供了当前的定价比较和工作负载计算。

假设一家公司必须在下一个工作日之前对一百万张支持工单进行分类。模型返回类别、紧急程度评分和简短说明。

假设条件：

• 1,000,000 份文档
• 每份文档 800 个输入 token 和 30 个输出 token
• 总计 8 亿个输入 token 和 3000 万个输出 token
• gpt-oss-120b
• 无提示词缓存折扣
• Fireworks 使用批量费率
• DigitalOcean 和 Together 使用标准无服务器费率，因为不假设 DigitalOcean 的开放模型批量折扣。

以下示例展示了在标准无服务器费率和折扣批量推理定价下，使用 gpt-oss-120b 分类 100 万份文档的成本节省。根据下面的工作负载假设，Fireworks Batch 将总价格降至 $69。

如果你是在大型数据集上进行推理的研究人员，Fireworks Batch 在此示例中提供了最低的估算成本。这意味着对于不要求实时性的研究场景（如数据集分类、生成合成数据、模型评估或大规模文档分析），批量推理可以带来显著的成本节省。然而，研究人员应始终将 token 价格与模型版本、输出质量、可复现性、完成时间、故障恢复、速率限制等因素一起评估。

让我们通过另一个示例来深入分析，这次使用一个需要流式响应的客户支持聊天机器人。在这种情况下，我们不能使用批量推理，因为客户需要立即得到响应。

假设条件：

• 每天10,000次请求 * 30天 = 每月300,000次请求
• 每次请求1,200个输入token * 每月300,000次请求 = 每月3.6亿个输入token
• 每次请求300个输出token * 每月300,000次请求 = 每月9,000万个输出token
• gpt-oss-120b

不使用提示缓存

一个使用gpt-oss-120b、每天接受10,000次请求的聊天机器人在DigitalOcean上的月成本为99美元，而在Together或Fireworks上为108美元（这还不包括缓存、工具、重试及相关基础设施的费用）。

提示缓存如何改变优势方

聊天机器人的输入包含重复的系统指令、用户安全策略、工具定义、输出模式、示例交互和产品上下文。假设每月3.6亿个输入token中有70%符合Fireworks公布的每百万token 0.015美元的缓存输入费率：

• 1.08亿个未缓存的输入token
• 2.52亿个缓存的输入token
• 9,000万个输出token

通过重用包含常见内容的提示（如系统指令、安全策略、工具定义和输出模式定义），提示缓存可以显著降低你的LLM推理成本。下面，我们展示70%的缓存命中率如何将聊天机器人的预估月度成本从108美元降至73.98美元。

这并不旨在作为同口径的缓存对比；它只是揭示了对已公布折扣的敏感程度。你必须核实每个提供商对特定模型的缓存支持、最小前缀长度、缓存生命周期、路由行为、缓存写入成本，以及前缀是否可以在用户之间共享。注意最终得到的缓存命中率。如果提示开头附近包含频繁更新的时间戳、用户特定数据或动态生成的工具列表，都可能会阻碍提示的重用。

一个检索增强生成系统有三项主要成本：

1. 将文档转换为嵌入。
2. 在向量数据库中存储和搜索这些嵌入。
3. 将检索到的信息发送给LLM以生成答案。

假设你有100,000份文档，每份包含1,000个token。这相当于1亿个token。对于all- MiniLM-L6-v2，按每百万token 0.009美元计算，初始嵌入成本为：1亿个token × $0.009 = $0.90

为全部10万份文档生成嵌入仅需0.90美元！但这并不意味着整个RAG系统只需花费0.90美元。额外的费用可能包括文档存储、向量数据库托管、查询嵌入、重排序、LLM输入/输出token以及文档重新索引。

假设你的应用每月收到100万个问题，每个问题平均20个token。查询嵌入每月将处理2000万个token：20 × $0.009 = $0.18

大部分成本可能来自使用LLM。如果RAG系统成功为每个用户问题检索2,000个token，那么这100万个问题将向模型发送20亿个检索到的token。按每百万输入token $0.10计算，检索到的上下文将花费：2,000 × $0.10 = $200

这200美元仅适用于发送给模型的检索上下文。用户问题及模型生成的token价格并未包含在内。

因此，检索设置会影响最终账单。你检索的文档越多，并且你的分块越大、重叠越多，你发送给LLM的token就越多。元数据过滤和重排序可以在生成发生之前减少不相关的输出。请将检索准确性、答案质量和成本综合评估。

结论：在本文示例中，为100,000份文档、1亿个token生成嵌入只需花费0.90美元。在生产级RAG系统中，LLM生成和向量数据库基础设施的成本很可能远高于这一初始的文档嵌入前置成本。

对于Llama 3.3 70B，DigitalOcean每百万输入token收费0.65美元，每百万输出token也收费0.65美元。Together AI对输入和输出均按每百万token 1.04美元收费。假设我们的聊天机器人每月使用3.6亿个输入token并生成9000万个输出token。那么我们的月度总token量为：3.6亿 + 9000万 = 4.5亿个token

由于每个提供商对输入和输出token按相同费率计费，我们每个提供商的月度价格可以轻松计算：

DigitalOcean：450 × $0.65 = $292.50

Together AI：450 × $1.04 = $468

对于此工作负载，DigitalOcean 每月可节省 175.50 美元：$468−$292.50=$175.50。 与 Together AI 每月 468 美元的价格相比，这相当于节省了 37.5%。然而，这种计算仅比较了 token 价格。它并不能说明两家提供商是否满足相同的延迟、吞吐量、可靠性或生成文本质量。要正确比较供应商，应在两者上运行相同的模型版本、提示词、生成设置和工作负载。

DeepSeek 可能指的是基于 Llama 训练的蒸馏版本、大型混合专家模型、Flash 版本或 Pro 版本。例如，以下是 DigitalOcean 为 DeepSeek 模型列出的价格：

• DeepSeek R1 Distill Llama 70B：每百万 token 输入 0.99 美元，输出 0.99 美元。
• DeepSeek V4 Flash：输入 0.112 美元，输出 0.224 美元。
• DeepSeek V4 Pro：输入 1.392 美元，输出 2.784 美元。

请注意，这些模型具有不同的能力、架构和价格，因此不应被笼统地归入"DeepSeek"标签之下。在比较提供商时，请记得记录完整的模型标识符 + 版本。

每 token 成本最低的模型不一定能带来每个完成任务的最低成本。更便宜但能力较弱的模型可能会产生错误答案、需要更长的提示词、多次重试或需要人工干预。按每 token 价格进行基准测试很重要，但在比较提供商时，用户还应考虑获得可接受结果的总成本。信息图展示了如何通过核算输入、输出、重试和工具成本来衡量每个成功 AI 任务的真实成本：

对于持续使用的场景，专用推理可能优于按 token 计费。DigitalOcean 正在以 2.59 美元/小时的价格推广 AMD MI300X，并以 4.41 美元/小时的价格推广 NVIDIA H100。

然而，如果没有实测的吞吐量和利用率，GPU 小时价格并不能说明太多问题。一个有用的盈亏平衡计算方法是：将端点的每小时成本除以每小时成功任务数，与无服务器每成功任务的成本进行比较。

仅凭价格不应决定您对推理提供商的选择。请考虑他们运营的以下几个方面可能如何更严重地影响您的生产成本和性能：

• 速率限制和容量：如果您的应用程序每分钟无法获得足够的请求或 token，低价就没有价值。请了解默认值、批准的配额、突发行为、并发限制，以及更高的配额是否需要承诺使用量。Microsoft Azure AI Together 提供动态的、按模型区分的限制，可随持续流量扩展。批处理队列可能有不同的文件和作业配额。
• 延迟和冷启动：对于交互式应用程序，测量首次 token 的时间，包括 token 间延迟、端到端延迟、P95 和 P99、超时和冷启动。良好的平均延迟可能掩盖具有破坏性的尾部延迟。例如，一秒的延迟在聊天界面中可能是灾难性的，但对隔夜批处理作业来说则无关紧要。
• 可靠性和质量：跟踪已完成的事务，而不是 HTTP 200 响应。统计速率限制重试、无效 JSON、格式错误的工具调用、空完成、安全拦截、幻觉以及应用程序层的失败。使用相同的评估集比较供应商。在您期望在生产环境中看到的并发级别下重复测试。
• 模型和服务差异：相同的系列名称可能掩盖不同的版本、量化格式、上下文窗口、内核和解码默认值。尽可能固定完整的标识符。提供商可能会更新别名或淘汰检查点，因此请保持回归测试和受控的升级流程。

实际成本优化涵盖定价决策、工作负载设计、模型路由、检索质量、度量和运维纪律。以下是一个实用框架，帮助在不影响可靠性和答案质量的前提下降低开支。

2026年，在所有生产工作负载中并不存在最便宜的LLM API。截至7月29日的价格验证，在提供商中，DigitalOcean 对 gpt-oss-120b 的列出的标准输入费率最低，而 Llama 3.3 70B 则具有显著的标价优势。在考虑缓存效应之前，该示例聊天机器人在 DigitalOcean 上的费用为每月99美元，而在 Together 或 Fireworks 上为每月108美元。对于 Llama 3.3 70B 的聊天机器人用量，DigitalOcean 的费用为292.50美元，而 Together 为468美元。

当您符合条件的工作负载可以使用其批处理或缓存输入定价层级时，Fireworks 提供了无与伦比的价值。100万文档的示例成本从 Fireworks 标准费率的138美元降至使用批量定价的69美元，并且假设缓存命中率为70%，聊天机器人的估算值将降至73.98美元。Together 在目录和部署灵活性方面仍然具有竞争力，并且在 Qwen 3.7 Plus 等特定模型上表现领先。Baseten 适合这种直接的Model API比较，因为它列出了相同的模型。Modal 和 Nebius 需要进行基于利用率感知的计算基准测试。OpenRouter 需要进行路由和费用感知的成本核算。OpenAI 在此比较中被用作专有模型的价格锚点，而不是作为主要的推理平台竞争对手。

一旦您拥有了代表生产的可测量约束，持久的采购原则很简单：优化每项成功任务的成本，而不是孤立地优化每百万令牌的成本。衡量模型版本、输入/输出混合比、缓存命中率、延迟分布、重试次数、质量、周边基础设施，并运行一个小规模的生产形态基准测试。选择在实际应用约束下为您提供最低可靠价格的提供商（或路由策略）。

2026年最便宜的LLM API是什么？

不存在普遍最便宜的API。在此比较中，对于所陈述的实时gpt-oss-120b和Llama 3.3 70B工作负载，DigitalOcean最便宜；对于符合条件的gpt-oss-120b批处理和高缓存场景，Fireworks最便宜；Together在部分目录行中胜出。Baseten在重叠的Model API上具有直接可比性；Modal和Nebius必须根据实测计算利用率进行评估；OpenRouter必须根据其选定路由和适用费用进行评估；当需要专有的GPT能力时，OpenAI是合适的。

我应该如何比较LLM API价格？

将输入和输出的量分别乘以其费率，加上缓存令牌、重试、工具和基础设施，然后除以成功任务数。在不同提供商之间使用相同的提示词、模型版本、输出限制、并发性和质量阈值。

批量推理能将LLM成本降低50%吗？

是的，对于符合条件的模型和工作负载可以。Fireworks 对无服务器输入和输出提供50%的批量折扣。OpenAI 对受支持的模型发布单独的批量费率，为标准费率的一半。DigitalOcean 对受支持的OpenAI和Anthropic模型宣传最高50%的折扣，但并非每个开放模型。

专用推理何时比无服务器更便宜？

在持续、可预测的需求和高利用率下，专用容量可能更便宜。请对目标硬件上每GPU小时的成功任务数进行基准测试（包括空闲时间和操作），并将该值与每项成功任务的无服务器成本进行比较。

• 推理定价
• 可扩展、高性价比的AI：DigitalOcean推出统一批处理推理
• 2026年Together AI定价：模型、成本及如何管理账单