2026年10月免费LLM API层级剩余及我如何串联使用

我维护着几个内部小工具，每天要调用大模型几百次：一个更新日志摘要器、一个工单分类器，还有个脚本，能把杂乱的日志整理成可读的事故时间线。这几个工具都不值得花钱买月度套餐，所以过去一年它们完全靠免费的 LLM API 免费额度运转。这样确实可行，但前提是你得把“免费”当成一套需要精心管理的配额，而不是天上掉的馅饼。

网上排在这个话题前列的文章，大多是今年春天的快照。从那以后，有的服务商下线了，有的模型退役了，限额也变了。本文反映的是截至 2026 年 10 月 6 日的实际格局，以及我在设计中不得不绕开的各种坑，还有我自己用的一套小降级链路——有了它，某家服务商的每日限额也不会拖垮整个工具。

先说明一下范围：下文提到的每个免费档位都只支持文本，或接近只支持文本。项目需要生成图片或视频时，我不费劲去找免费额度，而是直接调用 Synexa，它通过统一的 predictions 端点提供 FLUX Schnell 等模型。本文其余内容都只围绕文本展开。

“免费”的三种形态

在比较具体数字之前，有必要先区分各家服务商所说“免费”的含义，因为它们的翻车方式各不相同。

1. 永久配额。每分钟、每天有固定的请求或 token 数量，会定期重置。Groq、OpenRouter 的 :free 模型、NVIDIA NIM 和 Google Gemini 都属于这一类。额度用完就收到 429，然后等待。
2. 月度额度。每月补充的美元金额。Mistral 的免费套餐每月提供 $10 的 API 额度；Hugging Face 给免费用户每月 $0.10 的 Inference Provider 额度。用完就得等下个月刷新。
3. 匿名或免密钥访问。完全不用注册。OVHcloud AI Endpoints 免密钥即可使用，每个 IP 对每个模型每分钟可请求 2 次；Kilo Code 的网关为免费资源池提供每 IP 每小时 200 次请求的配额；LLM7.io 则允许匿名调用者使用它的 turbo 模型。做原型很方便，但如果服务出问题你要半夜把人叫起来排查，那就太脆弱了。

会过期的试用额度不算在内，我已经把它们排除了。

2026 年 10 月的免费 LLM API 格局

这些数据来源于社区维护的 awesome-free-llm-apis 列表，我尽可能地对照了 Groq 和 OpenRouter 自身的速率限制页面进行交叉核对。除非另有说明，这些端点均兼容 OpenAI SDK。

相比同列表的 3 月版本，Cerebras、GitHub Models 和 Kluster AI 已不再出现，而几个新增条目（Aion Labs、Kilo Code、OVHcloud、ModelScope）则被加入。Groq 还在 2026 年 9 月 14 日停止了 qwen/qwen3.6-27b，改为提供 qwen/qwen3.8-27b。如果您从旧文章中复制了模型 ID，请在指责自己的代码之前先确认它们仍然可用。

我实际在设计时会考虑的陷阱

每日配额的限制比每分钟配额的限制更致命。 OpenRouter 的免费模型默认每账户每天 50 次请求，直到你购买了 10 美元的积分，此时上限提升至 1,000。每分钟限制只会让你放慢速度；每日配额会让你一直等到 UTC 午夜才能继续。我的经验是：日配额较低的提供商永远放在链条的最后，而不是第一位。

了解哪个头表示什么意思？ Groq 在每次响应中都会发送 x-ratelimit-remaining-requests，其文档明确说明这始终指的是每日请求数，而 x-ratelimit-remaining-tokens 指的是每分钟令牌数。retry-after 仅在实际的 429 响应中出现。OpenRouter 恰好相反：成功的响应不携带任何速率限制头部，因此你需要直接查询密钥：

curl https://openrouter.ai/api/v1/key \
  -H "Authorization: Bearer $OPENROUTER_API_KEY"
# look at data.free_model_daily_requests -> { used, limit, remaining }

共享池很容易被意外耗尽。 Cloudflare 每日 10,000 次 Neurons 在该账户下的所有 Workers AI 模型之间共享，并在 UTC 00:00 重置。超出额度不会产生费用；请求会失败。失控的嵌入任务可能会悄悄地耗尽你的聊天模型的资源。Groq 的限额同样是按组织计算的，因此两个服务若共享同一个组织，也共享同一个预算。

"免费"有时意味着“你就是训练数据”。 Google 表示，免费层的提示词可能被用于改进产品，但 EEA、瑞士和英国的用户除外。Mistral 的免费模式可能会在您未选择退出时使用输入进行训练。OpenRouter 指出，免费提供者可能会记录提示词。我会把含有客户数据的内容完全排除在这些层级之外；这一条规则决定了哪些工具可以使用它们。

地域和身份门槛。 SiliconFlow 和 ModelScope 要求实名认证，实际上这意味着需要提供中国身份文件或提交工单。Gemini 的条款规定，如果您向 EEA、瑞士或英国的用户提供 API 客户端，则必须使用付费服务。如果您在那些地区有用户，请在使用免费额度之前先阅读该条款。

SDK 自身的重试机制会适得其反。 OpenAI Python SDK 默认会重试 429 错误，并在尝试之间休眠。在免费层级上，当另一个提供商仍有容量时，这恰恰是错误的做法。我将 max_retries=0 设置为零，让自己的链条决定下一次尝试去向。

能够抵御 429 错误的回退链

由于 Groq、NVIDIA NIM 和 OpenRouter 都使用 OpenAI Chat Completions 格式，因此一个客户端类可以覆盖这三者。顺序反映了剩余额度：NVIDIA 的 10,000 RPD 首位，Groq 的 1,000 RPD 次位，OpenRouter 的 50 RPD 最后作为紧急备用。

import os
from openai import OpenAI, RateLimitError, APIStatusError, APIConnectionError

# (name, base_url, env var holding the key, model id)
PROVIDERS = [
    ("nvidia", "https://integrate.api.nvidia.com/v1", "NVIDIA_API_KEY", "openai/gpt-oss-20b"),
    ("groq", "https://api.groq.com/openai/v1", "GROQ_API_KEY", "openai/gpt-oss-120b"),
    ("openrouter", "https://openrouter.ai/api/v1", "OPENROUTER_API_KEY",
     "nvidia/nemotron-3-super-120b-a12b:free"),
]

# max_retries=0: fail fast and move to the next provider instead of sleeping
CLIENTS = [
    (name, OpenAI(base_url=url, api_key=os.environ[env], max_retries=0, timeout=60), model)
    for name, url, env, model in PROVIDERS
    if os.environ.get(env)
]

def chat(messages, **kwargs):
    errors = []
    for name, client, model in CLIENTS:
        try:
            resp = client.chat.completions.create(model=model, messages=messages, **kwargs)
            return name, resp.choices[0].message.content
        except RateLimitError:
            errors.append(f"{name}: 429")
        except APIStatusError as e:  # 402 on OpenRouter means a negative balance
            errors.append(f"{name}: {e.status_code}")
        except APIConnectionError:
            errors.append(f"{name}: connection error")
    raise RuntimeError("every free tier refused: " + ", ".join(errors))

if __name__ == "__main__":
    provider, text = chat(
        [{"role": "user", "content": "Summarize: deploy failed, migration 042 timed out."}],
        max_tokens=200,
    )
    print(f"[{provider}] {text}")

我吃了两次亏才学到的教训。首先，每个答案都要返回提供者名称并记录日志；当输出质量变化时，这个日志能告诉你是否发生了回退。其次，不要把链中的每个模型都视为可以互换。20B 模型和 120B 模型的答案不会相同，所以我只会把自己在自有提示词上验证过的模型串起来，并且我会把提示词保持足够简洁，以至于链中最弱的模型也能应付。

我会为不同场景选择哪个层级

• 批处理作业和分类器：NVIDIA NIM，以获得日常余量。
• 对延迟敏感的交互式工具：优先使用 Groq，随后是链。
• 快速尝试多种模型：OpenRouter 的 :free 变体；一个密钥，多种模型，以及 openrouter/free 路由到当前可用的免费模型。
• 长上下文或多模态输入：Gemini，在检查 AI Studio 中的配额以及您所在地区的数据使用条款之后。
• 零注册演示：OVHcloud 的匿名层级或 Kilo Code 的网关，接受它们可能随时变更而无需通知。

常见问题

是否存在完全免费且无需信用卡的 LLM API？
是的。Groq、OpenRouter 的 :free 模型、NVIDIA NIM、Gemini、Mistral 的免费模式以及 Cloudflare Workers AI 均可在不提供信用卡的情况下开始使用。OVHcloud 的匿名层级和 Kilo Code 的网关甚至不需要密钥。

哪个免费 LLM API 的每日额度最高？
在 OpenAI 兼容的选项中，NVIDIA NIM 每个模型每日提供 10,000 次请求，远高于 Groq 的 1,000 次和 OpenRouter 默认的 50 次。SiliconFlow 的每分钟额度更高，但需要身份验证。

我可以在生产环境中使用免费 LLM API 吗？
对于低风险的内部工具，可以，只要有回退链且不涉及敏感数据。面向客户的场景则需要阅读条款：Cohere 的试用密钥仅限非商业用途，而 Gemini 的条款要求为服务于 EEA、英国或瑞士用户的应用使用付费服务。

为什么我在 OpenRouter 免费模型上这么快就遇到 429 错误？
免费变体每分钟限制 20 次请求，每日限制 50 次，直到您的账户累计购买至少 10 美元的积分。调用 GET /api/v1/key 并查看 free_model_daily_requests 以了解剩余额度。

总结

2026 年底的免费额度足以支撑真实的内部工具，只要你围绕每日配额做好规划，把私有数据隔离开来，并在出现故障时切换而不是原地重试。随着格局不断变化，建议每隔几个月就参照供应商的官方文档核对模型 ID。当项目超出纯文本范围时，我仍然保持单一端点的习惯，用于媒体处理，并把图像和视频任务通过 Synexa 路由，而不是再额外管理一套配额。