如何将 Hermes Agent 与 OpenRouter 配合使用
一份实用指南:将 Hermes Agent 接入 OpenRouter——获取 API 密钥、选择合适的模型,以及避免那些浪费时间的常见配置错误。
OpenRouter 是上手 Hermes 的最佳起点
初次配置 Hermes Agent 时,你需要指定一个大语言模型服务商。官方快速入门支持 Nous Portal、OpenRouter、OpenAI、Anthropic 以及任何兼容 OpenAI 的接口。实际使用中,OpenRouter 对大多数用户来说是最佳选择,尤其是在第一次部署时。
原因很简单:OpenRouter 只需一个 API 密钥,就能访问来自不同服务商的数百个模型。你不必分别管理 OpenAI、Anthropic 和 Nous Portal 的账户,只需一个账单界面、一个 API 密钥,以及一个无需每次重新配置 Hermes 就能切换模型的选择器。
对于像 Hermes 这样持续自我改进的智能体来说,能够在不变更基础设施的情况下切换模型非常有价值。你可以先用价格更低的模型处理日常任务,遇到复杂工作时再切换到更强大的模型,整个过程无需改动 Hermes 的任何安装配置。
获取 OpenRouter API 密钥
配置过程非常快速:
- 前往 openrouter.ai 注册账号。
- 进入 Settings → API Keys,生成一个新密钥。
- 复制密钥,它以
sk-or-开头。 - 为账号充值。OpenRouter 支持按量付费,你可以从小额开始。
复制的密钥就是你要提供给 Hermes(或者如果你使用托管服务,则提供给 Hermify)的 OPENROUTER_API_KEY。
配置 Hermes 使用 OpenRouter
如果你在本地运行 Hermes,需要在 config.yaml 文件中进行配置。相关部分如下:
provider: openrouter
model: anthropic/claude-3-5-sonnet
openrouter_api_key: sk-or-your-key-here
你也可以使用交互式设置命令:
hermes setup
这个命令会引导你选择服务商和模型,并自动写入配置。如果之后想单独切换模型而不重新执行完整的设置流程,可以使用:
hermes model
这将打开一个模型选择器,不会重置其余配置。
在 OpenRouter 上选择合适的模型
OpenRouter 提供数百个模型。正确的选择取决于你的使用场景和预算。以下是适用于 Hermes 的几个实用选项:
OpenRouter 上综合表现最佳的模型:
anthropic/claude-3-5-sonnet:推理能力强,能很好地执行多步骤指令,适合复杂工作流。这是大多数 Hermes 用户的首选模型。openai/gpt-4o:速度快、能力强,适合代码和结构化任务。meta-llama/llama-3.1-70b-instruct:开源权重,单 token 成本更低,适合高吞吐量的工作流。nousresearch/hermes-3-llama-3.1-405b:Nous 自家的 Hermes 系列模型。由于 Hermes Agent 的系统提示与该模型同出一源,两者天然契合。google/gemini-2.0-flash:速度快、成本低,适合对延迟敏感的应用场景。
性价比策略: 日常使用选择 llama-3.1-70b-instruct,遇到需要更强推理能力或更长上下文窗口的任务时,再切换到 Claude 或 GPT-4o。
Nous 模型策略: 专门测试 nousresearch/hermes-3-llama-3.1-405b 是值得的,因为 Hermes 智能体运行时本身就是围绕 Nous 模型构建的。智能体的提示风格与模型训练之间的对齐程度,往往比第三方模型更紧密。
针对 OpenRouter 的专项配置建议
以下是将 OpenRouter 与 Hermes 搭配使用时几个特别重要的注意事项:
设置服务商偏好。 OpenRouter 会将请求路由到多个基础设施服务商。如果你使用 Anthropic 的模型,可以通过在配置中设置 provider_order 来固定使用 Anthropic 自有的基础设施,从而降低延迟波动。
配置备用模型。 Hermes 支持在 config.yaml 中配置辅助服务商。这意味着当主模型不可用时,Hermes 可以自动切换到备用模型。使用 OpenRouter 时,可以在 auxiliary_providers 下指定多个备用模型。
注意上下文窗口限制。 Hermes 使用持久化记忆和上下文文件,因此提示词可能会很长。上下文窗口较小(低于 32k token)的模型可能比预期更快触及限制。如果你发现模型的回复似乎忽略了近期的上下文,很可能是模型正在截断记忆文件。请切换到上下文窗口更大的模型——Claude 和 Gemini 均支持 128k+。
常见配置错误
使用了错误的 base URL。 Hermes 需要一个兼容 OpenAI 的接口。OpenRouter 的 base URL 是 https://openrouter.ai/api/v1。一些用户误用了 OpenAI 的 URL,导致 OpenRouter 密钥验证失败。
忘记添加 HTTP-Referer 请求头。 OpenRouter 要求 API 请求中包含 HTTP-Referer 请求头,用于标识你的应用。当你将 openrouter 配置为服务商时,Hermes 会自动处理这个问题;但如果你使用的是自定义接口配置,则需要手动添加该请求头。
会话中途额度耗尽。 当你的额度不足时,OpenRouter 会拒绝请求,Hermes 会在终端或消息界面显示错误。在 OpenRouter 设置中添加一个小额自动充值阈值,可以防止长时间工作流被中断。
选择了不支持工具调用的模型。 Hermes 的许多功能依赖工具调用(如文件写入、网页抓取、定时任务)。OpenRouter 上部分价格较低的模型不支持工具调用。切换模型前,请先在 OpenRouter 的模型页面确认该模型的能力标签。
使用托管服务时有何不同
如果你通过 Hermify 部署 Hermes,服务商配置方式相同,但你需要在引导流程的控制台中输入 OpenRouter API 密钥,而不是编辑配置文件。Hermify 会对其进行加密存储,并在启动时注入到运行时中。
你还可以直接从 Hermify 控制台更新服务商密钥或切换模型,无需手动重启容器。这是主要的操作差异:你不需要 SSH 登录服务器来编辑 config.yaml,只需在设置界面操作,触发重启,变更便会在数秒内生效。
Starter 计划专门围绕 BYOK(自带密钥)与 OpenRouter 的组合设计——你提供密钥,Hermify 负责其他一切。如果你想完全跳过 OpenRouter 账号的设置,Pro 和 Dedicated 计划已包含模型访问权限,无需配置任何第三方服务商。
一份实用的起始配置
如果你想要一个可靠的默认配置,不想花时间对比各种模型,以下是适合大多数 Hermes 用户在 OpenRouter 上使用的配置方案:
- 服务商: OpenRouter
- 主模型:
anthropic/claude-3-5-sonnet - 备用模型:
meta-llama/llama-3.1-70b-instruct - 上下文窗口: 200k token(Claude 支持)
- 初始充值金额: $10–$20(以正常使用频率通常可支撑数周)
之后,随着你对自身使用习惯的深入了解,可以进一步调整模型选择。Hermes 为长时间运行的会话而设计,因此你选择的模型不只影响响应速度,还会影响记忆质量和工具调用的可靠性。
如果你想跳过配置环节、更快得到一个可用的 Hermes 部署,Hermify 可以为你处理所有服务商接入工作。在做决定之前,你也可以先阅读自托管与托管服务之间的真实成本差异。