返回博客
HermesOpenRouterConfigurationAI Agents

如何将 Hermes Agent 与 OpenRouter 配合使用

一份实用指南:将 Hermes Agent 接入 OpenRouter——获取 API 密钥、选择合适的模型,以及避免那些浪费时间的常见配置错误。

作者:Hermify Team||阅读约 2 分钟
API 流向图:一个 OpenRouter 密钥通过中枢路由,将请求分发至 Claude、GPT-4o 和 Llama 等模型

OpenRouter 是上手 Hermes 的最佳起点

初次配置 Hermes Agent 时,你需要指定一个大语言模型服务商。官方快速入门支持 Nous Portal、OpenRouter、OpenAI、Anthropic 以及任何兼容 OpenAI 的接口。实际使用中,OpenRouter 对大多数用户来说是最佳选择,尤其是在第一次部署时。

原因很简单:OpenRouter 只需一个 API 密钥,就能访问来自不同服务商的数百个模型。你不必分别管理 OpenAI、Anthropic 和 Nous Portal 的账户,只需一个账单界面、一个 API 密钥,以及一个无需每次重新配置 Hermes 就能切换模型的选择器。

对于像 Hermes 这样持续自我改进的智能体来说,能够在不变更基础设施的情况下切换模型非常有价值。你可以先用价格更低的模型处理日常任务,遇到复杂工作时再切换到更强大的模型,整个过程无需改动 Hermes 的任何安装配置。

获取 OpenRouter API 密钥

配置过程非常快速:

  1. 前往 openrouter.ai 注册账号。
  2. 进入 Settings → API Keys,生成一个新密钥。
  3. 复制密钥,它以 sk-or- 开头。
  4. 为账号充值。OpenRouter 支持按量付费,你可以从小额开始。

复制的密钥就是你要提供给 Hermes(或者如果你使用托管服务,则提供给 Hermify)的 OPENROUTER_API_KEY

配置 Hermes 使用 OpenRouter

如果你在本地运行 Hermes,需要在 config.yaml 文件中进行配置。相关部分如下:

provider: openrouter
model: anthropic/claude-3-5-sonnet
openrouter_api_key: sk-or-your-key-here

你也可以使用交互式设置命令:

hermes setup

这个命令会引导你选择服务商和模型,并自动写入配置。如果之后想单独切换模型而不重新执行完整的设置流程,可以使用:

hermes model

这将打开一个模型选择器,不会重置其余配置。

在 OpenRouter 上选择合适的模型

OpenRouter 提供数百个模型。正确的选择取决于你的使用场景和预算。以下是适用于 Hermes 的几个实用选项:

OpenRouter 上综合表现最佳的模型:

  • anthropic/claude-3-5-sonnet:推理能力强,能很好地执行多步骤指令,适合复杂工作流。这是大多数 Hermes 用户的首选模型。
  • openai/gpt-4o:速度快、能力强,适合代码和结构化任务。
  • meta-llama/llama-3.1-70b-instruct:开源权重,单 token 成本更低,适合高吞吐量的工作流。
  • nousresearch/hermes-3-llama-3.1-405b:Nous 自家的 Hermes 系列模型。由于 Hermes Agent 的系统提示与该模型同出一源,两者天然契合。
  • google/gemini-2.0-flash:速度快、成本低,适合对延迟敏感的应用场景。

性价比策略: 日常使用选择 llama-3.1-70b-instruct,遇到需要更强推理能力或更长上下文窗口的任务时,再切换到 Claude 或 GPT-4o。

Nous 模型策略: 专门测试 nousresearch/hermes-3-llama-3.1-405b 是值得的,因为 Hermes 智能体运行时本身就是围绕 Nous 模型构建的。智能体的提示风格与模型训练之间的对齐程度,往往比第三方模型更紧密。

针对 OpenRouter 的专项配置建议

以下是将 OpenRouter 与 Hermes 搭配使用时几个特别重要的注意事项:

设置服务商偏好。 OpenRouter 会将请求路由到多个基础设施服务商。如果你使用 Anthropic 的模型,可以通过在配置中设置 provider_order 来固定使用 Anthropic 自有的基础设施,从而降低延迟波动。

配置备用模型。 Hermes 支持在 config.yaml 中配置辅助服务商。这意味着当主模型不可用时,Hermes 可以自动切换到备用模型。使用 OpenRouter 时,可以在 auxiliary_providers 下指定多个备用模型。

注意上下文窗口限制。 Hermes 使用持久化记忆和上下文文件,因此提示词可能会很长。上下文窗口较小(低于 32k token)的模型可能比预期更快触及限制。如果你发现模型的回复似乎忽略了近期的上下文,很可能是模型正在截断记忆文件。请切换到上下文窗口更大的模型——Claude 和 Gemini 均支持 128k+。

常见配置错误

使用了错误的 base URL。 Hermes 需要一个兼容 OpenAI 的接口。OpenRouter 的 base URL 是 https://openrouter.ai/api/v1。一些用户误用了 OpenAI 的 URL,导致 OpenRouter 密钥验证失败。

忘记添加 HTTP-Referer 请求头。 OpenRouter 要求 API 请求中包含 HTTP-Referer 请求头,用于标识你的应用。当你将 openrouter 配置为服务商时,Hermes 会自动处理这个问题;但如果你使用的是自定义接口配置,则需要手动添加该请求头。

会话中途额度耗尽。 当你的额度不足时,OpenRouter 会拒绝请求,Hermes 会在终端或消息界面显示错误。在 OpenRouter 设置中添加一个小额自动充值阈值,可以防止长时间工作流被中断。

选择了不支持工具调用的模型。 Hermes 的许多功能依赖工具调用(如文件写入、网页抓取、定时任务)。OpenRouter 上部分价格较低的模型不支持工具调用。切换模型前,请先在 OpenRouter 的模型页面确认该模型的能力标签。

使用托管服务时有何不同

如果你通过 Hermify 部署 Hermes,服务商配置方式相同,但你需要在引导流程的控制台中输入 OpenRouter API 密钥,而不是编辑配置文件。Hermify 会对其进行加密存储,并在启动时注入到运行时中。

你还可以直接从 Hermify 控制台更新服务商密钥或切换模型,无需手动重启容器。这是主要的操作差异:你不需要 SSH 登录服务器来编辑 config.yaml,只需在设置界面操作,触发重启,变更便会在数秒内生效。

Starter 计划专门围绕 BYOK(自带密钥)与 OpenRouter 的组合设计——你提供密钥,Hermify 负责其他一切。如果你想完全跳过 OpenRouter 账号的设置,Pro 和 Dedicated 计划已包含模型访问权限,无需配置任何第三方服务商。

一份实用的起始配置

如果你想要一个可靠的默认配置,不想花时间对比各种模型,以下是适合大多数 Hermes 用户在 OpenRouter 上使用的配置方案:

  • 服务商: OpenRouter
  • 主模型: anthropic/claude-3-5-sonnet
  • 备用模型: meta-llama/llama-3.1-70b-instruct
  • 上下文窗口: 200k token(Claude 支持)
  • 初始充值金额: $10–$20(以正常使用频率通常可支撑数周)

之后,随着你对自身使用习惯的深入了解,可以进一步调整模型选择。Hermes 为长时间运行的会话而设计,因此你选择的模型不只影响响应速度,还会影响记忆质量和工具调用的可靠性。

如果你想跳过配置环节、更快得到一个可用的 Hermes 部署,Hermify 可以为你处理所有服务商接入工作。在做决定之前,你也可以先阅读自托管与托管服务之间的真实成本差异

运行你自己的 Hermes Agent

自带 API 密钥,连接 Telegram,60 秒内即可上线一个自我改进的 AI 智能体。

立即开始