Hermes Agent mit OpenRouter konfigurieren

OpenRouter ist der empfohlene Ausgangspunkt für Hermes

Wenn Sie Hermes Agent erstmals einrichten, müssen Sie ihn auf einen LLM-Anbieter ausrichten. Der offizielle Schnellstart unterstützt Nous Portal, OpenRouter, OpenAI, Anthropic und jeden OpenAI-kompatiblen Endpunkt. In der Praxis ist OpenRouter für die meisten Nutzer die beste Wahl, insbesondere bei einer ersten Bereitstellung.

Der Grund ist einfach: OpenRouter ist ein einziger API-Schlüssel, der Ihnen Zugriff auf Hunderte von Modellen verschiedener Anbieter gibt. Anstatt separate Konten bei OpenAI, Anthropic und Nous Portal zu verwalten, erhalten Sie eine Abrechnungsoberfläche, einen API-Schlüssel und einen Modell-Umschalter, der nicht erfordert, dass Sie Hermes jedes Mal neu konfigurieren, wenn Sie etwas anderes ausprobieren möchten.

Für einen selbstverbessernden Agenten wie Hermes, der darauf ausgelegt ist, mit der Zeit besser zu werden, ist die Möglichkeit, Modelle ohne Infrastrukturänderungen zu wechseln, nützlich. Sie können mit einem günstigeren Modell für den Alltagsgebrauch beginnen und für komplexe Aufgaben zu einem leistungsfähigeren wechseln, ohne Ihre Hermes-Installation anzufassen.

Ihren OpenRouter-API-Schlüssel beschaffen

Die Einrichtung geht schnell:

1. Gehen Sie zu openrouter.ai und erstellen Sie ein Konto.
2. Navigieren Sie zu Settings → API Keys und generieren Sie einen neuen Schlüssel.
3. Kopieren Sie den Schlüssel, er beginnt mit sk-or-.
4. Laden Sie Guthaben auf Ihr Konto. OpenRouter unterstützt nutzungsabhängige Abrechnung, sodass Sie mit einem kleinen Betrag beginnen können.

Der Schlüssel, den Sie kopieren, ist das, was Sie Hermes (oder Hermify, falls Sie verwaltetes Hosting nutzen) als OPENROUTER_API_KEY bereitstellen.

Hermes für die Nutzung von OpenRouter konfigurieren

Wenn Sie Hermes lokal betreiben, erfolgt die Konfiguration in Ihrer Datei config.yaml. Der relevante Abschnitt sieht so aus:

provider: openrouter
model: anthropic/claude-3-5-sonnet
openrouter_api_key: sk-or-your-key-here

Sie können auch den interaktiven Einrichtungsbefehl verwenden:

hermes setup

Dieser führt Sie durch die Auswahl eines Anbieters und Modells und schreibt die Konfiguration für Sie. Wenn Sie das Modell später ändern möchten, ohne die vollständige Einrichtung erneut auszuführen, können Sie Folgendes verwenden:

hermes model

Dies öffnet einen Modell-Auswähler, ohne den Rest Ihrer Konfiguration zurückzusetzen.

Das richtige Modell auf OpenRouter wählen

OpenRouter stellt Hunderte von Modellen bereit. Die richtige Wahl hängt von Ihrem Anwendungsfall und Budget ab. Hier sind die praktischen Optionen für Hermes:

Beste Allzweck-Modelle auf OpenRouter:

• anthropic/claude-3-5-sonnet, Starke Schlussfolgerung, befolgt mehrstufige Anweisungen gut, geeignet für komplexe Arbeitsabläufe. Dies ist das Modell, mit dem die meisten Hermes-Nutzer beginnen.
• openai/gpt-4o, Schnell, leistungsfähig, gut für Code und strukturierte Aufgaben.
• meta-llama/llama-3.1-70b-instruct, Offene Gewichte, geringere Kosten pro Token, gut für Arbeitsabläufe mit hohem Volumen.
• nousresearch/hermes-3-llama-3.1-405b, Nous' eigenes Modell aus der Hermes-Familie. Passt von Natur aus zu den Systemprompts von Hermes Agent, da beide aus demselben Labor stammen.
• google/gemini-2.0-flash, Schnell und günstig, gut für latenzkritische Anwendungen.

Budget-Ansatz: Beginnen Sie mit llama-3.1-70b-instruct für den täglichen Gebrauch. Wechseln Sie für Aufgaben, die stärkere Schlussfolgerung oder längere Kontextfenster erfordern, zu Claude oder GPT-4o.

Der Nous-Modell-Ansatz: nousresearch/hermes-3-llama-3.1-405b ist es wert, gezielt getestet zu werden, weil die Hermes-Agent-Laufzeit rund um Nous-Modelle gebaut wurde. Die Abstimmung zwischen dem Prompting-Stil des Agenten und dem Training des Modells fällt tendenziell enger aus als bei Modellen von Drittanbietern.

OpenRouter-spezifische Konfigurationstipps

Einige Dinge, die speziell für OpenRouter mit Hermes wichtig sind:

Legen Sie eine Anbieterpräferenz fest. OpenRouter leitet Anfragen an mehrere Infrastruktur-Anbieter weiter. Wenn Sie Anthropic-Modelle verwenden, können Sie sich auf Anthropics eigene Infrastruktur festlegen, indem Sie provider_order in Ihrer Konfiguration setzen. Dies reduziert Latenzschwankungen.

Konfigurieren Sie Fallback-Modelle. Hermes unterstützt zusätzliche Anbieter in config.yaml. Das bedeutet: Wenn Ihr primäres Modell nicht verfügbar ist, kann Hermes auf ein sekundäres zurückgreifen. Mit OpenRouter können Sie mehrere Modelle als Fallbacks unter auxiliary_providers angeben.

Behalten Sie Ihr Kontextfenster im Auge. Hermes nutzt persistenten Speicher und Kontextdateien, was bedeutet, dass Prompts lang werden können. Modelle mit kleineren Kontextfenstern (unter 32k Tokens) können schneller als erwartet an Grenzen stoßen. Wenn Sie Antworten bemerken, die den jüngsten Kontext zu ignorieren scheinen, kürzt das Modell möglicherweise Ihre Speicherdatei. Wechseln Sie zu einem Modell mit einem größeren Kontextfenster, Claude und Gemini bieten beide 128k+.

Häufige Konfigurationsfehler

Verwendung der falschen Basis-URL. Hermes erwartet einen OpenAI-kompatiblen Endpunkt. Die Basis-URL von OpenRouter lautet https://openrouter.ai/api/v1. Manche Nutzer verwenden versehentlich die OpenAI-URL, was bei OpenRouter-Schlüsseln zu Authentifizierungsfehlern führt.

Den HTTP-Referer-Header vergessen. OpenRouter erfordert einen HTTP-Referer-Header in API-Anfragen, um Ihre Anwendung zu identifizieren. Hermes erledigt dies automatisch, wenn Sie openrouter als Anbieter konfigurieren, aber bei einer benutzerdefinierten Endpunkt-Einrichtung müssen Sie diesen Header manuell hinzufügen.

Erschöpfung des Kontingents mitten in der Sitzung. OpenRouter blockiert Anfragen, wenn Ihr Guthaben zur Neige geht, was Hermes als Fehler im Terminal oder in der Messaging-Oberfläche anzeigt. Das Hinzufügen einer kleinen Schwelle für die automatische Aufladung in den OpenRouter-Einstellungen verhindert, dass dies lange Arbeitsabläufe unterbricht.

Auswahl eines Modells, das keine Tool-Aufrufe unterstützt. Hermes verlässt sich bei vielen seiner Fähigkeiten auf die Tool-Nutzung (Dateischreibvorgänge, Web-Abrufe, geplante Aufgaben). Manche günstigeren Modelle auf OpenRouter unterstützen keine Tool-Aufrufe. Prüfen Sie die Fähigkeits-Kennzeichnungen des Modells auf der OpenRouter-Modellseite, bevor Sie wechseln.

Was sich bei verwaltetem Hosting ändert

Wenn Sie Hermes über Hermify bereitstellen, funktioniert die Anbieterkonfiguration auf die gleiche Weise, aber Sie geben Ihren OpenRouter-API-Schlüssel über das Onboarding-Dashboard ein, anstatt eine Konfigurationsdatei zu bearbeiten. Hermify speichert ihn verschlüsselt und injiziert ihn beim Start in die Laufzeit.

Sie können Ihren Anbieterschlüssel auch aktualisieren oder Modelle über das Hermify-Dashboard wechseln, ohne den Container manuell neu zu starten. Das ist der wesentliche betriebliche Unterschied: Anstatt per SSH zuzugreifen, um config.yaml zu bearbeiten, verwenden Sie die Einstellungsoberfläche, lösen einen Neustart aus, und die Änderung wird in Sekunden wirksam.

Der Starter-Plan ist gezielt rund um BYOK mit OpenRouter konzipiert, Sie bringen den Schlüssel mit, Hermify übernimmt alles andere. Wenn Sie das OpenRouter-Konto vollständig überspringen möchten, beinhalten die Pro- und Dedicated-Pläne Modellzugriff, sodass Sie überhaupt keinen Drittanbieter einrichten müssen.

Eine praktische Ausgangskonfiguration

Wenn Sie eine solide Voreinstellung möchten und keine Zeit mit dem Vergleichen von Modellen verbringen wollen, ist dies die Konfiguration, die für die meisten Hermes-Nutzer auf OpenRouter gut funktioniert:

• Anbieter: OpenRouter
• Modell: anthropic/claude-3-5-sonnet für den primären Gebrauch
• Fallback: meta-llama/llama-3.1-70b-instruct
• Kontextfenster: 200k Tokens (Claude unterstützt dies)
• Anfängliche Guthaben-Aufladung: $10–$20 (reicht typischerweise mehrere Wochen regelmäßiger Nutzung)

Von dort aus können Sie das Modell feinjustieren, sobald Sie Ihre eigenen Nutzungsmuster besser verstehen. Hermes ist für langlaufende Sitzungen ausgelegt, daher beeinflusst das gewählte Modell die Qualität des Speichers und die Zuverlässigkeit der Tools, nicht nur die Antwortgeschwindigkeit.

Wenn Sie sich die Konfigurationsarbeit sparen und schneller zu einer funktionierenden Hermes-Bereitstellung gelangen möchten, übernimmt Hermify die Anbieter-Verkabelung für Sie. Sie können auch mehr über den tatsächlichen Kostenunterschied zwischen selbst gehosteten und verwalteten Hermes-Bereitstellungen lesen, bevor Sie sich entscheiden.