cheaper-inference/OmniRoute
cheaper-inference/OmniRoute has 85,848 GitHub stars and 13,009 forks. GitHot measured +258 stars in 24 hours and +1,948 in 7 days. Last checked 2026-11-09 13:23 UTC. Last push 2026-11-02.
So werden diese Zahlen gemessen
Höre nie mit dem Programmieren auf. Kostenloses MIT-KI-Gateway: ein Endpunkt, 375 Anbieter (davon über 150 kostenlos) und mehr als 1.400 Modelle von Kimi, Claude, GPT, Gemini, GLM, DeepSeek und MiniMax. Funktioniert mit Claude Code, Codex, Cursor, OpenCode, Cline und Copilot. Quotenabhängiger automatischer Fallback, RTK+Caveman-Komprimierung spart 15–95 % Tokens, außerdem MCP/A2A sowie Desktop/PWA. Entwickelt von über 900 Mitwirkenden
What you can do
- Architecture - System architecture, data flow, and internals
- Compression Guide - 7-option pipeline: off / lite / standard / aggressive / ultra / RTK / stacked
- RTK Compression - Command-output compression, filters, trust, verify, raw-output recovery
- Compression Engines - Caveman, RTK, stacked pipelines, dashboard/API/MCP surfaces
Gemessener Sternzuwachs
- in 24h
- +258
- in 7 days
- +1.948
- in 15 days
- Aktualisierung verzögert
- in 1 month
- Aktualisierung verzögert
Nettoänderungen in überlappenden Zeiträumen, keine Tagessummen. Fehlende Messwerte bleiben leer. Sterne zeigen Interesse, nicht Qualität.
docs/i18n/de/README.md
OriginalREADME (Deutsch)
🌐 Languages: 🇺🇸 English · 🇪🇹 am · 🇸🇦 ar · 🇦🇿 az · 🇧🇬 bg · 🇧🇩 bn · 🇧🇦 bs · 🇨🇿 cs · 🇩🇰 da · 🇬🇷 el · 🇪🇸 es · 🇪🇪 et · 🇮🇷 fa · 🇫🇮 fi · 🇫🇷 fr · 🇮🇪 ga · 🇮🇳 gu · 🇳🇬 ha · 🇮🇱 he · 🇮🇳 hi · 🇭🇷 hr · 🇭🇺 hu · 🇦🇲 hy · 🇮🇩 id · 🇳🇬 ig · 🇮🇹 it · 🇯🇵 ja · 🇬🇪 ka · 🇰🇭 km · 🇮🇳 kn · 🇰🇷 ko · 🇱🇹 lt · 🇱🇻 lv · 🇮🇳 ml · 🇮🇳 mr · 🇲🇾 ms · 🇲🇹 mt · 🇲🇲 my · 🇳🇵 ne · 🇳🇱 nl · 🇳🇴 no · 🇮🇳 or · 🇮🇳 pa · 🇵🇭 phi · 🇵🇱 pl · 🇵🇹 pt · 🇧🇷 pt-BR · 🇷🇴 ro · 🇷🇺 ru · 🇱🇰 si · 🇸🇰 sk · 🇸🇮 sl · 🇷🇸 sr · 🇸🇪 sv · 🇰🇪 sw · 🇮🇳 ta · 🇮🇳 te · 🇹🇭 th · 🇹🇷 tr · 🇺🇦 uk-UA · 🇵🇰 ur · 🇺🇿 uz · 🇻🇳 vi · 🇳🇬 yo · 🇨🇳 zh-CN · 🇹🇼 zh-TW

🚀 OmniRoute — Das kostenlose KI-Gateway
💰 ~1,62 Mrd. Token / Monat über kostenlose Tarife von Drittanbietern
Verwende deine eigenen Anbieterkonten. Dies ist eine geschätzte Gesamtsumme aus separat verfügbaren kostenlosen Tarifen von Drittanbietern, keine Token-Zuteilung von OmniRoute. Registriere dich, beschaffe dir bei Bedarf Zugangsdaten und verbinde die Anbieter, die du nutzen kannst; jeder Anbieter legt seine eigenen Limits, seine Verfügbarkeit und seine Bedingungen fest.
Kostenlose Tarife manuell zu kombinieren ist mühsam — Dutzende SDKs, Dutzende Ratenbegrenzungen und keine Ahnung, wie viel dir tatsächlich zur Verfügung steht. OmniRoute katalogisiert 484 Einträge kostenloser Tarife über 34 wiederkehrende Pool-Schlüssel hinweg und berechnet die angegebene Token-Gesamtsumme aus den 17 Pools mit einem veröffentlichten positiven monatlichen Budget sowie fünf Groq-Obergrenzen pro Modell, wobei gemeinsam genutzte Pools dedupliziert werden. Kontingente, die erst nach einer regionalen Identitätsprüfung freigeschaltet werden (derzeit: ModelScope), werden separat ausgewiesen: +~6 Mio. nach regionaler Identitätsprüfung. Sie werden niemals zur Gesamtsumme hinzugerechnet. Das Ergebnis bleibt im Dashboard sichtbar (
/dashboard/free-tiers).
Animierte Zusammenfassung der Live-Seite
/dashboard/free-tiers. Vollständige Methodik (Pool-Deduplizierung, Guthabenstufen, Anbieterbedingungen): docs/reference/FREE_TIERS.md.Diese Zahlen werden alle zwei Wochen anhand des Live-Katalogs erneut geprüft und bewegen sich in beide Richtungen — beendet ein Anbieter einen kostenlosen Tarif, sinkt die Zahl; kommt ein neuer hinzu, steigt sie. Wir veröffentlichen, was der Katalog tatsächlich berechnet, niemals einen aufgerundeten Bestfall.
⭐ Gib dem Repository einen Stern, wenn OMNIROUTE dir geholfen hat, Geld zu sparen und deine Arbeit zu erleichtern.
💬 Tritt der Community bei
👋 Folge dem Maintainer — erfahre als Erstes von neuen Anbietern, Releases und Tipps:
Fragen, Anbietertipps, Roadmap und Support → Discord · Telegram · WhatsApp 🌍 Global / 🇧🇷 Brasil / Portal
📈 Das Gateway wächst weiter
| v3.8.50 | v3.8.51 | v3.8.53+ |
|
|---|---|---|---|
| 🌐 Anbieter | 352 | 358 | 380 |
| 🧠 Einzigartiges Chat-Modell IDs | 1320 | 1374 | 1475 |
| 🖼️ Modalitätsbrücke | 🆕 Vision + Audio + Video | ✓ | ✓ |
| 📡 Radar kostenloser Katalog | 🆕 Opt-in | ✓ | ✓ |
| ⚖️ Kontingentbewusste Planung | 🆕 Quota-Share | ✓ | ✓ |
| 📊 Quotentelemetrie | 🆕 live | ✓ | ✓ |
| 🧰 Headless-Modus | — | — | 🆕 serve --headless |
| 🛤️ LTS Schieneninfra | — | — | 🆕 Release-Kanäle |
| 🔎 Modellerkennung API | — | — | 🆕 /v1/models/query |
→ Roadmap – Mit der Bahn zu v3.9.0 LTS
🧩 Verfügbar
| 🚀 Start | 🚀 Schnellstart | 📦 Installation | 🆓 Anbieter verbinden |
| 💡 Lernen | 💥 Das Versprechen | 🤔 Warum OmniRoute? | 🏆 Was OmniRoute auszeichnet |
| ⚙️ Funktionen | 🎯 Combos | 🌐 Anbieter | 🔌 CLI & MCP |
| 🗜️ Komprimierung | 🖥️ Wo es läuft | 🔒 Privat | |
| 👀 Ansehen | 🎬 In Aktion | ✨ Neuigkeiten | 🤖 Kompatible CLIs |
| 💚 Unterstützen | 💚 Unterstützen / Spenden | 💬 Community | 💖 Sponsoren |
| 📦 Projekt | 🛠️ Technologie-Stack | 📖 Dokumentation | 👥 Mitwirkende |
# Nachdem du einen Anbieter verbunden hast, kopiere deinen OmniRoute-Schlüssel aus Dashboard → Endpoints:
curl http://localhost:20128/v1/chat/completions \
-H "Authorization: Bearer YOUR_OMNIROUTE_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}'
auto benötigt eine berechtigte Route. Eine frische Installation kann keine berechtigten keyless-Ziele haben, und ein keyless-Anbieter kann Drittanbieter-Clients ablehnen. Anbieter, die mit tos: avoid markiert sind, einschließlich Kiro, sind standardmäßig vom automatischen Routing ausgeschlossen; das Verbinden eines Kontos hebt diese Einstellung nicht auf. Siehe den Free-Tiers-Guide, bevor du einen Anbieter auswählst.
📦 Kopierfertige Quickstart-Skripte für Python, Node.js, PHP und cURL → examples/quickstart/
💥 Das Versprechen
🤔 Warum OmniRoute?
🤝 Unterstützt von unseren Open-Source-Freunden
Möchten Sie sich als Open-Source-Freund anschließen? Dies sind die Unternehmen, die Open Source unterstützen und dabei helfen, OmniRoute voranzubringen — und wir legen öffentlich offen, wofür jedes Token eingesetzt wird, das sie uns zur Verfügung stellen. Kontaktieren Sie uns: [email protected]
|
Kimi Moonshot AI |
Vielen Dank an Kimi (Moonshot AI), unseren ersten Open-Source-Freund, für die Unterstützung dieses Projekts! Kimi ist das KI-Labor hinter den Open-Weight-Modellfamilien K2 und K3 — Kimi K3 bietet ein Kontextfenster mit 1 Mio. Token, native Bildverarbeitung und Programmierfähigkeiten auf Spitzenniveau zu einem Bruchteil der Preise geschlossener Modelle und funktioniert sofort mit Claude Code, Codex und jedem von OmniRoute unterstützten Programmierwerkzeug.
Was durch Kimis Unterstützung ermöglicht wird: Kimis API-Guthaben finanzieren die KI-validierte Release-Pipeline von OmniRoute — die Phase Merge-Validierung, unterstützt von Kimi K3, die jeden Pull Request vor der Veröffentlichung prüft — sowie die tägliche Funktionsentwicklung. Erstklassige Kimi-Unterstützung ist auf beiden Wegen verfügbar: über die direkte Kimi API ( kimi-k3) und den Kimi Code-Programmiertarif (OAuth und API-Schlüssel). OmniRoute ist außerdem das erste brasilianische Open-Source-Projekt im Unterstützungsprogramm von Kimi. Erhalten Sie einen Kimi-API-Schlüssel mit 15 % zusätzlichem Guthaben →
|
|
Cheaper Inference cheaperinference.com |
Vielen Dank an Cheaper Inference, einen Open-Source-Freund von OmniRoute, für die Unterstützung dieses Projekts! Cheaper Inference ist ein nach Kosten sortiertes Gateway, das 42 Spitzenmodelle — Claude, GPT-5.x, Gemini, Kimi K3, GLM, DeepSeek, Grok und MiniMax — über einen einzigen OpenAI-kompatiblen Endpunkt weiterverkauft und jede Anfrage an den günstigsten geeigneten Anbieter weiterleitet, ohne jemals mehr als den Listenpreis des Modellherstellers zu berechnen.
Erstklassige Unterstützung in OmniRoute: Chat Completions, der native Endpunkt /v1/responses, Bildverarbeitung, Tool-Aufrufe und 3 Bildmodelle (grok-imagine, nano-banana-pro, nano-banana-2, erreichbar als cheaperinference/<model>). API-Schlüssel erhalten →
|
Mit aff=omniroute gekennzeichnete Links sind Partnerlinks. Sie finanzieren das Projekt, ohne dass Ihnen zusätzliche Kosten entstehen.
🎟️ Affiliate-Aktion — kostenlose Registrierungsgutscheine von Anbietern, die uns nicht sponsern (zum Aufklappen anklicken)
Dieser Abschnitt ist ausschließlich für Empfehlungs-/Gutscheincodes vorgesehen. Gesponserte Partnerschaften finden Sie oben unter 🤝 Unterstützt von unseren Open-Source-Freunden. OmniRoute unterhält keine Sponsoringbeziehung oder Partnerschaft mit den hier aufgeführten Anbietern — dies sind öffentliche Gutscheine, die jeder nutzen kann.
|
AgentRouter agentrouter.org |
AgentRouter — Affiliate-Registrierung · $100 kostenloses Guthaben bei der Registrierung (kostenloser Server, rechnen Sie mit höherer Latenz — am besten für Tests, nicht für die Produktion). Erstklassige Unterstützung in OmniRoute seit v3.8.50: Chat Completions, das Anthropic-kompatible Übertragungsformat und der OpenAI-kompatible Pfad. Zu den verfügbaren Modellen gehören claude-opus-4-8, claude-opus-5, gpt-5.6-sol und weitere. $100 sichern →
⚠️ Affiliate-Link — OmniRoute unterhält keine Sponsoringbeziehung oder Partnerschaft mit diesem Anbieter. |
Kennen Sie einen weiteren Anbieter mit einem großzügigen kostenlosen Registrierungsgutschein, von dem OmniRoute-Nutzer profitieren? Eröffnen Sie ein Issue, und wir fügen ihn hier hinzu.
🎯 Combos — Das Flaggschiff
Eine Combo ist eine Kette von Modellen, zwischen denen OmniRoute automatisch routet. Wenn das Kontingent aufgebraucht ist, ein Anbieter ausfällt oder die Kosten stark steigen, kann die Combo zum nächsten geeigneten, funktionsfähigen Modell wechseln. 🛡️
⚡ Keine Konfiguration — einfach auto verwenden
Es muss keine Combo erstellt werden. Lege dein Modell auf auto (oder eine Variante) fest, und OmniRoute erstellt aus deinen verbundenen Anbietern eine virtuelle Combo, die fortlaufend bewertet wird:
| Modell-ID | Wofür optimiert wird |
|---|---|
auto | 🎯 Ausgewogene Standardeinstellung (LKGP — bleibt bei deinem letzten zuverlässigen Anbieter) |
auto/coding | 🧑💻 Qualitätsorientierte Gewichtung für die Codegenerierung |
auto/fast | ⚡ Niedrigste Latenz zuerst |
auto/cheap | 💰 Niedrigste Kosten pro Token zuerst |
auto/subscription | 🎟️ Nur das bereits bezahlte Abonnementkontingent — bei Fehlern geschlossen, niemals ein kostenpflichtiger Fallback (Anleitung) |
auto/thrifty | 🪜 Zuerst das Tarifkontingent, danach stufenweise die günstigsten kostenpflichtigen Optionen — nach dem Zurücksetzen wieder zurück zum Tarif (Anleitung) |
auto/offline | 🔋 Größter Spielraum bei Kontingent bzw. Ratenlimit zuerst |
auto/smart | 🔭 Qualität zuerst + 10 % Exploration, um bessere Modelle zu entdecken |
auto/lkgp | 📌 Explizite Bindung an den letzten bekanntermaßen zuverlässigen Anbieter |
auto/chaos | 🧪 Parallele Verteilung an eine Gruppe von Modellen (eines pro Anbieter, standardmäßig 5), die eine Antwort zurückgibt; ein Upstream-Aufruf pro Modell in der Gruppe, keine Fehlerinjektion |
🔀 Oder erstelle deine eigene — 20 Routing-Strategien
Alle 20 Strategien — pro Combo-Schritt frei kombinierbar:
| # | Strategie | Funktionsweise |
|---|---|---|
| 1 | priority |
Geordnete Liste mit bevorzugtem Ziel — jedes Ziel wird vollständig ausgeschöpft, bevor das nächste verwendet wird 🥇 |
| 2 | fill-first |
Das Kontingent jedes Ziels wird vollständig ausgeschöpft, bevor zum nächsten gewechselt wird |
| 3 | weighted |
Gewichtete Zufallsauswahl anhand der Gewichtung pro Ziel |
| 4 | round-robin |
Ziele der Reihe nach zyklisch durchlaufen |
| 5 | p2c |
Zufälliger Lastenausgleich nach dem Power-of-Two-Choices-Prinzip |
| 6 | least-used |
Das Ziel mit der aktuell geringsten Auslastung auswählen |
| 7 | random |
Gleichverteilte Zufallsauswahl (dedupliziert) |
| 8 | strict-random |
Zufallsauswahl ohne Deduplizierung von Wiederholungen 🎲 |
| 9 | cost-optimized |
Kosten pro Anfrage anhand aktueller Katalogpreise minimieren 💸 |
| 10 | headroom |
Das Ziel mit dem größten verbleibenden Kontingent auswählen |
| 11 | quota-weighted |
Ausgeschöpfte Konten überspringen, dann proportional zum verbleibenden Kontingent ÷ laufender Last auswählen — bestehende Unterhaltungen bleiben gebunden ⚖️ |
| 12 | reset-window |
Das Ziel bevorzugen, dessen Kontingentfenster am frühesten zurückgesetzt wird |
| 13 | reset-aware |
Nach dem Zeitpunkt der Kontingentzurücksetzung ordnen — kurze Zeitfenster zuerst 📊 |
| 14 | context-relay |
Kontext bei langen Unterhaltungen zwischen Zielen weiterreichen 🧠 |
| 15 | context-optimized |
Die beste Eignung für die aktuelle Kontextgröße auswählen |
| 16 | cache-optimized |
Jedes wiederverwendbare Prompt-Präfix an dasselbe Konto binden — Treffer im Prompt-Cache maximieren 🎯 |
| 17 | lkgp |
Last-Known-Good Path — bindet an den letzten erfolgreichen Anbieter und greift anschließend auf Regeln zurück |
| 18 | auto |
Live-Bewertung anhand von 16 Faktoren über alle Verbindungen hinweg 🤖 |
| 19 | fusion |
Verteilung an eine Gruppe von Modellen + ein Bewertungsmodell führt die Ergebnisse zu einer Antwort zusammen 🧬 |
| 20 | pipeline |
Schritte verketten — die Ausgabe jedes Ziels dient als Eingabe für das nächste 🔗 |
Die Auto-Combo-Engine bewertet jeden Kandidaten anhand von 16 Faktoren (Status, Kontingent, Kosten, Latenz, Aufgabeneignung, Qualität, Sitzungsverfügbarkeit …) — siehe docs/routing/AUTO-COMBO.md.
🧱 Resilienz ist integriert (3 unabhängige Ebenen)
📖 Auto-Combo-Engine · Resilienzleitfaden
🏆 Was OmniRoute auszeichnet
📊 Vollständige Methodik & Details zu den einzelnen Funktionen im Vergleich zu 9router, OpenRouter, CLIProxyAPI & LiteLLM → docs/comparison/OMNIROUTE_VS_ALTERNATIVES.md
💚 OmniRoute unterstützen
OmniRoute ist MIT-lizenziert und wird offen weiterentwickelt. Wenn es Ihnen Zeit oder Geld spart, können Sie so dazu beitragen, dass es unabhängig bleibt — wählen Sie einfach, was zu Ihnen passt. Sponsoring beeinflusst niemals die Routing-Priorität; es verschafft Sichtbarkeit, keine bessere Platzierung.
| ⭐ Repository mit einem Stern markieren | Kostenlos — hilft wirklich bei der Sichtbarkeit | OmniRoute mit einem Stern markieren |
| 🐙 GitHub Sponsors | Einmalig oder monatlich · keine Plattformgebühr | github.com/sponsors/diegosouzapw |
| ☕ Ko-fi | Schnelle einmalige Spende, keine Registrierung für Spendende erforderlich | ko-fi.com/diegosouzapw |
| 🧋 Buy Me a Coffee | Kleine, informelle Geste | buymeacoffee.com/diegosouzapw |
| 🖐 Liberapay | Wiederkehrend · gemeinnützig · Open Source | liberapay.com/diegosouzapw |
| 🇧🇷 PIX (Brasilien) | Sofort, gebührenfrei | Schlüssel & QR-Code unten |
| ₿ Kryptowährungen | BTC · ETH · USDT-TRC20 · USDC-Solana | Adressen unten |
🇧🇷 PIX — sofort, gebührenfrei (Brasilien)

Schlüssel (zufällig): 5d865059-bc44-483a-962d-43ceb80126eb
Pix copia-e-cola:
00020101021126580014br.gov.bcb.pix01365d865059-bc44-483a-962d-43ceb80126eb5204000053039865802BR5922OMNIROUTE CONTRIBUICAO6006BRASIL62070503***630475DD
₿ Kryptowährungen — BTC · ETH · USDT-TRC20 · USDC-Solana (zum Aufklappen anklicken)
| ₿ BTC | Bitcoin (SegWit) | bc1qh00smz004sy85wyl28v77tenkt3ckl6eaep7fd |
| Ξ ETH | Ethereum (ERC20) | 0x64Cf6B68A6Ff34288e89172950a2d00102337a84 |
| ₮ USDT | Tron (TRC20) | TKAF41JpuQrHbKTnsQa9svJE2T192Hvsc2 |
| $ USDC | Solana | 2emNNZzVVWQc3FQ2wk9M6qXUQmW8AKdjjL174fXR28Tu |
⚠️ Senden Sie jede Kryptowährung ausschließlich über das angegebene Netzwerk — beim Senden über das falsche Netzwerk können die Mittel verloren gehen.
🐛 Einen Fehler gefunden oder Feedback? Eröffnen Sie eine Diskussion.
Hinweise für Entwickler: Das Projekt kann während npm install/postinstall der Einfachheit halber eine lokale .env-Datei für Entwickler erstellen. Diese Datei wird absichtlich über .gitignore ignoriert (siehe .gitignore) und darf niemals committet werden — falls sie versehentlich committet wurde, ändern Sie alle offengelegten Geheimnisse und entfernen Sie die Datei aus dem Verlauf. Hinweise zur Verwaltung lokaler Umgebungsdateien und Geheimnisse finden Sie unter docs/DEVELOPER-ENVIRONMENT.md.
📡 OmniRoute Radar
Die wichtigste Kennzahl für das kostenlose Kontingent bleibt bei ~1,62 Mrd. Tokens/Monat aus dem oben dokumentierten, poolbereinigten Katalog. Vorübergehende Startguthaben von Anbietern können den Umfang im ersten Monat separat auf ~2,22 Mrd. erhöhen. Radar ist eine optionale, signierte Katalog-Überlagerung für alle, die zwischen OmniRoute-Releases aktuellere Informationen zur Verfügbarkeit kostenloser Modelle wünschen; der Community-Katalog und alle bestehenden kostenlosen Funktionen bleiben kostenlos.
Unterstützer können Zugriff auf den Live-Katalog und zusätzliche Anbieterangebote erhalten. Dessen separate, veränderliche Obergrenze liegt – abhängig von der Verfügbarkeit der Anbieter – bei höchstens etwa 3 Mrd. Tokens/Monat. Diese Obergrenze ist nicht garantiert: Anbieter können Kontingente, Teilnahmevoraussetzungen, Modelle oder Regionen jederzeit ändern.
Radar ist optional und ausschließlich für GET-Anfragen vorgesehen. Der OmniRoute-Client lädt weder Prompts noch Datenverkehr, Anbieter- konfigurationen, Nutzungstelemetrie oder den lokalen Status verworfener Mitteilungen hoch. Informationen zu den Teilnahmevoraussetzungen und zum aktuellen Katalog finden Sie unter radar.omniroute.online/planos.
✨ Neuigkeiten
Aktuelle Highlights von v3.8.20 → v3.8.53. Die vollständige Historie steht in
CHANGELOG.md.
- ⚖️
quota-weighted-Routing — die 20. Combo-Strategie überspringt erschöpfte Konten und zieht dann unter den übrigen proportional zu Restkontingent ÷ aktiver Last; bestehende Unterhaltungen bleiben angepinnt. → Auto-Combo - 🧰 Headless-Modus —
omniroute serve --headless(oderOMNIROUTE_HEADLESS=1) startet nur die/v1/*-Proxy-Engine, während Dashboard und reine Dashboard-Subsysteme aus bleiben. → Headless-Modus - 🔎 Modell-Erkennung —
/v1/modelsfiltert nach Fähigkeit, Kontext, Art und Text, undPOST /v1/models/queryliefert eine kurze, deterministische Auswahl mit derselben Sichtbarkeit pro Schlüssel. → API-Referenz - 🔑 Routing-Steuerung pro Schlüssel — einen API-Schlüssel mit
forcedModelan ein Modell oder eine Combo binden und die Modelle und Combos eines Schlüssels atomar hinzufügen oder entfernen (/api/keys/{id}/access). → API-Referenz · OpenAPI - 🛡️ Feinschliff bei PII-Kontrollen — Auswahl pro Typ, bis zu 20 validierte benutzerdefinierte Maskierungsmuster und Erkennungszähler pro Typ; die Maskierung selbst bleibt opt-in. → Guardrails
- 🌍 67 Sprachen — Dashboard, Docs-Spiegel und CLI, wobei
npm run i18n:add-localeeine Sprache überall mit einem einzigen Befehl hinzufügt. → i18n-Leitfaden - 🎛️ OmniConductor — eingehende A2A-Delegierung an Ihre Agentenflotte, Conductor-Skills auf der Agent Card und ein Dashboard-Panel mit Faro-Push-to-Talk-Sprachchat. → A2A-Server
- 🛂 Adaptive Admission & Überlastschutz — schwere Chat-Anfragen werden eingereiht statt mit 503 beantwortet, mit atomaren rollierenden RPM-Leases pro Verbindung. → Resilienz-Leitfaden
- 🗂️ Kanonische
/v1/models-Reihenfolge — ein zusammenhängender, nach Anbieter gruppierter Block pro Anbieter (Combos zuerst angepinnt), stabil über jede Katalogquelle hinweg. → API-Referenz - 🗜️ Härtung der Kompression — standardmäßig aktiver Inflation Guard, Caveman-Pakete für DE / FR / JA + Chinesisch (wényán), RTK-Filter für Gradle & .NET. → Kompression
- 💸 Ehrliche Pauschalkosten — Abo- / Coding-Plan-Anbieter werden in der Kostenanalyse mit $0 ausgewiesen; Budget, Kontingent & Routing schätzen weiterhin. → API-Referenz
- ⚖️ Quota-Share-Routing — das Kontingent eines gemeinsamen Kontos fair über gepoolte Schlüssel aufteilen, work-conserving, sodass ungenutzte Anteile verliehen werden. → Resilienz-Leitfaden
- 🤖 CLI-/Agenten-Einrichtung mit einem Befehl — 15 registrierte
setup-*-Befehle;omniroute runstartet 7 CLIs (Claude Code, Codex, Aider, Goose, OpenCode, Qwen Code, Gemini CLI);omniroute configureunterstützt 11 Ziele mit interaktiver Anbieter+Modell-Auswahl und Favoriten pro Kontext. → CLI-Integrationen - 🛰️ Remote-Modus — steuern Sie ein entferntes OmniRoute mit bereichsbezogenen Tokens (
connect/contexts/tokens) + einemantigravity-OAuth-Helfer für VPS-Installationen. → Remote-Modus - 🧭 Intelligentere automatische Weiterleitung —
auto/<category>:<tier>-Combos, Fusion (Modellpanel + Judge), aufgabenbewusstes Routing, Überschreibungen pro Anfrage für Modell / Modus / USD-Budget. → Auto-Combo - 🗜️ Austauschbare Kompression — 12 kombinierbare Engines + Compression Studios: LLMLingua-2, zweistufiges Ultra, omniglyph, Fidelity-Gate pro Schritt, GCF v3.2, Drag-and-Drop-Editor. → Kompression
- 🕵️ Transparente MITM-Entschlüsselung (TPROXY) — erfassen Sie CLIs, die Proxy-Umgebungsvariablen ignorieren, mit einem CA pro SNI + Trust-Store-Installer. → MITM/TPROXY
- 💸 Kosten-Telemetrie überall —
X-OmniRoute-*-Kosten-/Nutzungs-Header an jedem Endpunkt, Cache-HIT-Ersparnis-Header, USD-Ausgabenkontingente pro Schlüssel. → API-Referenz - 🧠 Speicher unter Ihrer Kontrolle — standardmäßig aus, opt-in int8-Vektorquantisierung + typisierter Verfall,
x-omniroute-no-memorypro Anfrage. → Speicher - 🛡️ Sicherheit — Prompt-Injection-Schutz auf jeder LLM-Route (Red-Team-Suite), opt-in Guardrail zur Maskierung von Anmeldedaten (redigiert geleakte API-Schlüssel/Geheimnisse in beide Richtungen), kostenlose DuckDuckGo-Websuche als letzte Rückfalloption und ein optionales OIDC-Login-Gate für das Dashboard (Passwort-Login bleibt immer verfügbar). → Guardrails
- 🖼️ Neue Endpunkte —
/v1/ocr(Mistral OCR) und/v1/audio/translations(im Whisper-Stil) vervollständigen die Medienoberfläche. → API-Referenz - 🎨 Bild- / Video- / Audiogenerierung — eine API für Medien: xAI Grok Imagine & Novita AI Video, ComfyUI, Magnific, Adobe Firefly, Segmind und Sprachdienste wie ElevenLabs. → API-Referenz
- 🌍 Bereitstellung & Betrieb — Reverse-Proxy-
basePath, automatische Erkennung der Browsersprache, Geräteverfolgung pro Schlüssel, root-loses MITM-Vertrauen, zh-TW-Lokalisierung. → Umgebung - 🤝 Mehr Anbieter & Agenten — Cloud-Agenten (Codex Cloud, Cursor, Devin, Jules), Grok Build (xAI) mit Browser- + OAuth-Login, erstklassige Ollama-Karte, Claude Opus 5 & Sonnet 5, offizielle Kimi-Partnerschaft (Code/Web/Moonshot), Zed, Requesty, SenseNova, Yuanbao, Agnes AI… und ein aufgefrischter Katalog mit 380 Anbietern. → Anbieter
- 📡 Routing-Transparenz — jede Antwort trägt einen
X-OmniRoute-Decision-Header, der die Strategie/den Anbieter/die Latenz benennt, die sie bedient hat; eine neuecache-optimized-Combo-Strategie + Auto-Combo-FaktorcacheAffinityleiten wiederholte Anfragen zurück an die Verbindung, die das gecachte Präfix hält, und ein schreibgeschützter Endpunkt/v1/auto-combo/{channel}/candidateslegt den Live-Kandidatenpool einesauto/*-Kanals offen. → Auto-Combo - ⚡ Lokale Performance & Infrastruktur — lokales Redis per Ein-Klick, Relay-Deployer für Cloudflare Workers / Deno Deploy, Bifrost & Mux als überwachte eingebettete Dienste. → Eingebettete Dienste
- 🧩 Ebenfalls enthalten — Plugin-Framework + Marketplace, Omni/Agent/GitHub-Skills-Frameworks, Obsidian-Vault-Integration (22 MCP-Tools), OpenAI-kompatible Batch- & Files-APIs, semantischer Antwort-Cache, Gamification mit Bestenlisten, ACP-Agent-Erkennung (15 integrierte Agenten), geplanter Log-Export nach BigQuery,
auto/chaosparalleles Multi-Model-Fan-out, eine Telegram-Bot-Bridge, einen In-App-Versionsmanager und LMArena-ELO-Rankings kostenloser Anbieter. → Dokumentation
🤖 kompatible CLIs und Codierungsagenten
Eine Konfiguration –
http://localhost:20128/v1– und** jeder** AI IDE oder CLI läuft auf kostenlosen und kostengünstigen Modellen.
Claude Code |
Codex CLI |
Cline |
Kilocode |
Zoo Code |
Weiter |
Aider |
ForgeCode |
jcode |
DeepSeek TUI |
CodeWhale |
OpenCode |
Factory Droid |
Copilot CLI |
Cursor CLI |
Schmelze |
Pi |
Grok Build |
Hermes Agent |
OpenClaw |
Gans |
Open Interpreter |
Warp AI |
deyin.ai |
📖 Pro-Tool-Setup für alle 38 Tools (27 CLI Codes + 11 CLI Agents) → docs/reference/CLI-TOOLS.md · 🧩 OpenCode Plugin → @omniroute/opencode-provider
Starten Sie jedes unterstützte CLI bis OmniRoute mit einem Befehl – keine Konfigurationsdateien geschrieben, Anmeldeinformationen pro Prozess eingefügt, Qwen/Gemini erhält ein wegwerfbares isoliertes Zuhause:
omniroute run claude --model openai/gpt-5.4 # Claude Code
omniroute run codex --model glm/glm-5.2 # OpenAI Codex CLI
omniroute run aider --model glm/glm-5.2 -- --message "reply OK"
omniroute run goose --model glm/glm-5.2
omniroute run opencode --model glm/glm-5.2 -- run "reply OK"
omniroute run qwen --model glm/glm-5.2 -- -p "reply OK"
omniroute run gemini --model glm/glm-5.2 -- --skip-trust -p "reply OK"
# Or pick provider+model interactively and write the tool's own config:
omniroute configure codex # also: claude opencode qwen aider goose gemini cline continue kilo 5dive
Jeder Befehl berücksichtigt den aktiven Remote-Kontext (omniroute connect <host>), --dry-run zeigt eine Vorschau des genauen env/args an, ohne ihn auszuführen, und --api-key-env NAME hält Geheimnisse aus Ihrem Shell-Verlauf fern. → CLI Integrationen
🌐 380 KI-Anbieter — 153 im Katalog als kostenlos markiert
380 registrierte Anbieter in den kanonischen Sammlungen für Chat, Medien, Suche, lokale Modelle, Cloud-Agenten und System, darunter 153 mit den Discovery-Metadaten
hasFree: true. Das Chat-Modellregister umfasst 239 Anbieter / 3.059 eindeutige Anbieter-Modell-Paare / 1.475 unverarbeitete Modell-IDs; der separate Katalog kostenloser Kontingente enthält 471 modellspezifische Einträge, 34 wiederkehrende Kontingent-Pools und 52 dauerhaft kostenlose Anbieter mit wiederkehrendem Kontingent bzw. ohne Schlüssel. Diese unterschiedlichen Bezugsgrößen sind beabsichtigt; Definitionen und nach Pools deduplizierte Berechnungen finden Sie in der Anbieterreferenz und unter Kostenlose Kontingente.
🏢 Alle großen KI-Labore — über einen einzigen Endpunkt
OpenAI |
Anthropic |
Gemini |
xAI Grok |
DeepSeek |
Mistral |
Qwen |
Meta Llama |
Groq |
NVIDIA |
MiniMax |
Cohere |
Perplexity |
HuggingFace |
Together |
Fireworks |
Cloudflare |
Baidu |
…und über 350 weitere — jedes Symbol wird live aus dem Anbieter-Katalog des Dashboards geladen. 📖 Anbieterreferenz
🆓 Dauerhaft kostenlos — $0, keine Karte erforderlich
OpenCode Zen DeepSeek V4, Nemotron 3 Kein Token-Limit |
Kilo Code Auto-Router, Tencent Hy3 Dauerhaft kostenlos |
Requesty GPT-OSS 120B, Nemotron Dauerhaft kostenlos |
SiliconFlow DeepSeek V3.2 / R1 Kostenloses Kontingent |
Z.AI GLM GLM-4.7 / 4.5-Flash Dauerhaft kostenlos |
Baidu ERNIE ERNIE 4.0 Dauerhaft kostenlos |
Qoder AI Qwen3-Max, Kimi-K2 Unbegrenzt KOSTENLOS |
Pollinations GPT, Llama, Claude Kein Schlüssel erforderlich |
Cloudflare AI Über 50 Modelle 10.000 Neuronen/Tag |
NVIDIA NIM GLM, MiniMax ~40 RPM kostenlos |
Cerebras GLM 4.7, GPT-OSS Einmaliges Guthaben von 5 $; Karte erforderlich |
OpenRouter :free-Modelle +10 $ → höhere RPM |
📖 Vollständiger maschinenlesbarer Katalog → docs/reference/PROVIDER_REFERENCE.md
🖥️ Wo OmniRoute ausgeführt wird – überall
Dieselbe App, Ihre Maschine, Ihre Regeln. Von einer globalen NPM-Installation bis** Ihr Telefon** über Termux.
| Plattform | Installation | Highlights |
|---|---|---|
| 📦 npm (global) | npm install -g omniroute | Ein Befehl, jeder OS |
| ⚡ Bun (global) | bun add -g omniroute | Gleicher Registry-Tarball, schnellere Installation |
| 🐳 Docker | Docker Run … diegosouzapw/omniroute | Multi-Arch AMD64 + ARM64 |
| 🖥️ Desktop (Electron) | npm run electron:build | Natives Fenster + Taskleiste – Windows / macOS / Linux |
| 🎩 Menüleiste (OmniRouteTray) | brew install --cask zoispag/tap/omniroute-tray | Überwacht & automatische Aktualisierungen des Servers – macOS |
| 💪 ARM | native arm64 | Raspberry Pi, ARM Server, Apple Silicon |
| 📱 Android (Termux) | pkg install nodejs && npx -y omniroute | Führt auf Ihrem Telefon , 24/7, kein Root |
| 📲 PWA | „Zum Startbildschirm hinzufügen“ | Vollbild, offline, installierbar über den Browser |
| 🧩 OpenCode Plugin | @omniroute/opencode-provider | Native OpenCode Integration |
| 🤖 VS Code Copilot Chat | install OmniCopilot extension | Jedes OmniRoute Modell im nativen Copilot Chat Picker – stabil & Insiders |
| 🛠️ Aus der Quelle | npm install && npm run dev | Hack drauf, trage |
📖 Docker Anleitung · Desktop · Menüleiste · Termux · PWA · OpenCode
🧩 Neu: OmniRoute im nativen Copilot Chat von VS Code
Keine neue Seitenleiste, kein neuer Chat- UI – jedes Modell, OmniRoute bedient, wird direkt im angezeigtCopilot Chat-Modellauswahl, die Sie bereits verwenden . Seit VS Code 1.122 funktionieren Anbietermodelle ohne GitHub -Anmeldung oder Copilot Abonnement – Agent-Modus, Tool-Calling und Vision, kostenlos.
Installieren Sie die** OmniCopilot** Richten Sie die Erweiterung auf Ihren OmniRoute -Server (standardmäßig localhost:20128) und öffnen Sie dann Copilot Chat → Model Picker →** Modelle verwalten…** →OmniRoute .
| Store | Link | Funktioniert mit |
|---|---|---|
| 🧩 VS Code-Marktplatz | Installieren Sie → | |
| 🔓 Öffnen Sie die VSX -Registrierung | Installieren Sie → |
Im Editor: Öffnen Sie die** Erweiterungen** ansehen, suchen** „OmniRoute“** , klicken** Installieren** – funktioniert in beiden Geschäften auf die gleiche Weise. Quelle, Probleme und das Veröffentlichungs-Runbook live bei diegosouzapw/OmniCopilot.
📖 VS Code Copilot Chat-Anleitung – Einrichtung, was der Picker anzeigt, Dashboard-in-a-Tab, Fehlerbehebung
🎩 Neu: OmniRouteTray – Ihr Gateway, lebend in der Menüleiste
omniroute serveist am glücklichsten, wenn es immer eingeschaltet ist.** OmniRouteTray** verwandelt dies in eine Menüleisten-App für macOS, die man einfach einstellen und vergessen kann: Sie startet den Server, hält ihn über Neustarts hinweg am Leben, aktualisiert ihn an Ort und Stelle und stellt Ihr Live-Token-Budget nur einen Klick entfernt –** Kein Terminalfenster offen gelassen, keinnpm install -g omniroutezum Babysitten.**
Gebaut mit Tauri v2 (einem Rust-Kern von der Größe eines Rundungsfehlers), liefert es seine eigene signierte Node-24-Laufzeit und verwaltet eine App-eigene OmniRoute Installation, sodass es nie mit Ihrem globalen node/bun zu kämpfen hat. Es** teilt Ihre vorhandene ~/.omniroute/ -Konfiguration und -Datenbank** – es ist also derselbe OmniRoute, den du bereits läufst, nur mit Hut. 🎩
| Was es macht | Wie |
|---|---|
| 🟢 Überwacht den Server | Erzeugt Omniroute Serve und übernimmt eine bereits laufende Instanz, anstatt sie zu duplizieren |
| 📊 Live-Nutzung auf einen Blick | Anbieterkontingentbalken, Claude session/weekly Limits mit Reset-Countdowns, 30-Tage-Kostenaufschlüsselung |
| 🔄 Automatische Aktualisierungen an Ort und Stelle | Gestaffelte Installation, Atomic Swap, Rollback bei Fehler – immer auf der neuesten Version |
| 🚀 Start bei der Anmeldung | Optionaler Start bei der Anmeldung; Nur in der Taskleiste, kein Dock-Symbol |
| 🩺 Arzt & Protokolle | Ein-Klick-Diagnose und Serverprotokollzugriff |
brew install --cask zoispag/tap/omniroute-tray
Bevorzugen Sie einen Download? Holen Sie sich die neueste .dmg von
veröffentlicht . Quelle, Probleme und Build
Dokumente leben unter zoispag/omniroute-tray.
💛 Ein Community-Projekt von @zoispag – keine offizielle OmniRoute Veröffentlichung.
🔒 Privat & Local-First
📖 Autorisierung · Schutzmechanismen · Compliance
🔌 Vollständige CLI + A2A & MCP
Über den Server hinaus ist OmniRoute ein vollständiges Kommandozeilen-Cockpit mit über 80 Befehlen sowie offenen Agentenprotokollen, sodass ein KI-Agent es selbstständig steuern kann.
⌨️ Eine echte CLI (nicht nur start)
omniroute # Gateway + Dashboard bereitstellen (Port 20128)
omniroute chat # interaktiver TUI-Chat-Client (Slash-Befehle: /model /combo /skill /memory)
omniroute setup # geführter Assistent für die Ersteinrichtung
omniroute doctor # Anbieter, Ports und native Abhängigkeiten diagnostizieren
🛰️ Remote-Modus — CLI hier ausführen, OmniRoute auf einem VPS
OmniRoute läuft auf einem Server? Steuere es von deinem Laptop aus mit derselben CLI. Melde dich einmal mit einem bereichsbeschränkten Zugriffstoken an; danach richtet sich jeder Befehl an den Remote-Server.
omniroute connect 192.168.0.15 # Passwort → bereichsbeschränktes Token, als Kontext gespeichert
omniroute models # ← wird auf dem REMOTE-Server ausgeführt
omniroute configure codex # ← wählt ein Remote-Modell aus und schreibt ein lokales Codex-Profil
omniroute tokens create --name ci --scope read # eingeschränktere Tokens für andere Rechner erstellen
omniroute contexts use default # ← zurück zum lokalen Server wechseln
Tokens sind auf read / write / admin beschränkt; Routen, die Prozesse starten, bleiben auf Loopback beschränkt.
📖 Remote-Modus
🤝 Einen Agenten verbinden — und OmniRoute selbst steuern lassen
Stelle OmniRoute über MCP, A2A, eine REST API, Webhooks oder eine Remote-CLI bereit — jeder geeignete Agent (oder dein eigener Code) erhält damit die Kontrolle über das gesamte Gateway: Routing, Anbieter, Combos, Cache, Komprimierung und Speicher — autonom. Die folgenden HTTP-Endpunkte werden unter http://localhost:20128 bereitgestellt.
| Schnittstelle | Endpunkt / Befehl | Verwendungszweck |
|---|---|---|
| 🧰 MCP (stdio) | omniroute --mcp | In Claude Desktop, Cursor oder einen beliebigen MCP-Client integrieren |
| 🌊 MCP (HTTP) | /api/mcp/stream | Remote-MCP — 110 Tools, 33 Bereiche (Durchsetzung optional), vollständiger Audit-Trail |
| 📡 MCP (SSE) | /api/mcp/sse | Streaming-Transport für MCP |
| 🤝 A2A | /.well-known/agent.json | Agent-zu-Agent-Kommunikation, JSON-RPC 2.0 + SSE, 6 Fähigkeiten |
| 🌐 REST API | /v1/* | OpenAI-kompatibel — Chat, Embeddings, Bilder, Audio, OCR |
| 🔔 Webhooks | /api/webhooks | Anfrage- und Kontingentereignisse an Slack, Discord, Telegram oder eine beliebige URL senden |
| 🛰️ Remote-CLI | omniroute connect | Eine Remote-Instanz mit bereichsbeschränkten Zugriffstokens steuern |
# Claude Code über MCP den vollständigen OmniRoute-Werkzeugsatz bereitstellen:
claude mcp add-server omniroute --type http --url http://localhost:20128/api/mcp/stream
📖 MCP-Server · A2A-Server · Agentenprotokolle
🗜️ Spare 15–95 % Tokens — automatisch
📖 So funktioniert es — Pipeline, Architektur & Sparmathematik
Die standardmäßig gestapelte Kombination führt RTK → Caveman aus. Wenn beide auf dieselbe Tool-/Kontext-Payload wirken, verstärken sich die Einsparungen:
combined = 1 − (1 − RTK) × (1 − Caveman_input)
average = 1 − (1 − 0.80) × (1 − 0.46) = 89.2%
range = 78.4 – 94.6%
Codeblöcke, URLs, JSON und strukturierte Daten werden immer geschützt durch die Preservation-Engine.
Warum viele Tokens verwenden, wenn wenige Tokens den Zweck erfüllen? Jede Anfrage durchläuft die Kompressionspipeline von OmniRoute transparent — ohne Änderungen am Client. Sie ist jetzt ein Stapel aus 12 kombinierbaren Engines, die in Reihenfolge ausgeführt und pro Routing-Kombination gemischt und kombiniert werden — aufbauend auf Ideen aus RTK, Caveman (⭐ 90K+), LLMLingua-2 und Troglodita (PT-BR).
🧱 Der 12-Engine-Stack
Engines laufen in einer Pipeline; jede ist unabhängig umschaltbar und pro Kombination konfigurierbar:
| # | Engine | Was sie tut |
|---|---|---|
| 1 | Session-Dedup | Entfernt Inhalte, die über Turns hinweg wiederholt werden (content-addressed, turn-übergreifend) |
| 2 | CCR | Archiviert große Blöcke hinter Retrieve-Markern, bei Bedarf abgerufen |
| 3 | Lite | Whitespace- + Bild-URL-Trimming (latenzarme Baseline) |
| 4 | RTK | Intelligente Tool-Result-Filterung, Dedup & Kürzung (befehlssensitiv) |
| 5 | Responses Tool Output | Lossless-first JSON + begrenzte diagnostische Kompression für Shell-/Patch-/Such-/Build-Ausgaben (Responses API) |
| 6 | Headroom | Verlustfreie tabellarische Kompaktierung von JSON-Arrays (~30 %) über einen eingebundenen GCF-Codec |
| 7 | Relevance | Extraktives Satz-Scoring gegen die letzte Nutzeranfrage |
| 8 | Caveman | Regelbasierte Prosa-Kompression (~65–75 % auf der Ausgabe) |
| 9 | Aggressive | Zusammenfassung + progressives Altern alter Turns |
| 10 | LLMLingua-2 | ML-semantisches Pruning via MobileBERT ONNX — code-sicher, asynchron |
| 11 | Ultra | Heuristisches Token-Pruning mit einer optionalen Small-Model-(SLM-)Stufe |
| 12 | OmniGlyph | Experimentelle Kontext-als-Bild-Kodierung für gemessenes Claude Fable 5 auf dem direkten Anthropic-Wire; GPT 5.6-Transformatoren bleiben fail-closed, bis Provider-Nachweise vorliegen. Vier Kompressionsprofile (aggressive Standard, balanced, coding-safe, passthrough) (am aggressivsten; Opt-in) |
Codeblöcke, URLs und strukturierte Daten werden immer bytegenau erhalten. Ein-Klick-Presets kombinieren die Engines:
| Modus | Einsparung | Am besten für |
|---|---|---|
| 🪶 Lite | ~15 % | Immer aktiver sicherer Standard |
| 🪨 Standard (Caveman) | ~30 % | Tägliches Coding |
| ⚡ Aggressive | ~50 % | Lange tool-lastige Sitzungen |
| 🔥 Ultra | ~75 % | Maximale Einsparungen |
| 🧰 RTK | 60–90 % | Shell-/Test-/Build-/Git-Ausgabe |
| 🔗 Stacked (RTK → Caveman) | 78–95 % | Gemischte Prompts + Tool-Logs |
Praxisbeispiel — Standard-Modus:
Vorher (69 Tokens): „Der Grund, warum deine React-Komponente neu rendert, ist wahrscheinlich, dass du bei jedem Renderzyklus eine neue Objektreferenz erzeugst. Wenn du ein Inline-Objekt als Prop übergibst, sieht Reacts flacher Vergleich es jedes Mal als ein anderes Objekt, was ein erneutes Rendern auslöst. Ich würde empfehlen, useMemo zu verwenden, um das Objekt zu memoisieren.“
Nachher (19 Tokens): „Neue Objektreferenz bei jedem Render. Inline-Objekt-Prop = neue Referenz = erneutes Rendern. In useMemo einwickeln.“
Gleiche Antwort. 72 % weniger Tokens. Keinerlei Genauigkeitsverlust. ✅
PT-BR-Beispiel — Troglodita-Modus:
Vorher (42 Token): „Das Problem besteht darin, dass die Komponente erneut gerendert wird, weil in jedem Renderzyklus eine neue Objektreferenz erstellt wird. Ich würde empfehlen, useMemo zu verwenden.“
Nachher (12 Token): „Erneutes Rendern: neue Referenz je Zyklus (Inline-Objekt neu erstellt).
useMemoverwenden.“Gleiche Antwort. ~70 % weniger Token. Technische Präzision bleibt erhalten. ✅
🎚️ Mehr als nur Engines — Ausgabestile, adaptive Regelung und Steuerung pro Anfrage
Die 12 oben genannten Engines reduzieren, was hineingeht. Drei weitere Ebenen bestimmen, wie, wann und was herauskommt:
- 🪄 Ausgabestile (Steuerung der Ausgabeachse) — fügen deterministische, Cache-kompatible Anweisungen zur Gestaltung der Antwort ein; kombinierbar, jeweils mit der Intensität
lite/full/ultra. Zum Hinzufügen eines Stils genügt ein einzeiliger Registry-Eintrag:- Knapp formuliert — Füllwörter, Artikel und Relativierungen weglassen; technische Substanz exakt beibehalten.
- Weniger Code — „fauler Senior-Entwickler“-YAGNI: kleinste funktionierende Änderung, kein unaufgefordertes Gerüst.
- Pferdeschwanz (fauler Senior-Entwickler) — die YAGNI-Leiter hinaufsteigen, die Ursache beheben, kleinstmöglicher funktionierender Diff.
- Ich habe ADHS (handlungsorientiert) — mit der nächsten Aktion beginnen, Schritte nummerieren, genau einen konkreten nächsten Schritt nennen, keine Einleitung.
- Knappes CJK (文言) — ultraknapper klassisch-chinesischer Stil (durch Gebietsschema auf
zhbeschränkt).
- 🎯 Adaptives Kontextbudget (der Regler) — statt eines einzigen Ein-/Aus-Token-Schwellenwerts werden die günstigsten Engines mit den geringsten Verlusten nur so weit zugeschaltet, wie es nötig ist, um in das Kontextfenster des Modells zu passen. Richtlinie:
reserve-output(Standard, modellabhängig) ·percentage·absolute. Modus:floor(garantiert die Einhaltung) ·replace-autotrigger(Ihre explizite Auswahl hat Vorrang) ·off(veralteter Schwellenwert). - 🎛️ Wo über die Komprimierung entschieden wird (Priorität, hoch → niedrig) —
x-omniroute-compression-Header pro Anfrage › Überschreibung durch Routing-Kombination › aktives benanntes Profil › adaptiver Modus / automatische Auslösung › Standardeinstellung im Panel › aus. Der angewendete Plan wird im Antwort-HeaderX-OmniRoute-Compression: <mode>; source=<source>zurückgegeben.
Automatische Auslösung per Token-Schwellenwert, adaptiven Regler aktivieren, ein benanntes Profil festlegen, eine einmalige Einstellung pro Anfrage setzen oder einer Routing-Kombination eine Pipeline zuweisen — je nachdem, was zur Arbeitslast passt. Eine optional aktivierbare Offline-Evaluierungssuite (npm run eval:compression) bewertet die Wiedergabetreue im Verhältnis zur Einsparung anhand eines festgelegten Korpus, bevor Sie eine Änderung übernehmen.
📖 COMPRESSION_GUIDE.md · RTK_COMPRESSION.md · COMPRESSION_ENGINES.md
⚡ Schnellstart
1) Installieren und ausführen
npm install -g omniroute
omniroute
💡 Sehen Sie
npm warn ERESOLVEoder Warnungen zu Peer-Abhängigkeiten? Sie sind harmlos. Verwenden Sie npm 11 oder neuer? npm kann Lebenszyklus-Skripte von Paketen blockieren, sofern diese nicht zugelassen sind. Daspostinstall-Skript von OmniRoute (node scripts/build/postinstall.mjs) ist erforderlich, um die nativen Laufzeitdateien vorzubereiten. Lassen Sie bei der globalen Installation die in der npm-Warnung genannten Pakete zu. Für die von OmniRoute 3.8.53 gemeldete Paketgruppe:npm install -g --allow-scripts=omniroute,keytar,onnxruntime-node,@parcel/watcher,@swc/core,protobufjs,esbuild omnirouteUm diese Zulassungsliste für zukünftige globale Installationen wiederzuverwenden, konfigurieren Sie sie einmal und führen Sie die Installation anschließend wie gewohnt durch:
npm config set allow-scripts=omniroute,keytar,onnxruntime-node,@parcel/watcher,@swc/core,protobufjs,esbuild --location=user npm install -g omnirouteDie Abhängigkeitsliste kann sich zwischen Versionen ändern. Falls npm eine andere Liste meldet, verwenden Sie die Paketnamen aus dieser Warnung. Durch das Zulassen eines Pakets dürfen dessen Installationsskripte ausgeführt werden. Verwenden Sie Gemini Web oder einen anderen Anbieter mit Web-Cookies? Das npm-Paket enthält Playwright, jedoch nicht dessen Chromium-Binärdatei. Lesen Sie vor der ersten Anfrage an den Webanbieter den Hinweis zur Einrichtung von Playwright Chromium.
Dashboard unter http://localhost:20128 · API unter http://localhost:20128/v1.
2) Einen geeigneten Anbieter mit Ihrem eigenen Konto verbinden
Dashboard → Anbieter → wählen Sie einen Anbieter, dessen aktuelle Bedingungen und Kontingente zu Ihrem Anwendungsfall passen → fügen Sie dessen API-Schlüssel hinzu oder schließen Sie den zugehörigen Kontovorgang ab. Kostenlose Tarife können eine Registrierung, Genehmigung oder Zahlungsmethode voraussetzen. Lesen Sie den Leitfaden zu kostenlosen Tarifen; eine schlüssellose Verfügbarkeit ist nicht garantiert, und mit tos: avoid gekennzeichnete Anbieter werden standardmäßig aus auto ausgeschlossen.
3) Ihr Programmierwerkzeug konfigurieren
Base URL: http://localhost:20128/v1
API Key: [copy from Dashboard → Endpoints]
Model: auto (routes among eligible connections — or choose provider/model)
4) Funktion überprüfen
curl http://localhost:20128/v1/models -H "Authorization: Bearer YOUR_KEY"
Ihre verbundenen Modelle sollten aufgelistet werden. 🎉 Das war’s — beginnen Sie mit dem Programmieren; OmniRoute übernimmt automatisch das Routing und weicht bei Bedarf auf Alternativen aus.
Falls Ihr Client keine benutzerdefinierten Header senden kann, stellt OmniRoute außerdem tokenisierte Kompatibilitätsaliase bereit:
OpenAI catalog: http://localhost:20128/vscode/YOUR_KEY/
OpenAI models: http://localhost:20128/vscode/YOUR_KEY/models
OpenAI chat: http://localhost:20128/vscode/YOUR_KEY/chat/completions
OpenAI responses: http://localhost:20128/vscode/YOUR_KEY/responses
Ollama chat: http://localhost:20128/vscode/YOUR_KEY/api/chat
Ollama tags: http://localhost:20128/vscode/YOUR_KEY/api/tags
Verwenden Sie diese nur für Clients, die Authorization: Bearer ... nicht anhängen können. Die Authentifizierung per Header bleibt die bevorzugte Methode.
📦 Weitere Installationsmethoden — Docker, Quellcode, pnpm, Arch
🐳 Docker
docker run -d --name omniroute --restart unless-stopped --stop-timeout 40 \
-p 127.0.0.1:20128:20128 -v omniroute-data:/app/data diegosouzapw/omniroute:latest
:latest folgt der höchsten veröffentlichten stabilen SemVer-Version. Es folgt nicht dem Git-Branch main. Verwenden Sie für GitOps eine feste Version mit :X.Y.Z. Siehe Docker-Veröffentlichungskanäle. Das Image setzt OMNIROUTE_MEMORY_MB=1024 fest. Das reicht für das Dashboard und einen einfachen Chat. Coding-Agenten (POST /v1/responses von Claude Code, Codex, Grok, …) benötigen einen wesentlich größeren V8-Heap, andernfalls kommt es bei zwei sich überschneidenden langen Kontexten bei etwa 12 GiB zu einem FATAL ERROR. Dimensionieren Sie den Container größer als den Heap (native Puffer befinden sich außerhalb von V8):
| Arbeitslast | Heap (-e OMNIROUTE_MEMORY_MB) |
Container (--memory) |
|---|---|---|
| Dashboard / einfacher Chat | 1024 (Image-Standardwert) |
≥2 g |
| Ein Coding-Agent | 8192 |
≥10 g |
Zwei gleichzeitige lange /v1/responses |
10240–12288 |
≥12–16 g |
docker run -d --name omniroute --restart unless-stopped --stop-timeout 40 \
-e OMNIROUTE_MEMORY_MB=8192 --memory=10g \
-p 127.0.0.1:20128:20128 -v omniroute-data:/app/data diegosouzapw/omniroute:latest
Vollständige Tabelle: Docker-Leitfaden — Laufzeit-RAM.
Docker-Kanal für Vorabversionen:
diegosouzapw/omniroute:nextunddiegosouzapw/omniroute:next-webfolgen dem aktuellen standardmäßigenrelease/v*- Branch. Diese veränderlichen Tags sind ausschließlich zum Testen unveröffentlichter Korrekturen vorgesehen und werden für den Produktionseinsatz nicht unterstützt. Siehe Docker-Veröffentlichungskanäle.
🥟 Bun
Die standardmäßige Installation mit bun install sowie die globale Installation (bun install -g omniroute) werden über die Bun-Laufzeiterkennung unterstützt:
- Integriertes
bun:sqlite: OmniRoute verwendet bei der Ausführung unter Bun dessen integriertenbun:sqlite-Treiber und greift unter Node.js aufbetter-sqlite3odersql.jszurück. - Automatische Auswahl des Webpack-Bundlers in der Entwicklungsumgebung: Die Entwicklungsumgebung (
bun run dev) erkennt Bun automatisch und deaktiviert Turbopack zugunsten von Webpack, um Inkompatibilitäten mit nativen V8-Bindings zu vermeiden. Produktions-Builds (bun run build) folgenOMNIROUTE_USE_TURBOPACKgenau wie unter Node: standardmäßig Turbopack, mitOMNIROUTE_USE_TURBOPACK=0wird mit Webpack gebaut (Dockerfile.bunstellt dies als--build-argbereit). - Dediziertes Bun-Dockerfile: Mehrstufiges
Dockerfile.bunfür native Bun-Produktionsbereitstellungen (docker build -f Dockerfile.bun -t omniroute:bun .).
# Mit Bun installieren und ausführen
bun install
bun run dev
🛠️ Aus dem Quellcode
cp .env.example .env && npm install
PORT=20128 npm run dev
📦 pnpm
pnpm add -g omniroute@latest --allow-build=better-sqlite3 --allow-build=@swc/core && omniroute
🐧 Arch Linux (AUR)
yay -S omniroute-bin && systemctl --user enable --now omniroute.service
🔧 Nix (Flake)
# Mit Nix-Flakes
nix develop
npm run dev
# Oder mit devbox
devbox run npm run dev
📖 Docker-Leitfaden — Compose-Profile, Caddy HTTPS, Cloudflare-Tunnel.
🦭 Podman
# 1. Das per Bind-Mount eingebundene Datenverzeichnis vorbereiten
mkdir -p data
# 2. Nur unter Linux + lokalem Rootless-Podman (niemals mit einem entfernten Podman-Machine-Client):
podman unshare chown 1000:1000 ./data
# 3. Den Laufzeithinweis festlegen, das lokale Compose-Image erstellen und starten
echo "CONTAINER_HOST=podman" >> .env
podman compose --profile base up -d --build
Unter macOS oder Windows verwendet Podman eine entfernte Podman Machine: Überspringen Sie podman unshare und
befolgen Sie die topologiespezifischen Hinweise zum Datenverzeichnis.
📖 Podman-Leitfaden — Compose-Builds, Podman Machine und Linux/systemd-Quadlet-Einrichtung.
⚡ Schnellere / schlankere Installation (nativen Build überspringen)
Die native SQLite-Engine (better-sqlite3) ist eine optionale Abhängigkeit, daher wird eine globale
Installation niemals durch die Kompilierung aus dem Quellcode blockiert: Sie verwendet ein vorkompiliertes Binärprogramm, wenn eines zu
Ihrer Plattform/Node-Version passt, und greift andernfalls transparent auf eine reine JS-Engine zurück
(node:sqlite unter Node 22+, andernfalls das mitgelieferte sql.js-WASM) — keine Build-Werkzeuge erforderlich.
So überspringen Sie die native Aufwärmphase nach der Installation vollständig (CI, Headless-Systeme oder langsame Rechner):
OMNIROUTE_SKIP_POSTINSTALL=1 npm install -g omniroute # CI=1 überspringt sie ebenfalls
Für die schnellsten Installationen empfiehlt sich pnpm (inhaltsadressierter Speicher + Hardlinks — siehe oben).
Für eine Headless-Laufzeitumgebung ohne Dashboard verwenden Sie das Docker-Profil base (siehe oben) oder den
Termux-Leitfaden. Die CLI und das Web-Dashboard werden vom
gleichen Prozess über einen einzigen Port bereitgestellt, daher gibt es derzeit kein separates reines CLI-Paket.
🎬 OmniRoute in Aktion
📹 Videoanleitungen
Momentaufnahme des Dashboards vom 2026-10-18 · Rohkatalog: YT 1.352 | TT 334 | IG 290 · Aktualität (Tage): YT 5 | TT 48 | IG 49
Vollständige Rangliste (deduplizierte kanonische URLs, v > 0, größte Reichweite):
| #1 | #2 | #3 | #4 | #5 |
|---|---|---|---|---|
| nick_saraev — Instagram — 3,042,474 | nnapier7 — Instagram — 1,454,535 | Amidia AI & Tech — YouTube — 794,974 | theopenstack — Instagram — 692,419 | migue.baena — TikTok — 685,788 |
| #6 | #7 | #8 | #9 | #10 |
|---|---|---|---|---|
| milesreevesai — TikTok — 620,400 | nikothetech — TikTok — 610,803 | Vaibhav Sisinty — YouTube — 509,281 | buildwithai.club — Instagram — 347,652 | nivedan.ai — Instagram — 331,973 |
Kanonische Metriken vom 2026-10-18: 1.976 einzigartige Videos · 20.220.289 bekannte Aufrufe (v > 0) · 1.210 Kanäle/Profile auf den Plattformen. Das Roh-Dashboard enthält 1.976 Zeilen (YouTube 1.352 = 740 Langvideos + 612 Shorts · TikTok 334 · Instagram 290); nach der Normalisierung anhand der kanonischen URL, bei der die höchste Aufrufzahl pro Video beibehalten wird, sind keine Duplikate mehr vorhanden. Die YouTube-Datenerfassung ist seit 2026-10-13 eingefroren (API-Kontingent vom 14. bis 18.10. ausgeschöpft), die TikTok-/Instagram-Datenerfassung seit 2026-09-02 (keine Erfassungsguthaben); für 76 Videos liegt noch keine Aufrufzahl vor.
🎬 Du hast ein Video über OmniRoute erstellt? Eröffne ein Issue oder eine Diskussion mit dem Link — wir stellen es hier vor.
📧 Community & Hilfe
Alles an einem Ort — folge dem Maintainer, chatte mit der Community oder eröffne ein Issue.
| Kanal | Wo / wie |
|---|---|
| 💼 LinkedIn — dem Maintainer folgen | linkedin.com/in/diegosouzapw |
| 🐙 GitHub — für Releases & Tipps folgen | @diegosouzapw |
| 💬 Discord | discord.gg/U47eFqAXCn |
| ✈️ Telegram | t.me/omnirouteOficial |
| 🟢 WhatsApp — 🌍 Global | Der Gruppe beitreten |
| 🟢 WhatsApp — 🇧🇷 Brasilien | Der Gruppe beitreten |
| 🌍 Website | omniroute.online |
| 🌍 🌍StHub OmniRoute Community (kostenlos) | StHub-Portal |
| 📦 Quellcode | github.com/diegosouzapw/OmniRoute |
| 🐛 Fehler melden | Issue erstellen — Ausgabe von npm run system-info anhängen |
| 🤝 Mitwirken | CONTRIBUTING.md · Branching- & Release-Modell · ein good first issue auswählen |
| 💚 Projekt unterstützen | Möglichkeiten zur Unterstützung ↑ · GitHub Sponsors |
🛠️ Tech-Stack
| Ebene | Technologie |
|---|---|
| Laufzeit | Node.js 22.x / 24.x LTS — >=22.22.2 <23 || >=24.0.0 <27 |
| Sprache | TypeScript 6.0 — 100 % TypeScript in src/ und open-sse/ (seit v2.0 kein any im Kern) |
| Framework | Next.js 16 + React 19 + Tailwind CSS 4 |
| Datenbank | better-sqlite3 (SQLite, WAL-Journaling) + LowDB (JSON-Legacy) — 147 Domänenmodule, 220 Migrationen |
| Speicher | SQLite FTS5 Volltext + int8-quantisierte Vektor-Embeddings, typisierter Decay |
| Schemas | Zod 4 — I/O-Validierung für MCP-Tools + API-Verträge |
| Protokolle | MCP (stdio / HTTP / SSE) + A2A v0.3 (JSON-RPC 2.0 + SSE) |
| Streaming | Server-Sent Events (SSE) + WebSocket-Bridge (/v1/ws) |
| Komprimierung | 12-Engine-Pipeline — RTK, Caveman, LLMLingua-2 (MobileBERT ONNX), GCF, OmniGlyph |
| Authentifizierung & Sicherheit | OAuth 2.0 (PKCE) + JWT + API Keys + MCP-Scoped-Auth · AES-256-GCM im Ruhezustand · DOMPurify |
| Stealth | wreq-js — JA3/JA4-TLS-Fingerprint-Impersonation, 3-stufiger Proxy |
| Resilienz | Circuit Breaker, exponentielles Backoff, Anti-Thundering-Herd, selbstheilendes Auto-Combo |
| Logging | pino — strukturierte JSON-Logs mit Request-Kontext |
| Tests | Node.js Test Runner + Vitest — 56.000+ statische Testdeklarationen in über 7.800 erfassten Testdateien (Unit, Integration, E2E, Sicherheit, Ökosystem) |
| Plattformen | Desktop (Electron) · Android (Termux) · PWA (jeder Browser) |
| CI/CD | GitHub Actions — automatisches npm-Publish + Docker Hub beim Release |
| Links | Website · npm · Docker Hub |
📖 Dokumentation
📘 Erste Schritte
| Dokument | Beschreibung |
|---|---|
| Benutzerhandbuch | Anbieter, Kombinationen, CLI-Integration, Bereitstellung |
| Einrichtungsleitfaden | Alle Installationsmethoden, Konfigurationen für CLI-Tools, Protokolleinrichtung, Zeitlimitoptimierung |
| Leitfaden für CLI-Tools | Toolspezifische Einrichtung für Claude Code, Codex, Cursor, Cline, OpenClaw, Kilo und Copilot |
| Remote-Modus | Eine entfernte OmniRoute-Instanz (VPS) über die Laptop-CLI mit zugriffsbegrenzten Tokens steuern |
| Claude-Code-Konfiguration | Claude Code mit launch und modellspezifischen Profilen auf OmniRoute (lokal/remote) ausrichten |
| Schnellstart | In 3 Schritten: installieren → verbinden → konfigurieren |
🔧 Betrieb & Bereitstellung
| Dokument | Beschreibung |
|---|---|
| Docker-Leitfaden | Docker-Ausführung, Compose-Profile, Caddy HTTPS, Tunnel, Image-Tags |
| Podman-Leitfaden | Quadlet-systemd-Integration, podman-compose, SELinux |
| VM-Bereitstellung | Vollständiger Leitfaden: Einrichtung von VM + nginx + Cloudflare |
| Fly.io-Bereitstellung | Bereitstellung auf Fly.io mit persistentem Speicher |
| Termux-Leitfaden | OmniRoute über Termux auf Android ausführen |
| PWA-Leitfaden | Installation, Caching und Architektur der Progressive Web App |
| Deinstallationsleitfaden | Saubere Entfernung für alle Installationsmethoden |
| Umgebungskonfiguration | Vollständige .env-Variablen und Referenzen |
🧠 Funktionen & Architektur
| Dokument | Beschreibung |
|---|---|
| Architektur | Systemarchitektur, Datenfluss und interne Abläufe |
| Komprimierungsleitfaden | Pipeline mit 7 Optionen: aus / leicht / standard / aggressiv / ultra / RTK / gestapelt |
| RTK-Komprimierung | Komprimierung von Befehlsausgaben, Filter, Vertrauensprüfung, Verifizierung, Wiederherstellung der Rohausgabe |
| Komprimierungs-Engines | Caveman, RTK, gestapelte Pipelines, Dashboard-/API-/MCP-Oberflächen |
| Format der Komprimierungsregeln | JSON-Regelpaketschemata für Caveman- und RTK-Filter |
| Komprimierungs-Sprachpakete | Spracherkennung und Erstellung von Caveman-Regelpaketen |
| Resilienzleitfaden | Leistungsschalter, Abklingzeiten, Warteschlange, Schutz vor dem Thundering-Herd-Problem, TLS-Spoofing |
| Auto-Combo-Engine | Bewertung anhand von 16 Faktoren, Moduspakete, Selbstheilung |
| Proxy-Leitfaden | 3-stufiges Proxy-System, 1proxy-Marktplatz, CRUD für die Registry |
| Kostenlose Kontingente | Konsolidiertes Verzeichnis: 34 dokumentierte wiederkehrende Pools / 484 katalogisierte Einträge mit kostenlosem Kontingent |
| Funktionsgalerie | Visueller Rundgang durch das Dashboard mit Screenshots |
| Codebasis-Dokumentation | Einsteigerfreundliche Einführung in die Codebasis |
🤖 Protokolle & APIs
| Dokument | Beschreibung |
|---|---|
| API-Referenz | Alle Endpunkte mit Beispielen |
| OpenAPI-Spezifikation | OpenAPI 3.0-Spezifikation |
| MCP-Server | 110 MCP-Tools, IDE-Konfigurationen, Python-/TS-/Go-Clients |
| MCP-Server-Leitfaden | MCP-Installation, Transporte und Tool-Referenz |
| A2A-Server | JSON-RPC 2.0-Protokoll, Fähigkeiten, Streaming, Aufgabenverwaltung |
| A2A-Server-Leitfaden | A2A-Agentenkarte, Aufgaben, Fähigkeiten und Streaming |
📋 Projekt & Qualität
| Dokument | Beschreibung |
|---|---|
| Mitwirken | Einrichtung der Entwicklungsumgebung und Richtlinien |
| Branching- und Release-Modell | Auf welche Branches PRs abzielen (release/*) und was main und Tags bedeuten |
| Änderungsprotokoll | Vollständige Release-Historie für jede Version |
| Sicherheitsrichtlinie | Meldung von Schwachstellen und Sicherheitspraktiken |
| i18n-Leitfaden | Unterstützung für 67 Sprachen, Übersetzungs-Workflow, RTL |
| Release-Checkliste | Validierungsschritte vor dem Release |
| Testabdeckungsplan | Strategie zur Testabdeckung für mehr als 56.000 statische Testdeklarationen in mehr als 7.800 erfassten Testdateien |
⭐ Wichtigste Mitwirkende
OmniRoute wird von einer engagierten Open-Source-Community geprägt. Diese Personen haben außergewöhnliche Beiträge geleistet, die sich direkt auf die Qualität, Stabilität und Reichweite des Projekts auswirken. Vielen Dank.
Externe Mitwirkende nach zusammengeführten Pull Requests
| Rang | Mitwirkende | Zusammengeführte PRs | ~Geänderte Zeilen |
|---|---|---|---|
| 1 | maxmad64bis | 371 | 25,326,561 |
| 2 | HouMinXi | 269 | 13,456,272 |
| 3 | backryun | 210 | 270,562 |
| 4 | oyi77 | 190 | 411,243 |
| 5 | pacocartones | 174 | 78,276 |
| 6 | JxnLexn | 151 | 3,562,936 |
| 6 | KooshaPari | 151 | 5,972,314 |
| 8 | rdself | 145 | 80,663 |
| 9 | RaviTharuma | 123 | 500,065 |
| 10 | herjarsa | 88 | 230,872 |
| 11 | hartmark | 84 | 2,849,554 |
| 12 | jonlwheat2-gif | 67 | 68,548 |
| 13 | artickc | 62 | 43,502 |
| 14 | chirag127 | 52 | 6,661 |
| 15 | xz-dev | 50 | 245,976 |
| 16 | xiaoyaner0201 | 47 | 33,626 |
| 17 | woodsonl | 46 | 809,391 |
| 18 | rqzbeh | 44 | 147,896 |
| 19 | QuangBlue | 43 | 13,112 |
| 20 | MumuTW | 40 | 26,093 |
Erhebung vom 2026-10-18 15:09:09 UTC anhand des aktuellen Stands 656f01cb43 von release/v3.8.52. Die paginierte GitHub-GraphQL-Erhebung umfasst 9.191 zusammengeführte PRs: 3.834 vom Repository-Eigentümer, 229 von Dependabot, 6 von anderen Bots/Apps und 5.122 externe PRs von 835 verschiedenen Mitwirkenden. „Geänderte Zeilen“ entspricht den Hinzufügungen + Löschungen von GitHub und umfasst generierte Dateien, Lockfiles, Kataloge, Übersetzungen und Dokumentation; die Angabe misst die Änderungsmenge, nicht die selbst verfassten Codezeilen. Für 49 PRs weist GitHub Diffs mit mehr als 500.000 Zeilen aus (beispielsweise listet #13399, das Hinzufügen eines einzelnen Providers, 2.347 geänderte Dateien auf), wodurch mehrere der oben aufgeführten Summen höher ausfallen. Bei Gleichstand wird derselbe Rang vergeben.
Von GitHub zugeordnete Commits
|
Dizzle 🥇 367 GitHub-zugeordnete Commits |
Bob.Hou 🥈 269 GitHub-zugeordnete Commits |
Paijo 🥉 229 GitHub-zugeordnete Commits |
backryun 🏅 202 GitHub-zugeordnete Commits |
Paco Cartones 🏅 174 GitHub-zugeordnete Commits |
Ravi Tharuma 🏅 126 GitHub-zugeordnete Commits |
|
Markus Hartung 🏅 114 GitHub-zugeordnete Commits |
Randi 🏅 108 GitHub-zugeordnete Commits |
Jan Leon 🏅 87 GitHub-zugeordnete Commits |
Chris 🏅 70 GitHub-zugeordnete Commits |
Koosha Paridehpour 🏅 68 GitHub-zugeordnete Commits |
Erneut überprüft am 2026-10-18 um 14:44:45 UTC: GitHub-zugeordnete Commits, die von der Contributors API des Repositorys für den Standard-Branch release/v3.8.52 gemeldet wurden. Die API gab 849 Identitäten zurück (429 Benutzer, 2 Bots, 418 anonyme Identitäten); diese Tabelle schließt den Maintainer, Bots und anonyme Identitäten aus und behält Gleichstände bei. Sie unterscheidet sich sowohl von der Rangliste der zusammengeführten PRs oben als auch von der Erhebung der Git-Metadaten unten.
🙏 Die Funktionen, Fehlerbehebungen und Infrastrukturverbesserungen dieser Mitwirkenden sind ein zentraler Bestandteil dessen, was OmniRoute zuverlässig und funktionsreich macht. Jeder Pull Request, jeder Testfall und jede i18n-Übersetzungsdatei ist wichtig. Open Source wird von Menschen wie ihnen geschaffen.
💖 Sponsoren
Ein herzliches Dankeschön an die Menschen, die OmniRoute aus eigener Tasche finanzieren — jeder Beitrag trägt dazu bei, dass das Projekt kostenlos, unabhängig und in Bewegung bleibt.
![]() Andrew 💛 Aktiver monatlicher Sponsor |
![]() Vlad I 💛 Aktiver monatlicher Sponsor |
![]() 小妍儿 💛 Aktiver monatlicher Sponsor |
![]() Guilherme Costa 💛 Aktiver einmaliger Sponsor |
![]() Henrique Iurkiv 💛 Aktiver einmaliger Sponsor |
![]() Somesh Ghaturle 💛 Aktiver einmaliger Sponsor |
![]() Kolonie AI 💛 Ehemaliger einmaliger Unterstützer |
![]() Prof. Igor Morais 💛 Ehemaliger einmaliger Unterstützer |
![]() Pixma 💛 Ehemaliger einmaliger Unterstützer |
![]() Paco Cartones 💛 Ehemaliger einmaliger Unterstützer |
![]() longtao 💛 Ehemaliger einmaliger Unterstützer |
… und weitere, die lieber anonym bleiben möchten 💛
Öffentliche GitHub-Sponsoren wurden am 2026-10-18 über die GitHub Sponsors GraphQL API erneut überprüft: 11 öffentliche Sponsorings (6 aktiv, 5 ehemalig) von insgesamt 14. Der isActive-Status von GitHub bestimmt die oben aufgeführten Aktiv-Kennzeichnungen; ehemaligen öffentlichen einmaligen Unterstützern wird weiterhin gedankt, und private Sponsoren bleiben anonym. Spenden über Ko-fi, Buy Me a Coffee, Liberapay, PIX und Kryptowährungen werden nicht aufgeführt, da für sie kein öffentlicher Sponsoreneintrag vorliegt.
💖 Sponsor werden → — jeder Dollar trägt dazu bei, dass OmniRoute kostenlos und unabhängig bleibt.
👥 Über 900 Mitwirkende
Geprüft am 2026-10-18 am aktuellen Stand von release/v3.8.52, Commit ad160ab2d1 (6.826 Commits): 993 normalisierte menschliche Git-Identitäten — 707 erscheinen als Commit-Autoren (einschließlich des Maintainers) und 286 ausschließlich in expliziten Co-authored-by-Trailern. Die Erhebung wendet .mailmap an, vergleicht E-Mail-Adressen ohne Berücksichtigung der Groß- und Kleinschreibung, führt numerische und reguläre GitHub-Noreply-Adressen nur dann zusammen, wenn sie denselben Benutzernamen codieren, schließt 26 Bot-/Agenten-/Dienst-/Platzhalteridentitäten aus und führt gewöhnliche E-Mail-Adressen nicht allein deshalb zusammen, weil ihre Anzeigenamen übereinstimmen. Bei der Prüfung vom 2026-08-24 wurden 639 veröffentlicht; wird diese Methode erneut auf die Basis ac02c5b42f jener Prüfung angewendet, ergibt sie 619. Der Anstieg ist daher auf neue Mitwirkende und nicht auf eine weniger strenge Methode zurückzuführen.
So können Sie mitwirken
- Forken Sie das Repository
- Erstellen Sie einen Branch vom aktuellen Stand des aktiven Branches
release/vX.Y.Z(nicht vonmain) — siehe Branching- und Release-Modell - Erstellen Sie Ihren Feature-Branch (
git checkout -b feat/amazing-feature) - Committen Sie Ihre Änderungen (
git commit -m 'feat: add amazing feature') - Pushen Sie in den Branch (
git push origin feat/amazing-feature) - Öffnen Sie einen Pull Request mit base = diesem
release/vX.Y.Z-Branch
Ausführliche Richtlinien finden Sie in CONTRIBUTING.md.
Veröffentlichen einer neuen Version
# Release erstellen — npm publish erfolgt automatisch
VERSION=x.y.z
gh release create "v${VERSION}" --title "v${VERSION}" --generate-notes
📊 Sterne
🙏 Danksagungen
OmniRoute steht auf den Schultern von Giganten. Es begann als Fork von 9router und als TypeScript-Portierung des Go-Projekts CLIProxyAPI — und von da an wurde jedes der unten aufgeführten Subsysteme von einem Open-Source-Projekt inspiriert, das diesen Weg bereits zuvor beschritten hatte. Jedes davon hat einen konkreten Bestandteil von OmniRoute geprägt. Dies ist unser Dank an sie alle. 🙏
⭐ Die Anzahl der Sterne wurde am 18. Oktober 2026 über die REST-API von GitHub überprüft — gebt diesen Projekten einen Stern. Die Angaben sind eine exakte Momentaufnahme zu diesem Datum und werden sich naturgemäß ändern.
🧬 Abstammung & Gateway
| Projekt | ⭐ | Wie es OmniRoute inspiriert hat |
|---|---|---|
| 9router | 31,004 | Das ursprüngliche Projekt, auf dem dieser Fork basiert — hier um multimodale APIs und eine vollständige Neufassung in TypeScript erweitert. |
| CLIProxyAPI | 55,591 | Die Go-Implementierung, die diese JavaScript-/TypeScript-Portierung inspiriert hat. |
| LiteLLM | 61,482 | Das KI-Gateway, dessen öffentlicher Preisdatenbestand unsere Synchronisierung zur Kostenverfolgung speist und dessen Modell zur Anbieter-Normalisierung unser Routing beeinflusst hat. |
| codex-chatgpt-web | 14,526 | Unter MIT-Lizenz stehender Quellcode, der für die integrierte Brücke von ChatGPT Web zu Codex Responses angepasst wurde, einschließlich Adaptern für Browsersitzungen, Antwortformatierung, Nutzungserfassung und Websuche. |
| free-claude-code | 61,430 | Muster, die in die Stream-Wiederherstellung, Aliasse ohne Denkmodus, die Ausweich-Websuche, Sliding-Window-Limits, die Protokollredaktion und gehärtete Startabläufe portiert wurden. |
| composer-api | 346 | Muster für Werkzeugauswahl, Ausgabebeschränkungen und Werkzeugbestätigung aus Cursor Composer, die für den nativen Cursor-Executor angepasst wurden. |
| codex-multi-auth | 553 | Muster für Neuanmeldungen und die Rotation von Aktualisierungstoken, die in die erneute Authentifizierung über Codex OAuth portiert wurden. |
| opencode-anthropic-auth | 558 | Mit Claude Code kompatible Transformationsvorgaben und das Verhalten von Abrechnungs-Headern, die in der konfigurationsgesteuerten Brücke von OmniRoute verallgemeinert wurden. |
| grok2api-merged | 2 | Die Grok-Modellzuordnungen, der Statsig-Generator mit fingiertem TypeError, die Anfrage- und Gerätevorgaben sowie der NDJSON-Antwortprozessor wurden in wesentlichem Umfang für den Grok-Web-Executor von OmniRoute angepasst. |
| TQZHR/grok2api | 706 | Die wesentliche indirekte Codequelle hinter grok2api-merged; ihre Implementierungen für Modelle, Header, Nutzdaten, Statsig und Prozessoren bleiben in der Abstammungslinie von Grok Web erhalten. |
| chenyme/grok2api | 7,819 | Der zugrunde liegende MIT-lizenzierte Quellcode für Grok-Nutzdaten und -Gerätevorgaben, den Statsig-Generator und den über TQZHR und grok2api-merged übernommenen result.response-Prozessor. |
| grok2api-pro | 27 | Eine von grok2api-merged für dessen Proxy-Pool-Schicht angeführte indirekte Quelle; OmniRoute bewahrt diesen Herkunftshinweis, beansprucht für seinen klar abgegrenzten Grok-Web-Executor jedoch keine Portierung des Proxy-Pools. |
| GrokProxy | 51 | Der Cookie-authentifizierte Grok-Proxy und das Streaming-Muster result.response.token haben den Grok-Web-Transport von OmniRoute beeinflusst. |
| GrokBridge | 5 | Für die ursprüngliche Grok-Web-Implementierung wurde dessen HTTP-/Browser-Upstream-Design herangezogen; der direkte HTTP-Pfad leitet sich von GrokProxy ab, daher wird keine eigenständige Codeportierung beansprucht. |
🗜️ Kontext- & Token-Komprimierung — Engines
| Projekt | ⭐ | Wie es OmniRoute inspiriert hat |
|---|---|---|
| Caveman | 113,396 | Das virale „why use many token when few token do trick“-Projekt — seine Höhlenmenschen-Sprechweise bildet die Grundlage unseres Standard-Komprimierungsmodus und von über 30 Regeln zur Entfernung von Füllwörtern und zur Verdichtung. |
| RTK – Rust Token Killer | 83,835 | Hochleistungsfähige Komprimierung von Befehlsausgaben — inspirierte unsere RTK-Engine, die JSON-Filter-DSL, die Wiederherstellung von Rohausgaben und die gestapelte Pipeline RTK → Caveman. |
| headroom | 75,741 | Reversible Kontextkomprimierung (SmartCrusher) — inspirierte unsere headroom-Engine und das Abrufmarkierungsmuster ccr. |
| LLMLingua | 6,757 | Forschung zur Prompt-Komprimierung (LLMLingua / LLMLingua-2) — inspirierte unsere asynchrone, codesichere und ausfallsichere llmlingua-Engine. |
| llmlingua-2-js | 32 | Die JS/ONNX-Portierung (MobileBERT / XLM-RoBERTa), die als Worker-Thread-Backend für unsere LLMLingua-Engine verwendet wird. |
| Troglodita | 50 | PT-BR-Tokenkomprimierung — bildet die Grundlage unseres pt-BR-Sprachpakets: Reduzierung von Pleonasmen und Entfernung von Füllwörtern, abgestimmt auf die brasilianisch-portugiesische Grammatik. |
| ponytail | 166,731 | Der virale „lazy senior dev“-YAGNI-Coder-Skill — inspirierte unseren less-code-Ausgabestil: Ausrichtung auf die kleinstmögliche funktionierende Änderung, die _generierten_ Code reduziert (das ausgabeseitige Gegenstück zu Cavemans knapper Prosa). |
| i-have-adhd | 57,628 | Sein handlungsorientierter, ADHS-freundlicher Antwortstil wurde für OmniRoutes prägnanten Ausgabestil in fünf Sprachen adaptiert. |
🧩 Kompakte Formate, Token-Forschung & codebewusste Werkzeuge
| Projekt | ⭐ | Wie es OmniRoute inspiriert hat |
|---|---|---|
| TOON | 25,509 | Token-Oriented Object Notation — sein spaltenorientiertes Modell aus Kopfzeile und Zeilen prägte unsere Phase der tabellarischen Verdichtung. |
| GCF – Graph Compact Format | 59 | Sein kompaktes Graphformat und das Design mit generischem Profil flossen in OmniRoutes tabellarische Verdichtung und das Headroom-Codec-Format ein. |
| gcf-typescript | 4 | Die MIT-TypeScript-Implementierung wurde direkt eingebunden und zum Headroom-Codec mit generischem Profil erweitert. |
| token-optimizer-mcp | 551 | Brotli/SQLite-Cache + sitzungsbezogenes Kontextdelta — inspirierte unsere session-dedup-Engine. |
| token-savior | 1,182 | Verdichtung von Bash-Ausgaben + MCP-Profile — inspirierte unsere Disziplin beim Abbruch der Komprimierung und die Reduzierung von MCP-Werkzeugmanifesten. |
| token-saver | 154 | Inhaltsbewusste, dateitypspezifische Ausgabekomprimierung mit fehlerbewusstem Abbruch — bestätigte unsere typspezifische Weiterleitung und das Überspringen bei zu geringem Nutzen. |
| token-optimizer | 2,595 | „Find the ghost tokens“ — sein Muster aus Auslagerung und wiederherstellbarem Handle prägte unsere Überlegungen zur CCR-Auslagerung. |
| TokenMizer | 33 | Eine Blaupause für Sitzungsgraphen und zeilenbasierte Deduplizierung über mehrere Interaktionen hinweg, die unser session-dedup-Design prägte. |
| OmniCompress | 3 | Spaltenorientiertes JSON in Rust + inhaltsadressierter Abruf + nachrichtenübergreifende Deduplizierung — bestätigte das Design unserer Engines headroom/ccr/session-dedup sowie die cache-stabile Invariante „die komprimierte Form ist positionsunabhängig“. |
| mcp-compressor | 133 | Komprimierung von MCP-Werkzeugschemata und -beschreibungen — floss in unsere Kardinalitätsreduktion von MCP-Werkzeugmanifesten ein. |
| RepoMapper | 217 | Repository-Map-Ranking im Aider-Stil — floss in unsere Untersuchungen zu Repository-Maps und Retrieval-Ranking ein. |
| quiet-shell-mcp | 4 | Deklarative Reduzierung von Shell-Ausgaben über MCP — bestätigte unsere deklarative Verdichtung von Bash-Ausgaben. |
| ts-morph | 6,205 | Toolkit für die TypeScript Compiler API — inspirierte unsere parserbasierte Kommentarentfernung, die String-, Template- und Regex-Literale bewahrt. |
🧠 Speicher & RAG
| Projekt | ⭐ | Wie es OmniRoute inspiriert hat |
|---|---|---|
| Mem0 | 67,385 | Universelle Speicherschicht — ihr Proxy-Modell als Schreib-/Lesegrenze prägte unsere Speicherarchitektur. |
| Letta (MemGPT) | 25,179 | Zustandsbehaftete Agenten mit abgestuftem Speicher — inspirierte unser abgestuftes Modell für Context Control & Recovery (CCR). |
| WFGY | 1,800 | Die ProblemMap-Taxonomie mit 16 wiederkehrenden RAG-/LLM-Fehlermodi — das gemeinsame Vokabular in unserem Leitfaden zur Fehlerbehebung. |
🛰️ Datenverkehrsanalyse, MITM & transparenter Proxy
| Projekt | ⭐ | Wie es OmniRoute inspiriert hat |
|---|---|---|
| llm-interceptor | 79 | Die MITM-Interzeption/-Analyse des Datenverkehrs zwischen Coding-Assistenten ↔ LLMs floss in die frühen Anforderungen an den Traffic Inspector ein. Vier zuvor abgeleitete Module — SSE-Zusammenführung, Konversationsnormalisierung, Maskierung geheimer Daten und Header-Bereinigung — wurden durch unabhängige Clean-Room-Implementierungen auf Grundlage öffentlicher Protokollstandards ersetzt. Die beiden Host-Passthrough-Schnittstellen (passthrough.ts und _internal/bypass.cjs) bleiben OmniRoute-interne, unabhängig klassifizierte Implementierungen; sie wurden im Rahmen dieser Ersetzung nicht neu geschrieben. |
| ProxyBridge | 6,814 | Transparente Proxy-Weiterleitung pro Prozess — inspirierte unseren absturzsicheren MITM-Abbau, Leerlauf-Timeouts für Sockets, die Prozesszuordnung über /proc und die TPROXY-Erfassung. |
📚 Modelldaten, Beobachtbarkeit & Benutzeroberfläche
| Projekt | ⭐ | Wie es OmniRoute inspiriert hat |
|---|---|---|
| models.dev | 7,286 | Offene Datenbank mit Spezifikationen, Preisen und Funktionen von KI-Modellen — wird nativ mit unserem Modellkatalog synchronisiert. |
| React Flow / xyflow | 38,705 | Die knotenbasierte Graphbibliothek, auf der unser Echtzeit-Compression-Studio und unser Combo/Routing-Studio basieren. |
| LangGraph | 43,443 | Die Live-Visualisierung von Workflow-Graphen in LangGraph Studio inspirierte die Echtzeit-Kaskadenansicht unserer Studios. |
| Langfuse | 35,990 | Sein Beobachtbarkeitsmodell „Trace → Span → Generation“ prägte die Wasserfallansicht unseres Compression Studio. |
| Kiali | 3,645 | Beobachtbarkeit für Istio-Service-Meshes — inspirierte unsere Circuit-Breaker-Badges und die visuelle Darstellung von Fehlerkanten im Routing/Combo Studio. |
| lobe-icons | 2,615 | KI-/LLM-Markenlogos, mit denen die Anbieter-Icons in unserem Dashboard dargestellt werden. |
| flag-icons | 12,473 | Stellt die MIT-lizenzierten SVG-Flaggen bereit, die von der Sprachauswahl in der README verwendet werden. |
🛡️ Sicherheit
| Projekt | ⭐ | Wie es OmniRoute inspiriert hat |
|---|---|---|
| awesome-secure-defaults | 722 | Eine kuratierte Liste standardmäßig sicherer Bibliotheken, die unsere Sicherheitsentscheidungen leitet (Helmet.js, DOMPurify, ssrf-req-filter, safe-regex, Google Tink). |
🧭 Ergänzende Werkzeuge
| Projekt | ⭐ | Wie es OmniRoute inspiriert hat |
|---|---|---|
| ClawRouter | 6,628 | Inspirierte die Deduplizierung von Anfragen, einen kostenfreien Notfall-Fallback, austauschbare Auto-Combo-Strategien und die mehrsprachige Absichtsklassifizierung. |
| Antigravity-Manager | 32,333 | Seine kontobasierte Modellneuzuordnung, die Validierung ausführbarer Pfade und das Verhalten von Tarifbezeichnungen flossen in die Antigravity-Laufzeitumgebung von OmniRoute ein. |
| vscode-antigravity-cockpit | 4,850 | Sein kompaktes Countdown-Format für das Zurücksetzen von Kontingenten inspirierte die entsprechende Anzeige von Anbieterlimits in OmniRoute. |
| AionUi | 33,611 | Seine ACP-Integrationen inspirierten die automatische Erkennung installierter CLI-Agenten durch OmniRoute. |
| CodexBar | 22,616 | Identifizierte die Grok-Build-Kontingentschnittstelle; OmniRoute überprüfte und korrigierte anschließend das tatsächlich verwendete Übertragungsformat unabhängig. |
📄 Lizenz
MIT-Lizenz – Details siehe LICENSE.
⬆ Nach oben · Mit ❤️ für die Open-Source-KI-Community gebaut.
OmniRoute v3.8.53 · Node ≥22.22.2 · MIT-Lizenz · omniroute.online
Ähnliche Projekte entdecken
codecrafters-io/build-your-own-x
Meistere das Programmieren, indem du deine Lieblingstechnologien von Grund auf neu erschaffst.
561,398 Sternepublic-apis/public-apis
Eine gemeinschaftliche Liste kostenloser APIs
497,679 Sternemorluto/rea
Mit Agenten alles per Reverse Engineering untersuchen, vom Verhalten der Anwendung bis hin zu nativen Binärdateien.
447,495 Sterneopenclaw/openclaw
Die KI, die wirklich Dinge erledigt. Jedes Betriebssystem, jede Plattform. Auf die Hummer-Art. 🦞
394,261 Sterne










