Für jede Anfrage, die richtige Entscheidung.

AION Router stellt Ihre PGX (NVIDIA DGX Spark) und, wenn Sie wollen, einen externen Anbieter hinter einen einzigen OpenAI-kompatiblen Endpunkt. Für jede Anfrage entscheidet er, auf welcher PGX sie läuft, mit welchem Modell und was das Unternehmen verlassen darf.

01

Mehrere PGX, eine Adresse.

Ihre Anwendungen rufen einen einzigen Endpunkt auf. Der Router prüft, wie ausgelastet jeder PGX ist – der NVIDIA-DGX-Spark-Rechner, auf dem AION On-Premise läuft – und schickt die Anfrage an den freiesten. Kommt ein weiterer hinzu, arbeitet er sofort mit, ohne dass die Anwendungen angepasst werden müssen.

Beispiel zur Veranschaulichung

02

Nicht jede Frage braucht das große Modell.

Bevor er entscheidet, erkennt der Router, wie schwierig die Anfrage ist, und wertet dafür drei Signale aus: schnelle Regeln, Ähnlichkeit mit bereits gesehenen Anfragen und ein kleines Modell als Schiedsrichter. Dann wählt er das leichteste Modell, das gut antworten kann.

Übersetze diese E-Mail ins Englische.
Schnelles Modell
Vergleiche den Vertrag mit unserem Entwurf und markiere die abweichenden Klauseln.
Großes Modell

Für jedes Team legen Sie fest, was zählt: die Kosten, die Qualität, ein Gleichgewicht aus beidem oder der Datenschutz.

03

Bevor sie hinausgeht, fragt er nach.

Im Unternehmen bleibt die Anfrage, wie sie ist. Muss sie zu einem externen Anbieter, erkennt der Router personenbezogene Daten wie Namen und E-Mails, ersetzt sie durch Platzhalter und zeigt im Chat den Text, der hinausginge. Wer geschrieben hat, entscheidet: geschwärzt senden oder im Haus behalten.

Agents · ChatAION Router

Vergleiche den Vertrag von Mario Rossi mit unserem Standardentwurf und markiere die abweichenden Klauseln.

Diese Anfrage kann an den externen Anbieter gehen. Sie ginge so hinaus:

Vergleiche den Vertrag von [PERSON_1] mit unserem Standardentwurf und markiere die abweichenden Klauseln.

Geschwärzt senden?

Bleibt im Haus: PGX 1 antwortet mit dem großen Modell.

Probieren Sie es aus und sehen Sie, wohin die Anfrage geht
04

Standardmäßig bleibt sie im Haus, hinaus nur mit Ihrer Erlaubnis.

Der externe Anbieter ist eine Option, keine Abhängigkeit. Sie schalten ihn selbst frei, nur für die Teams und Modelle, die Sie bestimmen, und nur zu OpenAI-kompatiblen Anbietern. Ohne diese Regel bleibt jede Anfrage auf Ihren PGX.

Diese Anfragebleibt auf PGX 1 · Wahl ändern

Ein Endpunkt, Ihre Regeln.

Die vier Entscheidungen folgen Regeln, die Sie festlegen. Die Konsole des Routers betreibt das AION-Team: Es richtet mit Ihnen Schlüssel, Regeln und Budgets ein und schickt Ihnen die Berichte.

Endpunkt
OpenAI-kompatibel: Ihre bestehenden Anwendungen und Chat-Clients verbinden sich, indem Sie nur die Adresse ändern.
API-Schlüssel
Jeder Schlüssel sieht nur die für dieses Team erlaubten Modelle.
Regeln
Kosten, Qualität, Gleichgewicht oder Datenschutz: eine Regel pro Team.
Budgets
Ein Budget für jedes Team, die Kosten dem zugeordnet, der sie verursacht.
Berichte
Nutzung, Kosten und Weg jeder Anfrage in einer Ansicht.

Möchten Sie den Router im Einsatz sehen?

Wir zeigen Ihnen, wie er die Arbeit Ihres Teams auf PGX, Modelle und, wenn Sie wollen, einen externen Anbieter verteilt.

Standort
Corso Vercelli 89, 28100 Novara

Ihre Daten werden gemäß unserer Datenschutzrichtlinie behandelt und nicht an Dritte weitergegeben.