KI bauen. Vertrauen belegen.

Eine Plattform, die Sie selbst betreiben, um KI zu trainieren, bereitzustellen und zu steuern: auf eigenen GPUs oder in jeder europäischen Cloud. Jedes Modell in Produktion lässt sich zurückverfolgen bis zum Training, zu den Daten, den Tests und den Menschen, die es freigegeben haben.

Die Übersicht der EUVYRA-Konsole: KI-Systeme nach Risikostufe, Produktionsverkehr, offene Freigaben, fehlgeschlagene Evaluierungs-Gates und letzte Aktivitäten.

Eine Plattform statt sechs Werkzeugen.

Experiment-Tracking, GPU-Planung, Modellbetrieb, KI-Gateway, LLM-Observability und KI-Governance kommen meist von verschiedenen Anbietern, jeder mit einer eigenen Kopie Ihrer Daten. In EUVYRA teilen sie sich ein Datenmodell. Wer wissen will, was hinter einem Modell in Produktion steckt, bekommt eine einzige Antwort.

  • Experimente

    Runs mit Konfiguration, Metriken, GPU-Last, Medien und Histogrammen, Diagramme über viele Runs, Sweeps, Berichte und die genauen Datensatzversionen jedes Runs.

  • Compute

    Trainingsjobs auf Ihrem Kubernetes-Cluster oder Ihren GPU-Maschinen über einen Agenten, der sich Arbeit abholt: mit Warteschlangen, Kontingenten, Kosten pro Run und Training über mehrere Knoten.

  • Cloud-Maschinen

    GPUs bei Hetzner, Scaleway, OVHcloud, AWS oder Google Cloud, bestellt, solange Arbeit wartet, und gelöscht, wenn sie leer laufen. Immer innerhalb eines Budgets, das ein Mensch festlegt.

  • Inferenz und Gateway

    vLLM, llama.cpp oder beliebige Container auf Ihren GPUs, oder Modelle europäischer Anbieter, hinter einem OpenAI-kompatiblen Gateway.

  • Observability und Evaluierung

    Traces jedes LLM- und Agentenaufrufs mit Tokens, Kosten und Latenz; versionierte Testsuiten, Regressions-Gates für CI und menschliche Bewertung.

  • Releases und Freigaben

    Modelle und Prompts mit unveränderlichen Versionen; Releases mit Freigaben nach Funktion, Canary- und Shadow-Rollouts und Rollback.

  • Governance

    Ein Inventar Ihrer KI-Systeme, Risikoklassen nach KI-Verordnung, Kontrollen, die gegen echte Nachweise geprüft werden, und signierte Nachweispakete.

  • Assurance

    Welche Regeln aus KI-Verordnung, NIS2, DORA und DSGVO für Sie gelten, ein Lieferantenregister und Meldefristen für alle vier.

  • Sicherheit und Souveränität

    Eigenbetrieb, eine Allowlist für ausgehende Verbindungen, die leer beginnt, doppelte Schwärzung personenbezogener Daten und ein Audit-Log, das niemand still umschreibt.

Die Antwort auf jede Prüferfrage entsteht bei der Arbeit.

Die Vertrauenskette verbindet jedes Release in Produktion damit, wie es gebaut und getestet wurde, wer es freigegeben hat und wie es sich heute verhält. Das Entwicklungsteam bekommt ein Werkzeug für die tägliche Arbeit, die Prüfung bekommt ihre Belege. Beides kommt aus denselben Daten.

  1. Bauen

    Trainings-Runs, Datensatzversionen mit Inhalts-Hash, Git-Commit und Artefakt-Digest, erfasst während des Trainings.

  2. Evaluieren

    Testsuiten und Regressions-Gates laufen auf genau der Version, die ausgeliefert werden soll.

  3. Freigeben

    Entwicklung, Datenschutz und Compliance zeichnen nacheinander ab. Niemand gibt das eigene Release frei.

  4. Ausrollen

    Direkte, Canary- oder Shadow-Rollouts und ein Schritt zurück auf das vorherige freigegebene Release.

  5. Belegen

    Ein signiertes Nachweispaket pro KI-System, das sich offline prüfen lässt.

So funktioniert Governance in EUVYRA

Jeden Trainings-Run und jeden Modellaufruf sehen.

Metriken, Systemlast, Bilder und Gradienten-Histogramme loggen Sie mit wenigen Zeilen Python, auf Wunsch auch offline auf einer Maschine ohne Netz und später synchronisiert. Bayes-Sweeps laufen auf beliebig vielen Maschinen und brechen schwache Versuche früh ab. Agenten und Retrieval-Pipelines verfolgen Sie bis zum einzelnen Tool-Aufruf, mit Tokens, Latenz und Kosten pro Anfrage.

Sie nutzen schon OpenTelemetry? Dann richten Sie Ihren Exporter auf EUVYRA. Die GenAI-Konventionen und OpenInference werden verstanden, bestehende Instrumentierung funktioniert weiter.

Tracing, Evaluierung und Prompts

Ein Trace eines Kundenservice-Agenten: ein Wasserfall aus Retrieval-, Modell- und Tool-Spans mit Token-Zahlen und Kosten.

Auf eigenen GPUs trainieren. Mehr stundenweise mieten.

Ein Agent läuft direkt bei Ihrer Hardware, in einem Kubernetes-Namespace oder auf einer einzelnen Maschine wie einer DGX Spark, und holt sich seine Arbeit bei EUVYRA ab. Niemand muss in Ihr Netz hinein. Jeder Job bekommt seinen Run, seine Kosten und sein vollständiges Log, jeder Cluster eine Seite mit Knoten, GPUs und dem, was darauf läuft.

Sind die eigenen GPUs belegt, bestellt ein Pool Maschinen bei Hetzner, Scaleway, OVHcloud, AWS oder Google Cloud, solange Jobs warten, und löscht sie wieder, wenn sie leer laufen. Monatsbudget und Maschinenlimit legt ein Mensch fest; darüber hinaus bestellt EUVYRA nie.

Experimente, Compute und Cloud-Maschinen

Die Seite einer GPU-Maschine: eine NVIDIA GB10 mit 61 Prozent Auslastung durch einen Modell-Endpunkt, dazu CPU- und Speicherbelegung.

Nur ausliefern, was freigegeben ist.

Offene Modelle laufen mit vLLM oder llama.cpp auf Ihren GPUs, dazu jeder Container mit HTTP-Schnittstelle oder die API eines europäischen Anbieters. Anwendungen erreichen sie über ein OpenAI-kompatibles Gateway, und das antwortet nur für Releases, die ihr Evaluierungs-Gate und ihre Freigaben bestanden haben.

Das Gateway maskiert personenbezogene Daten, bevor eine Anfrage hinausgeht, protokolliert und bepreist jeden Aufruf und hält jeden API-Schlüssel an sein eigenes Monatsbudget und Ratenlimit. Bestehende OpenAI-Clients ändern nur ihre Basis-URL.

Endpunkte und KI-Gateway

Die Gateway-Seite: die Basis-URL, ein Python-Beispiel und welches Release und welcher Endpunkt den Verkehr jedes KI-Systems bedient.

Wissen, welches Modell besser ist, bevor es Ihre Kunden merken.

Beide Kandidaten laufen auf denselben Testfällen. Das Gate entscheidet, ob der neue zur Freigabe darf.

Beispiel aus den Demodaten: Kundenservice-Assistent, Testsuite v1.4, 500 Testfälle
KennzahlModell AModell B
Genauigkeit91,2 %94,8 %
Faktentreue89,5 %96,1 %
Mittlere Latenz2,1 s1,4 s
Kosten pro 1.000 Anfragen4,80 €3,20 €

Release-Gate bestanden. Alle Qualitätsschwellen erreicht. Bereit für die Freigabe durch Menschen.

Compliance-Nachweise, die aus der Arbeit selbst entstehen.

Jedes KI-System wird nach der KI-Verordnung eingestuft, und eine zweite Person bestätigt das Ergebnis. Kontrollen für KI-Verordnung, DSGVO und ISO/IEC 42001 prüfen sich selbst gegen Ihre Runs, Evaluierungen, Releases und Logs.

Hat jemand eine Kontrolle als erledigt markiert, während die Nachweise dagegen sprechen, steht sie als widersprochen da. Jede Änderung landet in einem Audit-Log, dessen Einträge per Hash verkettet sind. Niemand kann die Geschichte still umschreiben.

Governance für KI-Verordnung, NIS2, DORA und DSGVO

Die Seite eines KI-Systems für eine Radiologie-Triage: die Vertrauenskette von Bauen bis Belegen und der Stand der Kontrollen.

Ein Vorfall. Alle Fristen.

Ein Modellausfall kann gleichzeitig ein erheblicher Sicherheitsvorfall nach NIS2, ein schwerwiegender Vorfall nach DORA und eine Datenpanne nach DSGVO sein, jeweils mit eigener Behörde und eigener Frist. EUVYRA ermittelt, welche Regeln greifen, startet jede Frist und entwirft jede Meldung.

NIS2Erheblicher Sicherheitsvorfall

  1. 24 hFrühwarnung
  2. 72 hMeldung des Vorfalls
  3. 1 MonatAbschlussbericht

DORASchwerwiegender IKT-Vorfall

  1. 4 hErstmeldung nach Einstufung
  2. 72 hZwischenbericht
  3. 1 MonatAbschlussbericht

DSGVODatenpanne

  1. 72 hAufsichtsbehörde
  2. UnverzüglichBetroffene Personen, wenn das Risiko hoch ist

KI-VOSchwerwiegender Vorfall

  1. 15 TageMeldung an die Marktüberwachungsbehörde
  2. 2 oder 10 TageBei weitreichenden Verstößen oder einem Todesfall

Geltungsbereich, Lieferanten und Vorfallmeldungen

Ihre Daten bleiben, wo Sie es entscheiden.

EUVYRA läuft auf Infrastruktur Ihrer Wahl. Es telefoniert nicht nach Hause und belegt das mit einem Bericht, der aus der eigenen Konfiguration entsteht. Sicherheit und Souveränität im Detail

Läuft in Ihrer Infrastruktur
Docker Compose oder Helm auf jedem Kubernetes-Cluster, mit PostgreSQL und S3-kompatiblem Speicher, den Sie kontrollieren und verschlüsseln. Trainingsjobs laufen auf Ihren eigenen GPUs.
Nichts geht ohne Erlaubnis hinaus
Ausgehende Verbindungen sind gesperrt, solange ein Host nicht auf der Allowlist steht. Das Helm-Chart setzt dieselbe Liste als Network Policy durch.
Personenbezogene Daten doppelt geschwärzt
Einmal im SDK, bevor etwas gesendet wird, und noch einmal auf dem Server. Kennungen von Endnutzern werden beim Eingang pseudonymisiert.
Belege, ohne uns vertrauen zu müssen
Nachweispakete sind mit Ed25519 signiert und lassen sich offline prüfen, ohne Verbindung zu EUVYRA oder sonst jemandem.
Neutral aus Prinzip
Kein eigenes Modell, das wir verkaufen wollen, keine eigene Cloud, die gefüllt werden muss. Offene Modelle auf Ihren GPUs, europäische Anbieter, Maschinen aus fünf Clouds, und Sie können später umentscheiden.
Nachweise aus echten Daten statt Fragebögen
Runs, Releases, Gateway-Verkehr und Vorfälle sind die Nachweise. Niemand tippt sie in ein Compliance-Werkzeug ab, deshalb stimmt die Antwort an die Prüfung mit dem überein, was tatsächlich passiert ist.

Auch diese Website lädt keine fremden Schriften, Skripte oder Tracker.

Ein paar Zeilen Python.

Um Ihre Trainingsschleife gelegt, zeichnet EUVYRA Konfiguration, jede Metrik, den Git-Commit, die Systemlast und die Modelldatei auf. Eine LLM-Anwendung zu tracen funktioniert genauso, oder über OpenTelemetry, wenn Sie es schon nutzen.

Dann läuft es auf Ihren GPUs: euvyra launch stellt den Job für einen Agenten in Ihrem Kubernetes-Cluster, auf einer GPU-Workstation oder in einem Pool gemieteter Maschinen in die Warteschlange. Jeder Job wird ein Run mit Kosten und vollständigem Log.

Ihr KI-Assistent kann das auch. Claude, ChatGPT, Cursor und andere verbinden sich per MCP und handeln als die Person, die sie angemeldet hat. Freigaben, Abzeichnungen und alles, was Geld kostet, bleiben bei Menschen.

SDK, CLI, OpenTelemetry, MCP und API

import euvyra

with euvyra.init(project="medical-ai") as run:
    run.config({"lr": 0.001, "epochs": 50})
    for epoch in range(50):
        loss = train_model()
        run.log({"loss": loss}, step=epoch)
    run.log_model("model.pt")

Sie kommen von einem anderen Werkzeug?

Was EUVYRA für Ihre heutige Arbeit bietet und wie Sie Ihre Historie mitnehmen.

  • Neptune.ai

    Der gehostete Dienst wurde am 5. März 2026 abgeschaltet. Exportieren Sie Ihre Runs mit Neptunes eigenem Werkzeug und laden Sie sie in eine Plattform unter Ihrer Kontrolle.

  • Weights & Biases

    Runs, Sweeps, Artefakte und Berichte, dazu Jobs auf Ihren GPUs. euvyra import wandb übernimmt Runs mit der vollständigen Metrik-Historie.

  • Langfuse

    Traces, Evaluierungen und Prompts, dazu ein Freigabeschritt zwischen Prompt oder Modell und dem Produktionsverkehr.

  • MLflow

    Experiment-Tracking und Modellregister, dazu Releases mit Freigaben. euvyra import mlflow liest einen mlruns-Ordner direkt.

Was Teams zuerst fragen

Wo läuft EUVYRA?

Auf Infrastruktur Ihrer Wahl: Docker Compose auf einem Server oder Helm auf einem beliebigen Kubernetes-Cluster, mit PostgreSQL und S3-kompatiblem Speicher, den Sie betreiben. Trainingsjobs und Modell-Endpunkte laufen auf Ihren eigenen GPUs oder auf Maschinen, die EUVYRA für Sie bei Hetzner, Scaleway, OVHcloud, AWS oder Google Cloud bestellt.

Verlassen Daten unsere Installation?

Nur zu Hosts auf Ihrer Allowlist, und die ist leer, bis Sie sie füllen. Die Seite zur Datenresidenz entsteht aus der laufenden Konfiguration und zeigt jeden ausgehenden Verbindungsversuch, auch die blockierten.

Sind wir mit EUVYRA konform zur KI-Verordnung?

Das kann keine Software für Sie erledigen. EUVYRA sammelt Nachweise aus Ihren technischen Daten, prüft Kontrollen dagegen und entwirft Vorfallmeldungen. Es bescheinigt aber keine Konformität, und die Risikoeinstufung ist eine Dokumentationshilfe, keine Rechtsberatung. Der Leitfaden zur KI-Verordnung erklärt, was wann gilt.

Können wir unseren OpenAI-Client-Code behalten?

Ja. Das Gateway spricht die OpenAI-API, bestehende Clients ändern nur Basis-URL und API-Schlüssel. Als Modellname dient das KI-System, und das Gateway leitet die Anfrage an das dafür freigegebene Release.

Wie kommt unsere Experiment-Historie mit?

euvyra import wandb und euvyra import mlflow übernehmen Runs mit Konfiguration, Metriken und Verlauf. Die Anleitungen für Weights & Biases, MLflow und Neptune.ai zeigen die Schritte.

Für wen ist EUVYRA gedacht?

Für Entwicklungs- und Compliance-Teams in europäischen Unternehmen, die KI bauen oder betreiben und beides aus denselben Daten erledigen wollen. Die Assurance-Funktionen richten sich an Unternehmen mit weniger als 750 Beschäftigten, für die mehrere Regelwerke aus KI-Verordnung, NIS2, DORA und DSGVO gleichzeitig gelten.

Heute selbst ausprobieren.

Ein Befehl startet Datenbank, Objektspeicher, API, Worker und Konsole. Eine vorbefüllte Demo-Organisation zeigt jede Funktion mit realistischen Daten.

# zuerst die Secrets eintragen
cp deploy/.env.example deploy/.env
docker compose -f deploy/docker-compose.yml up -d --build
docker compose -f deploy/docker-compose.yml exec api euvyra-server seed-demo

Danach melden Sie sich als demo@euvyra.local an und sehen sich ein Radiologie-Triage-Modell, einen Support-Assistenten und die Freigaben an, die auf Sie warten. Für Kubernetes gibt es ein Helm-Chart; Details stehen auf der Entwicklerseite.