Plattform im Überblick
Der ganze KI-Lebenszyklus in einem Datenbestand.
EUVYRA deckt ab, was Teams sonst aus Experiment-Tracker, Job-Scheduler, Serving-Stack, LLM-Observability und einer Governance-Tabelle zusammensetzen. Alle Teile teilen sich ein Datenmodell. Die Frage „Was läuft in Produktion, und warum durfte es dorthin?“ wird damit zu einer Abfrage statt zu einem Projekt.
Was EUVYRA in jeder Phase leistet
Jede Phase schreibt Daten, die die nächste liest. Ein Release lässt sich nur auf Grundlage einer Evaluierung genau dieser Modellversion freigeben, und das Gateway bedient nur freigegebene Releases. Die Nachweise für ein Audit fallen so beim Ausliefern nebenbei ab.
| Phase | Was Sie bekommen |
|---|---|
| Planen | Ein Inventar Ihrer KI-Systeme, auch der zugekauften, mit Zweck, Verantwortlichen und Rolle nach KI-Verordnung; eine Erfassung neuer Anwendungsfälle mit erster Einschätzung nach KI-Verordnung. Governance |
| Daten | Versionierte Datensätze mit Datenblatt und Inhalts-Hash, Verweise auf Dateien, die in Ihren eigenen Buckets bleiben, Schwärzung personenbezogener Daten, Aufbewahrungsfristen pro Projekt und Löschung nach DSGVO. |
| Trainieren | Runs, Metriken, Medien, Sweeps, Berichte und Modellgraphen; Jobs auf Ihren GPUs mit Warteschlangen, Kontingenten und Kosten; Cloud-Maschinen innerhalb fester Budgets. Training |
| Evaluieren | Versionierte Testsuiten mit serverseitigen Evaluatoren, Regressions-Gates für CI, verblindete Paarvergleiche, Annotations-Warteschlangen und laufende Bewertung des Produktionsverkehrs. Evaluierung |
| Freigeben und ausrollen | Vorabprüfungen, Freigaben in fester Reihenfolge nach Funktion der Beteiligten, direkte, Canary- und Shadow-Rollouts, Übernahme und Rollback. |
| Bereitstellen | Endpunkte mit vLLM, llama.cpp, beliebigen Containern oder EU-Anbietern hinter einem OpenAI-kompatiblen Gateway mit Schwärzung, Tracing, Budgets und Ratenlimits. Inferenz |
| Betreiben | Bestand an Knoten und GPUs mit Auslastungsverlauf, Wartungsmodus, ausgeschlossene Knoten und Pools von Cloud-Maschinen, die sich an der Warteschlange ausrichten. |
| Überwachen | Traces jedes Aufrufs, Monitore für Fehler, Latenz, Kosten, Qualitätswerte und Drift sowie Vorfälle mit Meldefristen. |
| Steuern | Risikoeinstufung nach KI-Verordnung, Kontrollen mit Nachweisprüfung, signierte Nachweispakete und Assurance über KI-Verordnung, NIS2, DORA und DSGVO. |
| Absichern | Rollen, Governance-Funktionen, eingeschränkte API-Schlüssel, Single Sign-on und SCIM-Provisionierung, ein Hash-verkettetes Audit-Log und eine Allowlist für ausgehende Verbindungen. Sicherheit |
| Mit Assistenten arbeiten | Ein MCP-Server, damit KI-Assistenten in EUVYRA als die Person arbeiten, die sie verbunden hat, während Freigaben bei Menschen bleiben. Entwickler |
Zwei Anker, eine Nachweiskette.
Alles hängt an zwei Datensätzen. Ein Projekt besitzt Runs, Traces, Datensätze, Testsuiten, Evaluierungen, Modelle, Prompts und Monitore. Ein KI-System ist die Einheit, die für die Aufsicht zählt: Es verknüpft ein oder mehrere Projekte und hält Risikobewertungen, Kontrollen, Releases, Vorfälle und Nachweisexporte.
Die Herkunft ist eine Kette von Verweisen, die EUVYRA bei Bedarf abläuft:
- Ein Release verweist auf eine Modell- oder Prompt-Version.
- Die Modellversion verweist auf den Run, der sie trainiert hat, auf Artefakt-Digest und Model Card.
- Der Run verweist auf Git-Commit, Konfiguration und die gelesenen Datensatzversionen, jede mit Inhalts-Hash.
- Das Release führt die bestandenen Evaluierungen und jeden Freigabeschritt auf, mit Person und Zeitpunkt.
So beantwortet EUVYRA die Fragen von Prüfung und Vorfallbearbeitung: Welche Modelle in Produktion wurden mit Datensatz X trainiert, hat ihre letzte Evaluierung bestanden, und was hat sich seit der Freigabe geändert?
Was Sie installieren
Wenige Bausteine, die Ihr Plattform-Team bereits zu betreiben weiß. Wie sie abgesichert sind, steht auf der Seite Sicherheit.
API-Server
Eine FastAPI-Anwendung für Datenaufnahme, Governance, Evaluatoren und Signatur der Nachweise. Migrationen laufen beim Start oder als Helm-Hook.
Worker
Dasselbe Image für Hintergrundaufgaben: Aufbewahrung, Monitore, laufende Evaluierung, Webhooks, Bestellungen von Cloud-Maschinen. Mehrere Replikas führen keine Aufgabe doppelt aus.
Konsole
Die Web-Anwendung für Menschen. Sie spricht nur mit ihrem eigenen Ursprung und reicht API-Aufrufe durch, der Browser braucht also kein CORS und das Sitzungs-Cookie bleibt First-Party.
PostgreSQL
Alle Datensätze, auch Traces, Metrikpunkte und die Audit-Kette. Ein Datenbank-Trigger weist Änderungen und Löschungen in der Audit-Tabelle ab.
Objektspeicher
Jeder S3-kompatible Speicher für Artefakte und Nachweispakete, mit serverseitiger Verschlüsselung. Der Compose-Stack bringt einen mit.
Agent
Läuft bei Ihren GPUs in einem Kubernetes-Namespace oder auf einem Docker-Host, holt Jobs und Endpunkte ab und meldet Zustand, Logs und GPU-Werte.
Neutral aus Prinzip.
EUVYRA hat kein eigenes Modell zu verkaufen und keine Cloud zu füllen. Sie entscheiden, wo trainiert wird, welche Modelle Sie bereitstellen und welche Anbieter Sie aufrufen, und Sie können jede dieser Entscheidungen ändern, ohne die Plattform zu wechseln.
- Offene Modelle auf Ihren GPUs mit vLLM oder llama.cpp oder in einem beliebigen Container mit HTTP-Schnittstelle.
- Europäische Modellanbieter hinter demselben Gateway, erreichbar nur, wenn ihr Host auf Ihrer Allowlist steht.
- Maschinen von Hetzner, Scaleway, OVHcloud, AWS oder Google Cloud, standardmäßig in EU-Regionen.
- OpenAI-kompatible APIs und OpenTelemetry auf dem Weg hinein. Auch Ihr Code hängt nicht an EUVYRA.
from openai import OpenAI
client = OpenAI(
base_url="https://euvyra.example.eu/v1",
api_key="euv_...",
)
reply = client.chat.completions.create(
model="radiology-triage", # ein KI-System
messages=[{"role": "user", "content": "Hallo"}],
)Gut zu wissen, bevor Sie sich darauf verlassen
- EUVYRA sammelt Nachweise und unterstützt Prüfungen. Es bescheinigt keine Konformität mit KI-Verordnung, NIS2, DORA, DSGVO oder ISO/IEC 42001, und Risikoeinstufung wie Ermittlung des Geltungsbereichs sind Dokumentationshilfen, keine Rechtsberatung.
- Meldungen an Behörden werden mit ihren Fristen entworfen und verfolgt, aber nicht versendet. Die Behörden haben eigene Portale.
- Traces, Spans und Metriken liegen in PostgreSQL. Das reicht bequem bis in zweistellige Millionen von Spans.