OMNIS Serververwaltung

Requests 24 h––

GPU––

CPU––

RAM––

Geladene Modelle

Keine Messwerte

Dienste

Requests nach Service · 24 Stunden

Service	Requests	Fehler	Ø Latenz	Ø Queue	Ø TTFT	Ø Token/s

Historische Daten

CPU / GPU / RAM

CPUGPURAM

Requests pro Minute

Antwortzeit

Ø LatenzP95

Queue / TTFT

Ø QueueP95 QueueØ TTFT

VRAM-Nutzung

Performance nach Modell

Modell	Requests	Fehler	Ø Latenz	Ø Queue	Ø TTFT	Ø Token/s

Systemdienste

Start, Stopp und Neustart über die zentrale OMNIS-Steuerung

Document Worker skalieren

Anzahl Instanzen

Geänderte Einstellungen werden atomar gespeichert. Betroffene Dienste müssen anschließend neu gestartet werden. Secret-Werte werden in diesem Panel nie angezeigt.

Secret-Konfiguration

Es wird ausschließlich angezeigt, ob die jeweilige Datei existiert und welche Dateirechte gesetzt sind.

Übersicht