Licensed to be used in conjunction with basebox, only.
// installation
Betrieb durch den Kunden
Gilt für
Produkt: Server · Betrieb: durch den Kunden · Zielgruppe: Platform Operator · IT-Leitung
Was der Kunde nach Übergabe der Software verantwortet: Betriebssystem, Treiber, Kubernetes, basebox, Service-Modelle, Inferenz, Netzwerk und Backups. basebox liefert Software, Updates, Dokumentation und Support – den Server betreiben Sie. Diese Seite ist Ihre Aufgabenliste.
Was Sie verantworten
| Bereich | Ihre Aufgabe | Runbook |
|---|---|---|
| Physische Hardware, Rechenzentrum | Strom, Kühlung, Netzanbindung, Zutritt; bei Hosting bei basebox übernimmt basebox diese Zeile | Hosting-Optionen |
| Betriebssystem | Sicherheitsupdates, Härtung, Zugriff (SSH-Schlüssel, kein Root-Login, fail2ban, ufw) | Server Preparation Guide → Sicherheit |
| NVIDIA-Treiber, CUDA, GPU Operator | Versionsstand, Kompatibilität mit vLLM, MIG-Layout nach Neustarts | NVIDIA / GPU |
| Kubernetes | Cluster-Gesundheit, Zertifikate, Ingress, Storage, CloudNativePG, Upgrades | Kubernetes |
| basebox | Helm-Releases, Values, Updates, Migrationen | Updates |
| Service-Modelle | ragsrv/ragsrv-support gesund, Modell-Caches, GPU-/MIG-Zuteilung | Service-Modelle bereitstellen |
| Inferenz | Endpunkt erreichbar, Modell geladen, Latenz, Kapazität | Inferenz anbinden · Modelle & Inferenz |
| Netzwerk | DNS, TLS-Erneuerung, Firewall, Egress für Integrationen | Netzwerk · VPN / Netzwerk |
| Backups | Datenbanken, Medien, Secrets; Wiederherstellung geübt | Backup & Wiederherstellung |
| Monitoring und Logging | Alarme, Log-Sammlung, Aufbewahrung nach Ihren Richtlinien | Monitoring · Logging |
| Konnektor-Workloads | MCP-Dienste per Helm bereitstellen, Egress zu Zielsystemen | MCP-Konnektoren mit Helm |
| Identität | Keycloak: LDAP-Federation, SSO, Admin-Zugang | LDAP / OIDC |
Nicht Ihre Aufgabe als Platform Operator: die Anwendungsadministration. Benutzer, Apps, Modellauswahl, Konnektor-Freigaben und Richtlinien liegen bei den Administratoren – auch wenn dieselbe Person beides tut, sind es getrennte Rollen.
Was basebox liefert
- Software: Helm-Charts und Container-Images aus der basebox-Registry; Versionen in der Versionsmatrix.
- Updates: Sicherheits- und Funktionsupdates, per E-Mail und Release Notes angekündigt; keine automatischen Updates – die Installation liegt bei Ihnen.
- Dokumentation: diese Seiten, das Compliance-Paket, Release Notes und Changelog.
- Support: support@basebox.ai nach den vertraglich vereinbarten Reaktionszeiten; für Fälle, die dieser Leitfaden nicht abdeckt, für abgeschottete Installationen und individuelle Konfigurationen.
- Meldung: Bei bekannten systemischen Risiken oder sicherheitsrelevanten Vorfällen informiert basebox betroffene Kunden unverzüglich.
Was basebox nicht tut
Ohne separate Beauftragung hat basebox keinen Zugang zu Ihrem Server – keine Fernwartung, kein Monitoring, keine Updates durch basebox. Braucht ein Support-Fall Zugriff, geschieht das nur nach Ihrer Freigabe über einen vereinbarten Weg (PAM/VPN, zeitlich begrenzt) – siehe Fernwartung.
Was Ihr Team mitbringen sollte
- Linux-Administration (Ubuntu), Paketverwaltung, systemd, Firewall.
- Kubernetes im Alltag:
kubectl,helm, Pods, PVCs, Ingress, Secrets, Events lesen. - NVIDIA-Stack: Treiber-Updates,
nvidia-smi, GPU Operator, bei Bedarf MIG. - PostgreSQL-Grundlagen für Backup und Wiederherstellung (CloudNativePG).
- Bereitschaft, Release Notes zu lesen, bevor aktualisiert wird.
Fehlt das im Haus, ist Betrieb durch basebox der Weg – oder ein Dienstleister Ihrer Wahl.
Übergabe von basebox an Sie
Wenn basebox installiert und Sie danach betreiben, sollten bei der Übergabe vorliegen:
- Manifest: Chart-/App-Version, Image-Digests, Treiber, CUDA, Kubernetes, GPU-Operator, GPU-UUIDs mit Rolle, MIG-Layout
- Values-Dateien (ohne Secrets) und die Liste der Kubernetes-Secrets
- Zugangsdaten: Keycloak-Admin, erster basebox-Administrator (bereits an die Administratoren übergeben)
- Abnahmeprotokoll nach Installation prüfen
- Ein erstes Backup und der Nachweis einer geübten Wiederherstellung
- Der Zugang von basebox ist beendet (PAM/VPN deaktiviert), sofern kein Betriebsauftrag folgt
Wenn Sie nicht weiterkommen
- Troubleshooting und FAQ.
- Logs von
aisrvund der betroffenen Komponente, Events, Manifest bereitlegen. - support@basebox.ai mit Symptom, Zeitpunkt, Änderungen der letzten Zeit – ohne Zugangsdaten. Bei Sicherheitsvorfällen zusätzlich datenschutz@basebox.ai.
Nächster Schritt: Monitoring