Licensed to be used in conjunction with basebox, only.
// installation
Bestehender Cluster: Anforderungen
Weg B · Einstieg mit einem vorhandenen Kubernetes-Cluster
Gilt für
Produkt: Server · Zielgruppe: Platform Operator
Sie betreiben bereits einen Kubernetes-Cluster mit GPU-Knoten und möchten basebox darauf installieren. Diese Seite listet, was der Cluster erfüllen muss, welche Schritte des Bare-Metal-Pfads Sie dann überspringen und wo Sie einsteigen. Die Wahl zwischen den Wegen beschreibt Installationswege.
Was der Cluster erfüllen muss
- Kubernetes 1.23+ (geprüft: 1.33.7; 1.33+ empfohlen), Helm 3.x
- Dynamische Volume-Bereitstellung mit einer Standard-Storage-Class
- Ein Ingress-Controller (nginx-Annotationen sind im Chart vorbereitet) und ein TLS-Weg: cert-manager mit
ClusterIssuer, ein bestehendes TLS-Secret oder lokales Vertrauen - CloudNativePG-Operator für die PostgreSQL-Cluster
- NVIDIA GPU Operator (oder Vergleichbares) auf den Knoten, die Inferenz oder Service-Modelle im GPU-Modus ausführen; bei gemischten MIG-Layouts entsprechend konfiguriert
- Registry-Zugang zu
gitea.basebox.healthaus der Container-Runtime der Knoten – oder gespiegelte Images - Ausreichende Ressourcen: minimal 5+ Kerne, 12 GB+ RAM, 1+ GPU, 200 GB+; empfohlen 10+ Kerne, 32 GB+ RAM, 2+ GPUs, 500 GB+ SSD/NVMe. Wie viel Hardware Sie für Ihre Nutzerzahl und Modelle brauchen: Sizing.
Cluster prüfen
kubectl get nodes -o wide
kubectl get pods -A
kubectl get storageclass
kubectl get svc -A | grep -i ingress
kubectl get pods -n cnpg-system
kubectl get pods -n gpu-operator # auf GPU-Knoten
kubectl describe nodes | grep -A5 "Allocated resources"
Alles Ready/Running, eine Standard-Storage-Class, eine Ingress-IP, GPU-Ressourcen auf den GPU-Knoten – dann erfüllt der Cluster die Anforderungen.
Fehlt etwas – meist GPU Operator oder CloudNativePG –, ergänzen Sie es nach dem jeweiligen Schritt des Bare-Metal-Pfads: NVIDIA / GPU → GPU Operator, Kubernetes → CloudNativePG-Operator, Kubernetes → Ingress-Controller.
Was Sie überspringen
| Schritt des Bare-Metal-Pfads | Auf Weg B |
|---|---|
| 1 · Voraussetzungen | Hardware entfällt; die Entscheidungen zu DNS, TLS und Modell treffen Sie trotzdem |
| 2 · Server vorbereiten | Entfällt |
| 3 · NVIDIA / GPU | Entfällt, wenn der GPU Operator läuft; MIG-Layout prüfen, wo vorgesehen |
| 4 · Kubernetes | Entfällt, wenn die Prüfung oben passt |
| 5 · Speicher | Kapazitätsplanung und Backup-Ziele trotzdem lesen |
| 6 · Netzwerk | Hostname, TLS-Modus und Netzgrenze AISRV ↔ Inferenz trotzdem festlegen |
Wie es weitergeht
Ab Schritt 7 sind beide Wege identisch:
- 7 · basebox installieren – Umbrella-Chart per Helm; alle Optionen unter Helm Charts verwenden
- 8 · Service-Modelle bereitstellen
- 9 · Inferenz anbinden
- 10 · Installation prüfen
Ohne Internetzugang brauchen Sie einen Offline-Transfer von Images und Modellen; das Verfahren stimmen Sie mit support@basebox.ai ab.
Nächster Schritt: 7 · basebox installieren