Aller au contenu

// installation

Bestehender Cluster: Anforderungen

Weg B · Einstieg mit einem vorhandenen Kubernetes-Cluster

Gilt für

Produkt: Server · Zielgruppe: Platform Operator

Sie betreiben bereits einen Kubernetes-Cluster mit GPU-Knoten und möchten basebox darauf installieren. Diese Seite listet, was der Cluster erfüllen muss, welche Schritte des Bare-Metal-Pfads Sie dann überspringen und wo Sie einsteigen. Die Wahl zwischen den Wegen beschreibt Installationswege.

Was der Cluster erfüllen muss

  • Kubernetes 1.23+ (geprüft: 1.33.7; 1.33+ empfohlen), Helm 3.x
  • Dynamische Volume-Bereitstellung mit einer Standard-Storage-Class
  • Ein Ingress-Controller (nginx-Annotationen sind im Chart vorbereitet) und ein TLS-Weg: cert-manager mit ClusterIssuer, ein bestehendes TLS-Secret oder lokales Vertrauen
  • CloudNativePG-Operator für die PostgreSQL-Cluster
  • NVIDIA GPU Operator (oder Vergleichbares) auf den Knoten, die Inferenz oder Service-Modelle im GPU-Modus ausführen; bei gemischten MIG-Layouts entsprechend konfiguriert
  • Registry-Zugang zu gitea.basebox.health aus der Container-Runtime der Knoten – oder gespiegelte Images
  • Ausreichende Ressourcen: minimal 5+ Kerne, 12 GB+ RAM, 1+ GPU, 200 GB+; empfohlen 10+ Kerne, 32 GB+ RAM, 2+ GPUs, 500 GB+ SSD/NVMe. Wie viel Hardware Sie für Ihre Nutzerzahl und Modelle brauchen: Sizing.

Cluster prüfen

kubectl get nodes -o wide
kubectl get pods -A
kubectl get storageclass
kubectl get svc -A | grep -i ingress
kubectl get pods -n cnpg-system
kubectl get pods -n gpu-operator            # auf GPU-Knoten
kubectl describe nodes | grep -A5 "Allocated resources"

Alles Ready/Running, eine Standard-Storage-Class, eine Ingress-IP, GPU-Ressourcen auf den GPU-Knoten – dann erfüllt der Cluster die Anforderungen.

Fehlt etwas – meist GPU Operator oder CloudNativePG –, ergänzen Sie es nach dem jeweiligen Schritt des Bare-Metal-Pfads: NVIDIA / GPU → GPU Operator, Kubernetes → CloudNativePG-Operator, Kubernetes → Ingress-Controller.

Was Sie überspringen

Schritt des Bare-Metal-Pfads Auf Weg B
1 · Voraussetzungen Hardware entfällt; die Entscheidungen zu DNS, TLS und Modell treffen Sie trotzdem
2 · Server vorbereiten Entfällt
3 · NVIDIA / GPU Entfällt, wenn der GPU Operator läuft; MIG-Layout prüfen, wo vorgesehen
4 · Kubernetes Entfällt, wenn die Prüfung oben passt
5 · Speicher Kapazitätsplanung und Backup-Ziele trotzdem lesen
6 · Netzwerk Hostname, TLS-Modus und Netzgrenze AISRV ↔ Inferenz trotzdem festlegen

Wie es weitergeht

Ab Schritt 7 sind beide Wege identisch:

  1. 7 · basebox installieren – Umbrella-Chart per Helm; alle Optionen unter Helm Charts verwenden
  2. 8 · Service-Modelle bereitstellen
  3. 9 · Inferenz anbinden
  4. 10 · Installation prüfen

Ohne Internetzugang brauchen Sie einen Offline-Transfer von Images und Modellen; das Verfahren stimmen Sie mit support@basebox.ai ab.

Nächster Schritt: 7 · basebox installieren