Licensed to be used in conjunction with basebox, only.
// installation
Referenzkonfigurationen
Gilt für
Produkt: Server · Zielgruppe: Platform Operator
Eine Referenzkonfiguration dokumentiert ein konkretes, bekanntes Hardware-Setup: seine Topologie, GPU-Zuteilung, Konfigurationsabweichungen und die Software-/Modellkombinationen, mit denen es geprüft wurde.
Sie bedeutet nicht „das braucht basebox". basebox selbst braucht wenig GPU; die GPUs dieser Konfigurationen dienen den Service-Modellen und der Inferenz. Hardware ändert sich schnell – deshalb liegen diese Seiten innerhalb der Server-Dokumentation, statt deren Struktur zu bilden, und deshalb lassen sich neue GPUs oder Multi-Node-Layouts hier ergänzen, ohne die Navigation anzufassen.
Aktuelle Konfigurationen
| Konfiguration | Status | Architektur | Arbeitsspeicher | Hinweise |
|---|---|---|---|---|
| 3 × NVIDIA RTX PRO 6000 | Supported | Einzelner Knoten | 128 GB / 512 GB | FAST-LTA-Angebot |
| 2 × NVIDIA H200 141 GB | Validated | Einzelner Knoten | 128 GB / 512 GB | Gemessener Referenz-Workload; MIG-Service-GPU |
| 2 × NVIDIA H200 + 1 × RTX PRO 6000 | Supported | Einzelner Knoten | 128 GB / 512 GB | FAST-LTA-Angebot; dedizierte Service-GPU |
| 4 × NVIDIA H100 SXM 80 GB | Validated | Einzelner Knoten | siehe Seite | Tensor-paralleles Inferenzpaar + MIG-Services |
| Eigene Hardware | Custom | — | — | Erfordert individuelle Prüfung |
128 GB vs. 512 GB Arbeitsspeicher ist eine Eigenschaft einer Konfiguration, keine eigene Konfiguration. FAST LTA bietet beides für jedes seiner Systeme an.
Status-Begriffe
| Status | Bedeutung |
|---|---|
| Validated | basebox hat genau diese Konfiguration getestet. |
| Supported | basebox unterstützt dieses Setup, auch wenn nicht jede mögliche Kombination kürzlich gemessen wurde. |
| Experimental | Funktioniert voraussichtlich, ist aber nicht produktiv validiert. |
| Custom | Kundenspezifische Konfiguration, die individuell geprüft werden muss. |
Behaupten Sie nicht, beliebige Hardware sei validiert. Ist ein Setup nicht gelistet, ist es Custom, bis basebox es geprüft hat.
Was eine Konfigurationsseite enthält – und was nicht
Jede Seite folgt derselben Vorlage:
Status · Architektur · GPU · Arbeitsspeicher · basebox-Version · Getestet am · Komponenten-Platzierung · Platzierung der Service-Modelle · Inferenz-Konfiguration · Getestete Modelle · Abweichungen von der Standardinstallation · Bekannte Einschränkungen · Verwandte Seiten
Eine Konfigurationsseite dokumentiert nur, was für diese Hardware spezifisch ist: Werte, Topologie, GPU-Zuteilung, Helm-/Konfigurationsunterschiede, Einschränkungen, getestete Kombinationen.
Sie wiederholt nicht den Installationsablauf. Gemeinsame Schritte – Betriebssystem, Treiber, Kubernetes, Speicher, Netzwerk, basebox installieren, Prüfung – stehen einmal im Bare-Metal-Installationsleitfaden, und jede Konfigurationsseite verlinkt dorthin.
Konzeptionelles Zuteilungsmuster
Die meisten Konfigurationen folgen einem Muster; die exakte GPU-zu-Dienst-Zuordnung steht je Seite nur dort, wo DevOps sie bestätigt hat.
flowchart LR
subgraph INF["Inferenz-GPU(s)"]
LLM["LLM-Inferenz<br/>komplette GPU(s), optional tensor-parallel"]
end
subgraph SVC["Service-GPU (dedizierte GPU oder MIG-Slices)"]
RAG["GPU-RAG / Embeddings"]
EXT["Dokumentextraktion"]
OCR["OCR"]
STT["Sprache-zu-Text"]
end
P["basebox-Plattform<br/>(CPU, keine GPU)"]
P --> SVC
P --> INF
style INF fill:#dbeafe,stroke:#1e40af,color:#1d1e1c
style SVC fill:#dcefe2,stroke:#3a7a49,color:#1d1e1c
style P fill:#f4f2ee,stroke:#524e47,color:#1d1e1cEine Konfiguration ergänzen
Kopieren Sie Eigene Hardware als Vorlage, füllen Sie jeden Abschnitt, vergeben Sie den Status ehrlich und ergänzen Sie eine Zeile in der Tabelle oben. Eine Navigationsänderung ist nicht nötig.
Nächster Schritt: Bare-Metal-Installation