Licensed to be used in conjunction with basebox, only.
// start
Mit basebox Server starten
Gilt für
Produkt: Server · Zielgruppe: Platform Operator · Administrator · Einkauf
basebox Server ist ein dedizierter physischer Server für eine Organisation. Die Hardware kann über FAST LTA bezogen oder selbst beschafft werden; der Server steht in Ihrem Rechenzentrum oder im basebox-Rechenzentrum und wird von Ihnen oder – bei Beauftragung – von basebox betrieben.
Bevor Sie installieren, treffen Sie vier Entscheidungen. Keine davon ändert das Produkt; zusammen bestimmen sie, welche Seiten dieser Dokumentation für Sie gelten.
Entscheidung 1: Hardware
| Option | Was das bedeutet | Weiterlesen |
|---|---|---|
| Über FAST LTA beziehen | Vorkonfigurierte Systeme, die basebox als Referenzkonfiguration führt (aktuell u. a. 3 × RTX PRO 6000, 2 × H200, 2 × H200 + RTX PRO 6000; jeweils 128 GB oder 512 GB Arbeitsspeicher) | Hardware-Optionen |
| Selbst beschaffen | Eigene oder vorhandene Hardware. Entspricht sie einer Referenzkonfiguration, gilt deren Status; sonst ist sie Custom und wird mit basebox geprüft | Referenzkonfigurationen |
Merken Sie sich dabei: Die GPUs dienen den Service-Modellen und der Inferenz, nicht der basebox-Plattform selbst. Wie viel GPU Sie brauchen, hängt vom gewählten Sprachmodell, Kontext und Parallelität ab – siehe Architektur verstehen.
Entscheidung 2: Standort
- Ihr Rechenzentrum – Sie kontrollieren physischen Zugang, Netzwerk und Umgebung. Der Server kann vollständig abgeschottet betrieben werden.
- basebox-Rechenzentrum (Hosting) – der Server steht bei basebox; physischer Zugang und Netzanbindung liegen bei basebox, der Server bleibt dediziert für Ihre Organisation.
Ein bei basebox gehosteter Server ist weiterhin Server, nicht Cloud. Details: Hosting-Optionen.
Entscheidung 3: Betrieb
- Selbst verwaltet – nach Übergabe der Software sind Sie für Betriebssystem, Treiber, Kubernetes, basebox, Service-Modelle, Inferenz und Netzwerk verantwortlich. basebox liefert Software, Updates, Dokumentation und Support.
- Betrieb durch basebox – bei separater Beauftragung installiert und/oder betreibt basebox das System über PAM/VPN oder einen anderen vereinbarten Zugangsweg.
Softwarekauf ist kein Betriebsauftrag
Eine basebox-Server-Lizenz ist eine Softwarelizenz. Der Betrieb der Infrastruktur durch basebox ist eine separate Beauftragung. Was dazugehört, steht unter Betriebsmodelle und Verantwortlichkeiten.
Entscheidung 4: Installationsweg
- Ab Bare Metal – Sie starten mit einem leeren Server: Betriebssystem, NVIDIA-Treiber, Kubernetes, dann basebox. Der durchgängige Pfad ist die Bare-Metal-Installation.
- Bestehendes Kubernetes – Sie haben bereits einen Cluster mit GPU-Knoten, Ingress und Speicher. Dann steigen Sie direkt bei Helm Charts verwenden ein.
Beide Wege laufen bei der Helm-Installation zusammen: Installationswege.
Checkliste vor dem Start
- Hardware entschieden und gegen eine Referenzkonfiguration geprüft
- Standort und Betriebsmodell vertraglich geklärt
- Netzzugang zur basebox-Image-Registry (
gitea.basebox.health) oder ein Plan für den Offline-Image-Transfer – siehe Air-Gapped-Umgebungen - Domain, DNS und TLS-Weg entschieden (cert-manager, eigenes Zertifikat oder lokales Vertrauen) – siehe Netzwerk
- Sprachmodell gewählt und gegen die GPU-Ausstattung dimensioniert – siehe Modelle & Inferenz
- Identitätsanbindung geplant (lokale Benutzer, LDAP/Active Directory, OIDC) – siehe Keycloak-LDAP-Anbindung
- Verantwortliche Person für den laufenden Betrieb benannt – siehe Betrieb
Nach der Installation
Sobald die Installation geprüft ist, geht es weiter wie in der Cloud: Der erste Administrator meldet sich an, richtet die Organisation ein und lädt Benutzer ein. Die Schritte stehen unter Administration – Erste Schritte. Die Zugangsdaten des ersten Administrators liest der Platform Operator nach der Installation aus dem Kubernetes-Secret basebox-admin-secret aus.
Häufige Fragen
Kann die Inferenz auf einem anderen Server laufen als basebox? Ja. Die basebox-Plattform kann auf einem reinen CPU-Server laufen und ein separates GPU-System für die Inferenz ansprechen. Siehe Deployment-Topologien.
Muss der Server Internetzugang haben? Für die Installation braucht er Zugang zu Registry und Paketquellen oder gespiegelte Artefakte. Im Betrieb ist ein vollständig abgeschotteter Betrieb möglich; dann stehen Websuche und Online-Modelldownloads nicht zur Verfügung.
Wer legt den ersten Administrator an? Die Installation erzeugt ihn automatisch (Bootstrap-Job). Der Platform Operator liest E-Mail und Passwort aus dem Secret aus und übergibt sie an den Administrator.
Nächster Schritt: Entwickler → Installation & Betrieb → Server planen