Licensed to be used in conjunction with basebox, only.
// start
Mit basebox Server starten
Gilt für
Produkt: Server · Zielgruppe: Platform Operator · Administrator · Einkauf
basebox Server ist ein Server nur für eine Organisation. Die Hardware kann über FAST LTA bezogen oder selbst beschafft werden (Plattform allein); der Server steht in Ihrem Rechenzentrum oder im basebox-Rechenzentrum und wird von Ihnen oder – bei Beauftragung – von basebox betrieben.
Bevor Sie installieren, treffen Sie vier Entscheidungen. Keine davon ändert das Produkt; zusammen bestimmen sie, welche Seiten dieser Dokumentation für Sie gelten.
Entscheidung 1: Hardware
| Option | Was das bedeutet | Weiterlesen |
|---|---|---|
| Über FAST LTA beziehen | Server Klasse 1–3 für etwa 200 bis 2.000 Personen, die basebox als Referenzkonfiguration führt (Klasse 1: 3 × RTX PRO 6000, Klasse 2: 2 × H200, Klasse 3: 2 × H200 + RTX PRO 6000; jeweils 128 GB oder 512 GB Arbeitsspeicher). Lieferung drei Wochen ab Bestelleingang, Einbau an einem Tag; Servicevertrag für die Hardware mit FAST LTA | Hardware-Optionen |
| Selbst beschaffen (Plattform allein) | Vorhandene oder selbst beschaffte Hardware, auch ein bestehender Cluster. basebox prüft vorher kostenlos, ob die Leistung reicht; lizenziert wird nach Grafikprozessoren. Entspricht die Hardware einer Referenzkonfiguration, gilt deren Status; sonst ist sie Custom | Referenzkonfigurationen |
Merken Sie sich dabei: Die GPUs dienen den Service-Modellen und der Inferenz, nicht der basebox-Plattform selbst. Wie viel GPU Sie brauchen, hängt vom gewählten Sprachmodell, Kontext und Parallelität ab – siehe Architektur verstehen.
Entscheidung 2: Standort
- Ihr Rechenzentrum – Sie kontrollieren physischen Zugang, Netzwerk und Umgebung. Der Server kann vollständig abgeschottet betrieben werden.
- basebox-Rechenzentrum (Hosting) – der Server steht im Rechenzentrum in Deutschland, standardmäßig bei noris network in München; physischer Zugang und Netzanbindung liegen bei basebox, der Server gehört weiterhin nur Ihrer Organisation.
Ein bei basebox gehosteter Server ist weiterhin Server, nicht Cloud. Details: Hosting-Optionen.
Entscheidung 3: Betrieb
- Selbst verwaltet – nach Übergabe der Software sind Sie für Betriebssystem, Treiber, Kubernetes, basebox, Service-Modelle, Inferenz und Netzwerk verantwortlich. basebox liefert Software, Updates, Dokumentation und Support.
- Betrieb durch basebox – bei separater Beauftragung installiert und/oder betreibt basebox das System über PAM/VPN oder einen anderen vereinbarten Zugangsweg.
Softwarekauf ist kein Betriebsauftrag
Eine basebox-Server-Lizenz ist eine Softwarelizenz. Den Server kaufen Sie einmal, er gehört Ihnen und ist nicht Teil der Lizenz. Die Software gibt es als Jahreslizenz (jedes Jahr, solange Sie basebox nutzen) oder als Kauflizenz (einmal bezahlt, unbefristet; Updates und Support ab dem zweiten Jahr freiwillig). Der Betrieb der Infrastruktur durch basebox ist eine separate Beauftragung. Was dazugehört, steht unter Betriebsmodelle und Verantwortlichkeiten.
Entscheidung 4: Installationsweg
- Ab Bare Metal – Sie starten mit einem leeren Server: Betriebssystem, NVIDIA-Treiber, Kubernetes, dann basebox. Der durchgängige Pfad ist die Bare-Metal-Installation.
- Bestehendes Kubernetes – Sie haben bereits einen Cluster mit GPU-Knoten, Ingress und Speicher. Dann steigen Sie direkt bei Helm Charts verwenden ein.
Beide Wege laufen bei der Helm-Installation zusammen: Installationswege.
Checkliste vor dem Start
- Hardware entschieden und gegen eine Referenzkonfiguration geprüft
- Standort und Betriebsmodell vertraglich geklärt
- Netzzugang zur basebox-Image-Registry (
gitea.basebox.health) oder ein Plan für den Offline-Image-Transfer – siehe Air-Gapped-Umgebungen - Domain, DNS und TLS-Weg entschieden (cert-manager, eigenes Zertifikat oder lokales Vertrauen) – siehe Netzwerk
- Sprachmodell gewählt und gegen die GPU-Ausstattung dimensioniert – siehe Modelle & Inferenz
- Identitätsanbindung geplant (lokale Benutzer, LDAP/Active Directory, OIDC, SAML) – siehe Keycloak-LDAP-Anbindung
- Verantwortliche Person für den laufenden Betrieb benannt – siehe Betrieb
Nach der Installation
Sobald die Installation geprüft ist, geht es weiter wie in der Cloud: Der erste Administrator meldet sich an, richtet die Organisation ein und lädt Benutzer ein. Die Schritte stehen unter Administrieren – Erste Schritte. Die Zugangsdaten des ersten Administrators liest der Platform Operator nach der Installation aus dem Kubernetes-Secret basebox-admin-secret aus.
Häufige Fragen
Kann die Inferenz auf einem anderen Server laufen als basebox? Ja. Die basebox-Plattform kann auf einem reinen CPU-Server laufen und ein separates GPU-System für die Inferenz ansprechen. Kommen die KI-Modelle von einem anderen Ort als basebox, heißt dieser Betriebsweg Hybrid. Siehe Deployment-Topologien.
Muss der Server Internetzugang haben? Für die Installation braucht er Zugang zu Registry und Paketquellen oder gespiegelte Artefakte. Im Betrieb ist ein vollständig abgeschotteter Betrieb möglich; dann stehen Websuche und Online-Modelldownloads nicht zur Verfügung.
Wer legt den ersten Administrator an? Die Installation erzeugt ihn automatisch (Bootstrap-Job). Der Platform Operator liest E-Mail und Passwort aus dem Secret aus und übergibt sie an den Administrator.
Nächster Schritt: Betreiben → Server planen