Licensed to be used in conjunction with basebox, only.
// sicherheit
Modellanbieter
Gilt für
Produkt: Cloud · Server · Zielgruppe: Sicherheits- / Compliance-Prüfer
Welche Modell-Infrastruktur je Deployment-Modell genutzt wird. In Cloud und Server läuft das Sprachmodell auf denselben Servern wie die basebox-Plattform. Anbieter zusätzlicher Rechenleistung kommen in der Cloud nur als Unterauftragsverarbeiter hinzu, die in Ihrer Liste stehen (Auftragsverarbeitung & Unterauftragsverarbeiter). Ein externes Modell gibt es nur als eigene App: die optionale App mit externem Modell. Im Übergangsbetrieb der Cloud bis November 2026 kommen die KI-Modelle von Google Vertex AI in Frankfurt.
Je Deployment-Modell
| Wo läuft das Sprachmodell | Wer kontrolliert die Hardware | Gehen Prompts an Dritte? | |
|---|---|---|---|
| basebox Cloud | Auf den basebox-Servern, zusammen mit der Plattform, im Rechenzentrum der noris network AG in München | FAST LTA (Eigentum, Wartung), betrieben von basebox | Nein – außer an Anbieter zusätzlicher Rechenleistung (z. B. STACKIT, Mistral AI in der EU), wenn sie in Ihrer Liste der Unterauftragsverarbeiter stehen, und in der App mit externem Modell |
| basebox Cloud (Übergangsbetrieb bis November 2026) | Google Vertex AI in Frankfurt, bis zum Umzug; die Plattform läuft bei Hetzner in Nürnberg | Google (Modelle), Hetzner (Plattform) | Ja – an Google als Unterauftragsverarbeiter |
| basebox Server | Auf dem Server oder einem GPU-Host des Kunden im selben Netz; gebündelt (vLLM im Chart) oder externer OpenAI-kompatibler Endpunkt des Kunden | Kunde | Nein – außer in der App mit externem Modell oder wenn der Kunde selbst einen externen Dienst anbindet |
Übergangsbetrieb bis November 2026
Im Übergangsbetrieb gehen Prompts an Google Vertex AI in Frankfurt. basebox ist auch hier Auftragsverarbeiter; Hetzner und Google sind Unterauftragsverarbeiter (basebox.ai/vertrag). Gesundheitsdaten und andere besondere Kategorien nach Art. 9 DSGVO verarbeiten Sie am besten erst nach dem Umzug (Übergangsbetrieb).
Welche Modelle
basebox entwickelt kein eigenes KI-Modell, sondern betreibt Open-Source-Modelle selbst: in der Cloud auf den Servern der Cloud, beim Server auf Ihrer Hardware. basebox spielt die Modelle auf, die zur vorhandenen Hardware passen, und dokumentiert Quelle, Lizenz und Version im Modellregister. An den Modellen wird nur quantisiert (Laufzeit- und Speicheroptimierung); kein Feintuning, kein Retraining, keine Änderung an Gewichten oder Architektur (Compliance-Dokument). Vor Auslieferung prüft basebox Modelle auf dokumentierte Sicherheitslücken und stellt keine Modelle bereit, die gegen Art. 5 EU AI Act verstoßen.
Im Übergangsbetrieb der Cloud bis November 2026 kommen die Modelle bis zum Umzug von Google Vertex in Frankfurt – proprietäre Modelle eines Dritten.
Welche Modelle auf welcher Hardware sinnvoll sind: LLM-Empfehlungen · Getestete Modelle.
Ein externes Modell gibt es nur als eigene App
Neben dem KI-Modell in basebox gibt es optional die App mit externem Modell. Ab Werk gibt es sie nicht: Ob Sie eine wollen, entscheiden Sie. Ihr Administrator richtet sie als eigene App ein und gibt sie nur für ausgewählte Gruppen frei; basebox schaltet nichts ein. Wer die App nicht sieht, nutzt sie nicht.
| KI-Modell in basebox | App mit externem Modell | |
|---|---|---|
| Ort | Auf den Servern der Cloud in Deutschland oder auf Ihrem Server | Google Vertex in der EU, mit Modellen von Anthropic, auf Wunsch von Google; auf Wunsch auch bei OpenAI |
| Training, Speicherung beim Anbieter | Kein Training | Kein Training; Protokollierung zur Missbrauchserkennung: Google längstens 30 Tage, OpenAI bis zu 30 Tage (länger nur, wenn gesetzlich vorgeschrieben oder zum Schutz vor Schäden nötig) |
| Unterauftragsverarbeiter | Keiner außerhalb der EU | Google, auf Wunsch OpenAI; in der Liste der Unterauftragsverarbeiter genannt |
| US Cloud Act | Gilt nicht | Gilt, weil Google und OpenAI US-Unternehmen sind |
| Verfügbar | Cloud und Server | In der Cloud; beim Server, wenn Ihre Firewall die Verbindung freigibt |
| Kosten | In der Lizenz | Über das Token-Kontingent, 9 € pro Million Tokens |
Ob Sie die App nutzen und für welche Daten, entscheiden Sie mit Ihrem Datenschutzbeauftragten. Modelle von OpenAI oder Google stellt basebox auf Ihren Wunsch über eigene Zugänge bereit, ebenfalls über Tokens. Bindet Ihr Haus einen Anbieter mit eigenem Vertrag an, ist dieser kein Unterauftragsverarbeiter von basebox.
Externe Modelle auf einem Server
Ein Server kann statt der gebündelten Inferenz einen externen OpenAI-kompatiblen Endpunkt nutzen (Inferenz anbinden). Dokumentiert und erprobt ist das für einen kundeneigenen GPU-Host im selben Netz. Technisch lässt sich so auch ein externer KI-Dienst anbinden – das Compliance-Dokument nennt die „optionale Anbindung externer Closed-Source-Modelle (vom Kunden separat erworben)". Dann gilt:
- Prompts, Verlauf, abgerufener Kontext und Dokumentinhalte gehen an diesen Dienst – außerhalb Ihrer Datenverarbeitungsgrenze.
- Der Vertrag mit dem Dienst (AVV, Drittlandübermittlung, Trainingsausschluss, Aufbewahrung) ist Ihre Sache; basebox ist daran nicht beteiligt. Anbieter, die Sie selbst beauftragen und anbinden, sind keine Unterauftragsverarbeiter von basebox.
- Die Zusagen dieser Dokumentation zu Datenflüssen und Speicherung gelten für diesen Pfad nicht.
- Kein stiller Rückfall: Ist der Endpunkt offline, zeigt basebox den Fehler; es wechselt nicht unbemerkt auf ein anderes Modell.
Empfehlung für regulierte Umgebungen: lokale Inferenz. Wer einen externen Dienst anbindet, dokumentiert ihn als eigene Verarbeitungstätigkeit.
Was das Modell sieht
Bei jeder Anfrage: System-Prompt der Organisation, Personalisierung des Nutzers, Verlauf der Unterhaltung, aktuelle Eingabe, abgerufene Textabschnitte aus Wissensbasen und Dokumenten, Werkzeugergebnisse von Konnektoren und Websuche.
- Cloud: Die Anfrage bleibt auf den Servern der Cloud, sofern kein Anbieter zusätzlicher Rechenleistung für Sie tätig ist. Das KI-Modell wird gemeinsam genutzt; jede Anfrage wird ohne dauerhafte Speicherung verarbeitet und bleibt logisch getrennt; es gibt kein Lernen aus Anfragen.
- Server: vLLM hält Anfragen nur für die Dauer der Verarbeitung im GPU-Speicher; es gibt kein Lernen aus Anfragen (Inferenz-Architektur).
- Cloud im Übergangsbetrieb: Die Anfrage geht an Google Vertex AI in Frankfurt. Google trainiert nicht mit den Eingaben und protokolliert sie zur Missbrauchserkennung längstens 30 Tage; es gelten die Nutzungsbedingungen von Google für Vertex. Als US-Unternehmen unterliegt Google dem US Cloud Act.
Was basebox nicht tut
- Kein Training oder Feintuning mit Kundeninhalten – auf keiner Umgebung.
- Keine Weiterleitung von Prompts an Dritte in Cloud und Server, außer an Anbieter in Ihrer Liste der Unterauftragsverarbeiter und in der App mit externem Modell, die Ihr Administrator freigibt. Im Übergangsbetrieb der Cloud gehen Prompts bis zum Umzug an Google Vertex AI. Überall kommen die vom Administrator gesteuerten Ausnahmen Websuche und Konnektoren hinzu.
- Keine Inhaltsfilter als Sicherheitsgarantie – Verhaltensregeln setzt der System-Prompt, Durchsetzung leisten Freigaben (Richtlinien).
Für die Prüfung
- Cloud: KI-Modell und Plattform auf den Servern der Cloud bei der noris network AG in München-Ost; weitere Anbieter nur über die Liste der Unterauftragsverarbeiter. Die App mit externem Modell als eigene Verarbeitung bewerten. Unterauftragsverarbeiter aus der Liste übernehmen (Auftragsverarbeitung & Unterauftragsverarbeiter).
- Server: Inferenz-Host in die Datenverarbeitungsgrenze aufnehmen; bei externem Dienst eigene Bewertung.
- Modellliste mit Version und Lizenz aus dem Modellregister übernehmen; bei eigenen Modellen selbst dokumentieren.
- Übergangsbetrieb: Hetzner und Google bis zum Umzug als Unterauftragsverarbeiter aufnehmen; Art.-9-Daten erst nach dem Umzug (Übergangsbetrieb).
Nächster Schritt: Websuche