Licensed to be used in conjunction with basebox, only.
// admin
Standardmodelle
Kurzbeschreibung
Welches Modell eine neue Unterhaltung oder eine App verwendet, wenn niemand etwas anderes wählt – und mit welchem Reasoning-Aufwand. Standardwerte gelten je Organisation und lassen sich je App übersteuern. Wer die Standards gut setzt, muss danach selten eingreifen.
Wofür nutze ich das
Die meisten Chats und Apps laufen mit den Standardwerten. Sie entscheiden damit über Antwortqualität, Geschwindigkeit und Tokenverbrauch der gesamten Organisation – mit zwei Einstellungen.
Die Standardwerte im Überblick
| Standard | Gilt für | Wo gesetzt | Übersteuerbar |
|---|---|---|---|
| Standardmodell | Alle Chats; alle Apps mit „Standard verwenden" | Modellauswahl | Je App unter Erweiterte Felder → Modell |
| Reasoning-Aufwand | Alle Chats mit Reasoning-Modell (Voreinstellung Mittel) | Administrator, für die gesamte Installation | Je App über Denkaufwand (Niedrig · Mittel · Hoch · Sehr Hoch · Maximum); je Chat durch Nutzer (Niedrig · Mittel · Hoch · aus) |
| Temperatur | Alle Antworten | Serverstandard durch den Platform Operator (AISRV_LLM_TEMPERATURE) |
Je App im App-Editor |
Wo finde ich die Einstellung
- Standardmodell: im Administrationsbereich Ihrer Organisation – siehe Modellauswahl.
- Modell und Denkaufwand je App: „Alle Apps" → App Bearbeiten → Reiter Erweiterte Felder.
Schritt für Schritt
Standardmodell festlegen:
- Öffnen Sie den Administrationsbereich.
- Wählen Sie das Modell, das für die Organisation den passenden Kompromiss aus Qualität, Geschwindigkeit und Kosten darstellt.
- Speichern Sie. Neue Unterhaltungen nutzen ab jetzt dieses Modell.
Eine App vom Standard abweichen lassen:
- App Bearbeiten → Erweiterte Felder.
- Modell: statt „Standard verwenden" das gewünschte Modell wählen.
- Denkaufwand: passend zur Aufgabe setzen – Niedrig für Umformulieren und Übersetzen, Hoch oder darüber für Analysen.
- Speichern.
Zurück zum Standard: Feld Modell wieder auf „Standard verwenden" stellen. Die App folgt dann jeder künftigen Änderung des Standardmodells automatisch.
Was bei einer Änderung passiert
- Neue Unterhaltungen nutzen sofort das neue Standardmodell.
- Apps mit festem Modell sind nicht betroffen.
- Kontextgröße und Antwortstil können sich ändern – informieren Sie Ihre Nutzer, wenn Sie das Standardmodell wechseln.
- Die Seite „Über" zeigt jederzeit das aktive Modell und seine Kontextgröße.
Hinweise
Empfehlung für die Standards
- Standardmodell: das Modell, das für die häufigste Nutzung gut genug und dabei sparsam ist. Spezialfälle bekommen eine eigene App.
- Reasoning-Standard: Mittel. Nutzer können je Chat hoch- oder runterschalten; Apps für Analysen bekommen einen höheren Denkaufwand.
- Temperatur je App: niedrig für Wissensbasis-Apps und Fachauskünfte.
Hinweis
- Mehr Reasoning = mehr Tokens. Ein hoher Standard wirkt sich auf den Verbrauch der ganzen Organisation aus; prüfen Sie das Dashboard.
- Nicht jedes Modell unterstützt Reasoning. Bei Modellen ohne Reasoning greift der Reasoning-Standard nicht.
- API-Anfragen wählen Modell und Parameter selbst je Anfrage; Standards der Oberfläche gelten dort nicht.
- Auf basebox Server muss jedes wählbare Modell angebunden sein – siehe Modelle aktivieren.
Häufige Fragen
Was passiert, wenn das Standardmodell nicht mehr verfügbar ist? Chats können nicht antworten, bis ein verfügbares Modell als Standard gesetzt ist. basebox wechselt nicht stillschweigend auf ein anderes Modell.
Kann ich für Chat und Apps verschiedene Standards setzen? Es gibt ein Standardmodell für die Organisation. Apps übersteuern es einzeln über Erweiterte Felder → Modell.
Können Nutzer den Standard umgehen? Nur beim Reasoning-Aufwand im Chat und in ihren eigenen Apps über das Feld Modell – sofern mehrere Modelle freigegeben sind. Eine Beschränkung eines Modells auf eine Gruppe umgehen sie damit nicht.
Wie finde ich heraus, welche Apps vom Standard abweichen? Öffnen Sie die App im App-Editor und prüfen Sie Erweiterte Felder → Modell. Eine Sammelansicht gibt es derzeit nicht.
Benötigen Sie Hilfe? Support kontaktieren