Modelle und Provider
Modelle und Provider werden auf zwei Ebenen verwaltet, die sauber getrennt sind:
- Plattformweit unter
Provider × Modellein der Sidebar (Pfad/settings/providers). Hier legt ein Verwalter die Provider an — also die Modellanbieter wie OpenAI, Anthropic, Google oder ein lokales Modell — synchronisiert deren Modelle und schaltet einzelne Modelle für die Inferenz (die Ausführung des Features) frei. Dieser Bereich ist nur für die Rollen platform_engineer und admin (Anlegen/Bearbeiten) sichtbar; compliance_officer hat Leserechte. - Pro Feature im Tab
Models(Modelle) des Feature-Details. Hier wählt der Bearbeiter aus den freigeschalteten Modellen das Default-Modell dieses einen Features.
Erst wenn ein Modell plattformweit freigeschaltet ist, steht es im Feature zur Auswahl. Welches Modell ein Feature tatsächlich nutzt, ist Teil des Agent Contracts.
A) Plattformweit: Provider × Modelle
Abschnitt betitelt „A) Plattformweit: Provider × Modelle“Der Sidebar-Eintrag Provider × Modelle öffnet den Settings-Bereich mit einer horizontalen Tab-Leiste (Settings-Bereiche). Drei Tabs sind hier relevant:
| Tab | Inhalt | Sichtbar für |
|---|---|---|
Provider-Konfigurationen | Liste aller Provider (Landeansicht) | platform_engineer, admin, compliance_officer (Lesen) |
Provider-Modell-Matrix | Übersicht Master-Token × Modelle | platform_engineer, admin |
Master-Tokens | Zugangsschlüssel der Provider | platform_engineer, admin, compliance_officer (Lesen) |
Provider anlegen, bearbeiten, archivieren
Abschnitt betitelt „Provider anlegen, bearbeiten, archivieren“Die Landeansicht ist die Liste Provider-Konfigurationen mit den Spalten Name, Type, Master-Token, Status, Modelle und Letzte Sync. Über Name suchen… und die Typ-Filter lässt sich die Liste eingrenzen; Archivierte einbeziehen zeigt zusätzlich stillgelegte Provider.
- Klicke auf
Provider anlegen. Der Dialog erfasstProvider-Type,Anzeige-Name,Master-Token,Base-URLsowie die Modell-Verfügbarkeits-Politik (Model Availability). - Wähle bei
Master-Tokeneinen zentral hinterlegten Zugangsschlüssel. Self-Hosted-Provider (vllm, lmstudio, ollama) brauchen keinen Token; in der Liste steht dort— (Self-Hosted). Siehe Master-Tokens verwalten. - Lege unter
Model Availabilityfest, wie neue Modelle behandelt werden:Manual(neu entdeckte Modelle sind erstpendingund müssen einzeln aktiviert werden) oderAuto(neu entdeckte Modelle sind sofort verfügbar).
Über die Zeilenaktionen lässt sich ein Provider per Edit bearbeiten oder per Soft-Delete archivieren. Der Provider-Type ist nach dem Anlegen unveränderlich; ein Wechsel des Master-Tokens bleibt möglich. Archivierte Provider lassen sich weder bearbeiten noch synchronisieren.
Modelle synchronisieren
Abschnitt betitelt „Modelle synchronisieren“Mit Models synchronisieren (in der Zeile oder auf der Provider-Detailseite) liest die Plattform die aktuell verfügbaren Modelle direkt beim Anbieter aus und aktualisiert den Cache. Während des Vorgangs zeigt der Knopf Synchronisiere…. Bei Self-Hosted-Providern weist ein Hinweis darauf hin, dass der Cache bei jedem Sync vollständig überschrieben wird. Die Spalte Letzte Sync zeigt den Zeitpunkt; ohne Sync steht dort nie synchronisiert.
Modelle freischalten und filtern
Abschnitt betitelt „Modelle freischalten und filtern“Ein Klick auf den Provider-Namen (oder Modelle (…)) öffnet die Detailseite mit der Modell-Liste. Jede Zeile trägt einen Schalter, mit dem ein Modell für die Inferenz freigeschaltet oder gesperrt wird. Bei der Politik Manual sind neu entdeckte Modelle zunächst pending und werden hier einzeln aktiviert. Mehrere Modelle lassen sich auswählen und über die Leiste mit Activate selected (…) bzw. Deactivate selected (…) gemeinsam umschalten; offene Änderungen speichert ein Ablage-Streifen am unteren Rand.
Über der Liste filtert eine Leiste die Modelle. Die Verfügbarkeits-Schalter Alle / Nur verfügbar / Nur pending trennen freigeschaltete von ausstehenden Modellen. Dazu kommen Filter nach Author, Context-Min (Kontextfenster), Price (out) (Ausgabe-Preis pro Million Tokens), Input modality und Arena (Mindest-LM-Arena-Rating, ein öffentliches Modell-Ranking). Filter zurücksetzen stellt den Ausgangszustand wieder her. Die Spalten der Tabelle — unter anderem Modell, Context, Modalitäten, Preis $/1M (In/Out) und Arena Score — lassen sich per Klick auf die Spaltenüberschrift sortieren.
Provider-Modell-Matrix
Abschnitt betitelt „Provider-Modell-Matrix“Der Tab Provider-Modell-Matrix (nur platform_engineer und admin) zeigt eine Tabelle Master-Token × Modelle: pro Zeile ein Provider mit seinem Master-Token, pro Spalte ein Modell, in den Zellen ein Häkchen für die aktiven Kombinationen. Ein Klick auf eine Provider-Zeile führt zur Detailseite. Die Matrix ist eine Übersicht über alle Provider hinweg; einzelne Modelle werden weiterhin auf der Detailseite freigeschaltet.
B) Pro Feature: Tab Models
Abschnitt betitelt „B) Pro Feature: Tab Models“Im Feature-Detail wählt der Tab Models (Modelle) das Default-Modell des Features. Unter Default-Modell stehen zwei Felder, Provider und Modell. Wähle zuerst den Provider, dann ein freigeschaltetes Modell und bestätige mit Speichern. Das so gesetzte Modell nutzen das SDK und der Batch-Test als Inferenz-Ziel.
Ist das gesetzte Default-Modell zwischenzeitlich archiviert oder gesperrt worden, blendet der Tab ein Warn-Banner ein (Aktuelles Default-Modell … ist nicht mehr für Inferenz verfügbar.) mit dem Knopf Anderes Modell auswählen. Der Abschnitt Aktive Provider-Konfiguration darunter zeigt zusätzlich den Status des zugehörigen Tokens.
Primär- und Fallback-Provider
Abschnitt betitelt „Primär- und Fallback-Provider“Der Agent Contract sieht eine Provider-Konfiguration aus einem primären Provider und einem Fallback vor: Der primäre Provider führt das Feature im Regelfall aus; der Fallback springt ein, wenn der primäre nicht erreichbar ist. Diese Trennung gehört zur Contract-Definition. Im Tab Models wird das Default-Modell gesetzt; die Eigenschaften und das Zusammenspiel von Primär- und Fallback-Provider sind unter Agent Contract beschrieben.
Wer darf was
Abschnitt betitelt „Wer darf was“| Aktion | Rollen |
|---|---|
| Provider anlegen, bearbeiten, archivieren | platform_engineer, admin |
| Modelle synchronisieren und freischalten | platform_engineer, admin |
| Provider × Modelle ansehen | platform_engineer, admin, compliance_officer (Lesen) |
| Provider-Modell-Matrix ansehen | platform_engineer, admin |
| Default-Modell eines Features setzen | developer, domain_expert, platform_engineer, admin |
Die Oberfläche blendet aus, was eine Rolle ohnehin nicht darf; durchgesetzt werden die Rechte im Backend. Mehr dazu unter Rollen und Rechte.