Enterprise AI Hub

Der Bereich Enterprise AI Hub richtet sich an Instanz-Admins und umfasst die systemweite Verwaltung, die über einzelne Mandanten hinausgeht. Hier werden KI-Modelle gepflegt (Modellwartung) und Mandanten auf Plattform-Ebene angelegt und verwaltet.

Dieser Bereich ist nur in Enterprise-Installationen sichtbar. In der gehosteten SaaS-Variante übernimmt diese Aufgaben der Betreiber; für Mandanten-Admins ist er nicht sichtbar.

KI-Modelle

Im Bereich KI-Modelle werden die verfügbaren KI-Modelle für die gesamte Plattform konfiguriert. Modelle werden in drei Kategorien unterteilt:

• Chat-Modelle: Für die Konversation und Antwortgenerierung in Agents.
• Embedding-Modelle: Für die Umwandlung von Texten in Vektoren (verwendet bei der Wissensverarbeitung).
• Speech-to-Text-Modelle: Für die Transkription von Spracheingaben.

Modell erstellen

Beim Erstellen eines Modells werden folgende Felder konfiguriert:

Basisinformationen

• Modelltyp: Chat, Embedding oder Speech-to-Text.
• Anzeigename: Der Name, der in der Benutzeroberfläche angezeigt wird (z. B. „GPT-4o", „text-embedding-3-large").
• Ist Aktiv: Inaktive Modelle stehen nicht für neue Aufgaben oder Zuweisungen zur Verfügung.

Typspezifische Felder

Embedding-Modelle:

• Modellabmessungen: Die Größe der erzeugten Vektoren (z. B. 1536). Werte über 2.000 können die Datenbankperformance beeinträchtigen.
• Dynamische Abmessungen: Ob das Modell verschiedene Vektordimensionen unterstützt.

Speech-to-Text-Modelle:

• Antwortformat: json (Standard), text oder verbose_json (segmentbasierte Filterung, nur Whisper).

Modellkonfiguration

• Modellname: Eindeutiger, kleingeschriebener Bezeichner für interne und API-Referenzen.
• Schema: Das Kommunikationsmuster mit der API — Azure oder OpenAI.
• Instanz: Der Instanzname oder die Endpoint-URL des Modells.
• API-Version: Die API-Version, die für Anfragen verwendet wird.
• API-Schlüssel: Der Authentifizierungsschlüssel. Wird sicher gespeichert und nach dem Speichern nicht mehr angezeigt.

tipp

Im Bearbeitungsmodus kann die Verbindung über die Schaltfläche Verbindung testen überprüft werden.

Eigene Modelle (BYOM)

Die Integration kundeneigener oder lokal betriebener Modelle (Bring Your Own Model) ist in Planung. Lokale Modelle sollen künftig in der UI als eigene Kategorie neben Cloud-Modellen erscheinen und pro Mandant isoliert verwaltet werden können.

Standard-Modelle

Für jede Komplexitätsstufe muss genau ein Standard-Modell zugewiesen werden:

Komplexitätsstufe	Verwendung
Einfach	Für einfache, unkomplizierte Aufgaben
Komplex	Für anspruchsvolle, komplexe Aufgaben

Nur aktive Modelle können als Standard zugewiesen werden. Beim Deaktivieren oder Löschen eines Standard-Modells muss zuerst eine Alternative gewählt werden.

Mandanten

Im Bereich Mandanten können auf Plattform-Ebene neue Mandanten (Organisationen) erstellt und verwaltet werden.

• Name: Der Name des Mandanten.

Die detaillierte Konfiguration eines Mandanten (Branding, Nutzungsbedingungen, Workspaces, Benutzer) erfolgt über die Mandanten-Verwaltung.