Release 24.09
· 6 Minuten Lesezeit
Neue Funktionen
Chat
- Agent mitten in der Konversation wechseln: Sie können jederzeit einen anderen Agent auswählen, ohne die Konversation zu verlassen — der bisherige Verlauf bleibt erhalten und dient dem neuen Agent als Kontext. Enthält die Konversation bereits Nachrichten, nennt ein Dialog vorab den neuen Agent und die Datenschutz-Einstellungen, die sich durch den Wechsel ändern. Im Verlauf markiert eine Trennlinie, ab welcher Nachricht ein anderer Agent geantwortet hat.
- Chat-Verlauf über den gesamten Workspace: Der Verlauf umfasst jetzt alle Ihre Konversationen eines Workspaces, unabhängig davon, mit welchem Agent sie geführt wurden.
- Fortschrittsmeldungen mit Inhalt: Während einer Antwort stand bisher eine feste Meldung wie „Searching the web". Der Agent formuliert nun selbst einen kurzen Satz dazu, wonach er gerade sucht — in der Sprache des Nutzers.
Flow & Agent
- Daten zwischen Nodes verknüpfen: Nodes, die auf Ergebnissen vorgelagerter Nodes aufbauen, beziehen diese über den neuen Reiter Inputs. Beim Verbinden zweier Nodes werden passende Eingänge automatisch vorbelegt, in der Generate Node erscheinen die Datenquellen als Platzhalter direkt im Prompt-Text.
- Reasoning-Effort für alle Modelle: Ein Chat-Modell hinterlegt jetzt, wie sein Endpunkt das Nachdenken entgegennimmt und welche Stufen er kennt. Die Einstellung erreicht damit auch selbst gehostete Modelle, bei denen sie bisher stillschweigend verworfen wurde; Flow-Nodes bieten nur noch die tatsächlich unterstützten Stufen an.
- Zusätzliche Request-Parameter pro Modell: Ein freies JSON-Feld sendet beliebige Parameter unverändert mit jeder Anfrage mit — für Anbieter-Optionen, für die es kein eigenes Feld gibt. Wie Temperatur und Timeout ist es pro Flow-Node überschreibbar.
- Reflexions-Tool abschaltbar: Das Reflexions-Tool lässt einen Agent zwischen zwei Toolaufrufen innehalten und kostet dabei eine zusätzliche Modellanfrage. Bei Modellen, die von sich aus reasonen, lohnt sich das selten. Es steht jetzt als erste Zeile in der Liste der integrierten Tools und lässt sich pro Chat-Modell und pro Tool Node schalten — ohne eigene Einstellung bleibt es wie bisher aktiv.
- Neues Design der Flow-Nodes: Jede Node zeigt jetzt Typ, Name, eine kurze Beschreibung aus ihrem Inhalt, die wichtigsten Einstellungen als Tags und ihr Modell. Fehler markiert ein rot gestrichelter Rahmen, Warnungen ein gelbes Badge — ein Klick auf die Zahl öffnet die Liste der Probleme. Bestehende Flows werden automatisch so weit gestreckt, dass sich mit den neuen Kartengrößen keine Nodes überlappen.
Automatisierungen
- Zeitplan: Editor:innen legen Wochentage und eine Uhrzeit fest, zu der eine Automation automatisch mit dem hinterlegten Prompt läuft.
Verwaltung
- Pläne pro Mandant: Ein Plan legt fest, welche optionalen Funktionen ein Mandant nutzen darf. Gesperrte Bereiche sind für ihn gar nicht erst sichtbar.
- Verwendungen einer Quelle sehen: Die Quellen-Übersicht zeigt, in welchen Agent-Versionen eine Quelle tatsächlich im Flow verwendet wird. Damit lassen sich Quellen ohne Verwendung erkennen.
- Rechtliche Hinweise als Rich-Text: Die Hinweistexte unter Compliance > Rechtliches sind jetzt Rich-Text-Felder. Damit lässt sich die Datenschutzerklärung direkt im Disclaimer verlinken. Möglich sind bewusst nur fett, kursiv und Links.
Webcomponent & API
- Neues Design der Webcomponent: Schrift, Farben und Typografie sowie ein neuer Aufbau von Startbildschirm, Chat, Eingabefeld und Sidebar.
Verbesserungen
Geschwindigkeit
- Schnellerer Antwortstart: Die Sprache der Benutzeranfrage wird in den allermeisten Fällen direkt erkannt statt über einen eigenen Modellaufruf — das spart 0,3 bis 0,9 Sekunden vor dem ersten Token.
- Weniger Wartezeit vor der Antwort: Der Name des schreibenden Benutzers wird aus dem Cache bedient, statt pro Chat-Node einzeln beim Identity Provider abgefragt zu werden.
- Besseres Prompt-Caching: Datum, Benutzername und Schrittzahl stehen jetzt hinter der letzten Nachricht statt am Anfang des Prompts. Der statische Teil davor kann dadurch vom Anbieter gecacht werden und die Antwort startet schneller.
- Schnellere Volltextsuche: Die Suche liest nur noch die Partition der angefragten Liste statt aller Partitionen — spürbar vor allem bei aktiviertem Multi-Query.
- Kategorien-Übersicht im Quality Center lädt die Evaluierungsfragen nicht mehr bei jedem Seitenaufruf mit, sondern erst beim Kopieren einer Kategorie.
- Prompt-Cache messbar: Die Detailansicht einer Flow-Action zeigt pro Modellaufruf, wie viele Prompt-Token aus dem Cache des Anbieters kamen, und zusätzlich die reine Antwortzeit des Modells.
Wissen & RAG
- Parent-Child-Chunking ist Standard: Beim Anlegen einer Wissenssammlung oder verknüpften Quelle ist es jetzt voreingestellt, passend zum Verhalten der API. Der Fallback ohne Parent-Child-Chunking steigt von 1.000 auf 1.500 Zeichen bei 200 Überlappung. Bestehende Sammlungen und Quellen sind nicht betroffen.
- GitHub als Wissensquelle entfernt: Repository-Inhalte lassen sich nicht mehr synchronisieren. Bestehende GitHub-Quellen werden automatisch bereinigt, eine manuelle Nacharbeit ist nicht nötig.
Bedienung
- Aktionsmenü verdeckt den Startbildschirm nicht mehr: Auf dem Startscreen der Webcomponent öffnet sich das Menü für Fotos, Dateien und Tools nach unten. Im laufenden Chat öffnet es weiterhin nach oben.
- Haftungsausschluss in jedem Theme: Der Footer-Hinweis erscheint auf dem Startbildschirm unabhängig vom Theme, nicht mehr erst ab der ersten Nachricht.
- Bestätigungsdialoge im Chat können eine neutrale Aktionsschaltfläche zeigen, statt immer rot mit Papierkorb-Icon zu erscheinen.
- Hinweis in der Widget-Vorschau: Ein schließbares Banner weist darauf hin, dass Änderungen erst nach dem Speichern in der Vorschau erscheinen.
- Übersichtlichere Flow-Action-Details: Die Dauer steht im Kopf des Dialogs, die Modell-Informationen in einem eigenen Tab, Prompt und Attribute sind mit Tags und Typen ausgezeichnet.
- Feedback-Status per Dropdown: Die Feedback-Chips im Quality Center ändern ihren Status direkt über ein Dropdown. Der Status „resolved" ist nicht mehr rot.
- Einfügen bei MCP-Verbindungen sitzt jetzt wie in den anderen Übersichten oben rechts unter „More", statt im Kontextmenü einer Zeile.
Fehlerbehebungen
- Mikrofon-Symbol überstand keinen Reload: Die gesprochene Dauer eines Voice-Mode-Turns wurde nicht gespeichert und fehlte nach dem Neuladen unter der Nachricht.
- Verlauf und Feedback in externen Einbettungen: In Einbettungen des Widgets mit eigener Benutzerkennung ließ sich kein Verlaufseintrag öffnen, umbenennen oder löschen, und Feedback schlug fehl — die öffentliche API gibt eine Konversation nur ihrem Besitzer heraus und wies die Anfragen ab. Das Widget sendet die Kennung jetzt mit.
- Leerzeichen am Zeilenende im Anweisungsfeld der Generate Node bleiben beim Tippen erhalten.
- Abstand der Chat-Eingabe in Themes mit voller Breite: Das Eingabefeld klebte an den Rändern des Widgets, der Senden-Button war am rechten Rand angeschnitten. Eingabefeld und Footer-Hinweis haben jetzt denselben Abstand wie die Nachrichten.
- Modell direkt auf der Node wechseln: Ein Klick auf das Modell unten in der Node öffnet die Liste der verfügbaren Modelle, ohne dass der Dialog geöffnet werden muss. Ein nicht mehr verfügbares Modell wird rot angezeigt.
- Status-Updates für Quellen sind standardmäßig aktiv: Ob Benutzer sehen, wonach der Agent mit einer Quelle gerade sucht, ist jetzt voreingestellt; der separate Schalter je Quelle entfällt.
- Kein Feedback-Hinweis, wenn er nichts hinzufügt: Können Administratoren die Konversation ohnehin einsehen, weil der Admin-Chat-Zugriff aktiviert ist, entfällt der Hinweistext beim Absenden von Feedback. Maßgeblich bleibt die Einstellung, mit der die Konversation begonnen wurde.
- Gesperrtes Plan-Feld: In den Organisations-Einstellungen sieht der für Mandanten-Admins gesperrte Plan jetzt aus wie die übrigen Formularfelder — ausgegraut und mit Schloss-Symbol, statt mit doppeltem Rahmen und abweichender Höhe.
- Lange Node-Namen werden im Flow abgeschnitten statt über die Node hinauszulaufen.
- Barrierefreiheit im Disclaimer-Dialog: Beim Öffnen erhält der Dialog selbst den Fokus und wird mit Titel und Text angekündigt, statt mitten im Hinweistext zu landen.
- Sync-Frequenz ohne Neusynchronisierung ändern: Wird nur die Frequenz einer verknüpften Quelle geändert, fragt der AI Hub nicht mehr nach einer erneuten Synchronisation und setzt den Status nicht zurück.