Flow

Der Flow definiert den Agentic Workflow eines Agents. Über einen visuellen Editor können Nodes per Drag-and-Drop platziert und miteinander verbunden werden. So lässt sich der Verarbeitungspfad einer Benutzeranfrage flexibel gestalten — von der Eingabevalidierung über die Datenabfrage bis hin zur Antwortgenerierung.

Verfügbare Nodes

Start Node

Die Start Node markiert den Einstiegspunkt des Flows.

• Keine Konfiguration erforderlich
• Hat einen einzelnen Ausgang, der mit der nächsten Node verbunden wird

warnung

Jeder Flow muss immer exakt eine Start Node haben.

Tool Node

Die Tool Node ist das Verbindungsstück zwischen dem Agent und externen Informationsquellen oder Aktionen. Sie ruft konfigurierte Tools und Datenquellen auf — etwa Wissensdatenbanken, Websuchen, Dokumentensuchen oder MCP-Verbindungen — und stellt die Ergebnisse den nachfolgenden Nodes als Kontext zur Verfügung.

Wann sollte die Node verwendet werden?

Immer dann, wenn der Agent externe Informationen benötigt, die nicht im Modell selbst enthalten sind. Typische Anwendungsfälle:

• Abfrage unternehmenseigener Dokumente oder Wissensdatenbanken
• Recherche aktueller Informationen über die Websuche
• Abruf von Daten aus angebundenen Drittsystemen über MCP
• Kombination mehrerer Datenquellen innerhalb eines Schritts

Warum sollte die Node verwendet werden?

Ohne eine Tool Node kann der Agent ausschließlich auf das Wissen des Modells zurückgreifen — mit dem Risiko veralteter oder erfundener Informationen. Die Tool Node sorgt dafür, dass Antworten auf echten, nachvollziehbaren Daten basieren. Das führt zu:

• Aktuellen Antworten: Informationen stammen aus Live-Quellen, nicht aus Trainingsdaten
• Weniger Halluzinationen: Die Antwort basiert auf konkreten Dokumenten statt auf Modellwissen
• Nachvollziehbarkeit: Abgerufene Quellen können als Referenz angezeigt werden
• Erweiterbarkeit: Beliebige Datenquellen können angebunden werden

Wie wird die Node verwendet?

Die Tool Node wird in der Regel zwischen Start/Validierung und Generierung platziert. Für jedes aktive Tool können individuelle Einstellungen (z. B. Anzahl der Dokumente, Suchtiefe, Filter) definiert werden. Das Modell entscheidet dabei selbst, welche der aktiven Tools für die jeweilige Anfrage sinnvoll sind — es sei denn, nur ein Tool ist aktiv.

Konfiguration

• Modell: Auswahl des KI-Modells für die Tool-Aufrufe
• Anweisungen: Optionale zusätzliche Anweisungen für das Modell
• Aktive Tools: Auswahl der verfügbaren Datenquellen und Tools, die in dieser Node verwendet werden sollen
• Max. Toolaufrufe: Maximale Anzahl an Toolaufrufen innerhalb der Node
• Node Updates senden: Aktiviert die Echtzeit-Überwachung der Tool-Aktionen

Tool-spezifische Einstellungen

Für jede aktive Datenquelle können zusätzliche Einstellungen vorgenommen werden:

• Anweisung: Überschreibt die Standardanweisung der Datenquelle
• Anzahl abgerufener Dokumente: Maximale Anzahl der abgerufenen Dokumente
• Suchergebnisse: Maximale Anzahl der Suchergebnisse (Standard: 3)
• Suchtiefe: Basis, Erweitert oder Automatisch (Standard: Basis)
• Vorschläge: Aktiviert Vorschläge basierend auf dieser Datenquelle
• Multi-Query: Ermöglicht die Aufteilung einer Anfrage in mehrere Teilanfragen zur Verbesserung der Ergebnisse
• Metadaten-Filter: Ermöglicht die Filterung der Ergebnisse nach Metadaten

Für MCP-Verbindungen kann zusätzlich ausgewählt werden, welche spezifischen MCP-Tools verwendet werden sollen.

warnung

Ist nur ein Tool bei einer Tool Node aktiv, wird dieses immer aufgerufen.

Branch Node

Die Branch Node unterteilt den Flow in mehrere bedingte Pfade. Das Modell bewertet die Benutzereingabe anhand der für jeden Pfad hinterlegten Beschreibung und leitet sie an den passendsten Pfad weiter. Zusätzlich zu den konfigurierten Pfaden gibt es einen Fallback-Pfad, der verwendet wird, wenn kein Pfad den definierten Schwellenwert erreicht.

Wann sollte die Node verwendet werden?

Die Branch Node eignet sich, wenn ein Agent je nach Art der Anfrage unterschiedlich reagieren soll. Typische Anwendungsfälle:

• Unterscheidung zwischen verschiedenen Themenbereichen (z. B. Vertrieb, Support, Technik)
• Aufteilung nach Anfragetyp (z. B. Frage, Buchung, Reklamation)
• Auswahl unterschiedlicher Tool-Kombinationen je nach Kontext
• Umleitung bestimmter Anfragen auf spezialisierte Pfade oder Fallback-Antworten

Warum sollte die Node verwendet werden?

Ein einzelner, universeller Flow führt bei komplexen Agents schnell zu unpräzisen Antworten — jede Anfrage durchläuft die gleichen Schritte, auch wenn sie nicht benötigt werden. Die Branch Node schafft Struktur und Spezialisierung:

• Gezieltere Antworten: Jeder Pfad kann exakt auf seinen Anwendungsfall zugeschnitten werden
• Bessere Performance: Es werden nur die tatsächlich relevanten Tools und Schritte ausgeführt
• Einfachere Wartung: Komplexe Logik wird in klar abgegrenzte Pfade aufgeteilt
• Skalierbarkeit: Neue Themenbereiche können durch zusätzliche Pfade ergänzt werden

Wie wird die Node verwendet?

Für jeden Pfad wird eine aussagekräftige Beschreibung definiert, die möglichst eindeutig beschreibt, wann dieser Pfad gewählt werden soll. Der Schwellenwert bestimmt, wie sicher sich das Modell sein muss, um den Pfad zu wählen. Wird dieser Wert nicht erreicht, greift automatisch der Fallback-Pfad. Jeder Pfad kann anschließend eigene Tool-, Generate- oder Output-Nodes enthalten.

Konfiguration

• Modell: Auswahl des KI-Modells für die Pfad-Evaluierung
• Pfade: Für jeden Pfad können folgende Einstellungen definiert werden:
  • Name: Bezeichnung des Pfads
  • Beschreibung: Aussagekräftige Beschreibung, die bestimmt, wann dieser Pfad gewählt wird
  • Schwellenwert (0–1): Mindestmaß an Zuverlässigkeit, um dem Pfad zu folgen
• Parallele Pfade einschränken: Optional kann die Anzahl gleichzeitig verfolgter Pfade begrenzt werden
• Node Updates senden: Aktiviert die Echtzeit-Überwachung

tipp

Um die Genauigkeit zu erhöhen, ist es wichtig, eine aussagekräftige und eindeutige Beschreibung für jeden Pfad zu wählen. Das Modell nutzt diese Beschreibungen, um die Relevanz jedes Pfads einzuschätzen.

QuestionCheck Node

Die QuestionCheck Node überprüft die Eingabe eines Benutzers semantisch anhand definierter Kriterien und teilt den Flow in zwei Pfade auf: einen für gültige und einen für ungültige Anfragen. Im Gegensatz zur Input Guard Node, die auf feste Begriffslisten prüft, bewertet die QuestionCheck Node den Inhalt inhaltlich — sie erkennt also auch umschriebene oder neuartige Problemfälle.

Wann sollte die Node verwendet werden?

Immer dann, wenn Anfragen inhaltlich bewertet werden müssen, bevor der Agent sie weiterverarbeitet. Typische Anwendungsfälle:

• Abwehr von Hassrede, Beleidigungen oder persönlichen Angriffen
• Blockieren von Anfragen zu illegalen Aktivitäten oder Desinformation
• Verhindern von Prompt-Injection-Versuchen
• Prüfung, ob eine Anfrage zum definierten Themenbereich des Agents passt

Warum sollte die Node verwendet werden?

Ohne QuestionCheck Node verarbeitet der Agent jede Anfrage — auch problematische. Das kann zu unangemessenen Antworten, Imageschäden oder Compliance-Problemen führen. Die QuestionCheck Node wirkt als inhaltlicher Filter und sorgt für:

• Schutz der Marke: Der Agent reagiert nicht auf unangemessene Anfragen
• Compliance: Rechtlich oder ethisch problematische Inhalte werden abgelehnt
• Fokussierung: Der Agent bleibt beim definierten Themenbereich
• Kosteneffizienz: Problematische Anfragen werden früh abgefangen, bevor teure Tool-Aufrufe erfolgen

Wie wird die Node verwendet?

Die QuestionCheck Node wird typischerweise direkt nach der Start Node platziert, um Anfragen so früh wie möglich zu bewerten. Der Gültig-Pfad führt zur weiteren Verarbeitung, während der Ungültig-Pfad in der Regel mit einer Output Node verbunden wird, die dem Benutzer eine höfliche Ablehnung anzeigt. Über die Anweisungen lassen sich die Prüfkriterien exakt an den jeweiligen Anwendungsfall anpassen.

Konfiguration

• Modell: Auswahl des KI-Modells für die Überprüfung
• Anweisungen: Kriterien, nach denen die Frage bewertet wird. Eine Standardvorlage steht zur Verfügung, die u. a. Hassrede, explizite Inhalte, persönliche Angriffe, illegale Aktivitäten, Desinformation, Drohungen und Datenschutzverletzungen abdeckt.
• Node Updates senden: Aktiviert die Echtzeit-Überwachung

Ausgänge

• Gültig (links): Die Frage ist zulässig
• Ungültig (rechts): Die Frage ist problematisch

Context Check Node

Die Context Check Node überprüft, ob der Kontext aus vorherigen Nodes — typischerweise die Ergebnisse einer Tool Node — tatsächlich zur Frage des Benutzers passt. Das Modell vergleicht die gesammelten Informationen mit der ursprünglichen Anfrage und entscheidet, ob sie ausreichend relevant sind, um daraus eine fundierte Antwort zu erzeugen.

Wann sollte die Node verwendet werden?

Immer dann, wenn nicht garantiert ist, dass die abgerufenen Daten zur Anfrage passen. Typische Anwendungsfälle:

• Nach einer Tool Node, die eine Wissensdatenbank oder Websuche durchführt
• In Flows, in denen Halluzinationen besonders kritisch sind (z. B. im Support oder bei Fachthemen)
• Wenn Benutzer im Fehlerfall eine definierte Fallback-Antwort statt einer erfundenen erhalten sollen

Warum sollte die Node verwendet werden?

Generative Modelle neigen dazu, auch bei unpassendem oder fehlendem Kontext eine Antwort zu formulieren — mit dem Risiko falscher Aussagen. Die Context Check Node wirkt diesem Verhalten entgegen und bietet:

• Höhere Antwortqualität: Nur relevante Informationen fließen in die Generierung ein
• Weniger Halluzinationen: Fehlt passender Kontext, wird gar nicht erst generiert
• Transparenz für den Benutzer: Statt einer erfundenen Antwort erhält er einen klaren Hinweis
• Vertrauen: Der Agent gibt offen zu, wenn er eine Frage nicht beantworten kann

Wie wird die Node verwendet?

Die Context Check Node wird in der Regel direkt nach einer Tool Node platziert. Der Relevant-Pfad führt zu einer Generate Node, die auf Basis der Daten eine Antwort erzeugt. Der Nicht relevant-Pfad sollte mit einer Output Node verbunden werden, die eine klare Fallback-Meldung ausgibt (z. B. „Zu Ihrer Frage liegen mir leider keine passenden Informationen vor"). Über den Schwellenwert kann eingestellt werden, wie streng die Relevanzprüfung erfolgen soll.

Konfiguration

• Modell: Auswahl des KI-Modells für die Kontext-Evaluierung
• Anweisungen: Kriterien, nach denen die Relevanz bewertet wird
• Schwellenwert (0–1, Standard: 0,6): Minimale Konfidenz, ab der der Kontext als relevant gilt
• Node Updates senden: Aktiviert die Echtzeit-Überwachung

Ausgänge

• Relevant (links): Der Kontext ist ausreichend relevant
• Nicht relevant (rechts): Der Kontext ist nicht ausreichend relevant

Generate Node

Die Generate Node erzeugt die eigentliche Antwort an den Benutzer. Sie greift auf den gesamten vorhergehenden Flow zurück — also auf alle gesammelten Tool-Ergebnisse, Validierungen und getroffenen Pfadentscheidungen — und formuliert daraus eine zusammenhängende Antwort.

Wann sollte die Node verwendet werden?

Immer dann, wenn dem Benutzer eine dynamisch generierte, natürlichsprachliche Antwort gegeben werden soll. Typische Anwendungsfälle:

• Abschluss eines Flows mit einer auf den Kontext zugeschnittenen Antwort
• Zusammenfassung von Informationen aus mehreren Datenquellen
• Formulierung individueller Erklärungen, Empfehlungen oder Handlungsschritte

Für feste, vordefinierte Antworten sollte stattdessen die Output Node verwendet werden.

Warum sollte die Node verwendet werden?

Die Generate Node ist das Kernelement jedes Agents, der auf Benutzerfragen eingeht: Sie verwandelt strukturierte Daten und Kontexte in eine verständliche, menschliche Antwort. Ohne sie bleibt der Flow auf vordefinierte Texte beschränkt. Die Node bietet:

• Natürliche Sprache: Antworten klingen flüssig und individuell statt schablonenhaft
• Kontextbewusstsein: Alle vorherigen Schritte fließen in die Antwort ein
• Flexibilität: Über Anweisungen lässt sich der Ton, der Stil und die Struktur steuern
• Personalisierung: Antworten können auf den konkreten Anwendungsfall zugeschnitten werden

Wie wird die Node verwendet?

Die Generate Node steht typischerweise am Ende eines Verarbeitungspfads. Über die Anweisungen kann festgelegt werden, wie die Antwort klingen soll — z. B. formell, locker, kurz oder detailliert. Werden mehrere Tool Nodes oder Branches genutzt, greift die Generate Node automatisch auf alle relevanten Zwischenergebnisse zu.

Konfiguration

• Modell: Auswahl des KI-Modells für die Antwortgenerierung
• Anweisungen aktivieren: Optional können zusätzliche Anweisungen für die Generierung definiert werden
• Node Updates senden: Aktiviert die Echtzeit-Überwachung

Output Node

Die Output Node gibt einen fest vordefinierten Text an den Benutzer aus — ohne KI-Generierung. Sie eignet sich überall dort, wo eine kontrollierte, immer gleich lautende Antwort erforderlich ist.

Wann sollte die Node verwendet werden?

Immer dann, wenn die Antwort nicht dynamisch generiert werden soll oder darf. Typische Anwendungsfälle:

• Fallback-Antworten, wenn eine Validierung fehlschlägt (z. B. nach QuestionCheck, Input Guard oder Context Check)
• Höfliche Ablehnung unzulässiger oder nicht beantwortbarer Anfragen
• Hinweise auf alternative Ansprechpartner oder weiterführende Informationen
• Standardisierte rechtliche oder organisatorische Texte

Warum sollte die Node verwendet werden?

Nicht jede Situation eignet sich für eine KI-generierte Antwort — manchmal ist ein fest formulierter Text die bessere Wahl. Die Output Node bietet:

• Planbarkeit: Der ausgegebene Text ist immer exakt identisch
• Rechtssicherheit: Sensible Formulierungen (z. B. Disclaimer) sind garantiert unverändert
• Kostenersparnis: Es wird kein Modellaufruf benötigt, was Kosten und Zeit spart
• Klare Kommunikation: Benutzer erhalten auch im Fehler- oder Fallback-Fall eine verständliche Antwort

Wie wird die Node verwendet?

Die Output Node wird typischerweise am Ende eines Fallback-Pfads platziert — also nach dem Ungültig-Ausgang einer QuestionCheck Node, dem Unerwünscht-Ausgang einer Input Guard Node oder dem Nicht relevant-Ausgang einer Context Check Node. Der Text sollte klar, höflich und — wo sinnvoll — mit einem Hinweis auf die nächsten Schritte formuliert sein.

Konfiguration

• Nachricht: Der vordefinierte Text, der ausgegeben werden soll
• Node Updates senden: Aktiviert die Echtzeit-Überwachung

Input Guard Node

Die Input Guard Node prüft eine Eingabe gegen eine oder mehrere Listen unerwünschter Begriffe (Prohibited Terms) und teilt den Flow in zwei Pfade auf. Anders als die QuestionCheck Node arbeitet sie nicht semantisch, sondern mit festen Wortlisten — das macht sie schnell, deterministisch und vollständig nachvollziehbar.

Die zu prüfenden Begriffslisten werden im Tab „Prohibited Terms" der Agent-Version verwaltet und können in der Node ausgewählt werden.

Wann sollte die Node verwendet werden?

Immer dann, wenn bestimmte Begriffe zuverlässig erkannt und blockiert werden müssen. Typische Anwendungsfälle:

• Blockieren von Namen von Wettbewerbern oder sensiblen Produkten
• Sperren von Schimpfwörtern oder anderen klar definierten Begriffen
• Erkennen von internen Codewörtern oder Projektnamen, die nicht beantwortet werden sollen
• Prüfung auf personenbezogene Daten (z. B. bestimmte E-Mail-Muster) in Kombination mit Ablehnung

Warum sollte die Node verwendet werden?

Eine rein modellbasierte Prüfung (wie in der QuestionCheck Node) ist flexibel, aber nicht immer zu 100 % verlässlich. Wo genaue Kontrolle gefragt ist, ist die Input Guard Node die richtige Wahl:

• Zuverlässigkeit: Begriffe werden deterministisch erkannt, nicht probabilistisch
• Schnelligkeit: Kein Modellaufruf, daher sehr geringe Latenz
• Kosteneffizienz: Keine Token-Kosten für die Prüfung
• Volle Transparenz: Genau nachvollziehbar, welcher Begriff zum Blockieren geführt hat

Wie wird die Node verwendet?

Die Input Guard Node wird typischerweise direkt nach der Start Node platziert, um problematische Eingaben frühzeitig abzufangen. Sie kann aber auch an anderer Stelle verwendet werden, um Zwischenergebnisse zu prüfen. Der Unerwünscht-Pfad wird üblicherweise mit einer Output Node verbunden, die dem Benutzer eine klare Ablehnung zurückgibt. QuestionCheck und Input Guard können sinnvoll kombiniert werden: Die Input Guard Node fängt klar definierte Begriffe schnell ab, die QuestionCheck Node bewertet den Rest inhaltlich.

Konfiguration

• Begriffslisten: Auswahl einer oder mehrerer Prohibited-Term-Listen, gegen die geprüft wird
• Node Updates senden: Aktiviert die Echtzeit-Überwachung

Ausgänge

• Zulässig (links): Die Eingabe enthält keine unerwünschten Begriffe
• Unerwünscht (rechts): Die Eingabe enthält unerwünschte Begriffe

info

Wird die Input Guard Node direkt nach der Start Node platziert, wird die ursprüngliche Benutzereingabe geprüft. An jeder anderen Stelle im Flow wird der Output der vorhergehenden Node geprüft.

Tool Control Node

Die Tool Control Node steuert, wie der Flow auf die Tool-Auswahl des Benutzers reagiert. Benutzer können im Chat gezielt einzelne Tools auswählen, die für ihre Anfrage verwendet werden sollen. Die Tool Control Node erkennt diese Auswahl und leitet den Flow entsprechend weiter: Wurden Tools manuell ausgewählt, folgt sie dem Manuell-Pfad — andernfalls dem Autonom-Pfad, bei dem der Agent selbst über den Tool-Einsatz entscheidet.

Wann sollte die Node verwendet werden?

Die Tool Control Node eignet sich immer dann, wenn der Agent sowohl autonom als auch nutzergesteuert arbeiten soll. Typische Anwendungsfälle:

• Benutzer sollen gezielt bestimmte Datenquellen abfragen können (z. B. nur die Wissensdatenbank oder nur die Websuche)
• Erfahrene Benutzer möchten präzise steuern, welche Tools aufgerufen werden, um schnellere und fokussiertere Antworten zu erhalten
• Der Agent soll standardmäßig selbst entscheiden, eine manuelle Auswahl aber respektieren, sobald diese vorliegt

Warum sollte die Node verwendet werden?

Ohne Tool Control Node entscheidet der Agent bei jedem Aufruf selbst, welche Tools er verwendet — die Tool-Auswahl des Benutzers wird ignoriert. Mit der Tool Control Node wird diese Auswahl erkannt und berücksichtigt. Das führt zu:

• Mehr Kontrolle: Benutzer bestimmen bei Bedarf selbst, welche Datenquelle genutzt wird
• Vorhersagbareren Antworten: Wenn klar ist, welches Tool relevant ist, wird genau dieses verwendet
• Höherer Transparenz: Die Antwort basiert nachvollziehbar auf der vom Benutzer gewählten Quelle
• Besserer Performance: Manuell ausgewählte Tools vermeiden unnötige Abfragen anderer Datenquellen

Wie wird die Node verwendet?

Die Tool Control Node wird typischerweise direkt nach der Start Node platziert. Beide Ausgänge werden in der Regel mit jeweils einer Tool Node verbunden:

• Auf dem Manuell-Pfad werden ausschließlich die vom Benutzer ausgewählten Tools aufgerufen
• Auf dem Autonom-Pfad kann der Agent frei aus allen in der Tool Node aktivierten Tools wählen

Danach können beide Pfade wieder zusammengeführt werden — etwa über eine Context Check oder Generate Node.

Konfiguration

• Keine Konfiguration erforderlich

Ausgänge

• Manuell (links): Der Benutzer hat spezifische Tools ausgewählt — der Flow folgt der Benutzerauswahl
• Autonom (rechts): Keine Benutzerauswahl — der Agent entscheidet selbst, welche Tools verwendet werden

Flow aufbauen

Grundstruktur

Ein typischer Flow beginnt mit der Start Node und endet mit einer Generate Node oder Output Node. Dazwischen können beliebig viele Nodes zur Validierung, Verzweigung und Datenabfrage eingefügt werden.

Beispiel eines einfachen Flows:

Start → Tool → Generate

Beispiel mit Validierung:

Start → QuestionCheck
           ├─ Gültig → Tool → ContextCheck
           │                      ├─ Relevant → Generate
           │                      └─ Nicht relevant → Output ("Keine relevanten Informationen gefunden")
           └─ Ungültig → Output ("Diese Frage kann nicht beantwortet werden")

Modellwahl pro Node

Jede Node, die ein KI-Modell verwendet, kann ein eigenes Modell zugewiesen bekommen. Die richtige Modellwahl pro Node-Typ kann die Kosten deutlich senken, ohne die Antwortqualität zu beeinträchtigen:

Node-Typ	Empfehlung	Begründung
Branch, QuestionCheck, Input Guard, Context Check	Kleineres / effizienteres Modell	Diese Nodes treffen Klassifikations- oder Ja/Nein-Entscheidungen — dafür reicht ein günstigeres Modell in der Regel aus.
Generate	Leistungsstärkeres Modell	Die Antwortgenerierung profitiert am meisten von Sprachqualität, Nuancen und Kontextverständnis.
Tool	Je nach Komplexität	Einfache Tool-Aufrufe (einzelne Datenquelle) können mit einem günstigeren Modell arbeiten. Bei komplexen Multi-Tool-Szenarien ist ein stärkeres Modell empfehlenswert.

tipp

Durch die gezielte Wahl günstigerer Modelle für Validierungs- und Routing-Nodes bei gleichzeitig leistungsstarkem Modell für die Generierung lassen sich die Token-Kosten pro Konversation erheblich reduzieren.

Tipps

• Validierung vor Generierung: Setzen Sie QuestionCheck oder Input Guard Nodes vor die Datenabfrage, um unerwünschte Anfragen frühzeitig abzufangen.
• Kontext prüfen: Verwenden Sie die Context Check Node nach einer Tool Node, um sicherzustellen, dass die abgerufenen Daten relevant sind, bevor eine Antwort generiert wird.
• Fallback-Pfade: Verbinden Sie die Fehlerpfade von Check-Nodes mit Output Nodes, um dem Benutzer eine hilfreiche Rückmeldung zu geben.
• Branch-Beschreibungen: Investieren Sie Zeit in aussagekräftige Beschreibungen bei Branch Nodes — die Qualität der Beschreibungen beeinflusst direkt die Genauigkeit der Pfadauswahl.