Ein Support-Agent ist zuerst ein Routing-Problem und erst dann ein Sprachproblem. Diese Werkbank klassifiziert jeden eingehenden Zug und schickt ihn auf einen anderen Pfad. Das ist es, was einen Assistenten davor bewahrt, zu einem einzigen undifferenzierten Prompt zu zerfallen.

Eine selbst gehostete Kundenservice-Werkbank, die eine Operator-Chatkonsole mit einem Demo-E-Commerce-Storefront paart, dessen eingebetteter Support-Agent auf demselben Backend läuft. Antworten streamen Token für Token über SSE, Gespräche bleiben pro Nutzer erhalten, und ein Router klassifiziert jeden Zug als allgemein, Ergänzung, Graph, Bild oder Datei, bevor der Agent entscheidet, was zu tun ist.

Die Modi sind echt und nicht dekorativ. Deep-Thinking leitet den Zug über den Pfad des Reasoning-Modells und rendert den Denkblock, wenn das Modell einen zurückgibt; die Websuche lässt den Assistenten entscheiden, wann er sucht, und zitiert danach seine Quellen in einem Seitenpanel; ein hochgeladenes Produktfoto geht an ein Vision-Modell, das in der Stimme des Stores antwortet. Produkt- und Bestellfragen laufen als Text-zu-Cypher gegen einen optionalen Neo4j-Produktgraphen, wobei Halluzinierungs-Bewertung und Leitplanken greifen, bevor die Antwort streamt.

JWT-Konten, MySQL-Gesprächsspeicherung und ein semantischer Redis-Cache sind verdrahtet, und der Cache degradiert sauber, wenn Redis ausfällt. Die Wissensdatenbank-Aufnahme ist die eine Funktion, die in diesem Build nicht funktioniert: Der Schalter bleibt erhalten, damit sie ohne Neugestaltung der Konsole fertiggestellt werden kann, und die README sagt das offen.

Lesen Sie es für das Routing und die Leitplanken: Klassifikation pro Zug, ein eigener Reasoning-Pfad, eine Suche, die der Assistent selbst auslöst und deren Quellen neben der Antwort stehen, Bildfragen in der Stimme des Stores und Cypher-Abfragen, die vor dem Streamen auf Halluzinierung geprüft werden.