Policy-Unsicherheit
Wenn der Bot bei Erstattungen, Compliance oder Randfällen unsicher ist, muss er eskalieren statt zu improvisieren.
Safeguards
Der Assistent soll der Marke helfen, nicht Nutzer festhalten.
Fehlerlogik ist Teil des Produkts. Fehlt sie, ist der Bot unfertig.
Frust beim Nutzer
Wenn jemand sichtbar festhängt, muss der Assistent die Schleife verkürzen und den menschlichen Weg schnell sichtbar machen.
Außerhalb des Scopes
Das System muss Grenzen klar benennen und den Nutzer dorthin routen, wo er tatsächlich als Nächstes hinmuss.
Menschliche Übergabe mit einem KlickUnsicherheits-Stopp vor HalluzinationSupport-Kontakt bleibt sichtbarGesprächslogik bleibt prüfbar
