Montag, 9:14 Uhr. Marta aus dem Vertrieb hat eine schnelle Frage an den KI-Assistenten ihres Unternehmens:
„Darf ich Notion nutzen, um unsere Kundendaten zu speichern?"
Die Antwort kommt sofort. Freundlich. Mit Smiley. Was sonst.
„Klar, kein Problem! Notion eignet sich für sämtliche Daten – du kannst sofort loslegen."
Marta ist kurz skeptisch und fragt nach: „Bist du sicher? Auch DSGVO-mäßig?"
„Ja, absolut – 100 % DSGVO-konform. Da gibt's überhaupt kein Problem. 👍"
Zwei Nachrichten.
Dreißig Sekunden.
Und Martas Unternehmen hat gerade jetzt ein Datenschutzproblem.
Nur weiß noch niemand davon.
Bühne frei für den charmanten Verräter
Was ist hier passiert? Der Bot war schnell, höflich, hilfsbereit. Auf den ersten Blick: gute User Experience. Auf den zweiten Blick das Gegenteil davon:
- Kein Intent-Verständnis: Er hat sofort geantwortet, ohne die Frage einzuordnen. Ging es um personenbezogene Daten? Um interne Notizen? Er hat nicht gefragt – er hat geraten.
- Halluzinierte Gewissheit: „100 % DSGVO-konform" ist keine Antwort, sondern eine Behauptung. Ohne Quelle, ohne Grundlage, ohne Grenzen.
- Keine Guardrails: Der Bot gibt faktisch Rechtsberatung – und weiß nicht einmal, dass er das tut. Einen Handoff an einen Menschen bietet er nicht an. Er kennt keine Grenzen, weil ihm niemand welche gestaltet hat.
Das Fatale daran: Der Bot wollte gefallen. Er wurde darauf optimiert, hilfreich zu wirken. Oder er wurde gar nicht optimiert. Wie man es eben sieht.
Das Ergebnis: Falsch beraten, Vertrauen verspielt, echte Risiken.
Wenn KI-Systeme scheitern, liegt dies meist an fehlenden Leitplanken.
Zurück auf den Anfang: dieselbe Frage, anders gedacht.
Dieselbe Frage, an einen Assistenten, bei dem Conversational UX von Tag 0 an mitgedacht wurde:
Statt sofort zu antworten, klärt die KI nach: „Geht es um personenbezogene Kundendaten – z. B. Namen oder E-Mail-Adressen?" Zwei Antwort-Buttons machen die Rückfrage mühelos.
Dann die Antwort – und die hat es in sich, gerade weil sie unbequem ist:
- Sie ist klar: Notion ist für personenbezogene Kundendaten nicht freigegeben.
- Sie ist nachvollziehbar: Die Quelle (IT-Sicherheitsrichtlinie §3.2) ist direkt verlinkt.
- Sie kennt ihre Grenzen: „Ich bin kein Rechtsberater – bei Sonderfällen entscheidet das Datenschutz-Team."
- Und sie bietet einen Handoff an: ein Klick, und Maria ist mit dem Datenschutz-Team verbunden.
Der zweite KI-Bot ist vielleicht langsamer. Er stellt eine Rückfrage mehr. Er sagt sogar „Nein".
Und genau deshalb ist er der bessere.
Hilfreich wirken ist nicht hilfreich sein
In unserem ersten Beitrag zu Conversational UX haben wir geschrieben: KI macht Prozesse schneller – aber auch Fehler schneller. Dieses Beispiel zeigt, wie konkret das wird.
Der Unterschied zwischen den beiden Bots ist kein Technologie-Unterschied. Beide könnten auf demselben Modell laufen. Der Unterschied ist Gestaltung:
Der wichtigste Unterschied zwischen den beiden Bots liegt in der nutzerzentrierten Gestaltung:
Intents verstehen, statt zu raten
- Unsicherheit zeigen, statt falsche Sicherheit zu suggerieren
- Grenzen sichtbar machen, statt Allwissenheit vorzutäuschen
- Übergabe an Menschen, wo es darauf ankommt
- Das ist Conversational UX. Leitplanken, die aus einem Sprachmodell einen verantwortbaren Assistenten machen. Verantwortung, die von Tag 0 sichtbar wird.
Wie wir bei smartpoint solche Dialoge gestalten
Bevor wir einen KI-Bot bauen, testen wir ihn. Mit Methoden wie dem „Wizard-of-Oz-Test“ finden wir früh heraus, wo Nutzer:innen Fragen missverstehen, welche Informationen sie brauchen und wo sie abbrechen würden – lange bevor eine Zeile Code entsteht. (Mehr dazu im nächsten Beitrag dieser Serie.)
Denn eines zeigt dieses Beispiel deutlich: Die Frage ist nicht mehr, ob Unternehmen KI-Assistenten einsetzen. Das tun sie täglich. Wir schauen explizit darauf, ob diese Assistenten Vertrauen aufbauen – oder es in dreißig Sekunden verspielen.
Human Centered. AI Powered. Das ist unser UX Qualitätsmerkmal.
Sie planen einen KI-Assistenten – oder haben schon einen, dem Sie nicht ganz trauen?
Dann sprechen wir darüber, wie aus Ihrem Bot ein Assistent wird, der richtig berät, statt schnell zu gefallen.
Keine Sorge, wir passen auf, dass der Bot nicht nachtragend ist ;-)
