Ruhige KI gestalten: Was uns der Bau von Youp gelehrt hat
Ruhige KI für mentales Wohlbefinden ist vor allem Weglassen. Lektionen zur KI-UX aus dem Bau von Youp: Dichte, Stille, Sicherheit und Vertrauen.
Von Vitor Lima
Die KI in Youp begrüßt dich nicht. Sie fragt nicht „Wie fühlst du dich heute?", wenn du die App öffnest, und sie gratuliert dir nicht zu einer Sieben-Tage-Serie. Wir haben all das entfernt. Ruhige KI zu gestalten hieß, immer wieder aufs Neue zu entscheiden, die Software weniger tun zu lassen — und die meisten dieser Entscheidungen haben wir auf die harte Tour gelernt, während wir eine App für mentales Wohlbefinden bauten, für Menschen, die oft an ihren schlimmsten Tagen danach greifen.
Beginne beim emotionalen Zustand, nicht bei der Feature-Liste
Die meisten KI-Produkte gehen davon aus, dass der Nutzer neugierig, leistungsfähig und bereit ist, sich begeistern zu lassen. Ein Wellness-Tool kann das nicht. Jemand, der Youp um ein Uhr nachts öffnet, ist vielleicht ängstlich, beschämt, erschöpft oder taub. Die Einschränkung, die daraus folgt, ist unmissverständlich: Nichts, was die KI tut, sollte den Nutzer Energie kosten, die er womöglich nicht hat.
Das hat viele „Engagement"-Muster erledigt, bevor sie überhaupt gebaut wurden. Kein Onboarding-Chat, der dich ausfragt. Keine KI-Persona mit Namen und Hintergrundgeschichte. Keine animierte Tippanzeige, die dich auf eine Maschine warten lässt, die vorgibt, nachzudenken. Jedes davon ist eine kleine Steuer, und in diesem Kontext summieren sich kleine Steuern zu einem „Mach ich später" — was bei einer Journaling-Gewohnheit bedeutet: nie.
Die Erkenntnis: Gestalte für den energieärmsten Zustand des Nutzers, nicht für seinen engagiertesten. Ein Feature, das nur funktioniert, wenn der Nutzer voller Elan ist, versagt genau dann, wenn das Produkt am meisten zählt. Wir prüfen inzwischen jede KI-Interaktion mit einer einzigen Frage unter Druck: Fühlt sich das immer noch freundlich an, wenn die Person kaum noch zusammenhält?
Ruhe ist eine Entscheidung über Latenz und Dichte, nicht über den Tonfall
Teams greifen nach „Ruhe", indem sie Texte weichspülen — sanftere Worte, mehr Emojis, eine Pastellpalette. Das ist die oberflächliche Version. Ruhe hat vor allem damit zu tun, wie viel die KI sagt und wie schnell sie sich einmischt. Zwei Hebel haben in Youp den Großteil der Arbeit geleistet.
Dichte
Nach einem Eintrag bietet die KI eine einzige Reflexion an, keine Mauer aus Erkenntnissen. Eine Beobachtung, gelegentlich eine Frage, niemals beides zu einem Absatz gestapelt, den der Nutzer erst verdauen muss. Ein generatives Modell produziert bereitwillig fünf Absätze empathisch klingenden Textes; die Disziplin liegt darin, vier davon wegzuwerfen. Wir begrenzen Antworten strikt und behandeln jeden Satz nach dem ersten als Kosten, die der Nutzer trägt.
Timing
Die KI unterbricht niemals den Akt des Schreibens. Keine Vorschläge mitten im Satz, kein Autovervollständigen, das deine Gefühle für dich zu Ende schreibt. Die Reflexion erscheint erst, wenn du fertig bist und danach gefragt hast. Das Schreiben ist der therapeutische Akt; die KI ist eine Antwort darauf, nicht seine Mitautorin.
Der Kompromiss ist real, und wir haben ihn akzeptiert: In einer Demo wirkt Youp weniger „schlau". Es gibt keine schillernde Wand aus Output, die man screenshotten könnte. Aber der Sinn einer ruhigen Oberfläche ist, dass man aufhört, die Oberfläche wahrzunehmen — und Schillern ist das genaue Gegenteil davon.
Die schwerste Design-Fähigkeit ist zu wissen, wann man nichts sagt
Die meisten KI-Teams machen das falsch, weil ein stilles Modell wie ein kaputtes Feature aussieht. Wir haben Youp den umgekehrten Instinkt eingebaut: Der Standardzustand der KI ist Schweigen, und sie muss sich das Recht zu sprechen erst verdienen.
Manche Einträge verlangen überhaupt keine Antwort. Jemand schreibt drei Zeilen über einen schweren Tag und schließt die App. Ein munteres „Das klingt, als würdest du gerade viel durchmachen!" ist an dieser Stelle keine Unterstützung — es ist eine Maschine, die Anteilnahme aufführt, und die Nutzer spüren die Hohlheit sofort. Der CBT-Rahmen hat uns geholfen, standhaft zu bleiben. Kognitive Arbeit besteht darin, dass die Person ihre eigenen Muster bemerkt, nicht darin, dass ein Tool sie kommentiert. Deshalb verweisen Youps Reflexionen auf die eigenen Worte des Nutzers zurück („du hast dieselbe Sorge am Dienstag erwähnt"), statt zu diagnostizieren oder zu raten.
Wir haben dem Schweigen außerdem eine sichtbare, würdevolle Form gegeben. Wenn die KI sich zurückhält, zeigt die UI keinen Fehler und keinen leeren Zustand, der sich wie ein Versagen liest. Sie präsentiert den Eintrag, gespeichert und ganz, als wollte sie sagen: Das war genug. „Nichts" absichtlich statt kaputt wirken zu lassen, hat mehr Iteration gekostet als jede der generativen Funktionen.
Die Erkenntnis: Baue einen expliziten „Bleib still"-Zweig und behandle ihn als vollwertiges Ergebnis, nicht als Notlösung. Eine Prompt-Architektur, die nur Antworten erzeugen kann, wird zu viel antworten. Unsere kann entscheiden, dass der beste Schritt ist, nichts zu tun — und diese Entscheidung hat ihre eigene, gestaltete Oberfläche.
Sicherheit ist eine Design-Oberfläche, kein Haftungsausschluss
KI für mentales Wohlbefinden zieht einen ganz bestimmten und ernsten Fehlerfall an: einen Nutzer in echter Krise und ein Modell, das eloquent, selbstsicher und völlig unqualifiziert ist zu helfen. Da kommst du nicht mit „Du bist keine Therapeutin" heraus. Das Sicherheitsverhalten muss gestaltet, getestet und langweilig sein.
Ein paar Prinzipien, an denen wir festhalten:
- Die KI diagnostiziert nie und beansprucht nie klinische Autorität. Sie reflektiert; sie bewertet nicht. Das ist eine harte Grenze im System-Prompt und in jeder Oberfläche drumherum.
- Krisensignale werden sofort und unmissverständlich an Menschen und Notruf-Hotlines weitergeleitet. Wenn die Sprache auf Gefahr hindeutet, ist die richtige Reaktion keine besser formulierte KI-Antwort. Es ist, zur Seite zu treten und echte Hilfsangebote sichtbar zu machen. Die Aufgabe des Modells besteht dort darin, zu erkennen und aus dem Weg zu gehen.
- Unsicherheit verfällt in Richtung Schweigen, nicht in Richtung Selbstsicherheit. Wenn das Modell sich nicht sicher ist, soll es lieber zu wenig antworten, als beruhigenden Text zu erzeugen, der falsch sein könnte. Eine selbstsichere falsche Antwort ist schlimmer als gar keine.
Das Unbequeme daran: Die Sicherheitsschicht ist der Ort, an dem man überproportionalen Entwicklungsaufwand für null Demo-Wert steckt. Sie taucht in keinem Pitch auf. Sie ist zugleich der ganze Grund, warum ein vernünftiger Mensch dem Produkt etwas Schmerzhaftes anvertrauen würde.
Vertrauen entsteht dadurch, dass die KI weniger tut, als sie könnte
Sobald du ein leistungsfähiges Modell hast, entsteht die Versuchung, mit dem anzugeben, was es weiß. Es kann deine Stimmung erahnen, Muster über Monate hinweg verknüpfen, deine schlechten Tage vorhersagen. Manches davon ist wirklich nützlich. Das meiste davon, allzu eifrig präsentiert, fühlt sich wie Überwachung an.
Vertrauen kam durch Nachvollziehbarkeit, nicht durch Cleverness. Der Nutzer sollte immer verstehen, warum die KI gesagt hat, was sie gesagt hat, und sie sollte nie den Anschein erwecken, mehr über ihn zu wissen, als er ihr mitgeteilt hat. Wenn Youp auf einen früheren Eintrag verweist, zitiert es ihn, damit die Verbindung überprüfbar statt unheimlich ist. Wir haben Funktionen zur Stimmungsvorhersage widerstanden, nicht weil das Modell sie nicht könnte, sondern weil der Satz „Wir glauben, morgen wird ein harter Tag für dich" ein Übergriff ist, verkleidet als Wohltat.
Die Erkenntnis: Bei intimen Produkten liegt die Obergrenze dessen, was die KI tun sollte, deutlich unter der Obergrenze dessen, was sie tun kann — und diese Linie zu finden, ist die eigentliche Arbeit. Zurückhaltung ist das Feature.
Was nach dem Weglassen übrig bleibt
Es stellte sich heraus, dass ruhige KI zu bauen vor allem Weglassen ist. Der generative Teil war nie der schwere Teil — Modelle gibt es im Überfluss, und sie sind willig. Der schwere Teil war, immer wieder zu entscheiden, die KI weniger tun zu lassen: weniger sagen, länger warten, still bleiben, zur Seite treten. Was nach all diesem Entfernen übrig bleibt, fühlt sich weniger wie ein Chatbot an und mehr wie ein stiller Raum, in dem man denken kann. Das war immer das Ziel. Die Technologie war nur das, was wir zügeln mussten, um dorthin zu gelangen.