Att designa lugn AI: Lärdomar från bygget av Youp
Att designa lugn AI för psykiskt välmående handlar mest om subtraktion. Lärdomar om UX från bygget av Youp: densitet, tystnad, säkerhet och tillit.
By Vitor Lima
AI:n i Youp hälsar inte på dig. Den frågar inte "Hur mår du idag?" när du öppnar appen, och den gratulerar dig inte till en sju dagar lång svit. Vi tog bort allt sådant. Att designa lugn AI innebar att gång på gång bestämma sig för att låta mjukvaran göra mindre — och de flesta av de besluten lärde vi oss den hårda vägen medan vi byggde en app för psykiskt välmående för människor som ofta tar till den på sina sämsta dagar.
Utgå från det känslomässiga tillståndet, inte funktionslistan
De flesta AI-produkter utgår från att användaren kommer nyfiken, kapabel och redo att bli imponerad. Ett verktyg för välmående kan inte göra det. Någon som öppnar Youp klockan ett på natten kan vara ängslig, skamsen, utmattad eller känslomässigt avdomnad. Begränsningen som följer är brutal: ingenting som AI:n gör får kosta användaren energi hen kanske inte har.
Det tog kål på många "engagemangsmönster" innan de ens hann byggas. Ingen introduktionschatt som intervjuar dig. Ingen AI-persona med namn och bakgrundshistoria. Ingen animerad skrivindikator som får dig att vänta på en maskin som låtsas tänka. Var och en är en liten skatt, och i det här sammanhanget slår små skatter ihop sig till "jag gör det här senare" — vilket för en dagboksvana betyder aldrig.
Slutsatsen: designa för användarens lägsta energitillstånd, inte det mest engagerade. En funktion som bara fungerar när användaren är entusiastisk kommer att fallera precis när produkten spelar som störst roll. Vi trycktestar numera varje AI-interaktion med en enda fråga: känns det här fortfarande vänligt om personen knappt håller ihop?
Lugn är ett beslut om latens och densitet, inte en ton
Team tar till "lugn" genom att mjuka upp texten — vänligare ord, mer emoji, en pastellpalett. Det är den ytliga varianten. Lugn handlar mest om hur mycket AI:n säger och hur snabbt den tränger sig på. Två spakar gjorde det mesta av jobbet i Youp.
Densitet
Efter en anteckning erbjuder AI:n en enda reflektion, inte en vägg av insikter. En observation, ibland en fråga, aldrig båda staplade i ett stycke som användaren måste smälta. En generativ modell producerar gärna fem stycken empatiskt klingande text; disciplinen ligger i att slänga bort fyra av dem. Vi sätter ett hårt tak på svaren och behandlar varje mening efter den första som en kostnad användaren betalar.
Tajming
AI:n avbryter aldrig själva skrivandet. Inga förslag mitt i meningen, ingen autokomplettering som fyller i dina känslor åt dig. Reflektionen dyker upp först när du har skrivit klart och bett om den. Skrivandet är den terapeutiska handlingen; AI:n är ett svar på den, inte en medförfattare till den.
Avvägningen är verklig, och vi accepterade den: Youp ser mindre "smart" ut i en demo. Det finns ingen bländande vägg av output att ta skärmdump på. Men poängen med ett lugnt gränssnitt är att du slutar lägga märke till gränssnittet, och att blända är raka motsatsen till det.
Den svåraste designfärdigheten är att veta när man ska säga ingenting
De flesta AI-team gör fel här, eftersom en tyst modell ser ut som en trasig funktion. Vi byggde in den motsatta instinkten i Youp: AI:ns standardläge är tyst, och den förtjänar rätten att tala.
Vissa anteckningar kräver inget svar alls. Någon skriver tre rader om en tung dag och stänger appen. Ett pigg "Det låter som att du har det jobbigt just nu!" är där inte stöd — det är en maskin som spelar upp omtanke, och användare känner tomheten omedelbart. KBT-ramverket hjälpte oss att hålla linjen. Kognitivt arbete handlar om att personen själv lägger märke till sina mönster, inte om att ett verktyg berättar dem. Så Youps reflektioner pekar tillbaka på användarens egna ord ("du nämnde samma oro i tisdags") snarare än att diagnostisera eller ge råd.
Vi gav också tystnaden en synlig, värdig form. När AI:n håller igen visar gränssnittet inget felmeddelande och inget tomt tillstånd som läses av som ett misslyckande. Det presenterar anteckningen, sparad och hel, som för att säga: det här var nog. Att få "ingenting" att kännas avsiktligt snarare än trasigt krävde mer iteration än någon av de generativa funktionerna.
Slutsatsen: bygg en explicit "var tyst"-gren och behandla den som ett förstklassigt utfall, inte en nödlösning. En promptarkitektur som bara kan producera svar kommer att översvara. Vår kan bestämma att bästa draget är att inte göra något, och det beslutet har en egen designad yta.
Säkerhet är en designyta, inte en ansvarsfriskrivning
AI för psykiskt välmående drar till sig ett specifikt och allvarligt felläge: en användare i verklig kris, och en modell som är vältalig, självsäker och fullständigt okvalificerad att hjälpa. Du kan inte prompta dig ur det här med "du är inte terapeut." Säkerhetsbeteendet måste vara designat, testat och tråkigt.
Några principer vi håller fast vid:
- AI:n ställer aldrig diagnos och gör aldrig anspråk på klinisk auktoritet. Den reflekterar; den bedömer inte. Det är en hård gräns i systemprompten och i varje yta runt omkring.
- Krissignaler dirigeras till människor och stödlinjer, omedelbart och otvetydigt. När språket antyder risk är rätt svar inte ett bättre formulerat AI-svar. Det är att kliva åt sidan och lyfta fram verkliga resurser. Modellens uppgift där är att känna igen situationen och komma ur vägen.
- Osäkerhet degraderar mot tystnad, inte självsäkerhet. När modellen inte är säker föredrar vi att den svarar för lite framför att den genererar lugnande text som kan vara fel. Ett självsäkert felaktigt svar är värre än inget svar.
Det obekväma: säkerhetslagret är där du lägger oproportionerligt mycket teknisk kraft för noll demovärde. Det syns aldrig i en pitch. Det är också hela anledningen till att en förnuftig person skulle våga anförtro produkten något smärtsamt.
Tillit byggs av att AI:n gör mindre än den skulle kunna
När du väl har en kapabel modell finns frestelsen att visa upp vad den kan. Den kan sluta sig till ditt humör, koppla samman mönster över månader, förutsäga dina dåliga dagar. En del av det är genuint användbart. Det mesta, ivrigt framlyft, känns som övervakning.
Tillit kom från läsbarhet, inte skärpa. Användaren ska alltid förstå varför AI:n sa det den sa, och den ska aldrig verka veta mer om användaren än vad hen har berättat. När Youp refererar till en tidigare anteckning citerar den den, så att kopplingen går att kontrollera snarare än känns kuslig. Vi motstod funktioner för humörprognoser inte för att modellen inte klarade av dem, utan för att få höra "vi tror att morgondagen blir tung för dig" är en kränkning förklädd till en förmån.
Slutsatsen: för intima produkter ligger taket för vad AI:n bör göra en bra bit under taket för vad den kan göra, och att hitta den linjen är det egentliga arbetet. Återhållsamheten är funktionen.
Vad som återstår efter subtraktionen
Att bygga lugn AI visade sig mest handla om subtraktion. Den generativa delen var aldrig det svåra — modeller är rikligt förekommande och ivriga. Det svåra var att gång på gång bestämma sig för att låta AI:n göra mindre: säga mindre, vänta längre, hålla tyst, kliva åt sidan. Det som återstår efter allt det borttagandet känns mindre som en chatbot och mer som ett tyst rum du kan tänka i. Det var alltid målet. Tekniken var bara det vi behövde tygla för att komma dit.