Projektowanie spokojnej AI: czego nauczyło nas budowanie Youp
Projektowanie spokojnej AI dla zdrowia psychicznego to głównie odejmowanie. Lekcje z budowy Youp o UX: gęstość, cisza, bezpieczeństwo i zaufanie.
Autor Vitor Lima
AI w Youp cię nie wita. Nie pyta „Jak się dziś czujesz?", gdy otwierasz aplikację, i nie gratuluje ci siedmiodniowej passy. Usunęliśmy to wszystko. Projektowanie spokojnej AI oznaczało podejmowanie raz za razem decyzji, by oprogramowanie robiło mniej — a większości z nich nauczyliśmy się po bólu, budując aplikację do wspierania zdrowia psychicznego dla ludzi, którzy często sięgają po nią w swoje najgorsze dni.
Zacznij od stanu emocjonalnego, a nie od listy funkcji
Większość produktów opartych na AI zakłada, że użytkownik pojawia się ciekawy, sprawny i gotowy, by go zachwycić. Narzędzie do dbania o dobrostan nie może tego zakładać. Ktoś, kto otwiera Youp o pierwszej w nocy, może być zalękniony, zawstydzony, wyczerpany albo odrętwiały. Wynikające z tego ograniczenie jest bezwzględne: nic, co robi AI, nie powinno kosztować użytkownika energii, której może po prostu nie mieć.
To pogrzebało mnóstwo wzorców „angażujących", zanim jeszcze powstały. Żadnego czatu onboardingowego, który cię przesłuchuje. Żadnej persony AI z imieniem i historią. Żadnego animowanego wskaźnika pisania, który każe ci czekać, aż maszyna udaje, że myśli. Każdy z nich to mały podatek, a w tym kontekście małe podatki kumulują się w „zrobię to później" — co w przypadku nawyku prowadzenia dziennika oznacza „nigdy".
Wniosek: projektuj z myślą o stanie najniższej energii użytkownika, a nie o jego największym zaangażowaniu. Funkcja, która działa tylko wtedy, gdy użytkownik jest pełen entuzjazmu, zawiedzie dokładnie w chwili, gdy produkt liczy się najbardziej. Dziś każdą interakcję z AI poddajemy próbie jednym pytaniem: czy to wciąż wydaje się życzliwe, jeśli ta osoba ledwo się trzyma?
Spokój to decyzja o opóźnieniu i gęstości, a nie ton głosu
Zespoły sięgają po „spokój", zmiękczając teksty — łagodniejsze słowa, więcej emoji, pastelowa paleta. To wersja powierzchowna. Spokój to przede wszystkim kwestia tego, ile AI mówi i jak szybko się wtrąca. W Youp najwięcej zdziałały dwie dźwignie.
Gęstość
Po wpisie AI oferuje jedną refleksję, a nie ścianę wglądów. Jedna obserwacja, czasem jedno pytanie, nigdy jedno i drugie spiętrzone w akapit, który użytkownik musi przetrawić. Model generatywny z chęcią wyprodukuje pięć akapitów pełnego empatii tekstu; dyscyplina polega na wyrzuceniu czterech z nich. Twardo ograniczamy odpowiedzi i traktujemy każde zdanie po pierwszym jako koszt, który płaci użytkownik.
Moment
AI nigdy nie przerywa aktu pisania. Żadnych podpowiedzi w połowie zdania, żadnego autouzupełniania, które kończy za ciebie twoje uczucia. Refleksja pojawia się dopiero wtedy, gdy skończysz i o nią poprosisz. To pisanie jest aktem terapeutycznym; AI jest odpowiedzią na nie, a nie współautorem.
Kompromis jest realny i go zaakceptowaliśmy: Youp wypada mniej „inteligentnie" w demie. Nie ma olśniewającej ściany treści do zrzutu ekranu. Ale sensem spokojnego interfejsu jest to, że przestajesz go zauważać, a olśniewanie jest tego przeciwieństwem.
Najtrudniejsza umiejętność projektowa to wiedza, kiedy nic nie mówić
Większość zespołów AI robi to źle, bo milczący model wygląda jak zepsuta funkcja. W Youp wbudowaliśmy odwrotny instynkt: domyślnym stanem AI jest cisza, a prawo do zabrania głosu trzeba sobie zasłużyć.
Niektóre wpisy nie wymagają żadnej odpowiedzi. Ktoś pisze trzy linijki o ciężkim dniu i zamyka aplikację. Rozanielone „Wygląda na to, że dużo teraz przeżywasz!" nie jest tu wsparciem — to maszyna odgrywająca troskę, a użytkownicy natychmiast wyczuwają tę pustkę. Ramy terapii poznawczo-behawioralnej pomogły nam utrzymać tę linię. Praca poznawcza polega na tym, że człowiek dostrzega własne wzorce, a nie na tym, że narzędzie mu je opowiada. Dlatego refleksje Youp odsyłają do własnych słów użytkownika („wspomniałeś o tym samym zmartwieniu we wtorek") zamiast diagnozować czy doradzać.
Nadaliśmy też ciszy widoczną, godną formę. Kiedy AI się powstrzymuje, interfejs nie pokazuje żadnego błędu ani pustego ekranu, który czytałoby się jako porażkę. Prezentuje wpis, zapisany i kompletny, jakby chciał powiedzieć: to wystarczyło. Sprawienie, by „nic" wydawało się zamierzone, a nie zepsute, wymagało więcej iteracji niż którakolwiek z funkcji generatywnych.
Wniosek: zbuduj jawną gałąź „pozostań cicho" i traktuj ją jako pełnoprawny wynik, a nie awaryjne wyjście. Architektura promptów, która potrafi tylko produkować odpowiedzi, będzie odpowiadać nadmiernie. Nasza potrafi uznać, że najlepszym ruchem jest nierobienie niczego — i ta decyzja ma własną, zaprojektowaną formę.
Bezpieczeństwo to powierzchnia projektowa, a nie zastrzeżenie prawne
AI wspierające zdrowie psychiczne przyciąga specyficzny i poważny scenariusz awarii: użytkownik w prawdziwym kryzysie i model, który jest płynny, pewny siebie i kompletnie niekompetentny, by pomóc. Nie wyprompotujesz się z tego zdaniem „nie jesteś terapeutą". Zachowanie bezpieczne trzeba zaprojektować, przetestować i uczynić nudnym.
Kilka zasad, których się trzymamy:
- AI nigdy nie diagnozuje i nigdy nie rości sobie autorytetu klinicznego. Odzwierciedla; nie ocenia. To twarda granica w prompcie systemowym i w każdej otaczającej go warstwie.
- Sygnały kryzysu prowadzą do ludzi i telefonów zaufania, natychmiast i bez wątpliwości. Gdy język sugeruje ryzyko, właściwą reakcją nie jest lepiej sformułowana odpowiedź AI. Jest nią usunięcie się na bok i pokazanie realnych zasobów pomocowych. Zadaniem modelu jest tu rozpoznać sytuację i zejść z drogi.
- Niepewność degeneruje się w kierunku ciszy, a nie pewności. Kiedy model nie jest pewny, wolimy, żeby odpowiedział zbyt oszczędnie, niż żeby wygenerował uspokajający tekst, który może być błędny. Pewna błędna odpowiedź jest gorsza niż żadna.
Niewygodna część: warstwa bezpieczeństwa to miejsce, w którym wkładasz nieproporcjonalnie dużo pracy inżynierskiej przy zerowej wartości demonstracyjnej. Nigdy nie pojawia się w pitchu. Jest też całym powodem, dla którego rozsądna osoba powierzyłaby produktowi coś bolesnego.
Zaufanie buduje się, gdy AI robi mniej, niż mogłaby
Kiedy masz już zdolny model, pojawia się pokusa, by popisać się tym, co potrafi. Może wywnioskować twój nastrój, powiązać wzorce sprzed miesięcy, przewidzieć twoje gorsze dni. Część z tego jest naprawdę użyteczna. Większość, podana zbyt gorliwie, sprawia wrażenie inwigilacji.
Zaufanie wzięło się z czytelności, a nie ze sprytu. Użytkownik powinien zawsze rozumieć, dlaczego AI powiedziała to, co powiedziała, i nigdy nie powinna sprawiać wrażenia, że wie o nim więcej, niż jej powiedział. Kiedy Youp odwołuje się do wcześniejszego wpisu, cytuje go, więc powiązanie da się sprawdzić, zamiast być niepokojące. Oparliśmy się funkcjom przewidywania nastroju nie dlatego, że model by ich nie potrafił, ale dlatego, że usłyszeć „sądzimy, że jutro będzie dla ciebie ciężko" to naruszenie ubrane w korzyść.
Wniosek: w produktach intymnych pułap tego, co AI powinno robić, leży znacznie poniżej pułapu tego, co robić potrafi — a znalezienie tej granicy to właściwa praca. Powściągliwość jest funkcją.
Co zostaje po odejmowaniu
Budowanie spokojnej AI okazało się głównie odejmowaniem. Część generatywna nigdy nie była tą trudną — modeli jest w bród i aż się rwą do działania. Trudne było podejmowanie raz za razem decyzji, by AI robiła mniej: mówiła mniej, czekała dłużej, milczała, usuwała się na bok. To, co zostaje po całym tym usuwaniu, przypomina mniej chatbota, a bardziej cichy pokój, w którym można pomyśleć. To zawsze był cel. Technologia była tylko tym, co musieliśmy okiełznać, żeby tam dotrzeć.