Спокойный ИИ: чему нас научила разработка Youp
Спокойный ИИ для ментального здоровья — это в основном вычитание. Уроки UX на примере Youp: плотность, тишина, безопасность и доверие.
Автор Vitor Lima
ИИ в Youp не здоровается с вами. Он не спрашивает «Как вы себя сегодня чувствуете?», когда вы открываете приложение, и не поздравляет вас с семидневной серией. Мы убрали всё это. Проектировать спокойный ИИ означало снова и снова принимать решение заставить приложение делать меньше — и большинство этих решений дались нам тяжело, пока мы создавали приложение для ментального здоровья для людей, которые нередко открывают его в свои худшие дни.
Начинайте с эмоционального состояния, а не со списка функций
Большинство ИИ-продуктов исходят из того, что пользователь приходит любопытным, готовым к действию и открытым для восторга. Инструмент для ментального здоровья не может себе такого позволить. Тот, кто открывает Youp в час ночи, может быть тревожным, пристыжённым, измотанным или онемевшим. Отсюда следует прямолинейное ограничение: ничто из того, что делает ИИ, не должно отнимать у пользователя энергию, которой у него, возможно, нет.
Это отсекло множество паттернов «вовлечения» ещё до того, как их успели построить. Никакого онбординг-чата, который берёт у вас интервью. Никакой ИИ-персоны с именем и историей. Никакого анимированного индикатора набора текста, который заставляет вас ждать, пока машина изображает раздумья. Каждая из этих мелочей — небольшой налог, а в таком контексте небольшие налоги складываются в «сделаю это позже», что для привычки вести дневник означает «никогда».
Вывод: проектируйте под состояние наименьшей энергии пользователя, а не под самое вовлечённое. Функция, которая работает лишь тогда, когда пользователь полон энтузиазма, откажет ровно в тот момент, когда продукт важнее всего. Теперь мы проверяем на прочность каждое взаимодействие с ИИ одним вопросом: останется ли это по-прежнему добрым, если человек едва держится?
Спокойствие — это решение о задержке и плотности, а не тон голоса
Команды тянутся к «спокойствию» через смягчение текста — слова помягче, побольше эмодзи, пастельная палитра. Это поверхностная версия. Спокойствие в основном определяется тем, сколько говорит ИИ и как быстро он вмешивается. Два рычага сделали в Youp большую часть работы.
Плотность
После записи ИИ предлагает единственное размышление, а не стену выводов. Одно наблюдение, изредка один вопрос, но никогда оба сразу, сложенные в абзац, который пользователю приходится переваривать. Генеративная модель с радостью выдаст пять абзацев эмпатично звучащего текста; дисциплина в том, чтобы выбросить четыре из них. Мы жёстко ограничиваем длину ответов и относимся к каждому предложению после первого как к цене, которую платит пользователь.
Тайминг
ИИ никогда не прерывает процесс письма. Никаких подсказок посреди фразы, никакого автодополнения, договаривающего ваши чувства за вас. Размышление появляется только после того, как вы закончили и попросили о нём. Письмо — это терапевтическое действие; ИИ — отклик на него, а не соавтор.
Компромисс реален, и мы на него пошли: в демо Youp выглядит менее «умным». Нет ослепительной стены вывода, которую хочется заскриншотить. Но смысл спокойного интерфейса в том, чтобы вы перестали замечать интерфейс, а ослепительность — прямая ему противоположность.
Самый трудный навык дизайна — знать, когда промолчать
Большинство ИИ-команд ошибаются здесь, потому что молчащая модель выглядит как сломанная функция. В Youp мы заложили противоположный инстинкт: по умолчанию ИИ молчит и должен заслужить право заговорить.
Некоторые записи не требуют ответа вовсе. Человек пишет три строки о тяжёлом дне и закрывает приложение. Бодрое «Похоже, вам сейчас нелегко!» — это не поддержка, а машина, разыгрывающая заботу, и пользователи мгновенно чувствуют её пустоту. Держаться этой линии помог подход КПТ. Когнитивная работа — это когда человек сам замечает свои паттерны, а не когда инструмент их за него озвучивает. Поэтому размышления Youp отсылают к собственным словам пользователя («вы упоминали ту же тревогу во вторник»), а не ставят диагноз и не дают советы.
Ещё мы придали тишине видимую и достойную форму. Когда ИИ сдерживается, интерфейс не показывает ни ошибки, ни пустого экрана, читающегося как провал. Он представляет запись — сохранённую и цельную, — словно говоря: этого было достаточно. Заставить «ничто» ощущаться как намеренное, а не как поломка, потребовало больше итераций, чем любая из генеративных функций.
Вывод: создайте явную ветку «молчать» и относитесь к ней как к полноценному исходу, а не как к запасному варианту. Архитектура промптов, способная только выдавать ответы, будет отвечать слишком много. Наша может решить, что лучший ход — не делать ничего, и у этого решения есть собственная спроектированная форма.
Безопасность — это плоскость дизайна, а не дисклеймер
ИИ для ментального здоровья притягивает специфический и серьёзный сценарий провала: пользователь в настоящем кризисе и модель, которая красноречива, уверена в себе и совершенно не квалифицирована, чтобы помочь. Из этого нельзя выкрутиться промптом «ты не терапевт». Безопасное поведение приходится проектировать, тестировать и делать скучным.
Несколько принципов, которых мы держимся:
- ИИ никогда не ставит диагнозов и не претендует на клинический авторитет. Он отражает, но не оценивает. Это жёсткая граница в системном промпте и во всех окружающих его поверхностях.
- Сигналы кризиса немедленно и недвусмысленно направляют к людям и горячим линиям. Когда формулировки указывают на риск, правильный ответ — не более удачно составленная реплика ИИ. Это отойти в сторону и вывести на экран реальные ресурсы. Задача модели здесь — распознать и уйти с дороги.
- При неопределённости система склоняется к молчанию, а не к уверенности. Когда модель не уверена, мы предпочтём, чтобы она недоответила, а не сгенерировала успокаивающий текст, который может оказаться неверным. Уверенный неправильный ответ хуже, чем отсутствие ответа.
Неудобная часть: слой безопасности — это то, куда уходит непропорционально много инженерных усилий при нулевой ценности для демо. Он никогда не всплывает в питче. И при этом он же — вся причина, по которой разумный человек доверит продукту что-то болезненное.
Доверие строится на том, что ИИ делает меньше, чем мог бы
Как только у вас есть мощная модель, возникает соблазн показать, что она умеет. Она может вывести ваше настроение, связать паттерны за месяцы, предсказать ваши плохие дни. Часть этого по-настоящему полезна. Большая часть, поданная с рвением, ощущается как слежка.
Доверие пришло из понятности, а не из смекалистости. Пользователь должен всегда понимать, почему ИИ сказал то, что сказал, и никогда не должно казаться, что тот знает о нём больше, чем ему рассказали. Когда Youp ссылается на прошлую запись, он цитирует её, так что связь можно проверить, а не пугается. Мы отказались от функций предсказания настроения не потому, что модель не могла бы их выполнить, а потому, что фраза «мы считаем, что завтра вам будет тяжело» — это вторжение, наряженное в выгоду.
Вывод: для интимных продуктов потолок того, что ИИ следует делать, находится намного ниже потолка того, что он может делать, и найти эту границу — и есть настоящая работа. Сдержанность и есть функция.
Что остаётся после вычитания
Создание спокойного ИИ оказалось в основном вычитанием. Генеративная часть никогда не была трудной — моделей в избытке, и они рвутся в бой. Трудным было раз за разом принимать решение заставить ИИ делать меньше: говорить меньше, ждать дольше, молчать, отступать в сторону. То, что остаётся после всего этого удаления, ощущается не столько как чат-бот, сколько как тихая комната, в которой можно думать. Это и было целью с самого начала. Технология была лишь тем, что нужно было сдержать, чтобы туда прийти.