고요한 AI 설계하기: Youp를 만들며 배운 것들

Youp의 AI는 당신에게 인사하지 않는다. 앱을 열었을 때 "오늘 기분은 어떠세요?"라고 묻지 않고, 7일 연속 기록을 달성했다고 축하해 주지도 않는다. 우리는 그 모든 것을 없앴다. 고요한 AI를 설계한다는 것은 소프트웨어가 '덜 하도록' 만드는 결정을 몇 번이고 반복하는 일이었다. 그리고 그 결정 대부분은, 사람들이 하필 가장 힘든 날에 손을 뻗게 되는 정신 건강 앱을 만들면서 힘겹게 배운 것들이다.

기능 목록이 아니라 감정 상태에서 출발하라

대부분의 AI 제품은 사용자가 호기심 넘치고, 능숙하고, 즐거워할 준비가 된 상태로 찾아온다고 가정한다. 웰니스 도구는 그럴 수 없다. 새벽 1시에 Youp를 여는 사람은 불안하거나, 부끄럽거나, 지쳐 있거나, 아무 감정도 느끼지 못하는 상태일 수 있다. 여기서 따라오는 제약은 무뚝뚝할 만큼 분명하다. AI가 하는 그 어떤 행동도, 사용자에게 남아 있지 않을지 모르는 에너지를 요구해서는 안 된다.

그 원칙 때문에 수많은 "인게이지먼트" 패턴이 만들어지기도 전에 폐기됐다. 당신을 인터뷰하는 온보딩 채팅도 없고, 이름과 배경 사연을 가진 AI 페르소나도 없다. 기계가 생각하는 척하며 당신을 기다리게 만드는 타이핑 애니메이션 표시기도 없다. 각각은 작은 세금이고, 이런 맥락에서는 작은 세금들이 쌓여 "나중에 해야지"가 된다. 저널링 습관에서 "나중"이란 곧 "영영 안 함"을 의미한다.

핵심은 이것이다. 사용자가 가장 몰입한 상태가 아니라, 가장 에너지가 바닥난 상태를 기준으로 설계하라. 사용자가 열정적일 때만 작동하는 기능은, 정작 제품이 가장 절실한 순간에 실패한다. 우리는 이제 모든 AI 상호작용을 하나의 질문으로 압박 테스트한다. 이 기능은, 겨우 버티고 있는 사람에게도 여전히 다정하게 느껴지는가?

고요함은 목소리 톤이 아니라 지연 시간과 밀도의 결정이다

여러 팀이 문구를 부드럽게 다듬는 방식으로 "고요함"에 접근한다. 더 다정한 단어, 더 많은 이모지, 파스텔 톤 색상. 그건 얕은 버전이다. 고요함은 대부분 AI가 얼마나 많이 말하는가, 그리고 얼마나 빨리 끼어드는가의 문제다. Youp에서는 두 개의 레버가 그 일의 대부분을 해냈다.

밀도

기록을 남긴 뒤, AI는 통찰의 벽이 아니라 단 하나의 성찰을 건넨다. 하나의 관찰, 이따금 하나의 질문. 그러나 사용자가 소화해야 할 한 문단 안에 둘을 쌓아 넣는 법은 없다. 생성형 모델은 공감하는 듯한 다섯 문단의 텍스트를 기꺼이 뽑아낸다. 절제란 그중 네 문단을 버리는 데 있다. 우리는 응답 길이를 엄격하게 제한하고, 첫 문장 이후의 모든 문장을 사용자가 치르는 비용으로 취급한다.

타이밍

AI는 글 쓰는 행위를 결코 방해하지 않는다. 문장 중간에 튀어나오는 제안도, 당신의 감정을 대신 완성해 버리는 자동완성도 없다. 성찰은 오직 당신이 글을 마치고 그것을 요청했을 때에만 나타난다. 치유의 행위는 '쓰는 것'이다. AI는 그에 대한 반응일 뿐, 공동 저자가 아니다.

이 트레이드오프는 실재하고, 우리는 그것을 받아들였다. 데모에서 Youp는 덜 "똑똑해" 보인다. 스크린샷으로 자랑할 만한 눈부신 출력의 벽이 없다. 하지만 고요한 인터페이스의 요점은 당신이 인터페이스를 더 이상 의식하지 않게 되는 것이고, 화려함은 그 반대에 있다.

가장 어려운 디자인 기술은 아무 말도 하지 않을 때를 아는 것이다

대부분의 AI 팀은 이 지점에서 실수한다. 침묵하는 모델은 고장 난 기능처럼 보이기 때문이다. 우리는 Youp에 정반대의 본능을 심었다. AI의 기본값은 조용함이고, 말할 권리는 스스로 얻어내야 한다.

어떤 기록은 아무런 응답도 필요로 하지 않는다. 누군가 힘들었던 하루에 대해 세 줄을 쓰고 앱을 닫는다. 그때 "정말 많은 일을 겪고 계시는 것 같네요!"라는 명랑한 반응은 지지가 아니다. 그것은 기계가 염려를 연기하는 것이고, 사용자는 그 공허함을 즉시 느낀다. CBT(인지행동치료) 관점이 우리가 선을 지키는 데 도움을 줬다. 인지적 작업의 핵심은 사람이 스스로의 패턴을 알아차리는 것이지, 도구가 그것을 대신 서술해 주는 것이 아니다. 그래서 Youp의 성찰은 진단하거나 조언하는 대신, 사용자 자신의 말로 되돌려 준다("화요일에도 같은 걱정을 언급하셨네요").

우리는 또한 침묵에 눈에 보이고, 품위 있는 형태를 부여했다. AI가 말을 아낄 때, UI는 오류도 실패처럼 읽히는 빈 상태도 보여주지 않는다. 저장되어 온전히 남은 기록을 그대로 제시하며, 마치 이렇게 말하는 듯하다. 이것으로 충분했다고. "아무것도 아닌 것"을 고장이 아니라 의도된 것으로 느껴지게 만드는 일은, 그 어떤 생성 기능보다 더 많은 반복을 거쳤다.

핵심은 이것이다. 명시적인 "조용히 있기" 분기를 만들고, 그것을 최후의 대비책이 아니라 일급(first-class) 결과로 대하라. 오직 응답만 만들어낼 수 있는 프롬프트 구조는 결국 과잉 응답하게 된다. 우리 구조는 가장 좋은 수가 '아무것도 하지 않는 것'이라고 판단할 수 있고, 그 판단에는 그것만을 위해 설계된 고유한 표면이 있다.

안전은 면책 문구가 아니라 디자인 표면이다

정신 건강 AI는 특정하고 심각한 실패 유형을 끌어들인다. 진짜 위기에 처한 사용자, 그리고 유창하고 자신감 넘치지만 도움을 줄 자격이라곤 전혀 없는 모델. "당신은 치료사가 아닙니다"라는 프롬프트로는 이 문제에서 빠져나올 수 없다. 안전 행동은 설계되고, 테스트되고, 지루해야 한다.

우리가 지키는 몇 가지 원칙이 있다.

• AI는 결코 진단하지 않으며, 임상적 권위를 주장하지 않는다. 그것은 성찰할 뿐, 평가하지 않는다. 이것은 시스템 프롬프트 안에서도, 그것을 둘러싼 모든 표면에서도 확고한 경계다.
• 위기 신호는 즉각적이고 명백하게 사람과 상담 전화로 연결된다. 언어가 위험을 시사할 때, 올바른 응답은 더 잘 다듬어진 AI의 답변이 아니다. 그것은 물러서서 실제 자원을 드러내 보이는 것이다. 그 순간 모델의 임무는 위험을 인식하고 길을 비켜 주는 것이다.
• 불확실성은 자신감이 아니라 침묵으로 수렴한다. 모델이 확신하지 못할 때, 우리는 틀릴 수도 있는 안심 문구를 만들어내기보다 차라리 응답을 아끼는 쪽을 택한다. 자신 있게 내놓은 틀린 답은, 답이 없는 것보다 나쁘다.

불편한 부분은 이것이다. 안전 계층은 데모 가치가 전혀 없는 곳에 불균형하게 많은 엔지니어링 노력을 쏟아붓는 지점이다. 그것은 피치에 결코 등장하지 않는다. 그리고 동시에, 분별 있는 사람이 고통스러운 무언가를 이 제품에 맡길 수 있게 만드는 유일한 이유이기도 하다.

신뢰는 AI가 할 수 있는 것보다 덜 함으로써 쌓인다

능력 있는 모델을 손에 넣으면, 그것이 아는 바를 뽐내고 싶은 유혹이 생긴다. 당신의 기분을 추론하고, 몇 달에 걸친 패턴을 연결하고, 당신의 나쁜 날을 예측할 수 있다. 그중 일부는 진짜로 유용하다. 하지만 대부분은, 열성적으로 드러내는 순간 감시처럼 느껴진다.

신뢰는 영리함이 아니라 *가독성(legibility)*에서 왔다. 사용자는 AI가 왜 그 말을 했는지 언제나 이해할 수 있어야 하고, AI는 사용자가 말한 것보다 더 많이 알고 있는 것처럼 보여서는 결코 안 된다. Youp가 과거 기록을 참조할 때는 그것을 인용한다. 그래서 그 연결은 으스스한 것이 아니라 확인 가능한 것이 된다. 우리는 기분 예측 기능을 뿌리쳤는데, 모델이 그것을 할 수 없어서가 아니었다. "내일은 당신에게 힘든 날일 것 같아요"라는 말을 듣는 것은, 혜택으로 위장한 침해이기 때문이다.

핵심은 이것이다. 친밀한 제품에서, AI가 '해야 하는 것'의 천장은 AI가 '할 수 있는 것'의 천장보다 한참 아래에 있다. 그리고 그 선을 찾는 일이 진짜 작업이다. 절제가 곧 기능이다.

덜어낸 뒤에 남는 것

고요한 AI를 만드는 일은, 알고 보니 대부분 '덜어내기'였다. 생성하는 부분은 결코 어려운 부분이 아니었다. 모델은 넘쳐나고, 열성적이다. 어려운 부분은 AI가 덜 하도록 몇 번이고 결정하는 것이었다. 덜 말하고, 더 기다리고, 조용히 있고, 물러서도록. 그 모든 제거 뒤에 남은 것은 챗봇이라기보다, 당신이 생각에 잠길 수 있는 고요한 방에 가깝게 느껴진다. 그것이 언제나 목표였다. 기술은 그저, 거기에 닿기 위해 우리가 절제해야 했던 대상일 뿐이었다.