शांत AI डिज़ाइन करना: Youp बनाने से मिले सबक
मानसिक कल्याण के लिए शांत AI बनाना असल में घटाने का काम है। Youp से सीखे AI मानसिक कल्याण UX के सबक: घनत्व, मौन, सुरक्षा और भरोसा।
द्वारा Vitor Lima
Youp का AI आपका अभिवादन नहीं करता। जब आप ऐप खोलते हैं तो यह नहीं पूछता कि "आज आप कैसा महसूस कर रहे हैं?", और सात दिन की लगातार हाज़िरी पर यह आपको बधाई नहीं देता। हमने यह सब हटा दिया। शांत AI डिज़ाइन करने का मतलब था बार-बार यह तय करना कि सॉफ़्टवेयर कम करे — और इनमें से ज़्यादातर फ़ैसले हमने एक मानसिक-कल्याण ऐप बनाते हुए कठिन तरीके से सीखे, ऐसे लोगों के लिए जो अक्सर अपने सबसे बुरे दिनों में इसकी ओर हाथ बढ़ाते हैं।
भावनात्मक स्थिति से शुरू करें, फ़ीचर सूची से नहीं
ज़्यादातर AI प्रोडक्ट मान लेते हैं कि उपयोगकर्ता जिज्ञासु, सक्षम और खुश होने के लिए तैयार होकर आता है। एक कल्याण उपकरण यह नहीं मान सकता। रात के 1 बजे Youp खोलने वाला कोई व्यक्ति चिंतित हो सकता है, शर्मिंदा, थका हुआ, या सुन्न। इससे जो सीमा बनती है वह बेलाग है: AI जो कुछ भी करे, उसमें उपयोगकर्ता की वह ऊर्जा खर्च न हो जो शायद उसके पास है ही नहीं।
इसने कई "एंगेजमेंट" पैटर्न बनने से पहले ही ख़त्म कर दिए। ऐसा कोई ऑनबोर्डिंग चैट नहीं जो आपका इंटरव्यू ले। नाम और पिछली कहानी वाला कोई AI किरदार नहीं। कोई एनिमेटेड टाइपिंग इंडिकेटर नहीं जो आपको एक ऐसी मशीन का इंतज़ार करवाए जो सोचने का नाटक कर रही हो। इनमें से हर एक एक छोटा-सा कर है, और इस संदर्भ में छोटे-छोटे कर मिलकर "यह मैं बाद में करूँगा" बन जाते हैं — जिसका, जर्नलिंग की आदत के लिए, मतलब है कभी नहीं।
निचोड़ यह है: उपयोगकर्ता की सबसे कम-ऊर्जा वाली स्थिति के लिए डिज़ाइन करें, उसकी सबसे उत्साहित स्थिति के लिए नहीं। ऐसा फ़ीचर जो केवल तभी काम करे जब उपयोगकर्ता उत्साहित हो, ठीक तभी नाकाम होगा जब प्रोडक्ट सबसे ज़्यादा मायने रखता है। अब हम हर AI इंटरैक्शन को एक सवाल से कसते हैं: क्या यह तब भी दयालु महसूस होता है जब व्यक्ति मुश्किल से ख़ुद को सँभाले हुए हो?
शांति लेटेंसी और घनत्व का फ़ैसला है, आवाज़ के लहज़े का नहीं
टीमें "शांति" पाने के लिए कॉपी को नरम बनाने का सहारा लेती हैं — मुलायम शब्द, ज़्यादा इमोजी, हल्के पेस्टल रंग। यह सतही संस्करण है। शांति ज़्यादातर इस बारे में है कि AI कितना कहता है और कितनी जल्दी ख़ुद को बीच में डालता है। Youp में ज़्यादातर काम दो लीवर ने किया।
घनत्व
किसी एंट्री के बाद, AI एक ही विचार पेश करता है, अंतर्दृष्टि की दीवार नहीं। एक अवलोकन, कभी-कभार एक सवाल, पर कभी दोनों को एक ही पैराग्राफ़ में ठूँसकर नहीं जिसे उपयोगकर्ता को पचाना पड़े। एक जनरेटिव मॉडल ख़ुशी-ख़ुशी सहानुभूति जैसे दिखने वाले पाठ के पाँच पैराग्राफ़ बना देगा; अनुशासन उनमें से चार को फेंक देने में है। हम प्रतिक्रियाओं की सख़्त सीमा रखते हैं और पहले वाक्य के बाद के हर वाक्य को एक ऐसी क़ीमत मानते हैं जो उपयोगकर्ता चुकाता है।
समय
AI लिखने के काम में कभी बाधा नहीं डालता। न वाक्य के बीच सुझाव, न ऑटोकम्प्लीट जो आपकी भावनाओं को आपके लिए पूरा कर दे। विचार तभी सामने आता है जब आप लिख चुके हों और उसके लिए कहें। लिखना ही उपचारात्मक कर्म है; AI उसका जवाब है, उसका सह-लेखक नहीं।
समझौता असली है, और हमने उसे स्वीकार किया: डेमो में Youp कम "स्मार्ट" दिखता है। स्क्रीनशॉट लेने के लिए आउटपुट की कोई चकाचौंध भरी दीवार नहीं है। पर शांत इंटरफ़ेस का मक़सद ही यह है कि आप इंटरफ़ेस को देखना बंद कर दें, और चकाचौंध उसके ठीक उलट है।
सबसे कठिन डिज़ाइन कौशल है यह जानना कि कब कुछ न कहा जाए
ज़्यादातर AI टीमें यहाँ चूक जाती हैं, क्योंकि एक मौन मॉडल किसी टूटे हुए फ़ीचर जैसा दिखता है। हमने Youp में इसका उल्टा सहज बोध डाला: AI का डिफ़ॉल्ट है ख़ामोश रहना, और बोलने का हक़ वह कमाकर पाता है।
कुछ एंट्रियों के लिए कोई जवाब चाहिए ही नहीं होता। कोई किसी कठिन दिन के बारे में तीन पंक्तियाँ लिखता है और ऐप बंद कर देता है। वहाँ एक चहकता हुआ "लगता है आप बहुत कुछ झेल रहे हैं!" सहारा नहीं है — यह एक मशीन है जो चिंता का अभिनय कर रही है, और उपयोगकर्ता उस खोखलेपन को फ़ौरन भाँप लेते हैं। CBT का ढाँचा हमें यह रेखा थामे रखने में मददगार रहा। संज्ञानात्मक काम इस बारे में है कि व्यक्ति अपने ही पैटर्न को ख़ुद पहचाने, न कि कोई उपकरण उन्हें बयान करे। इसलिए Youp के विचार निदान करने या सलाह देने के बजाय उपयोगकर्ता के अपने शब्दों की ओर इशारा करते हैं ("यही चिंता आपने मंगलवार को भी ज़िक्र की थी")।
हमने मौन को एक दृश्य, गरिमापूर्ण रूप भी दिया। जब AI ख़ुद को रोकता है, तो UI न कोई एरर दिखाता है और न ही कोई ऐसी ख़ाली स्थिति जो नाकामी जैसी पढ़ी जाए। यह एंट्री को सहेजा और सम्पूर्ण दिखाता है, मानो कह रहा हो: इतना काफ़ी था। "कुछ नहीं" को टूटा हुआ नहीं बल्कि जानबूझकर किया गया महसूस कराने में किसी भी जनरेटिव फ़ीचर से ज़्यादा दोहराव लगा।
निचोड़ यह है: एक स्पष्ट "ख़ामोश रहो" शाखा बनाएँ और उसे एक प्रथम-श्रेणी परिणाम मानें, कोई फ़ॉलबैक नहीं। एक ऐसी प्रॉम्प्ट संरचना जो केवल प्रतिक्रियाएँ ही पैदा कर सकती है, ज़रूरत से ज़्यादा प्रतिक्रिया देगी। हमारी संरचना यह तय कर सकती है कि सबसे अच्छा क़दम कुछ न करना है, और उस फ़ैसले की अपनी एक डिज़ाइन की हुई सतह है।
सुरक्षा एक डिज़ाइन सतह है, कोई अस्वीकरण नहीं
मानसिक-कल्याण AI एक ख़ास और गंभीर विफलता को न्योता देता है: एक उपयोगकर्ता जो सचमुच के संकट में है, और एक मॉडल जो धाराप्रवाह, आत्मविश्वासी और मदद के लिए पूरी तरह अयोग्य है। आप "आप कोई थेरेपिस्ट नहीं हैं" प्रॉम्प्ट लिखकर इससे बाहर नहीं निकल सकते। सुरक्षा व्यवहार को डिज़ाइन किया जाना चाहिए, जाँचा जाना चाहिए, और उबाऊ होना चाहिए।
कुछ सिद्धांत जिन्हें हम थामे रखते हैं:
- AI कभी निदान नहीं करता और कभी नैदानिक अधिकार का दावा नहीं करता। यह विचार करता है; आकलन नहीं। यह सिस्टम प्रॉम्प्ट में और उसके इर्द-गिर्द की हर सतह में एक कठोर सीमा है।
- संकट के संकेत तुरंत और स्पष्ट रूप से इंसानों और हेल्पलाइन की ओर भेजे जाते हैं। जब भाषा जोखिम का संकेत दे, तो सही जवाब बेहतर शब्दों वाली कोई AI प्रतिक्रिया नहीं है। सही जवाब है किनारे हट जाना और असली संसाधन सामने लाना। वहाँ मॉडल का काम है पहचानना और रास्ते से हट जाना।
- अनिश्चितता आत्मविश्वास की नहीं, मौन की ओर ढलती है। जब मॉडल सुनिश्चित न हो, तो हम चाहेंगे कि वह ऐसा आश्वस्त करने वाला पाठ बनाने के बजाय कम प्रतिक्रिया दे जो शायद ग़लत हो। एक आत्मविश्वासी ग़लत जवाब किसी जवाब न होने से बदतर है।
असहज हिस्सा यह है: सुरक्षा परत वही जगह है जहाँ आप डेमो में शून्य मूल्य के लिए असंगत रूप से ज़्यादा इंजीनियरिंग मेहनत लगाते हैं। यह किसी पिच में कभी नहीं दिखती। और यही पूरी वजह है कि एक समझदार व्यक्ति किसी दर्दनाक बात के लिए प्रोडक्ट पर भरोसा करेगा।
भरोसा तब बनता है जब AI अपनी क्षमता से कम करता है
एक बार जब आपके पास एक सक्षम मॉडल हो, तो वह जो जानता है उसे दिखाने का प्रलोभन होता है। वह आपके मूड का अनुमान लगा सकता है, महीनों तक फैले पैटर्न जोड़ सकता है, आपके बुरे दिनों की भविष्यवाणी कर सकता है। इसमें से कुछ सचमुच उपयोगी है। पर इसका ज़्यादातर हिस्सा, बेताबी से सामने रखा जाए, तो निगरानी जैसा महसूस होता है।
भरोसा सुबोधता से आया, चतुराई से नहीं। उपयोगकर्ता को हमेशा यह समझ आना चाहिए कि AI ने जो कहा वह क्यों कहा, और उसे कभी ऐसा नहीं लगना चाहिए कि AI उसके बारे में उससे ज़्यादा जानता है जितना उसने बताया है। जब Youp किसी पिछली एंट्री का हवाला देता है, तो वह उसे उद्धृत करता है, ताकि संबंध डरावना नहीं बल्कि जाँचने-योग्य हो। हमने मूड-भविष्यवाणी वाले फ़ीचर इसलिए नहीं रोके कि मॉडल उन्हें कर नहीं सकता था, बल्कि इसलिए कि यह सुनना कि "हमें लगता है कि कल आपके लिए कठिन रहेगा" एक उल्लंघन है जो फ़ायदे के लिबास में आता है।
निचोड़ यह है: अंतरंग प्रोडक्ट्स के लिए, AI को क्या करना चाहिए की सीमा उसके क्या कर सकता है की सीमा से काफ़ी नीचे बैठती है, और उस रेखा को ढूँढना ही असली काम है। संयम ही फ़ीचर है।
घटाने के बाद जो बचता है
शांत AI बनाना असल में ज़्यादातर घटाने का काम निकला। जनरेटिव हिस्सा कभी कठिन हिस्सा था ही नहीं — मॉडल भरपूर हैं और उतावले भी। कठिन हिस्सा था बार-बार यह तय करना कि AI कम करे: कम कहे, ज़्यादा रुके, ख़ामोश रहे, किनारे हट जाए। इस सारे हटाने के बाद जो बचता है, वह किसी चैटबॉट से कम और एक ऐसे शांत कमरे से ज़्यादा महसूस होता है जिसमें आप सोच सकें। लक्ष्य हमेशा से यही था। तकनीक तो बस वह चीज़ थी जिसे वहाँ पहुँचने के लिए हमें रोकना पड़ा।