ออกแบบ AI ที่สงบนิ่ง: บทเรียนจากการสร้าง Youp

AI ใน Youp ไม่ทักทายคุณ มันไม่ถามว่า "วันนี้รู้สึกอย่างไรบ้าง" เมื่อคุณเปิดแอป และมันไม่แสดงความยินดีที่คุณทำติดต่อกันครบเจ็ดวัน เราตัดทั้งหมดนั้นออกไป การออกแบบ AI ที่สงบนิ่งหมายถึงการตัดสินใจครั้งแล้วครั้งเล่าว่าจะให้ซอฟต์แวร์ทำน้อยลง และการตัดสินใจส่วนใหญ่นั้นเราเรียนรู้มาด้วยวิธีที่เจ็บปวด ระหว่างสร้างแอปดูแลสุขภาพใจให้กับคนที่มักหยิบมันขึ้นมาใช้ในวันที่แย่ที่สุดของชีวิต

เริ่มจากสภาวะอารมณ์ ไม่ใช่จากลิสต์ฟีเจอร์

ผลิตภัณฑ์ AI ส่วนใหญ่คิดเอาเองว่าผู้ใช้มาถึงด้วยความอยากรู้อยากเห็น พร้อมลงมือ และพร้อมจะถูกทำให้ประทับใจ แต่เครื่องมือด้านสุขภาพใจตั้งสมมติฐานแบบนั้นไม่ได้ คนที่เปิด Youp ตอนตีหนึ่งอาจกำลังวิตกกังวล ละอายใจ อ่อนล้า หรือชาด้าน ข้อจำกัดที่ตามมาจึงตรงไปตรงมา นั่นคือ ไม่มีสิ่งใดที่ AI ทำแล้วควรไปดึงพลังงานที่ผู้ใช้อาจไม่มีเหลืออยู่

หลักคิดนี้ล้มแพตเทิร์นที่เน้น "การมีส่วนร่วม" ไปหลายอย่างก่อนที่จะได้สร้างเสียอีก ไม่มีแชตออนบอร์ดที่คอยสัมภาษณ์คุณ ไม่มีตัวตน AI ที่มีชื่อและมีเรื่องราวเบื้องหลัง ไม่มีอนิเมชันจุดพิมพ์กระพริบที่ทำให้คุณต้องรอเครื่องจักรแกล้งทำเป็นครุ่นคิด แต่ละอย่างคือภาษีก้อนเล็ก ๆ และในบริบทนี้ ภาษีก้อนเล็กพวกนั้นทบต้นกลายเป็น "ไว้ค่อยทำทีหลัง" ซึ่งสำหรับนิสัยการเขียนบันทึกแล้ว แปลว่าไม่ได้ทำเลยตลอดกาล

บทสรุปคือ ออกแบบเพื่อสภาวะที่ผู้ใช้มีพลังงานต่ำที่สุด ไม่ใช่ตอนที่เขามีส่วนร่วมมากที่สุด ฟีเจอร์ที่ทำงานได้เฉพาะตอนผู้ใช้กระตือรือร้นจะพังลงในจังหวะที่ผลิตภัณฑ์สำคัญที่สุดพอดี ตอนนี้เราทดสอบทุกปฏิสัมพันธ์ของ AI ด้วยคำถามเดียวว่า สิ่งนี้ยังรู้สึกอ่อนโยนอยู่ไหม ถ้าคนที่ใช้กำลังประคองตัวเองแทบไม่ไหว

ความสงบคือเรื่องของหน่วงเวลาและความหนาแน่น ไม่ใช่โทนเสียง

หลายทีมเอื้อมไปหา "ความสงบ" ด้วยการทำให้ถ้อยคำนุ่มลง เลือกคำที่อ่อนโยนขึ้น ใส่อีโมจิเยอะขึ้น ใช้โทนสีพาสเทล นั่นคือเวอร์ชันตื้น ๆ ความสงบส่วนใหญ่อยู่ที่ว่า AI พูด มากแค่ไหน และมันแทรกตัวเข้ามา เร็วแค่ไหน มีสองคันโยกที่ทำงานหนักที่สุดใน Youp

ความหนาแน่น

หลังจากบันทึกเสร็จ AI จะเสนอการสะท้อนกลับเพียงข้อเดียว ไม่ใช่กำแพงของ "ข้อค้นพบ" หนึ่งข้อสังเกต บางครั้งหนึ่งคำถาม แต่ไม่เคยเอาทั้งสองมากองซ้อนกันเป็นย่อหน้าที่ผู้ใช้ต้องมานั่งย่อยเอง โมเดล generative จะยินดีผลิตข้อความที่ฟังดูเห็นอกเห็นใจออกมาห้าย่อหน้าอย่างเต็มใจ วินัยที่แท้จริงอยู่ที่การโยนมันทิ้งไปสี่ย่อหน้า เราจำกัดความยาวการตอบอย่างเด็ดขาด และมองว่าทุกประโยคหลังจากประโยคแรกคือต้นทุนที่ผู้ใช้ต้องจ่าย

จังหวะเวลา

AI ไม่เคยขัดจังหวะการเขียน ไม่มีคำแนะนำแทรกกลางประโยค ไม่มี autocomplete ที่คอยเติมความรู้สึกของคุณให้เสร็จแทน การสะท้อนกลับจะปรากฏก็ต่อเมื่อคุณเขียนเสร็จและร้องขอมันแล้วเท่านั้น การเขียนคือการบำบัด ส่วน AI คือการตอบสนองต่อสิ่งนั้น ไม่ใช่ผู้ร่วมเขียน

การแลกเปลี่ยนนี้มีอยู่จริง และเรายอมรับมัน นั่นคือ Youp ดู "ฉลาด" น้อยลงเวลาสาธิต ไม่มีกำแพงเอาต์พุตอลังการให้แคปหน้าจอโชว์ แต่แก่นของอินเทอร์เฟซที่สงบก็คือ คุณเลิกสังเกตเห็นตัวอินเทอร์เฟซไปเลย และความอลังการคือสิ่งที่ตรงข้ามกับสิ่งนั้น

ทักษะการออกแบบที่ยากที่สุดคือการรู้ว่าเมื่อไรควรไม่พูดอะไรเลย

ทีม AI ส่วนใหญ่พลาดตรงนี้ เพราะโมเดลที่นิ่งเงียบดูเหมือนฟีเจอร์ที่พัง เราสร้างสัญชาตญาณตรงกันข้ามลงไปใน Youp นั่นคือ ค่าเริ่มต้นของ AI คือความเงียบ และมันต้องพิสูจน์ตัวเองให้ได้สิทธิ์ที่จะพูด

บันทึกบางชิ้นไม่ต้องการการตอบสนองใด ๆ เลย บางคนเขียนสามบรรทัดเกี่ยวกับวันที่ยากลำบากแล้วปิดแอปไป การที่ AI เด้งขึ้นมาว่า "ฟังดูเหมือนคุณกำลังเจออะไรหนัก ๆ นะ!" ตรงนั้นไม่ใช่การให้กำลังใจ มันคือเครื่องจักรที่แสดงละครว่าห่วงใย และผู้ใช้สัมผัสได้ถึงความกลวงในทันที กรอบคิดแบบ CBT ช่วยให้เรายืนหยัดในเส้นนี้ได้ งานเชิงความคิดคือการที่ตัวบุคคลสังเกตเห็นแพตเทิร์นของตัวเอง ไม่ใช่การที่เครื่องมือมาบรรยายให้ฟัง ดังนั้นการสะท้อนกลับของ Youp จึงชี้กลับไปที่ถ้อยคำของผู้ใช้เอง ("คุณเคยเอ่ยถึงความกังวลเดียวกันนี้เมื่อวันอังคาร") แทนที่จะไปวินิจฉัยหรือให้คำแนะนำ

เรายังทำให้ความเงียบมีรูปแบบที่ มองเห็นได้และมีศักดิ์ศรี ด้วย เมื่อ AI เลือกที่จะเงียบ UI จะไม่แสดง error และไม่มีสถานะว่างเปล่าที่อ่านออกมาแล้วเหมือนความล้มเหลว มันแสดงบันทึกชิ้นนั้นออกมา บันทึกไว้อย่างครบถ้วนสมบูรณ์ ราวกับจะบอกว่า แค่นี้ก็เพียงพอแล้ว การทำให้ "การไม่ทำอะไร" รู้สึกว่าเป็นความตั้งใจมากกว่าความบกพร่อง ต้องผ่านการปรับซ้ำมากกว่าฟีเจอร์ generative ตัวไหน ๆ

บทสรุปคือ สร้างกิ่งทางเลือกที่ระบุชัดว่า "ให้เงียบไว้" และมองมันเป็นผลลัพธ์ระดับชั้นหนึ่ง ไม่ใช่แผนสำรอง สถาปัตยกรรม prompt ที่ผลิตได้แต่คำตอบจะตอบมากเกินไปเสมอ ของเราสามารถตัดสินใจได้ว่าทางเลือกที่ดีที่สุดคือการไม่ทำอะไรเลย และการตัดสินใจนั้นก็มีพื้นผิวที่ออกแบบมาเป็นของตัวเอง

ความปลอดภัยคือพื้นผิวการออกแบบ ไม่ใช่ข้อความปฏิเสธความรับผิด

AI ด้านสุขภาพใจดึงดูดโหมดความล้มเหลวรูปแบบหนึ่งที่เฉพาะเจาะจงและร้ายแรง นั่นคือ ผู้ใช้ที่อยู่ในภาวะวิกฤตจริง ๆ พบกับโมเดลที่พูดคล่อง มั่นใจ แต่ไม่มีคุณสมบัติจะช่วยได้เลยแม้แต่น้อย คุณจะเขียน prompt เอาตัวรอดจากเรื่องนี้ด้วยประโยค "คุณไม่ใช่นักบำบัด" ไม่ได้ พฤติกรรมด้านความปลอดภัยต้องถูกออกแบบ ทดสอบ และน่าเบื่อ

หลักการบางข้อที่เรายึดถือ

• AI ไม่วินิจฉัยและไม่อ้างว่ามีอำนาจทางคลินิก มันสะท้อนกลับ มันไม่ประเมิน นี่คือเส้นแบ่งที่แข็งกร้าวทั้งใน system prompt และในทุกพื้นผิวรอบ ๆ มัน
• สัญญาณวิกฤตต้องส่งต่อไปยังมนุษย์และสายด่วน อย่างทันทีและชัดเจนไม่มีทางเข้าใจผิด เมื่อภาษาบ่งชี้ถึงความเสี่ยง คำตอบที่ถูกต้องไม่ใช่การที่ AI ตอบด้วยถ้อยคำที่เรียบเรียงดีกว่าเดิม แต่คือการถอยออกไปและนำเสนอแหล่งช่วยเหลือที่มีอยู่จริง หน้าที่ของโมเดลตรงนั้นคือการรับรู้ให้ได้และหลีกทางไป
• เมื่อไม่แน่ใจ ให้ลดระดับไปสู่ความเงียบ ไม่ใช่ความมั่นใจ เมื่อโมเดลไม่มั่นใจ เรายอมให้มันตอบน้อยเกินไปดีกว่าให้มันสร้างข้อความปลอบใจที่อาจจะผิด คำตอบที่ผิดแต่มั่นใจนั้นแย่กว่าการไม่มีคำตอบเสียอีก

ส่วนที่ไม่สบายใจก็คือ ชั้นความปลอดภัยเป็นที่ที่คุณต้องทุ่มแรงวิศวกรรมลงไปอย่างไม่สมส่วนเพื่อให้ได้คุณค่าในเชิงสาธิตเท่ากับศูนย์ มันไม่เคยโผล่มาในการพิตช์ แต่มันก็คือเหตุผลทั้งหมดว่าทำไมคนที่มีเหตุผลถึงจะไว้ใจฝากเรื่องที่เจ็บปวดไว้กับผลิตภัณฑ์นี้

ความไว้ใจสร้างขึ้นจากการที่ AI ทำน้อยกว่าที่มันทำได้

เมื่อคุณมีโมเดลที่เก่งกาจอยู่ในมือ มันมีสิ่งยั่วยวนให้อวดว่ามันรู้อะไรบ้าง มันอนุมานอารมณ์ของคุณได้ เชื่อมโยงแพตเทิร์นข้ามหลายเดือนได้ ทำนายวันที่คุณจะรู้สึกแย่ได้ บางส่วนก็มีประโยชน์จริง ๆ แต่ส่วนใหญ่ เมื่อเอามาเสนออย่างกระตือรือร้นเกินไป กลับให้ความรู้สึกเหมือนถูกเฝ้าจับตา

ความไว้ใจมาจาก ความเข้าใจได้ ไม่ใช่ความฉลาดล้ำ ผู้ใช้ควรเข้าใจเสมอว่าทำไม AI ถึงพูดในสิ่งที่มันพูด และมันไม่ควรดูเหมือนรู้เรื่องของผู้ใช้มากไปกว่าที่ผู้ใช้ได้บอกมันไว้ เมื่อ Youp อ้างอิงถึงบันทึกในอดีต มันจะยกข้อความนั้นมาให้เห็น เพื่อให้ความเชื่อมโยงนั้นตรวจสอบได้ ไม่ใช่ชวนขนหัวลุก เราต้านทานฟีเจอร์ทำนายอารมณ์ ไม่ใช่เพราะโมเดลทำไม่ได้ แต่เพราะการถูกบอกว่า "เราคิดว่าพรุ่งนี้จะเป็นวันที่ยากสำหรับคุณ" คือการล่วงล้ำที่แต่งตัวมาในคราบของประโยชน์

บทสรุปคือ สำหรับผลิตภัณฑ์ที่ใกล้ชิดกับใจคน เพดานของสิ่งที่ AI ควร ทำอยู่ต่ำกว่าเพดานของสิ่งที่มัน ทำได้ อยู่มาก และการหาเส้นแบ่งนั้นให้เจอคืองานที่แท้จริง การรู้จักยับยั้งชั่งใจนั่นแหละคือฟีเจอร์

สิ่งที่หลงเหลืออยู่หลังการตัดทิ้ง

การสร้าง AI ที่สงบนิ่งกลับกลายเป็นเรื่องของการตัดทิ้งเสียเป็นส่วนใหญ่ ส่วนที่เป็น generative ไม่เคยเป็นส่วนที่ยากเลย โมเดลนั้นมีอยู่ล้นเหลือและกระตือรือร้นจะทำงาน ส่วนที่ยากคือการตัดสินใจครั้งแล้วครั้งเล่าว่าจะให้ AI ทำน้อยลง พูดน้อยลง รอนานขึ้น เงียบไว้ หลีกทางไป สิ่งที่หลงเหลืออยู่หลังจากตัดทั้งหมดนั้นออกไป ให้ความรู้สึกเป็นแชตบอตน้อยลง และเป็นเหมือนห้องเงียบ ๆ ที่คุณเข้าไปนั่งคิดได้มากขึ้น นั่นคือเป้าหมายมาตั้งแต่แรก ส่วนเทคโนโลยีเป็นเพียงสิ่งที่เราต้องคอยเหนี่ยวรั้งเอาไว้ เพื่อจะไปให้ถึงจุดนั้น