Sakin Yapay Zeka Tasarlamak: Youp'u İnşa Ederken Öğrendiklerimiz
Ruh sağlığı için sakin yapay zeka tasarlamak çoğunlukla eksiltmektir. Youp'u inşa ederken yoğunluk, sessizlik, güvenlik ve güven üzerine öğrendiklerimiz.
Yazan Vitor Lima
Youp'taki yapay zeka sizi selamlamaz. Uygulamayı açtığınızda "Bugün kendinizi nasıl hissediyorsunuz?" diye sormaz ve yedi günlük seri için sizi tebrik etmez. Bunların hepsini kaldırdık. Sakin yapay zeka tasarlamak, tekrar tekrar yazılımın daha azını yapmasına karar vermek anlamına geliyordu — ve bu kararların çoğunu, insanların çoğu zaman en kötü günlerinde başvurduğu bir ruh sağlığı uygulaması inşa ederken zor yoldan öğrendik.
Özellik listesinden değil, duygusal durumdan başlayın
Çoğu yapay zeka ürünü, kullanıcının meraklı, yetkin ve keyiflenmeye hazır bir şekilde geldiğini varsayar. Bir ruh sağlığı aracı bunu varsayamaz. Youp'u sabahın birinde açan biri kaygılı, utanmış, tükenmiş ya da hissizleşmiş olabilir. Bundan doğan kısıt son derece nettir: yapay zekanın yaptığı hiçbir şey, kullanıcının belki de sahip olmadığı bir enerjiye mal olmamalı.
Bu, daha inşa edilmeden pek çok "etkileşim" desenini eledi. Sizinle röportaj yapan bir tanıtım sohbeti yok. Adı ve arka planı olan bir yapay zeka karakteri yok. Bir makinenin düşünüyormuş gibi yapmasını beklemenize sebep olan animasyonlu bir yazıyor göstergesi yok. Bunların her biri küçük bir vergidir ve bu bağlamda küçük vergiler birikerek "bunu sonra yaparım"a dönüşür — ki bu, bir günlük tutma alışkanlığı için "hiçbir zaman" demektir.
Çıkarım şu: kullanıcının en yüksek etkileşimli hâline değil, en düşük enerjili hâline göre tasarlayın. Yalnızca kullanıcı hevesliyken işe yarayan bir özellik, tam da ürünün en çok önem taşıdığı anda başarısız olur. Artık her yapay zeka etkileşimini tek bir soruyla baskı testine tabi tutuyoruz: kişi kendini zar zor bir arada tutuyorken bile bu hâlâ nazik hissettiriyor mu?
Sakinlik bir gecikme ve yoğunluk kararıdır, bir ses tonu değil
Ekipler "sakinliğe" metni yumuşatarak ulaşmaya çalışır — daha nazik kelimeler, daha çok emoji, pastel bir renk paleti. Bu, işin yüzeysel hâlidir. Sakinlik, çoğunlukla yapay zekanın ne kadar şey söylediği ve kendini ne kadar hızlı araya soktuğuyla ilgilidir. Youp'ta işin büyük kısmını iki kaldıraç yaptı.
Yoğunluk
Bir girdiden sonra yapay zeka, bir yığın öngörü değil, tek bir yansıma sunar. Bir gözlem, bazen bir soru, ama asla ikisi birden kullanıcının sindirmek zorunda kalacağı bir paragrafa yığılmış hâlde değil. Üretken bir model seve seve beş paragraf empatik görünümlü metin üretir; asıl disiplin, bunların dördünü çöpe atmakta yatar. Yanıtları sıkı bir şekilde sınırlıyoruz ve ilk cümleden sonraki her cümleyi, kullanıcının ödediği bir bedel olarak ele alıyoruz.
Zamanlama
Yapay zeka yazma eylemini asla bölmez. Cümlenin ortasında öneriler yok, duygularınızı sizin yerinize tamamlayan otomatik metin yok. Yansıma yalnızca siz bitirdikten ve talep ettikten sonra ortaya çıkar. Terapötik eylem yazmanın kendisidir; yapay zeka buna verilen bir yanıttır, onun ortak yazarı değil.
Ödün gerçek ve biz bunu kabul ettik: Youp bir demoda daha az "akıllı" görünüyor. Ekran görüntüsü alınacak göz kamaştırıcı bir çıktı duvarı yok. Ama sakin bir arayüzün amacı, arayüzü fark etmeyi bırakmanızdır ve göz kamaştırma bunun tam tersidir.
En zor tasarım becerisi, ne zaman hiçbir şey söylemeyeceğini bilmektir
Çoğu yapay zeka ekibi bunu yanlış yapar, çünkü sessiz bir model bozuk bir özellik gibi görünür. Biz Youp'a bunun tersi içgüdüyü inşa ettik: yapay zekanın varsayılan hâli sessizliktir ve konuşma hakkını kazanması gerekir.
Bazı girdiler hiçbir yanıt gerektirmez. Biri zor bir gün hakkında üç satır yazar ve uygulamayı kapatır. Oraya konulacak neşeli bir "Anlaşılan çok şey yaşıyorsunuz!" destek değildir — endişeyi rol yapan bir makinedir ve kullanıcılar bu boşluğu anında hisseder. BDT çerçevesi bu çizgiyi korumamıza yardımcı oldu. Bilişsel çalışma, bir aracın kişinin desenlerini anlatmasıyla değil, kişinin kendi desenlerini fark etmesiyle ilgilidir. Bu yüzden Youp'un yansımaları teşhis koymak ya da öğüt vermek yerine kullanıcının kendi sözlerine geri işaret eder ("aynı endişeden Salı günü de bahsetmiştin").
Ayrıca sessizliğe görünür, saygın bir biçim verdik. Yapay zeka geri çekildiğinde arayüz ne bir hata ne de başarısızlık gibi okunan boş bir durum gösterir. Girdiyi kaydedilmiş ve bütün hâlde sunar, âdeta şunu der gibi: bu yeterliydi. "Hiçbir şey"i bozuk değil de kasıtlı hissettirmek, üretken özelliklerin herhangi birinden daha fazla yineleme gerektirdi.
Çıkarım şu: açık bir "sessiz kal" dalı inşa edin ve bunu bir yedek çözüm değil, birinci sınıf bir sonuç olarak ele alın. Yalnızca yanıt üretebilen bir istem mimarisi aşırı yanıt verir. Bizimki en iyi hamlenin hiçbir şey yapmamak olduğuna karar verebilir ve bu kararın kendine ait, tasarlanmış bir yüzeyi vardır.
Güvenlik bir tasarım yüzeyidir, bir feragatname değil
Ruh sağlığı yapay zekası, kendine özgü ve ciddi bir başarısızlık türünü çeker: gerçek bir kriz içindeki bir kullanıcı ve akıcı, kendinden emin ama yardım etmek için tamamen yetersiz bir model. Bunun içinden "sen bir terapist değilsin" diyerek istem yazarak çıkamazsınız. Güvenlik davranışının tasarlanması, test edilmesi ve sıkıcı olması gerekir.
Bağlı kaldığımız birkaç ilke:
- Yapay zeka asla teşhis koymaz ve asla klinik otorite iddia etmez. Yansıtır; değerlendirmez. Bu, sistem isteminde ve çevresindeki her yüzeyde kesin bir sınırdır.
- Kriz sinyalleri, anında ve hiçbir yanlış anlaşılmaya yer bırakmadan insanlara ve yardım hatlarına yönlendirilir. Dil risk işaret ettiğinde, doğru yanıt daha iyi ifade edilmiş bir yapay zeka cevabı değildir. Kenara çekilmek ve gerçek kaynakları görünür kılmaktır. Modelin oradaki işi bunu fark etmek ve yoldan çekilmektir.
- Belirsizlik, kendinden eminliğe değil, sessizliğe doğru geriler. Model emin olmadığında, yanlış olabilecek güven verici bir metin üretmesindense az yanıt vermesini tercih ederiz. Kendinden emin bir yanlış cevap, cevap yokluğundan daha kötüdür.
Rahatsız edici kısmı şu: güvenlik katmanı, sıfır demo değeri için orantısız mühendislik emeği harcadığınız yerdir. Bir sunumda asla görünmez. Aynı zamanda, aklı başında bir insanın ürüne acı veren bir şeyi emanet etmesinin de tek nedenidir.
Güven, yapay zekanın yapabileceğinden daha azını yapmasıyla inşa edilir
Yetenekli bir modele sahip olduğunuzda, onun bildiklerini sergileme cazibesi doğar. Ruh hâlinizi çıkarsayabilir, aylara yayılan desenleri birbirine bağlayabilir, kötü günlerinizi öngörebilir. Bunların bir kısmı gerçekten faydalıdır. Ama çoğu, hevesle sunulduğunda gözetim gibi hissettirir.
Güven, zekilikten değil, okunabilirlikten geldi. Kullanıcı, yapay zekanın söylediği şeyi neden söylediğini her zaman anlamalı ve yapay zeka, kullanıcı hakkında ona söylediğinden fazlasını biliyor gibi asla görünmemeli. Youp geçmiş bir girdiye atıfta bulunduğunda, onu alıntılar; böylece bağlantı ürkütücü değil, denetlenebilir olur. Ruh hâli tahmini özelliklerine model onları yapamadığı için değil, "yarının senin için zor geçeceğini düşünüyoruz" denmesi bir fayda kılığına girmiş bir ihlal olduğu için karşı durduk.
Çıkarım şu: mahrem ürünlerde, yapay zekanın yapması gerekenin tavanı, yapabileceğinin tavanının epey altındadır ve o çizgiyi bulmak işin ta kendisidir. Kendini tutma, özelliğin kendisidir.
Eksiltmeden geriye ne kalır
Sakin yapay zeka inşa etmek, sonunda çoğunlukla eksiltme oldu. Üretken kısım hiçbir zaman zor kısım değildi — modeller bol ve hevesli. Zor olan, yapay zekanın daha azını yapmasına tekrar tekrar karar vermekti: daha az söyle, daha uzun bekle, sessiz kal, kenara çekil. Tüm bu çıkarmanın ardından geriye kalan şey, bir sohbet robotundan çok, içinde düşünebileceğiniz sessiz bir odaya benziyor. Amaç zaten hep buydu. Teknoloji ise, oraya varmak için dizginlememiz gereken şeyden ibaretti.