Oluwa.io
Semua tulisan
·6 menit bacastudio aipengembangan dipimpin pendiriproduk aibudaya rekayasa

Argumen untuk Studio AI Kecil

Mengapa pengembangan AI yang dipimpin pendiri dan studio AI kecil mengalahkan skala dalam menghadirkan aplikasi AI: selera, kepemilikan, kecepatan, dan disiplin berkata tidak.

Oleh Vitor Lima

Hal paling jujur yang bisa Anda katakan tentang sebagian besar produk AI adalah bahwa tidak ada yang benar-benar bertanggung jawab atasnya. Anda bisa merasakannya di sambungan-sambungannya: kotak chat yang dibaut ke sebuah dasbor, tombol "ringkas" yang menghasilkan empat kalimat hambar yang sama tak peduli apa pun yang Anda masukkan, halaman pengaturan dengan sebelas tombol model yang seorang product manager menang berdebat agar disertakan. Ini bukan produk yang kalah dari pesaing. Mereka kalah dari bagan organisasi mereka sendiri. Inilah argumen untuk studio AI kecil — untuk pengembangan AI yang dipimpin pendiri sebagai pilihan yang disengaja, bukan fase yang Anda tinggalkan seiring pertumbuhan.

Kami membangun aplikasi AI sebagai mata pencaharian, sebagai studio dua orang. Itu bukan kendala yang kami minta maaf atasnya. Itu adalah alasan mengapa pekerjaannya bagus. Yang berikut bukanlah nostalgia terhadap startup garasi. Ini adalah klaim tentang di mana produk AI rusak dan siapa yang berada di posisi untuk mencegahnya rusak.

Selera adalah keunggulan tim kecil, dan AI membuatnya lebih besar

Sebelum model generatif, selera dalam perangkat lunak sebagian besar adalah soal tata letak dan naskah. Anda bisa menghadirkan sesuatu yang sekadar layak dan pengguna akan menyesuaikan diri. AI mengubah taruhannya karena output model adalah permukaan produknya. Ketika aplikasi Anda menulis, menyarankan, meringkas, atau memutuskan, ribuan penilaian kecil bocor langsung ke pengguna: nada, panjang, kapan harus diam, kapan harus mengakui ketidakpastian, bahkan seperti apa jawaban yang "baik" bagi orang ini saat ini.

Penilaian-penilaian itu tidak selamat dari sebuah komite. Mereka dirata-ratakan menjadi bubur.

Dengan Youp, aplikasi jurnal AI kami, pekerjaan tersulit tidak pernah soal perpipaan model. Melainkan memutuskan apa yang tidak boleh dikatakan aplikasi. Sebuah pendamping jurnal yang menghadapi entri yang berat dengan keceriaan bersemangat lebih buruk daripada yang tidak berkata apa pun. Jadi kami mencurahkan upaya kami pada pengendalian: panjang respons, kapan sebuah refleksi seharusnya berupa satu kalimat tenang, kapan langkah yang tepat adalah tidak bertanya apa pun sama sekali. Itu adalah keputusan selera, dan ia tetap koheren hanya karena satu atau dua orang memegang keseluruhannya dalam kepala mereka dan bersedia mempertahankan sebuah "tidak."

Intinya: Untuk produk AI, selera bukanlah hiasan. Ia adalah spesifikasinya. Jika orang yang punya selera duduk tiga lapis jauhnya dari prompt, aliran token, dan keadaan kosong, maka seleranya tidak pernah sampai ke pengguna. Di studio kecil, jaraknya nol.

Kepemilikan: siapa yang memilih model juga yang menjawab tiket

Tim besar diorganisasi untuk membagi tanggung jawab, yang persis merupakan bentuk yang salah untuk sistem yang gagal dengan cara-cara yang kabur dan lintas-bidang. Sebuah field yang dihalusinasikan, lonjakan latensi di bawah beban, langkah retrieval yang diam-diam mengembalikan kosong — tidak ada satu pun dari ini yang menghormati batas-batas tim. Mereka hidup di celah antara "tim model," "tim platform," dan "tim aplikasi." Celah adalah tempat di mana tidak ada yang merasakan sakitnya.

MadaiOps, aplikasi order dan operasi trading kripto kami, membuat ini konkret. Ia menempatkan, merutekan, dan memantau order lintas bursa secara real-time. Tingkat kegagalan yang bisa ditoleransi untuk "apakah order saya benar-benar berhasil" kira-kira nol. Anda tidak bisa membangun itu dengan kepemilikan yang tersebar, karena keandalan bukanlah fitur yang Anda tambahkan. Ia adalah seribu keputusan defensif tentang retry, idempotensi, partial fill, dan apa yang harus ditampilkan kepada pengguna ketika sebuah bursa berbohong tentang keadaannya sendiri. Orang yang menulis logika perutean harus menjadi orang yang sama yang merasakan kengerian order yang macet di jam 3 pagi. Ketika keduanya orang yang berbeda, sambungan di antara mereka menjadi pemadaman layanan.

Intinya: Hadirkan bagan organisasi dan Anda menghadirkan sambungan-sambungannya. Sebuah studio di mana tangan yang sama menyentuh prompt, logika retry, dan kanal insiden menghasilkan sistem yang lebih jarang gagal dan pulih lebih cepat — bukan karena orang-orangnya lebih pintar, tetapi karena tidak ada tanggung jawab yang jatuh ke dalam celah.

Kecepatan itu nyata, tetapi bagian yang menarik adalah jenis kecepatannya

Semua orang mengklaim tim kecil bergerak cepat. Versi malasnya benar dan membosankan: lebih sedikit rapat, tidak ada rantai persetujuan. Versi menariknya adalah bahwa pengembangan AI memberi imbalan pada tempo tertentu yang secara struktural tidak bisa ditandingi tim besar.

Membangun dengan model itu empiris. Anda tidak tahu bagaimana sebuah prompt, sebuah context window, atau sebuah loop tool-use berperilaku sampai Anda menjalankannya terhadap input nyata. Loop intinya adalah: bentuk sebuah hipotesis, ubah satu hal, amati output nyata, revisi model mental Anda. Tim yang menang menjalankan loop itu berkali-kali dalam sehari dengan pengambil keputusan yang sebenarnya duduk di kursi.

Organisasi besar mengubah setiap iterasi menjadi sebuah tiket, sebuah sprint, sebuah review. Pada saat umpan balik tiba, orang yang memiliki hipotesis itu telah kehilangan benang merahnya. Sebuah studio memampatkan hipotesis-ke-observasi menjadi hitungan menit. Inilah mengapa pekerjaan awal kami di Linea — otomatisasi alur kerja AI-native, saat ini dalam beta privat — tetap berada dalam loop prototipe yang ketat alih-alih sebuah peta jalan. Perilaku agen terlalu emergen untuk direncanakan di bagan Gantt. Anda membangunnya, mengamatinya melakukan sesuatu yang bodoh, dan memperbaiki penalarannya, berulang kali, tanpa serah-terima yang memakan loop.

Trade-off, dinyatakan dengan jujur

Kecepatan semacam ini punya biaya yang nyata. Ia tidak menskala dengan menambah orang, dan ia bergantung pada beberapa individu yang tetap berada dalam konteks secara mendalam. Itu adalah risiko sejati, dan berpura-pura sebaliknya akan tidak jujur. Kami menerimanya karena untuk produk AI, alternatifnya — proses yang selamat dari pergantian orang tetapi mengencerkan penilaian — menghasilkan perangkat lunak yang lebih buruk. Kami lebih memilih kecil dan koheren daripada besar dan dirata-ratakan.

Berkata tidak adalah keseluruhan disiplinnya

Patologi yang mendefinisikan produk AI saat ini adalah ketidakmampuan untuk berkata tidak. Setiap model bisa melakukan sedikit dari segalanya, jadi setiap peta jalan membengkak untuk mencakup segalanya. Hasilnya adalah produk yang luas, dangkal, dan mudah dilupakan: daftar fitur di tempat yang seharusnya berisi sudut pandang.

Pengungkit sebuah studio kecil adalah "tidak" yang kredibel. Tidak untuk tombol model yang sebagian besar pengguna tidak bisa menalarnya. Tidak untuk chatbot di sebuah produk yang seharusnya tidak memilikinya. Tidak untuk menghadirkan kapabilitas yang tidak bisa kami buat andal, karena fitur AI yang rewel lebih buruk daripada tidak ada fitur. Ia mengajari pengguna untuk tidak memercayai Anda, dan kepercayaan itu tidak kembali. Ini bukan asketisme. Ini adalah pengakuan bahwa dalam produk AI, luas permukaan adalah beban risiko. Setiap kapabilitas yang Anda ekspos adalah janji tentang kualitas yang kini harus Anda tepati di seluruh ruang input yang tak terbatas.

Intinya: Artefak paling berharga yang dihasilkan sebuah studio kecil sering kali adalah daftar hal-hal yang menolak untuk dibangunnya. Daftar itu adalah tulang punggung produknya. Tim besar kesulitan mempertahankan satu, karena berkata tidak pada sebuah kapabilitas biasanya berarti berkata tidak pada seorang kolega — percakapan yang lebih sulit daripada menghadirkan versi yang biasa-biasa saja.

Apa yang bukan artinya ini

Akan murah untuk mengakhiri dengan "kecil baik, besar buruk." Beberapa hal benar-benar membutuhkan skala: pelatihan model frontier, infrastruktur berskala planet, domain teregulasi di mana jumlah kepala membeli jejak audit dan pertahanan hukum. Sebuah studio bukanlah bentuk yang tepat untuk itu, dan kami tidak berpura-pura demikian.

Namun lapisan tempat kami bekerja — merancang dan menghadirkan aplikasi di atas model yang sudah ada — persis merupakan tempat di mana skala berhenti membantu dan mulai mengencerkan. Hambatannya di sana bukan komputasi atau jumlah kepala. Melainkan penilaian koheren yang diterapkan tanpa henti pada seribu keputusan kecil, dipegang oleh orang-orang yang cukup dekat dengan pekerjaan untuk merasakan setiap satunya.

Itulah keseluruhan argumennya. Bukan bahwa kami lebih murah atau lebih gigih, melainkan bahwa medium ini memberi imbalan pada konsentrasi penilaian, dan sebuah studio kecil yang dipimpin pendiri adalah bentuk paling terkonsentrasi yang bisa diambil oleh penilaian. Ketika model bisa melakukan apa saja, hal yang langka adalah seseorang yang memutuskan — dengan selera, dan bertanggung jawab atas hasilnya — apa yang seharusnya dilakukannya, dan lebih sering, apa yang seharusnya tidak dilakukannya.