На захист невеликої ШІ-студії
Чому розробка ШІ під керівництвом засновників і невелика ШІ-студія перемагають масштаб у випуску ШІ-застосунків: смак, відповідальність, швидкість і дисципліна казати ні.
Автор Vitor Lima
Найчесніше, що можна сказати про більшість ШІ-продуктів, — це те, що за них насправді ніхто не відповідав. Ви відчуваєте це у швах: чат-вікно, прикручене до дашборда; кнопка "підсумувати", що видає ті самі чотири прісні речення, чим би ви її не годували; сторінка налаштувань з одинадцятьма перемикачами моделей, які продуктовий менеджер виборов у суперечці. Це не продукти, що програли конкуренту. Вони програли власній оргструктурі. Це — на захист невеликої ШІ-студії, на захист розробки ШІ під керівництвом засновників як свідомого вибору, а не фази, з якої виростають.
Ми будуємо ШІ-застосунки на життя, як студія з двох людей. Це не обмеження, за яке ми вибачаємося. Це причина, чому робота хороша. Далі — не ностальгія за гаражними стартапами. Це твердження про те, де ламаються ШІ-продукти й хто здатен утримати їх від поломки.
Смак — це перевага невеликої команди, і ШІ зробив її більшою
До генеративних моделей смак у програмному забезпеченні був переважно про розкладку та текст. Можна було випустити щось просто компетентне, і користувачі пристосовувалися. ШІ змінив ставки, бо вихід моделі є поверхнею продукту. Коли ваш застосунок пише, пропонує, підсумовує чи вирішує, тисячі крихітних суджень витікають просто до користувача: тон, довжина, коли промовчати, коли визнати невпевненість, як узагалі виглядає "хороша" відповідь для цієї людини просто зараз.
Ці судження не виживають у комітеті. Їх усереднюють у кашу.
З Youp, нашим ШІ-застосунком для ведення щоденника, найважчою роботою ніколи не була сантехніка моделі. Це було рішення про те, чого застосунок казати не повинен. Компаньйон для щоденника, що зустрічає важкий запис бадьорим позитивом, гірший за того, який не каже нічого. Тож ми витрачали зусилля на стриманість: довжина відповіді, коли рефлексія має бути одним тихим реченням, коли правильний хід — не питати нічого взагалі. Це рішення смаку, і воно лишається цілісним лише тому, що одна чи дві людини тримали все це в голові й були готові захищати "ні".
Висновок: Для ШІ-продуктів смак — це не декорація. Це специфікація. Якщо людина зі смаком сидить за три шари від промпту, потоку токенів і порожнього стану, її смак ніколи не досягне користувача. У невеликій студії ця відстань — нуль.
Відповідальність: хто обрав модель, той і відповідає на тікет
Великі команди організовані так, щоб розподіляти відповідальність, а це саме неправильна форма для систем, що збоять у розмитий, наскрізний спосіб. Галюциноване поле, стрибок затримки під навантаженням, крок пошуку, що тихо повертає ніщо, — жодне з цього не поважає кордони команд. Вони живуть у розриві між "командою моделі", "командою платформи" й "командою застосунку". Розриви — це там, де болю не відчуває ніхто.
MadaiOps, наш застосунок для крипто-ордерів і торгових операцій, робить це конкретним. Він розміщує, маршрутизує й моніторить ордери по біржах у реальному часі. Прийнятна частота збоїв для "чи справді пройшов мій ордер" — приблизно нуль. Такого не побудуєш із розпорошеною відповідальністю, бо надійність — це не функція, яку додають. Це тисяча захисних рішень про повторні спроби, ідемпотентність, часткові виконання й те, що показати користувачеві, коли біржа бреше про власний стан. Людина, що пише логіку маршрутизації, має бути тією самою людиною, яка відчуває жах через застряглий ордер о третій ночі. Коли це різні люди, шов між ними стає збоєм.
Висновок: Випустиш оргструктуру — випустиш і її шви. Студія, де ті самі руки торкаються промпту, логіки повторних спроб і каналу інцидентів, породжує системи, що збоять рідше й відновлюються швидше, — не тому, що люди розумніші, а тому, що жодна відповідальність не провалюється в розрив.
Швидкість реальна, але цікава частина — це вид швидкості
Усі стверджують, що малі команди рухаються швидко. Лінива версія цього правдива й нудна: менше нарад, жодних ланцюжків погоджень. Цікава версія в тому, що розробка ШІ винагороджує специфічний темп, який великі команди структурно не здатні наздогнати.
Побудова з моделями — емпірична. Ви не знаєте, як поведеться промпт, контекстне вікно чи цикл використання інструментів, поки не запустите це на реальних вхідних даних. Основний цикл такий: сформулюй гіпотезу, зміни одну річ, подивись на реальні виходи, переглянь свою ментальну модель. Команди, що перемагають, проганяють цей цикл багато разів на день, і в кріслі сидить справжня особа, що ухвалює рішення.
Велика організація перетворює кожну ітерацію на тікет, спринт, рев'ю. На той час, як зворотний зв'язок приземлиться, людина, що мала гіпотезу, вже втратила нитку. Студія стискає шлях від гіпотези до спостереження до хвилин. Саме тому наша рання робота над Linea — ШІ-нативною автоматизацією робочих процесів, наразі в закритій беті — лишалася в щільному циклі прототипування, а не в дорожній карті. Поведінка агента надто емерджентна, щоб планувати її на діаграмі Ганта. Ти будуєш його, бачиш, як він робить щось дурне, і виправляєш міркування, знову й знову, і жодні передачі не з'їдають цикл.
Компроміс, названий чесно
Такий вид швидкості має реальну ціну. Він не масштабується додаванням людей і залежить від того, чи лишаться кілька окремих осіб глибоко в контексті. Це справжній ризик, і вдавати інше було б нечесно. Ми приймаємо його, бо для ШІ-продуктів альтернатива — процес, що переживає плинність кадрів, але розбавляє судження, — породжує гірше програмне забезпечення. Ми радше будемо малими й цілісними, ніж великими й усередненими.
Казати ні — це і є вся дисципліна
Визначальна патологія ШІ-продуктів просто зараз — нездатність казати ні. Кожна модель уміє потроху всього, тож кожна дорожня карта роздувається, щоб охопити все. Результат — продукти широкі, поверхневі й такі, що забуваються: список функцій там, де мала б бути позиція.
Важіль невеликої студії — переконливе "ні". Ні перемикачам моделей, про які більшість користувачів не здатні міркувати. Ні чат-боту в продукті, який його мати не повинен. Ні випуску можливості, яку ми не можемо зробити надійною, бо ненадійна ШІ-функція гірша за відсутність функції. Вона вчить користувачів не довіряти вам, а ця довіра не повертається. Це не аскетизм. Це усвідомлення того, що у ШІ-продуктах площа поверхні — це відповідальність. Кожна можливість, яку ви оголюєте, — це обіцянка якості, яку тепер доводиться дотримувати в необмеженому просторі вхідних даних.
Висновок: Найцінніший артефакт, що його породжує невелика студія, — це часто список речей, які вона відмовилася будувати. Цей список — хребет продукту. Великим командам важко його тримати, бо сказати "ні" можливості зазвичай означає сказати "ні" колезі — розмова важча, ніж випуск посередньої версії.
Чого це не означає
Було б дешево завершити на "мале добре, велике погане". Деякі речі справді потребують масштабу: тренування фронтирних моделей, інфраструктура планетарного масштабу, регульовані домени, де чисельність персоналу купує аудиторські сліди й правову захищеність. Студія — не та форма для цього, і ми не вдаємо, що це так.
Але шар, у якому ми працюємо, — проєктування та випуск застосунків поверх моделей, що вже існують, — це саме те місце, де масштаб перестає допомагати й починає розбавляти. Вузьке місце там — це не обчислення й не чисельність персоналу. Це цілісне судження, невпинно застосоване до тисячі малих рішень, тримане людьми, достатньо близькими до роботи, щоб відчувати кожне з них.
Це і є весь аргумент. Не те, що ми дешевші чи спритніші, а те, що середовище винагороджує концентрацію судження, а невелика студія під керівництвом засновників — це найконцентрованіша форма, якої судження може набути. Коли модель здатна на будь-що, рідкісним стає той, хто вирішує — зі смаком і на гачку за результат, — що їй варто робити, а ще частіше — чого не варто.