Vỏ dành cho Studio AI nhỏ
Tại sao sự phát triển AI do người sáng lập dẫn đầu và studio AI nhỏ lại đánh bại quy mô vận chuyển các ứng dụng AI: sở thích, quyền sở hữu, tốc độ và kỷ luật nói không.
By Vitor Lima
Điều trung thực nhất mà bạn có thể nói về hầu hết các sản phẩm AI là không ai thực sự chịu trách nhiệm về chúng. Bạn có thể cảm nhận được điều đó trong từng đường nối: hộp trò chuyện được gắn chặt vào bảng điều khiển, nút "tóm tắt" tạo ra bốn câu nhạt nhẽo giống nhau cho dù bạn cung cấp nội dung gì, một trang cài đặt với mười một mô hình chuyển đổi mà người quản lý sản phẩm đã thắng trong cuộc đấu tranh để đưa vào. Đây không phải là những sản phẩm thua đối thủ cạnh tranh. Họ đã thua sơ đồ tổ chức của chính họ. Đây là trường hợp của studio AI nhỏ - việc phát triển AI do người sáng lập lãnh đạo là một sự lựa chọn có chủ ý chứ không phải là một giai đoạn mà bạn đã vượt qua.
Chúng tôi xây dựng các ứng dụng AI để kiếm sống với tư cách là một studio dành cho hai người. Đó không phải là một hạn chế mà chúng tôi xin lỗi. Đó là lý do công việc tốt. Những gì tiếp theo không phải là sự hoài niệm về các công ty khởi nghiệp trong gara. Đó là tuyên bố về vị trí các sản phẩm AI bị hỏng và ai có nhiệm vụ giữ cho chúng không bị hỏng.
Hương vị là một lợi thế của nhóm nhỏ và AI đã làm cho nó trở nên lớn hơn
Trước các mô hình tổng quát, sở thích về phần mềm chủ yếu là bố cục và sao chép. Bạn có thể cung cấp thứ gì đó chỉ phù hợp và người dùng sẽ thích nghi. AI đã thay đổi số tiền đặt cọc vì đầu ra của mô hình là bề mặt sản phẩm. Khi ứng dụng của bạn viết, gợi ý, tóm tắt hoặc quyết định, hàng nghìn phán đoán nhỏ sẽ truyền thẳng đến người dùng: giọng điệu, độ dài, khi nào nên giữ im lặng, khi nào nên thừa nhận sự không chắc chắn, một câu trả lời "tốt" thậm chí sẽ như thế nào đối với người này ngay bây giờ.
Những lời kêu gọi đó không tồn tại được trong một ủy ban. Họ được tính trung bình thành bột nhão.
Với Youp, ứng dụng ghi nhật ký AI của chúng tôi, công việc khó khăn nhất chưa bao giờ là mô hình hệ thống ống nước. Nó quyết định ứng dụng nên không nói gì. Một người bạn đồng hành viết nhật ký đáp ứng được mục khó với thái độ tích cực vui vẻ còn tệ hơn một người không nói gì. Vì vậy, chúng tôi đã nỗ lực kiềm chế: độ dài câu trả lời, khi phản ánh phải là một câu nói lặng lẽ, khi bước đi đúng đắn là không hỏi gì cả. Đó là một quyết định theo sở thích và nó chỉ mạch lạc vì một hoặc hai người đã giữ toàn bộ vấn đề trong đầu và sẵn sàng bảo vệ câu trả lời "không".
Takeaway: Đối với sản phẩm AI, hương vị không phải là vật trang trí. Đó là đặc điểm kỹ thuật. Nếu người có sở thích ngồi bị loại bỏ ba lớp khỏi lời nhắc, luồng mã thông báo và trạng thái trống, thì sở thích của họ sẽ không bao giờ đến được với người dùng. Trong một studio nhỏ, khoảng cách bằng không.
Quyền sở hữu: ai chọn mẫu cũng trả lời ticket
Các nhóm lớn được tổ chức để phân chia trách nhiệm, điều này hoàn toàn sai lầm đối với các hệ thống gặp trục trặc theo những cách không rõ ràng và xuyên suốt. Một trường ảo giác, độ trễ tăng đột biến khi tải, một bước truy xuất lặng lẽ không trả về kết quả gì — không có điều nào trong số này tôn trọng ranh giới của nhóm. Họ sống trong khoảng cách giữa “nhóm mô hình”, “nhóm nền tảng” và “nhóm ứng dụng”. Khoảng trống là nơi không ai cảm thấy đau đớn.
MadaiOps, ứng dụng hoạt động giao dịch và đặt hàng tiền điện tử của chúng tôi, đã biến điều này thành hiện thực. Nó đặt, định tuyến và giám sát các đơn đặt hàng trên các sàn giao dịch trong thời gian thực. Tỷ lệ thất bại có thể chấp nhận được đối với câu hỏi "đơn hàng của tôi có thực sự được thực hiện" là gần như bằng không. Bạn không thể xây dựng điều đó với quyền sở hữu phân tán, bởi vì độ tin cậy không phải là một tính năng mà bạn thêm vào. Đó là hàng nghìn quyết định phòng thủ về số lần thử lại, tính tạm thời, lấp đầy một phần và những gì sẽ hiển thị cho người dùng khi một sàn giao dịch nói dối về trạng thái của chính nó. Người viết logic định tuyến phải là cùng một người cảm thấy lo sợ về đơn hàng bị kẹt vào lúc 3 giờ sáng. Khi đó là những người khác nhau, mối liên hệ giữa họ sẽ trở thành sự cố ngừng hoạt động.
Bài học rút ra: Gửi sơ đồ tổ chức và bạn gửi các đường nối của nó. Một studio trong đó những bàn tay giống nhau chạm vào lời nhắc, logic thử lại và kênh sự cố tạo ra các hệ thống ít lỗi hơn và phục hồi nhanh hơn - không phải vì mọi người thông minh hơn mà vì không có trách nhiệm nào lọt vào khoảng trống.
Tốc độ là có thật, nhưng điều thú vị là loại tốc độ
Mọi người đều khẳng định các đội nhỏ di chuyển nhanh chóng. Phiên bản lười biếng của điều đó là đúng và nhàm chán: ít cuộc họp hơn, không có chuỗi phê duyệt. Phiên bản thú vị là việc phát triển AI thưởng cho một nhịp độ cụ thể mà các đội lớn về mặt cấu trúc không thể sánh được.
Xây dựng bằng mô hình là theo kinh nghiệm. Bạn không biết lời nhắc, cửa sổ ngữ cảnh hoặc vòng lặp sử dụng công cụ hoạt động như thế nào cho đến khi bạn chạy nó với các đầu vào thực. Vòng lặp cốt lõi là: hình thành một giả thuyết, thay đổi một điều, xem xét kết quả thực tế, sửa lại mô hình tinh thần của bạn. Các đội chiến thắng sẽ thực hiện vòng lặp đó nhiều lần trong ngày với người ra quyết định thực sự ngồi trên ghế.
Một tổ chức lớn biến mỗi lần lặp lại thành một yêu cầu, một lần chạy nước rút, một bài đánh giá. Vào thời điểm phản hồi đến, người đưa ra giả thuyết đã mất chủ đề. Một studio nén việc đưa ra giả thuyết thành quan sát trong vài phút. Đây là lý do tại sao công việc Linea ban đầu của chúng tôi - tự động hóa quy trình làm việc gốc AI, hiện đang ở giai đoạn thử nghiệm riêng tư - vẫn ở trong một vòng lặp tạo mẫu chặt chẽ thay vì một lộ trình. Hành vi của tác nhân quá cấp bách để lập kế hoạch trên biểu đồ Gantt. Bạn xây dựng nó, xem nó làm điều gì đó ngu ngốc và sửa đi sửa lại lý do mà không cần phải xử lý vòng lặp.
Sự đánh đổi, được nêu một cách trung thực
Loại tốc độ này có một chi phí thực sự. Nó không mở rộng quy mô bằng cách thêm người và nó phụ thuộc vào một vài cá nhân có hiểu biết sâu sắc về bối cảnh. Đó là một rủi ro thực sự và giả vờ khác đi sẽ là không trung thực. Chúng tôi chấp nhận điều đó vì đối với các sản phẩm AI, giải pháp thay thế — quy trình vẫn tồn tại trong doanh thu nhưng làm giảm khả năng phán đoán — tạo ra phần mềm kém hơn. Chúng ta thà nhỏ và mạch lạc hơn là lớn và trung bình.
Nói không là toàn bộ kỷ luật
Bệnh lý xác định của các sản phẩm AI hiện nay là không thể nói không. Mỗi mô hình có thể thực hiện được một ít mọi thứ, vì vậy mọi lộ trình đều mở rộng để bao gồm mọi thứ. Kết quả là các sản phẩm có phạm vi rộng, nông cạn và dễ bị lãng quên: một danh sách tính năng cần có quan điểm.
Đòn bẩy của một studio nhỏ là câu trả lời "không" đáng tin cậy. Không đối với các chuyển đổi mô hình mà hầu hết người dùng không thể lý giải được. Không với chatbot trong một sản phẩm không nên có. Không cung cấp một khả năng mà chúng tôi không thể đảm bảo là đáng tin cậy, bởi vì tính năng AI không ổn định còn tệ hơn là không có tính năng nào. Nó dạy người dùng không tin tưởng bạn và niềm tin đó sẽ không quay trở lại. Đây không phải là chủ nghĩa khổ hạnh. Người ta thừa nhận rằng trong các sản phẩm AI, diện tích bề mặt là trách nhiệm pháp lý. Mỗi khả năng bạn thể hiện là một lời hứa về chất lượng mà giờ đây bạn phải duy trì trong một không gian đầu vào không giới hạn.
Bài học rút ra: Hiện vật có giá trị nhất mà một studio nhỏ sản xuất thường là danh sách những thứ mà họ từ chối xây dựng. Danh sách đó chính là xương sống của sản phẩm. Các nhóm lớn đấu tranh để giữ được một cái, bởi vì nói không với một khả năng thường có nghĩa là nói không với đồng nghiệp - một cuộc trò chuyện khó khăn hơn việc vận chuyển phiên bản tầm thường.
Điều này không có nghĩa là gì
Sẽ là rẻ nếu kết thúc ở mức "tốt nhỏ, xấu lớn". Một số thứ thực sự cần quy mô: đào tạo mô hình biên giới, cơ sở hạ tầng quy mô hành tinh, các lĩnh vực được quản lý nơi số lượng nhân viên mua các dấu vết kiểm toán và khả năng bảo vệ pháp lý. Một studio không phải là hình dạng phù hợp cho những điều đó và chúng tôi không giả vờ như vậy.
Nhưng lớp mà chúng tôi làm việc — thiết kế và vận chuyển ứng dụng lên trên các mô hình đã tồn tại — chính xác là nơi quy mô ngừng trợ giúp và bắt đầu pha loãng. Điểm nghẽn ở đó là không có tính toán hoặc số lượng nhân viên. Đó là sự phán xét mạch lạc được áp dụng không ngừng nghỉ cho hàng nghìn quyết định nhỏ, được đưa ra bởi những người đủ gần gũi với công việc để có thể cảm nhận được từng quyết định.
Đó là toàn bộ vụ việc. Không phải là chúng tôi rẻ hơn hay kém hơn, mà là phương tiện mang lại sự tập trung cho sự phán xét và một studio nhỏ do người sáng lập lãnh đạo là hình thức phán xét tập trung nhất có thể thực hiện. Khi mô hình có thể làm bất cứ điều gì, điều khan hiếm là ai đó quyết định - với sở thích và sự quan tâm đến kết quả - nó nên làm gì và thường xuyên hơn là những gì nó không nên làm.