소형 AI 스튜디오용 케이스

대부분의 AI 제품에 대해 가장 솔직하게 말할 수 있는 점은 실제로 해당 제품을 담당하는 사람이 아무도 없다는 것입니다. 대시보드에 고정된 채팅 상자, 무엇을 입력하든 동일한 4개의 단조로운 문장을 생성하는 "요약" 버튼, 11개의 모델이 포함된 설정 페이지가 제품 관리자가 포함하기 위해 싸워 이겼음을 느낄 수 있습니다. 이는 경쟁사에게 패한 제품이 아닙니다. 그들은 자신의 조직도를 잃었습니다. 이는 소규모 AI 스튜디오의 경우입니다. 창립자가 주도하는 AI 개발은 성장하는 단계가 아니라 의도적인 선택입니다.

우리는 2인 스튜디오로서 생계를 위한 AI 애플리케이션을 구축합니다. 이는 우리가 사과하는 제약 사항이 아닙니다. 작품이 좋은 이유다. 다음은 차고 스타트업에 대한 향수가 아닙니다. AI 제품이 어디에서 파손되고 누가 파손되지 않도록 방지할 수 있는지에 대한 주장입니다.

취향은 소규모 팀의 장점이며 AI는 이를 더 크게 만들었습니다.

생성 모델 이전에는 소프트웨어 취향이 대부분 레이아웃과 카피였습니다. 단지 유능한 제품을 출시하면 사용자는 적응할 것입니다. AI는 모델의 출력이 제품 표면 *이기 때문에 판돈을 변경했습니다. 앱이 글을 쓰고, 제안하고, 요약하거나 결정할 때 어조, 길이, 침묵을 지켜야 할 때, 불확실성을 인정해야 할 때, 지금 당장 이 사람에게 "좋은" 대답이 어떤 것인지 등 수천 가지의 작은 판단 요청이 사용자에게 직접 유출됩니다.

그러한 전화는 위원회에서 살아남지 못합니다. 그들은 평균화되어 진흙으로 변합니다.

AI 저널링 앱인 Youp를 사용하면 가장 어려운 작업은 결코 모델 배관이 아니었습니다. 앱이 말하지 말아야 할 내용을 결정하는 것이었습니다. 유쾌하고 긍정적인 태도로 어려운 항목을 만나는 저널링 동반자는 아무 말도 하지 않는 동반자보다 더 나쁩니다. 그래서 우리는 억제에 노력을 기울였습니다. 응답 길이, 묵상이 조용한 단일 문장이어야 할 때, 아무것도 묻지 않는 것이 올바른 행동일 때. 그것은 취향에 따른 결정이며 한두 사람이 모든 것을 머릿속에 담고 기꺼이 "아니요"를 옹호했기 때문에 일관성을 유지합니다.

테이크아웃: AI 제품의 경우 맛은 장식이 아닙니다. 사양입니다. 취향을 가진 사람이 프롬프트, 토큰 스트림, 빈 상태에서 세 가지 레이어를 제거한 상태로 앉아 있으면 그 사람의 취향은 결코 사용자에게 도달하지 않습니다. 작은 스튜디오에서는 거리가 0입니다.

소유권: 모델을 선택한 사람이 티켓에 응답합니다.

대규모 팀은 책임을 나누기 위해 조직되는데, 이는 모호하고 교차적인 방식으로 실패하는 시스템에 대해 정확히 잘못된 형태입니다. 환각적인 필드, 로드 시 지연 시간 급증, 아무 것도 반환하지 않는 검색 단계 등 이러한 것 중 어느 것도 팀 경계를 존중하지 않습니다. 그들은 '모델 팀', '플랫폼 팀', '앱 팀' 사이의 격차에 살고 있습니다. 공백은 누구도 고통을 느끼지 못하는 곳이다.

당사의 암호화폐 주문 및 거래 운영 앱인 MadaiOps는 이를 구체화합니다. 실시간으로 거래소 전반에 걸쳐 주문을 배치, 라우팅 및 모니터링합니다. "내 주문이 실제로 처리되었나요?"에 대한 허용 가능한 실패율은 거의 0입니다. 안정성은 추가하는 기능이 아니기 때문에 분산된 소유권으로는 이를 구축할 수 없습니다. 재시도, 멱등성, 부분 채우기 및 교환이 자체 상태에 대해 거짓말을 할 때 사용자에게 무엇을 표시할지에 대한 수많은 방어 결정이 필요합니다. 라우팅 로직을 작성하는 사람은 오전 3시에 주문이 정체되는 것에 대한 두려움을 느끼는 사람과 동일해야 합니다. 두 사람이 서로 다르면 그들 사이의 이음새가 중단됩니다.

요점: 조직도를 배송하면 솔기가 배송됩니다. 같은 손이 프롬프트, 재시도 로직, 인시던트 채널을 다루는 스튜디오는 실패를 덜하고 더 빠르게 복구하는 시스템을 생산합니다. 사람들이 더 똑똑해서가 아니라 책임이 공백에 빠지지 않기 때문입니다.

속도는 현실이지만 흥미로운 부분은 속도의 종류입니다.

모두가 소규모 팀이 빠르게 움직인다고 주장합니다. 게으른 버전은 사실이고 지루합니다. 회의 수가 적고 승인 체인이 없습니다. 흥미로운 버전은 AI 개발이 대규모 팀이 구조적으로 일치할 수 없는 특정 템포를 보상한다는 것입니다.

모델을 사용하여 구축하는 것은 경험적입니다. 실제 입력에 대해 실행할 때까지 프롬프트, 컨텍스트 창 또는 도구 사용 루프가 어떻게 작동하는지 알 수 없습니다. 핵심 루프는 가설을 세우고, 한 가지를 변경하고, 실제 결과를 살펴보고, 정신 모델을 수정하는 것입니다. 승리한 팀은 실제 의사 결정자가 자리에 앉아 하루에도 여러 번 반복 실행됩니다.

대규모 조직에서는 각 반복을 티켓, 스프린트, 리뷰로 전환합니다. 피드백이 도착할 때쯤이면 가설을 갖고 있던 사람은 실마리를 잃어버리게 됩니다. 스튜디오는 가설에서 관찰까지의 시간을 몇 분으로 압축합니다. 이것이 바로 당사의 초기 Linea 작업(현재 비공개 베타 버전인 AI 기본 워크플로 자동화)이 로드맵이 아닌 엄격한 프로토타입 제작 루프에 머물렀던 이유입니다. 간트 차트를 계획하기에는 상담원 행동이 너무 긴급합니다. 루프를 잡아먹는 핸드오프 없이 빌드하고, 멍청한 일을 하는 것을 지켜보고, 추론을 계속해서 수정합니다.

정직하게 말한 절충안

이런 종류의 속도에는 실제 비용이 듭니다. 사람을 추가하여 규모를 확장할 수 없으며 상황에 깊이 머무르는 두 명의 개인에 따라 달라집니다. 그것은 진정한 위험이며, 그렇지 않은 척하는 것은 부정직한 일입니다. AI 제품의 경우 회전율은 유지하지만 판단력을 희석시키는 프로세스가 더 나쁜 소프트웨어를 생성하기 때문에 이를 받아들입니다. 우리는 크고 평균적인 것보다는 작고 일관성 있는 것을 선호합니다.

아니오라고 말하는 것이 전체 규율입니다.

현재 AI 제품의 가장 큰 특징은 '아니오'라고 말할 수 없다는 것입니다. 모든 모델은 모든 것을 조금씩 수행할 수 있으므로 모든 로드맵은 모든 것을 포함하도록 커집니다. 그 결과는 광범위하고 피상적이며 잊기 쉬운 제품, 즉 관점이 있어야 하는 기능 목록입니다.

소규모 스튜디오의 영향력은 믿을만한 "아니오"입니다. 대부분의 사용자는 추론할 수 없는 모델 토글을 거부합니다. 챗봇이 없어야 하는 제품에는 챗봇이 없습니다. 불안정한 AI 기능은 기능이 없는 것보다 더 나쁘기 때문에 신뢰할 수 있는 기능을 제공하지 마십시오. 사용자에게 당신을 믿지 말라고 가르치며, 그 신뢰는 다시 돌아오지 않습니다. 이것은 금욕주의가 아닙니다. AI 제품에서는 표면적이 문제라는 인식입니다. 귀하가 노출하는 모든 기능은 이제 무한한 입력 공간에서 유지해야 하는 품질에 대한 약속입니다.

요점: 소규모 스튜디오가 제작하는 가장 귀중한 유물은 제작을 거부한 항목의 목록인 경우가 많습니다. 그 목록은 제품의 핵심입니다. 큰 팀은 기능을 거부하는 것이 일반적으로 동료에게 거부하는 것을 의미하기 때문에 하나를 유지하는 데 어려움을 겪습니다. 이는 평범한 버전을 출시하는 것보다 더 어려운 대화입니다.

이것이 의미하지 않는 것

"작은 것이 좋고, 큰 것이 나쁘다"로 끝나는 것이 저렴할 것입니다. 진정으로 규모가 필요한 것에는 프론티어 모델 교육, 전 세계 규모의 인프라, 인원이 감사 추적 및 법적 방어력을 구매하는 규제된 도메인 등이 있습니다. 스튜디오는 그런 사람들에게 적합한 형태가 아니며 우리는 그런 척하지도 않습니다.

그러나 우리가 작업하는 계층(이미 존재하는 모델 위에 애플리케이션을 설계하고 제공하는 것)은 정확하게 규모가 도움이 되지 않고 희석되기 시작하는 계층입니다. 병목 현상은 컴퓨팅이나 인원수로 인해 발생하지 않습니다. 그것은 모든 결정을 느낄 만큼 업무에 가까운 사람들이 내리는 수천 개의 작은 결정에 끊임없이 적용되는 일관된 판단입니다.

그것이 전부입니다. 우리가 더 저렴하거나 더 까다롭다는 것이 아니라, 매체가 판단의 집중을 보상하고 소규모 창립자가 주도하는 스튜디오가 판단을 취할 수 있는 가장 집중된 형태라는 것입니다. 모델이 무엇이든 할 수 있을 때 누군가가 취향과 결과에 따라 무엇을 해야 할지, 무엇을 하지 말아야 할지 결정하는 경우는 거의 없습니다.