小型 AI Studio のケース

ほとんどの AI 製品について言える最も正直な事は、実際には誰もそれらを担当していなかったということです。ダッシュボードにボルトで固定されたチャット ボックス、何を入力しても同じ 4 つの当たり障りのない文を生成する「要約」ボタン、プロダクト マネージャーが戦いに勝利した 11 個のモデル切り替えを備えた設定ページなど、継ぎ目からもそれを感じることができます。競合他社に負けた商品ではありません。彼らは自分たちの組織図に負けたのです。これは小規模な AI スタジオの場合に当てはまります。つまり、成長段階から抜け出すのではなく、意図的な選択としての創設者主導の AI 開発の場合です。

私たちは 2 人のスタジオとして、AI アプリケーションを構築して生計を立てています。申し訳ございませんが、これは制約ではありません。それが作品が良い理由です。以下に続くのは、ガレージスタートアップへのノスタルジーではありません。これは、AI 製品がどこで壊れるか、そして誰が壊れないようにするかについての主張です。

小規模チームではセンスが利点ですが、AI がそれをさらに大きくしました

生成モデルが登場する前は、ソフトウェアの好みは主にレイアウトとコピーでした。単に有能なだけのものを出荷すれば、ユーザーは適応するでしょう。 AI は、モデルの出力が製品の表面であるため、賭け金を変更しました。アプリが文章を書いたり、提案したり、要約したり、決定したりするとき、口調、長さ、いつ黙るべきか、いつ不確実性を認めるべきか、その人にとって「良い」答えが今どのように見えるかなど、何千もの小さな判断の判断が直接ユーザーに伝わります。

こうした呼びかけは委員会では存続しない。それらは平均化されてドロドロになります。

AI ジャーナリング アプリ Youp を使用すると、最も大変な作業はモデルの配管作業ではありませんでした。それは、アプリが何を「言ってはいけない」のかを決めることでした。難しいエントリーに陽気なポジティブさで応える日記仲間は、何も言わない仲間よりも悪いです。そこで私たちは、応答の長さ、熟考が単一の静かな文であるべき場合、何も質問しないことが正しい行動である場合など、抑制に努力を費やしました。それは好みによる決定であり、それが一貫性を保つのは、1 人か 2 人がすべてのことを頭の中に持ち、「ノー」を擁護しようとしたからにほかなりません。

要点: AI 製品の味は飾りではありません。仕様です。味のある人が、プロンプト、トークン ストリーム、および空の状態から 3 つの層を離れて座っている場合、その味は決してユーザーに届きません。小さなスタジオでは距離はゼロです。

所有権: モデルを選択した人がチケットにも回答します

大規模なチームは責任を分割するために組織されていますが、これは曖昧で横断的な方法で障害が発生するシステムにとってはまさに間違った形です。幻覚のようなフィールド、負荷がかかるとレイテンシが急上昇する、静かに何も返さない取得ステップなど、これらはどれもチームの境界を尊重しません。彼らは「モデルチーム」「プラットフォームチーム」「アプリチーム」の狭間で生きています。ギャップとは誰も痛みを感じない場所です。

当社の暗号通貨注文および取引操作アプリ MadaiOps は、これを具体的にします。リアルタイムで取引所全体で注文を発注、ルーティング、監視します。 「私の注文は実際に行われたか」という許容可能な失敗率はほぼゼロです。信頼性はユーザーが追加する機能ではないため、所有権を分散させて構築することはできません。これは、再試行、冪等性、部分フィル、および取引所が自身の状態について嘘をついている場合にユーザーに何を表示するかについて、何千もの防御的な決定を行う必要があります。ルーティング ロジックを作成する人は、午前 3 時に注文が滞っているという恐怖を感じる人と同じ人である必要があります。これらの人が異なる場合、両者の間の継ぎ目は機能停止になります。

要点: 組織図を出荷すると、その継ぎ目を出荷することになります。同じ手がプロンプト、再試行ロジック、およびインシデント チャネルに触れているスタジオでは、障害が少なく、より早く回復するシステムが生成されます。これは、人々が賢くなったからではなく、ギャップに陥る責任がなくなったからです。

スピードは本物ですが、興味深いのはスピードの「種類」です

小規模チームの動きは速いと誰もが主張します。その怠惰なバージョンは真実であり、退屈です。会議は減り、承認の連鎖はありません。興味深いのは、AI の開発では、構造的に大きなチームが太刀打ちできない特定のテンポが得られるということです。

モデルを使用した構築は経験に基づいています。プロンプト、コンテキスト ウィンドウ、またはツール使用ループがどのように動作するかは、実際の入力に対して実行するまでわかりません。コアループは次のとおりです。仮説を立て、何かを変更し、実際の結果を確認し、メンタルモデルを修正します。勝ったチームは、実際の意思決定者が席に座って、そのループを 1 日に何度も実行します。

大規模な組織では、各イテレーションがチケット、スプリント、レビューに変換されます。フィードバックが到着するまでに、仮説を持っていた人はスレッドを失っています。スタジオでは、仮説から観察までを数分に圧縮します。これが、私たちの初期の Linea 作業 (現在プライベート ベータ段階にある AI ネイティブのワークフロー自動化) が、ロードマップではなく緊密なプロトタイピング ループに留まっていた理由です。エージェントの行動は緊急性が高すぎるため、ガント チャートで計画することはできません。それを構築し、それが何かばかげた動作をするのを見て、推論を修正することを繰り返し、ハンドオフでループを消費することはありません。

正直に言うとトレードオフ

この種の速度には実際のコストがかかります。それは人を追加することで拡大するものではなく、コンテキストに深く留まる数人の個人に依存します。それは本当にリスクであり、そうでないふりをするのは不誠実です。 AI 製品の場合、代替プロセス (売上高は生き残るが判断力が鈍るプロセス) はより悪いソフトウェアを生み出すため、私たちはこれを受け入れます。私たちは、大規模で平均的なものよりも、小規模で一貫性のあるものを好みます。

「ノー」と言うことが規律のすべてだ

現在のAI製品の特徴的な病状は、ノーと言えないことです。すべてのモデルはあらゆることを少しずつ実行できるため、すべてのロードマップはすべてを含むように膨らみます。その結果、広く、浅く、忘れられやすい製品、つまり、視点があるべき機能リストが作成されます。

小規模スタジオの強みは、信頼できる「ノー」です。モデルの切り替えに「いいえ」を選択することは、ほとんどのユーザーには理由がありません。製品にチャットボットを含めるべきではないチャットボットにはノーです。不安定な AI 機能は機能がないより悪いため、信頼性を高めることができない機能の出荷にはノーです。ユーザーにあなたを信頼しないように教え、信頼は戻ってこないことを教えます。これは苦行ではありません。 AI 製品では表面積が重要であるという認識です。あなたが公開するすべての機能は、無制限の入力スペース全体で維持する必要がある品質に関する約束です。

要点: 小さなスタジオが制作する最も価値のある成果物は、多くの場合、そのスタジオが構築を拒否したもののリストです。そのリストは製品の背表紙です。大規模なチームは、機能を維持するのに苦労します。機能にノーと言うのは、通常、同僚にノーと言うのを意味するためです。これは、平凡なバージョンを出荷するよりも難しい会話です。

これが意味しないこと

「小さな良いこと、大きな悪いこと」で終わらせるのは安上がりだろう。フロンティアモデルのトレーニング、地球規模のインフラストラクチャ、監査証跡と法的防御力を従業員数で買う規制領域など、真にスケールが必要なものもあります。スタジオは彼らにとって適切な形ではありませんし、私たちはそのようなふりをしません。

しかし、私たちが取り組んでいるレイヤー、つまり既存のモデルに基づいて アプリケーション を設計して出荷するレイヤーは、まさにスケールが役に立たなくなり、薄まり始めるところです。ボトルネックはコンピューティングや人員数ではありません。それは、そのすべてを感じることができるほど仕事に近い人々によって保持されている、何千もの小さな決定に対して容赦なく適用される一貫した判断です。

それがすべてです。私たちがより安価であるとか、より粗末であるということではなく、媒体が判断の集中を報い、小さな創設者主導のスタジオが判断が取り得る最も集中した形であるということです。モデルが何でもできるとき、稀なことは、誰かがセンスを持って、結果に責任を持って、モデルが何をすべきか、そしてより多くの場合、何をすべきではないかを決定することです。