フロンティアモデルのビジネスモデルについての深い考察。これらすべては、The InformationやNYTなどがリークした数字に基づいています。 🔵コア:これは計算を消費するマシンです モデルの核心は残酷にシンプルです。ほぼすべてのコストは計算、つまり推論、特にトレーニングから発生します。訓練はスケーリングの法則のようなものに従っています。コストが毎年~5倍上昇すると仮定します。そして、トレーニングコストのROIは2倍です。 それが奇妙なダイナミクスを生み出します: 1年目のトレーニング費用:1 そのモデルによる2年目の収益:2 しかし、次世代モデルの2年目のトレーニングコストは5 ネット:+2 - 5 = -3 さらに進めると、さらに悪化します: 3年目の収益:+10 3年目のトレーニングコスト:-25 ネット:-15 現在運用されているフロンティアモデルは、キャッシュフローをマイナスにする雪だるま式です。世代ごとに前世代よりも多くの現金を消費しています。 これがキャッシュフローのプラスに変わるためには、論理的に変わることは二つだけです。 A. 収益は2倍よりもはるかに速く成長します。 B. トレーニングコストの増加は年間5倍から約<2倍に鈍化します AnthropicのCEOであるダリオ・アモデイは、シナリオB(「トレーニングコストの指数関数的な増加が止まる」)を2つの現実に分類しました。 1/ 物理的・経済的限界:5倍の規模のモデルを訓練することはできません。チップが不足し、電力が足りず、コストが世界GDPに近づくためです。 2/ 収穫逓減:より大きなモデルを訓練しても、スケーリングカーブが平坦になります。もう10倍も使う価値はなくなります。 OpenAIとAnthropicの数字が明らかにすること: 両社のリークされた財務予測は、この枠組みを基本的に裏付けています。 OpenAI:OpenAIの計画は、2028年以降の総計算能力の増加が停止することを実質的に前提としています。 つまり、トレーニングコストが平坦化することで利益率が上がるということです。これがシナリオBです。 人類的: 1/ モデルごとのROIは毎年増加すると想定しています。1使って、例えば2ではなく5ドル返ってくる。 2/ 計算支出の成長もかなり抑制されています。FY25からFY28まで:OpenAIはAnthropic>>コストの成長を計算 上記の枠組みを用いると、Aは収益の成長とBのコスト成長の鈍化の両方を期待しています。 🔵 $NFLXが最も近い類推です テック分野では資本集約型モデルは稀ですが、前例がないわけではありません。$NFLX例えは的確です。長年にわたり深刻なマイナスのキャッシュフローが年々悪化していました。彼らは前もりでコンテンツに資金を注ぎ込み、その資産は4年間で減価償却しました。多くの点で、これはデータセンターやモデルトレーニングの経済学に似ています。 2019年のキャッシュバーンピーク:-300億 2020年のキャッシュフロー:+2B なぜ急にスイングが好調になったのか?COVIDで生産が停止しました。コンテンツ支出は増えなくなりました。キャッシュフローは一変しました。 🔵最終局面:コスト成長が鈍化したときに利益率が現れる $NFLXコンテンツへの投資を完全にやめたわけではなく、グローバル加入者数が約3億に達した時点で、その投資を積極的に*拡大*するのをやめただけです。その規模だと定着性が高く、ポジションを維持するだけで十分で、年間10回もコンテンツを投資する必要はない。 OpenAIやAnthropicがトレーニングを完全にやめることはないと思います。しかし、彼らは永遠に何倍もの訓練費を増やす必要はありません。ある時点で: モデルごとのROIが上がったり、スケーリング制限が出たり、あるいはその両方が起こる。 そして、年間トレーニングの支出が年間5倍の成長を止めた瞬間、利益率はほぼ即座に現れます。 LLM経済学の奇妙なところはこうです: これは焼却装置だ...しかし突然、そうではなくなる。 ソース： ++ 全文記事: