Alcune riflessioni profonde sul modello di business frontier-model. Tutto ciò è basato su numeri trapelati da The Information, NYT, ecc. 🔵Il Nucleo: È una Macchina di Consumo Computazionale Nel suo cuore, il modello è brutalmente semplice: quasi tutti i costi derivano dal calcolo – inferenza, e soprattutto addestramento. L'addestramento segue qualcosa come una legge di scalabilità. Supponiamo che i costi aumentino di circa 5 volte ogni anno; e il ROI sui costi di addestramento è di 2 volte. Questo crea una dinamica strana: Costo di addestramento anno 1: 1 Entrate anno 2 da quel modello: 2 Ma costo di addestramento anno 2 per il modello successivo: 5 Netto: +2 - 5 = -3 Se lo portiamo avanti, diventa peggio: Entrate anno 3: +10 Costo di addestramento anno 3: -25 Netto: -15 I modelli frontier, così come sono attualmente gestiti, sono palle di neve con flusso di cassa negativo. Ogni generazione brucia più denaro di quella precedente. Perché questo possa mai passare a un flusso di cassa positivo, solo due cose possono logicamente cambiare: A. Le entrate crescono molto più velocemente di 2 volte, oppure B. La crescita dei costi di addestramento rallenta da 5 volte all'anno a qualcosa come <2 volte Il CEO di Anthropic, Dario Amodei, ha suddiviso lo scenario B ("i costi di addestramento smettono di crescere esponenzialmente") in due possibili realtà: 1/ Limiti fisici/economici: semplicemente non puoi addestrare un modello 5 volte più grande — non ci sono abbastanza chip, non c'è abbastanza potenza, o il costo si avvicina al PIL mondiale. 2/ Rendimento decrescente: potresti addestrare un modello più grande, ma la curva di scalabilità si appiattisce. Spendere un altro 10 volte smette di valere la pena. Cosa rivelano i numeri di OpenAI e Anthropic: Le proiezioni finanziarie trapelate di entrambe le aziende convalidano sostanzialmente questo framework. OpenAI: Il piano di OpenAI assume effettivamente che la capacità totale di calcolo smetta di crescere dopo il 2028. Traduzione: i margini migliorano perché i costi di addestramento si appiattiscono. Questo è lo scenario B. Anthropic: 1/ Assumono che il ROI per modello aumenti ogni anno. Spendi 1, ottieni indietro 5 invece di 2. 2/ La loro crescita della spesa per calcolo è anche molto più contenuta. Dal FY25 al FY28: la crescita dei costi di calcolo di OpenAI >> quella di Anthropic Utilizzando il framework sopra, contano su sia A che sull'aumento delle entrate e B sulla crescita dei costi più lenta. 🔵 $NFLX È l'Analogia Più Vicina Nel settore tecnologico, i modelli ad alta intensità di capitale sono rari, anche se non senza precedenti. $NFLX è una buona analogia: per anni ha avuto un flusso di cassa profondamente negativo che è peggiorato annualmente. Hanno dovuto investire denaro nei contenuti in anticipo, e quegli asset si sono deprezzati nel corso di quattro anni. In molti modi ricorda l'economia dei data center e dell'addestramento dei modelli. Massimo consumo di cassa nel 2019: -3B Flusso di cassa 2020: +2B Perché il repentino passaggio positivo? Il COVID ha fermato la produzione. La spesa per contenuti ha smesso di crescere. Il flusso di cassa è immediatamente cambiato. 🔵Il Gioco Finale: I Margini Arrivano Quando la Crescita dei Costi Rallenta $NFLX non ha smesso di investire completamente nei contenuti – ha semplicemente smesso di *crescere* quell'investimento in modo aggressivo una volta raggiunti circa 300M di abbonati globali. A quella scala, l'aderenza è alta, e devono solo mantenere la loro posizione, non espandere la spesa per contenuti di 10 volte all'anno. Non penso che OpenAI o Anthropic smetteranno mai di addestrare completamente. Ma non avranno bisogno di aumentare la spesa per l'addestramento di multipli per sempre. A un certo punto: Il ROI per modello aumenta, o i limiti di scalabilità entrano in gioco, o entrambi. E nel momento in cui la spesa annuale per l'addestramento smette di crescere di 5 volte all'anno, i margini di profitto compaiono quasi immediatamente. Questa è la cosa strana dell'economia degli LLM: È una macchina di consumo… fino a quando improvvisamente non lo è più. Fonti: ++ Articolo completo: