O reflecție profundă asupra modelului de afaceri al modelului de frontieră. Toate acestea se bazează pe cifrele scurse de The Information, NYT etc. 🔵The Core: Este o mașină de calcul și consum În esență, modelul este brutal de simplu: aproape toate costurile provin din calcul – inferență și, mai ales, din instruire. Antrenamentul urmează ceva asemănător unei legi de scalare. Să presupunem că costurile cresc de ~5 ori pe an; iar rentabilitatea costurilor de instruire este de 2x. Asta creează o dinamică ciudată: Costul instruirii pentru Anul 1: 1 Venituri din anul 2 din acest model: 2 Dar costul antrenamentului pentru anul 2 pentru următorul model: 5 Net: +2 - 5 = -3 Rulează-l înainte și devine mai rău: Venituri din anul 3: +10 Costul instruirii în anul 3: -25 Net: -15 Modelele frontieră, așa cum sunt folosite în prezent, sunt bulgări de zăpadă cu flux negativ de numerar. Fiecare generație consumă mai mulți bani decât cea precedentă. Pentru ca acest lucru să se transforme vreodată într-un flux de numerar pozitiv, doar două lucruri pot schimba logic: A. Veniturile cresc mult mai repede decât de 2x, sau B. Creșterea costurilor de antrenament încetinește de la 5 ori pe an la ceva de genul <2x CEO-ul Anthropic, Dario Amodei, a descompus scenariul B ("costurile de instruire încetează să crească exponențial") în două realități posibile: 1/ Limite fizice/economice: Pur și simplu nu poți antrena un model de 5 ori mai mare — insuficient cipuri, lipsă de energie, sau costul se apropie de PIB-ul mondial. 2/ Randamente descrescătoare: Ai putea antrena un model mai mare, dar curba de scalare se aplatizează. Să cheltui încă 10 ori nu mai merită. Ce dezvăluie cifrele OpenAI și Anthropic: Proiecțiile financiare scurse ale ambelor companii validează practic acest cadru. OpenAI: Planul OpenAI presupune practic că capacitatea totală de calcul încetează să crească după 2028. Traducere: marjele se îmbunătățesc pentru că costurile de instruire se stabilizează. Acesta este scenariul B. Anthropic: 1/ Presupun că ROI-ul pe model crește în fiecare an. Cheltui 1, recuperezi, să zicem, 5 în loc de 2. 2/ Creșterea cheltuielilor lor de calcul este, de asemenea, mult mai moderată. Din FY25 până în FY28: Creșterea costurilor de calcul OpenAI >> Anthropic's Folosind cadrul de mai sus, se bazează atât pe creșterea veniturilor A, cât și pe creșterea costurilor mai lente B. 🔵 $NFLX este cea mai apropiată analogie În tehnologie, modelele intensive în capital sunt rare, deși nu fără precedent. $NFLX este o analogie bună: ani de zile a avut un flux de numerar profund negativ care s-a agravat anual. Au trebuit să investească bani în conținut în avans, iar acele active s-au depreciat pe parcursul a patru ani. În multe privințe, seamănă cu economia centrelor de date și a antrenamentului pe modele. Maxim de consum de numerar în 2019: -3B Flux de numerar 2020: +2 miliarde De ce această schimbare bruscă pozitivă? COVID a oprit producția. Cheltuielile pentru conținut au încetat să mai crească. Fluxul de numerar s-a schimbat instantaneu. 🔵Finalul: Marjele ajung când creșterea costurilor încetinește $NFLX nu a încetat complet să investească în conținut – pur și simplu a încetat să mai *crească* agresiv acea investiție odată ce a ajuns la ~300 de milioane de abonați globali. La această scară, stickiness este ridicat și trebuie doar să-și mențină poziția, nu să-și extindă cheltuielile pentru conținut de 10 ori pe an. Nu cred că OpenAI sau Anthropic vor înceta vreodată complet antrenamentul. Dar nu va trebui să crească cheltuielile de antrenament la nesfârșit. La un moment dat: ROI-ul pe model crește, sau intră în vigoare limitele de scalare, sau ambele. Și în momentul în care cheltuielile anuale pentru antrenament încetează să crească de 5 ori pe an, marjele de profit apar aproape imediat. Asta e ciudat la economia LLM: E o mașină de ars... Până când, brusc, nu mai este. Surse: ++ Articol complet: