Kto porównuje ceny na metce, dochodzi do wniosku, że sprzęt AI drożeje z roku na rok. Kto porównuje koszt jednostki pracy, dochodzi do wniosku odwrotnego. Obaj czytają ten sam katalog.
Tabela
Przepustowość to gęste BF16 w petaflopach na sekundę na sztukę. Liczby FP8 i FP4, które podają producenci, są inną miarą i celowo nie są tu używane. Wartość rezydualna zakłada zakup w dniu premiery i jest podana jako udział w tym, co zapłacono.
| Akcelerator | Premiera | PF/s | Cena startowa | $ za PF | Po 1 roku | Po 2 latach | Po 3 latach |
|---|---|---|---|---|---|---|---|
| V100 SXM2 32GB | 2017-06-21 | 0.125 | $10 000 | $80 000 | 71% | 50% | 35% |
| A100 SXM4 80GB | 2020-11-16 | 0.312 | $15 000 | $48 077 | 71% | 47% | 27% |
| H100 SXM5 | 2022-10-01 | 0.989 | $30 000 | $30 334 | 71% | 37% | 20% |
| H200 SXM | 2024-02-01 | 0.989 | $32 000 | $32 356 | 69% | 37% | 20% |
| B200 | 2025-01-15 | 2.250 | $40 000 | $17 778 | 70% | 36% | 19% |
| GB300 | 2026-03-01 | 3.300 | $48 000 | $14 545 | 70% | 36% | 23% |
| VR200 projekcja | 2027-06-01 | 6.500 | $55 000 | $8 462 | 68% | 37% | 24% |
| Następna generacja projekcja | 2029-01-01 | 13.000 | $62 000 | $4 769 | 68% | 46% | 32% |
Każda generacja traci w pierwszym roku około 30 procent
To najbardziej konsekwentna liczba w tabeli. V100, A100, H100, H200, B200 i GB300 mieszczą się wszystkie między 68 a 71 procentem ceny zakupu dwanaście miesięcy po premierze, mimo dziewięciu lat i pięciokrotnej zmiany tego, ile kosztuje sztuka.
Drugi rok je rozdziela. V100 trzymał jeszcze 50 procent, bo niewiele przeciwko niemu wyszło. H100, H200 i B200 lądują koło 36 procent, bo tempo premier się zagęściło i każdy z nich zmierzył się z większą liczbą następców w tym samym oknie.
Model w trzech regułach
Jest celowo prosty, a każdy jego element to liczba, z którą da się dyskutować.
Czas połowicznego rozpadu to 730 dni dla układów do H200, 700 dla B200 i GB300 oraz 660 dla generacji projektowanych. Skraca się, bo tempo premier się zagęszcza.
To kara za następcę boli, nie czas
Sam czas dałoby się przeżyć. Kapitał znika naprawdę przez to, że każdy nowszy układ tej samej klasy zabiera kolejną ćwiartkę tego, co zostało, i robi to przez 180 dni, a nie w dniu premiery, bo rynek wtórny przecenia się przez dwa kwartały, a nie z dnia na dzień.
Premiera, która już się odbyła w momencie zakupu, nie jest liczona drugi raz. Była wliczona w to, co zapłaciłeś.
Co to znaczy, jeśli naprawdę kupujesz
Decyzją prawie nigdy nie jest co kupić. W obrębie jednej generacji układy są na tyle blisko siebie, że odpowiedź jest oczywista. Decyzją jest kiedy, a tabela nadaje temu kształt.
Kapitał zaangażowany krótko przed premierą następcy traci ćwiartkę pozostałej wartości w pół roku, ponad zwykły spadek z czasu. Kapitał zaangażowany wcześnie w cyklu generacji i eksploatowany na wysokim obłożeniu zamienia się w pracę, zanim to nastąpi. Ten sam sprzęt, ta sama cena i istotnie inny wynik w zależności od miesiąca.
Wynajem odwraca ryzyko. Kosztuje więcej za jednostkę pracy i nie niesie żadnej ekspozycji na wartość rezydualną, przez co jest właściwą odpowiedzią wtedy, gdy nie umiesz przewidzieć własnego obłożenia, i drogą odpowiedzią wtedy, gdy umiesz.
Czym ta tabela nie jest
Jest modelem, nie raportem rynkowym. Prawdziwe ceny na rynku wtórnym ustala podaż, kontrole eksportowe, wyprzedaże hiperskalerów i to, ile sztuk kupujący potrzebuje naraz, a nic z tego tu nie ma. Czasy połowicznego rozpadu są wybrane, a nie zmierzone.
Do czego się nadaje: do kształtu decyzji. Że pierwszy rok kosztuje około trzydziestu procent, cokolwiek kupisz. Że następcy znaczą więcej niż wiek. I że koszt jednostki pracy poszedł w przeciwną stronę niż koszt jednostki sprzętu.
Ta tabela jest założeniem pewnej gry. Scaling Laws to tycoon o firmie AI, w którym powyższa amortyzacja obciąża twój bilans każdego dnia, niezależnie od tego, czy klaster pracuje, czy stoi. Jest darmowy na Windowsa, a kod jest otwarty, łącznie z cytowanym tu modelem wyceny.
Pytania, które ludzie zadają
Jak szybko akcelerator AI traci na wartości?
Około 30 procent w pierwszym roku, konsekwentnie w każdej generacji tutaj. Około 36 procent zostaje po dwóch latach przy nowoczesnych układach i blisko 20 procent po trzech.
Sprzęt AI zdrożał czy staniał?
Za sztukę zdrożał: z 10 000 na 48 000 dolarów w dziewięć lat. Za petaflopa mocno staniał: z około 80 000 do około 14 500, czyli mniej więcej 5,5 raza.
Wynajem czy zakup?
Wynajem kosztuje więcej za jednostkę pracy i nie niesie ryzyka wartości rezydualnej. Zakup to jakaś jedna trzecia kosztu za FLOP i przenosi amortyzację na twój bilans niezależnie od tego, czy klaster pracuje. Decyduje obłożenie i moment, nie cena.
Jaka jest podłoga wartości używanego układu?
8 procent ceny zakupu w tym modelu. Wartość opada w jej stronę i nigdy poniżej, bo zawsze znajdzie się ktoś, kto chce tanią krzemową moc.