TA zsetonok meglehetősen kicsik, és néhányat a tenyérben is meg lehet tartani. Alapvetően fontosak a mesterséges intelligencia modellek fejlesztésében – és a világ legnagyobb technológiai vállalatainak nagy számra van szükségük belőlük ahhoz, hogy előrébb tudjanak tartani.

A Microsoft az egyik ilyen. És papíron úgy tűnik, hogy van probléma. A Guardian vizsgálata nyilvánvaló eltérést talált a cég AI-kapacitásáról elmondottak – és a működő fejlett mesterségesintelligencia-chipek száma között.

Ez sem kis hiányosság. A Microsoft a hírek szerint 2024 végéig 1,8 millió mesterségesintelligencia-chip telepítését tűzte ki adatközpontjaiba szerte a világon. Majdnem két évvel később, a 280 milliárd dolláros (208 milliárd GBP) terjeszkedés közepén a vállalat 2,2 millió AI chippel rendelkezik. telepítve, a Guardian által látott belső dokumentumok szerint. Ez kevesebb, mint fele annak a számnak, amelyet egyes szakértők elképzeltek.

Leegyszerűsítve, a globális mesterséges intelligencia fegyverkezési versenyhez rendkívül drága chipekkel működő adatközpontok tömeges kiépítésére van szükség. A látszólagos A chipek közötti eltérés arra utal, hogy a Microsoft legújabb adatközpontjai nem biztos, hogy teljesen működőképesek, vagy ha igen, akkor nem rendelkeznek a szükséges chipekkel.

Ez rávilágít valami még alapvetőbbre az AI-technológiák fejlesztése terén elért előrehaladás feltérképezésében. Az AI-t működtető chipeket az Nvidia, a világ két legértékesebb vállalata egyike gyártja. Ellátási lánca az egyik legszigorúbban tartott titka az egész iparágban.

Szinte kivétel nélkül az Nvidia nem jelenti be, hogy ezekből a chipekből mennyit ad el és kinek. Ügyfelei, a világ legnagyobb technológiai vállalatai viszont nem árulják el, hányan vannak. Ezen információk nélkül nagyon nehéz bárkinek megtudnia, hogy az AI virágzik-e vagy sem.

Microsoft: vákuum?

Az elmúlt két évben a Microsoft azt állítja, hogy óriási sebességgel építette ki az AI-infrastruktúrát. Vezérigazgatója, Satya Nadella tavaly azt mondta, hogy 2027 közepére megduplázza globális adatközponti lábnyomát. 2022 óta nagyjából 280 milliárd dollárt szántott a földre, az épületekre és a számítási infrastruktúrára, hogy mesterséges intelligenciát építsen. Ez több mint 41 milliárd dollárt tartalmaz az elmúlt negyedévben.

De nehéz megbecsülni, hogy a Microsoft hány adatközpontot épített fel ebből a pénzből.

A vállalat által elért előrehaladást felmérheti, ha megnézi, mit jelentett be nyilvánosan, különös tekintettel a szükséges hatalomra. Az adatközpontoknak áramra van szükségük, ezért az egyik módja annak, hogy megbecsüljük, hány adatközpont működik, összeadjuk a Microsoft rendelkezésére álló energiát – az AI kapacitását.

A Microsoft saját állításai, amelyek az éves jelentésekben és a negyedéves bevételekben szerepelnek, azt sugallják, hogy az elmúlt két évben 5 GW-tal növelte az adatközponti kapacitást a mesterséges intelligencia kiépítésének részeként. Azt mondja, ma már több száz adatközponttal rendelkezik öt kontinensen.

Öt gigawatt szédítő energiamennyiség – négyszer akkora, mint Európa legnagyobb adatközpont-parkja. De a Microsoft teljes kapacitásának még ennél is nagyobbnak kell lennie; 2022 óta építi az AI-infrastruktúrát. Hogy mennyivel nagyobb, az nyitott kérdés.

Egy 2024-es belső prezentációban a Microsoft állítólag azt állította, hogy már 5 GW adatközponti kapacitással rendelkezik. Ez azt sugallja, hogy most összesen 10 GW kapacitással rendelkezhet. Nem világos, hogy ezek mindegyike mesterséges intelligencia adatközpont-e – némelyik más felhőszolgáltatáshoz is használható. De a Microsoft saját nyilatkozatai azt mutatják, hogy az elmúlt években a tőkekiadásai túlnyomórészt az AI-infrastruktúra kiépítésére összpontosítottak.

Tíz gigawattnyi mesterséges intelligencia adatközpont azt sugallja, hogy a Microsoftnak nagyjából 6,4 millió grafikus feldolgozó egységgel (GPU) kellene rendelkeznie. Shaolei Ren, a Riverside-i Kaliforniai Egyetem professzora szerint a Microsoft fenntarthatósági jelentései, amelyek a villamosenergia-felhasználásra vonatkozó adatokat tartalmazzák, és amelyeket a pénzügyi adatoktól elkülönítve tesznek közzé, más képet festenek.

Azt mondta, ezek a jelentések azt sugallják, hogy a Microsoft AI-kapacitása 2024-ben valószínűleg közelebb volt az 1,2 GW-hoz. De még ez az alacsonyabb szám is azt jelzi, hogy a Microsoftnak nagyjából 4 millió mesterséges intelligencia chipre lenne szüksége – ha az elmúlt két évben 5 GW AI-adatközpontot adna hozzá.

"Saját mérőszámai szerint a Microsoftnak igaza lehet. De nem világos, mire gondolnak, amikor azt mondják, hogy növelték az adatközponti kapacitást. Nem adnak megfelelő kontextust" - mondta Ren. "A fenntarthatósági jelentéseket egy harmadik fél auditálja. Ezek hitelesebbek, mint a bejelentések."

Egy Nvidiára szakosodott elemző azt mondta, hogy szerintük a Microsoftnak több chipje lesz,nyilvános nyilatkozatai alapján. "Számomra alacsonyak. Kevesebbek, mint amire a Microsofttól számítottam" - mondták.

A Microsoft ragaszkodott hozzá, hogy a Guardian számításai helytelen információkon alapultak. Nem nyújtott betekintést arról, hogy a Guardian melyik száma hibás, és miért. Nyilvánvaló, hogy a Microsoft mesterséges intelligencia-kapacitásának kiépítése sokkal lassabban halad, mint azt éves jelentései sugallják.

Ren azt mondta: "Elképzelhető, hogy papíron 1 GW teljesítménykapacitást biztosítanak vagy jelentenek be egyetlen negyedéven belül. De ezt a kapacitást online hozni és ténylegesen számítástechnikai célra felhasználni ugyanazon a negyedéven belül sokkal nehezebb lenne."

A Microsofton belüli források szerint a vállalat mesterséges intelligencia-chipeinek teljes száma „alig mozdult” az elmúlt évben.

Néhány látszólagos Az eltérés a Microsoft és az OpenAI kapcsolatával magyarázható. Kereskedelmi partnerségük pontos feltételei nem nyilvánosak, de ez az egység a Microsoft egyes adatközponti telepítéseiért felelős, amelyek nem szerepelnek a Guardian által látott dokumentumokban.

– Lehet, hogy van egy csomó chiped… nem tudod bedugni'

Van egy másik tényező: a Microsoft néhány nagy projektje távolról sem működik.

Vegyük a Microsoft legnagyobb AI-fejlesztését az Egyesült Államokban, a Wisconsinban és Georgiában található Fairwater nevű adatközpontot. Áprilisban, Nadella, a Microsoft vezérigazgatója elmondta, hogy a Wisconsin-i Fairwater projekt „élesben indul”.

Az épületről az Epoch AI műholdfelvételei azonban úgy tűnik, hogy csak egy része működik. májusban, A Microsoft elismerte egy wisconsini újságnak, hogy a Fairwater még nem volt online.

Ez nagyon gyakori mondta Ren. Kezdetben több gigawattos, több milliárd dolláros beruházásról volt szó. Három évvel később már csak 300 MW-ot építettek.

A belső dokumentum azt is jelzi, hogy a Microsoftnak kevesebb az Nvidia legújabb chipje, a Blackwell, mint azt az Nvidia nyilvános bejelentései alapján várni lehetne. Tavaly márciusban az Nvidia vezérigazgatója, Jensen Huang azt mondta, hogy az Nvidia négy legnagyobb ügyfelétől – széles körben az Amazontól, az Oracle-től, a Microsofttól és a Google-tól – 3,6 milliót rendelt a Blackwells.

Erre a számra nem adtak részletet, de a Microsoft történelmileg az Nvidia egyik legnagyobb ügyfele volt. Ha továbbra is ez a helyzet, akkor a Microsoft teljes Blackwell-állománya megközelíti az 1 millió zsetont. Valójában ennek a mennyiségnek kevesebb mint fele van telepítve.

Hol vannak a chipek, ha nem az adatokbanközpontok?

Az Nvidia mérlegei azt mutatják, hogy nagyon sok chipet adott el; februárban 215,9 milliárd dollár bevételt ért el. A Microsoft megvásárolta ezeket, de nem telepítette? Hányan vannak, és mindegyik a birtokában van?

Úgy tűnt, Nadella erre a kérdésre gesztikulált az All Things AI nevű podcastban tavaly év végén, ahol a Microsoft adatközponti kiépítéséről beszélt. A legnagyobb probléma szerinte az elektromos energia és az adatközpontok építése az áramellátás helyéhez elég közel.

"Ha ezt nem tudod megtenni, akkor lehet, hogy egy csomó chip van a készletben, amelyeket nem tudok csatlakoztatni. Valójában ez a mai problémám. Ez nem a chipek ellátási problémája. Valójában az a tény, hogy nincs meleg héjam, amibe bedughatnám."

A Microsoft szóvivője elmondta: "Több évtized alatt a Microsoft globális infrastruktúrát épített ki, hogy kielégítse a gyorsan növekvő ügyféligényeket a felhő- és mesterségesintelligencia-szolgáltatások iránt. Adatközpontjaink több generáción keresztül egyesítik az egyedi szilícium-, AMD-, Intel- és Nvidia-chipeket a nagyszabású működéshez szükséges hálózati, tárolási és rendszer-infrastruktúrával.

"A Microsoft nem számol be a mesterséges intelligencia-infrastruktúrájában lévő egyes chipek mennyiségéről. A Guardian által velünk közölt becslések pontatlanok, és téves feltételezésekből téves következtetéseket vonnak le."

Az Nvidia nem válaszolt a megjegyzéskérésre.

Hogyan lehet kiszámítani a chipek számát a vállalat „AI kapacitásából”

A világ legnagyobb technológiai vállalatai AI-kapacitásukat adják meg teljesítményükben: gigawatt. Egy gigawatt 700 000 és 1 millió otthon közötti teljesítményt biztosít. A Meta szerint az ellentmondásos Hyperion adatközpontja Louisianában 5 GW kapacitású lesz. Az Egyesült Királyság DataVita cége 1GW-os adatközpontot tervez Lanarkshire-ben.

Ezeknek az adatoknak chipekre konvertálása azt jelenti, hogy ki kell számítani, hogy hány chipet lehet futtatni ennyi energiával. A The Guardian a következő módszertant alkalmazta, és áttekintette ezeket a számításokat Abdeltawab Hendawival, a Rhode Island-i Egyetem professzorával és Rennel.

Ahhoz, hogy nagyon tág becslést kapjunk arról, hogy hány chip van egy adatközpontban, eloszthatja az adatközpont energiafelhasználását egy mesterséges intelligencia chip – például egy H100 – energiafelhasználásával. Egyetlen H100 700 W-ot használ. Ha a Microsoft 10 GW kapacitással rendelkezik, akkor ezt 700 wattal elosztva 12 millió lapka kellene.

A belső dokumentumban leírt chipek nagy részét a H100-ak teszik ki. Azt is jelzi, hogy a Microsoftnak van A100-asa, amely kevesebb energiát használ, és Blackwells, amely többet használ.

De ez a közelítés nem számol több tényezővel. Először is, az adatközpontok hűtőrendszerekkel és egyéb berendezésekkel rendelkeznek, amelyek szintén áramot használnak. Ren becslése szerint egy adott mesterséges intelligencia adatközpontban az áram 80%-a számítógépes chipekre megy el. Ez nagyjából megfelel a Nemzetközi Energia Ügynökség adatainak, bár a szám az adatközpont hatékonyságától függ. A 10 GW 80 százaléka azt sugallja, hogy a 8 GW valóban használatban van.

Ez valamivel alacsonyabb, mint a Microsoft adatközponti hatékonyságára vonatkozó saját adatai, amelyek egy 2024-es fenntarthatósági jelentésben szerepelnek, és arra utalnak, hogy az új adatközpontjaiban a villamos energia 89%-a az informatikai rendszereket táplálja, 11%-os rezsiköltséggel.

Másodszor, egy adatközpontban nem minden chip AI chip. Ehelyett a mesterséges intelligencia chipeket más számítógépes chipekkel, például memóriachipekkel ellátott szerverállványokra szerelik fel, amelyek segítenek a számítások végrehajtásában. Egy nyolc H100-as GPU-val rendelkező szerver legfeljebb körülbelül 10 kW teljesítményt fogyaszt.

A 8 GW-ot 10 kW-tal osztva 800 000 szervert vagy 6,4 millió chipet kapunk.

Ez óvatos becslés, mivel a gyakorlatban az olyan vállalatok, mint a Microsoft, bizonyos mértékig túlfizetik energiakapacitásukat – több chipet helyeznek el egy adatközpontban, mint amennyit az IT-kapacitásuk támogatni tud, mondta Ren.