Microsoft sada proizvodi vlastite ARM procesore

Pričalo se da Microsoft godinama radi na prilagođenom procesoru za potrebe svog podatkovnog centra. Kako se ispostavilo, glasine su bile istinite i ove sedmice kompanija je predstavila ne jedan već dva procesora temeljena na Armu.

Novi čipovi bit će integrirani u Azure farme servera početkom 2024., kako bi se koristili za AI usluge kao što je Microsoft Copilot.

Ove sedmice Microsoft je objavio da je napravio dva vlastita čipa koji će se nositi s AI i općim računalnim radnim opterećenjima u Azure oblaku. Najava je objavljena na konferenciji Ignite 2023 i potvrđuje prethodne glasine o postojanju ” Projekta Athena ” – posebno dizajniranog čipa temeljenog na Armu koji bi smanjio Microsoftovo oslanjanje na standardni hardver dobavljača poput Nvidije, posebno u području učenja i zaključivanja umjetne inteligencije.

Prvi čip se zove Microsoft Azure Maia 100 AI Accelerator i izravan je rezultat projekta Athena. Kao što njegovo dugačko ime sugerira, div iz Redmonda dizajnirao je čip posebno za pokretanje velikih jezičnih modela kao što su GPT-3.5 Turbo i GPT-4. Izgrađen na TSMC-ovom 5nm procesu i s ne manje od 105 milijardi tranzistora, novi čip podržava različite MX tipove podataka, uključujući sub-8-bitne formate za bržu obuku modela i vrijeme zaključivanja.

Za referencu, Nvidijin H100 AI Superchip ima 80 milijardi tranzistora, a AMD-ov Instinct MI300X ima 153 milijarde tranzistora. Ipak, tek trebamo vidjeti bilo kakve izravne usporedbe performansi između Maia 100 AI Accelerator i postojećih čipova koje koristi većina kompanija koje izrađuju AI usluge. Ono što znamo jest da svaka računalna jedinica Maia 100 ima ukupnu propusnost od 4,8 terabita zahvaljujući prilagođenom mrežnom protokolu temeljenom na Ethernetu koji omogućuje bolje skaliranje i performanse.

Također je vrijedno napomenuti da je Microsoft razvio čip Maia 100 koristeći opsežne povratne informacije OpenAI-ja. Dvije su tvrtke zajedno radile na poboljšanju arhitekture i testiranju GPT modela. Microsoftu će to pomoći u optimizaciji učinkovitosti Azureove end-to-end AI arhitekture, dok će OpenAI moći trenirati nove AI modele koji su bolji i jeftiniji od onoga što je danas dostupno.