Amazon se sprema izbaciti svoje najnovije čipove za umjetnu inteligenciju dok Big Tech traži povrat svojih milijardi dolara uloženih u poluvodiče i smanjuje svoje oslanjanje na tržišnog lidera Nvidiju.
Rukovoditelji Amazonovog odjela za računalstvo u oblaku troše veliku količinu novca na prilagođene čipove u nadi da će povećati učinkovitost unutar svojih desetaka podatkovnih centara, čime će u konačnici smanjiti vlastite troškove, kao i troškove korisnika Amazon Web Servicesa (AWS), objavio je Financial Times.
Predvodnik te bitke je Annapurna Labs, startup za proizvodnju čipova sa sjedištem u Austinu koji je Amazon kupio početkom 2015. za 350 milijuna dolara. Očekuje se da će Annapurnin najnoviji proizvod biti predstavljen sljedećeg mjeseca kada Amazon objavi široku dostupnost ‘Trainiuma 2‘, dijela linije AI čipova namijenjenih obučavanju najvećih modela.
Trainium 2 već testira Anthropic, OpenAI-jev konkurent koji je osigurao potporu od četiri milijarde dolara od Amazona, kao i Databricks, Deutsche Telekom te japanski Ricoh i Stockmark. Cilj AWS-a i Annapurne je uhvatiti se u koštac s Nvidijom, jednom od najvrjednijih svjetskih tvrtki zahvaljujući dominaciji na tržištu AI procesora.
- Želimo biti apsolutno najbolje mjesto za pokretanje Nvidije, ali u isto vrijeme mislimo da je zdravo imati alternativu - rekao je Dave Brown, potpredsjednik računalnih i mrežnih usluga u AWS-u.
Iz Amazona su poručili da je ‘Inferentia‘, još jedna od njihovih linija specijaliziranih AI čipova, već 40 posto jeftinija za pokretanje za generiranje odgovora iz AI modela.
- Cijena (računalstva u oblaku) ima tendenciju da bude mnogo veća kada je riječ o strojnom učenju i umjetnoj inteligenciji. Kada uštedite 40 posto od 1000 dolara, to zapravo neće utjecati na vaš izbor. Ali kada štedite 40 posto na desetke milijuna dolara, to utječe - dodao je Brown.
Amazon trenutno očekuje oko 75 milijardi dolara kapitalne potrošnje u 2024., s većinom novca usmjerenog na tehnološku infrastrukturu. Na posljednjem pozivu o prihodima tvrtke, izvršni direktor Andy Jassy rekao je kako očekuje da će tvrtka potrošiti još više u 2025.
Podsjetimo, to predstavlja skok u odnosu na 2023., kada je tehnološki div potrošio 48,4 milijarde dolara za cijelu godinu. Najveći pružatelji cloud usluga, uključujući Microsoft i Google, uključeni su u bujicu potrošnje na umjetnu inteligenciju koja baš i ne pokazuje znakove smirivanja.
Amazon, Microsoft i Meta veliki su kupci Nvidijinih čipova, ali također dizajniraju vlastite čipove za podatkovne centre kako bi postavili temelje za ono za što se nadaju da će biti val rasta AI-ja.
Amazon, Microsoft and Meta are all big customers of Nvidia, but are also designing their own data centre chips to lay the foundations for what they hope will be a wave of AI growth.
- Svi, od OpenAI-ja do Applea, žele izgraditi vlastite čipove - primijetio je Daniel Newman iz Futurum Groupa, jer traže ‘niže troškove proizvodnje, veće marže, veću dostupnost i veću kontrolu‘.
- Ne radi se (samo) o čipu, već o cijelom sustavu - rekao je Rami Sinno, Annapurnin direktor inženjeringa i veteran SoftBank Arma i Intela.
Za Amazonovu AI infrastrukturu to znači izgradnju svega iz temelja, od silikonske pločice do poslužiteljskih polica u koje se uklapaju, a sve to podupire Amazonov vlastiti softver i arhitektura.
- Stvarno je teško raditi ono što radimo na ovakvoj razini. To ne može previše tvrtki - rekao je Sinno.
Nakon što je započela s izgradnjom sigurnosnog čipa za AWS pod nazivom Nitro, Annapurna je od tada razvila nekoliko generacija Gravitona, svojih središnjih procesorskih jedinica temeljenih na Armu, koje pružaju alternativu niske potrošnje tradicionalnim poslužiteljskim radnim konjima koje pružaju Intel ili AMD.
Do sada su, međutim, AWS i Annapurna jedva narušili Nvidijinu dominaciju u AI infrastrukturi.
Nvidia je u svom drugom fiskalnom tromjesečju 2024. zabilježila prihod od 26,3 milijarde dolara od prodaje čipova za AI podatkovne centre. Ta je brojka ista kao što je Amazon objavio za svoj cijeli AWS odjel u svom drugom fiskalnom tromjesečju - samo relativno mali dio toga može se pripisati korisnicima koji pokreću AI na Annapurninoj infrastrukturi, piše FT.
Što se tiče ‘sirovih‘ performansi AWS čipova u usporedbi s Nvidijinim, Amazon izbjegava izravne usporedbe i ne šalje svoje čipove za neovisna mjerila performansi. Patrick Moorhead, konzultant za čipove u tvrtki Moor Insights & Strategy rekao je kako je uvjeren da su Amazonove tvrdnje o povećanju performansi od četiri puta između Trainiuma 1 i Trainiuma 2 točne, budući da je godinama pomno promatrao tvrtku, ali podaci o učinku mogu biti manje važni od jednostavnog pružanja većeg izbora kupcima.
- Ljudi cijene sve inovacije koje je Nvidia donijela, ali nikome nije ugodno što Nvidia ima 90 posto tržišnog udjela. Ovo ne može dugo trajati - zaključuje Moor.