3D X AI će zamijeniti HBM čipove

Američka tvrtka NEO Semiconductor iz San Josea, koja se bavi razvojem tehnologija za 3D NAND flash memoriju i 3D DRAM, najavila je razvoj svoje tehnologije čipova 3D X-AI, čiji je cilj zamijeniti  DRAM čipove s memorijom visoke propusnosti (HBM) za rješavanje uskih grla sabirnice podataka omogućavanjem AI obrade u 3D DRAM-u.

Prema tvrdnji tvrtke, 3D X-AI može smanjiti ogromnu količinu podataka koji se prenose između HBM-a i GPU-a tijekom AI radnih opterećenja. NEO-ova inovacija trebala bi revolucionirati performanse, potrošnju energije i cijenu AI čipova za AI aplikacije poput generativne umjetne inteligencije.

Također kažu da AI čipovi s NEO 3D X-AI tehnologijom mogu postići 100 puta ubrzanje performansi jer sadrže 8000 neuronskih krugova za izvođenje AI obrade u 3D memoriji.

Nadalje, tu je i smanjenje potrošnje energije do 99%, jer novi čip minimizira zahtjeve za prijenosom podataka na GPU za izračun, smanjujući potrošnju i stvaranje topline putem podatkovne sabirnice.

Osim toga, tu je i 8 puta veća gustoća memorije jer 3D X AI čip sadrži 300 memorijskih slojeva, što HBM-u omogućuje pohranu većih AI modela.

"3D X-AI može izvesti AI obradu u svakom HBM čipu. To može drastično smanjiti podatke koji se prenose između HBM-a i GPU-a kako bi se poboljšale performanse i dramatično smanjila potrošnja energije" rekao je Andy Hsu, osnivač i izvršni direktor tvrtke NEO Semiconductor.