NEO Semiconductor
3D X AI će zamijeniti HBM čipove
Novi 3D X-AI čip ubrzava AI performanse za 100x i smanjuje potrošnju energije za 99%.
Američka tvrtka NEO Semiconductor iz San Josea, koja se bavi razvojem tehnologija za 3D NAND flash memoriju i 3D DRAM, najavila je razvoj svoje tehnologije čipova 3D X-AI, čiji je cilj zamijeniti DRAM čipove s memorijom visoke propusnosti (HBM) za rješavanje uskih grla sabirnice podataka omogućavanjem AI obrade u 3D DRAM-u.
Prema tvrdnji tvrtke, 3D X-AI može smanjiti ogromnu količinu podataka koji se prenose između HBM-a i GPU-a tijekom AI radnih opterećenja. NEO-ova inovacija trebala bi revolucionirati performanse, potrošnju energije i cijenu AI čipova za AI aplikacije poput generativne umjetne inteligencije.
Također kažu da AI čipovi s NEO 3D X-AI tehnologijom mogu postići 100 puta ubrzanje performansi jer sadrže 8000 neuronskih krugova za izvođenje AI obrade u 3D memoriji.
Nadalje, tu je i smanjenje potrošnje energije do 99%, jer novi čip minimizira zahtjeve za prijenosom podataka na GPU za izračun, smanjujući potrošnju i stvaranje topline putem podatkovne sabirnice.
Osim toga, tu je i 8 puta veća gustoća memorije jer 3D X AI čip sadrži 300 memorijskih slojeva, što HBM-u omogućuje pohranu većih AI modela.
"3D X-AI može izvesti AI obradu u svakom HBM čipu. To može drastično smanjiti podatke koji se prenose između HBM-a i GPU-a kako bi se poboljšale performanse i dramatično smanjila potrošnja energije" rekao je Andy Hsu, osnivač i izvršni direktor tvrtke NEO Semiconductor.
Aplikacija nije privukla korisnike u 7 godina postojanja i Microsoft će je uskoro ugasiti.
Novi AI alat vam omogućuje da za samo nekoliko minuta iz jedne fotke i uzorka glasa dobijete svoj video avatar.
Učitavam komentare ...