3D NAND flash bellek ve 3D DRAM için yenilikçi teknolojiler geliştiren NEO Semiconductor, kısa bir süre önce 3D DRAM aracılığıyla yapay zeka işlemeyi mümkün kılarak veri yolu darboğazlarını çözmek için HBM içindeki DRAM yongalarının yerini almayı amaçlayan yeni 3D X-AI yonga teknolojisinin geliştirildiğini açıkladı. 3D X-AI büyük potansiyeli ortaya koyuyor
Ortaya konan 3D X-AI, yapay zeka iş yükleri sırasında HBM ve GPU’lar arasında aktarılan büyük miktarda veriyi azaltmayı amaçlıyor. NEO’nun çözümü, üretken yapay zeka gibi yapay zeka uygulamaları için yapay zeka çiplerinin performansında, güç tüketiminde ve maliyetinde bir sıçrama yaratma potansiyeline sahip. Zira firmaya göre yeni 3D X-AI teknolojisi sayesinde yeni yapay zeka çiplerinde 100 kat performans artışı, yüzde 99 güç tasarrufu ve 8 kat bellek yoğunluğu vadediyor.
NEO Semiconductor’a göre mevcut yapay zeka çipleri, mimari ve teknolojik verimsizlikler nedeniyle önemli miktarda performans ve güç israfına neden oluyor. Mevcut yapay zeka çip mimarisi verileri HBM’de depoluyor ve tüm hesaplamaları gerçekleştirmek için bir GPU’yu kullanıyor. Bu ayrılmış veri depolama ve veri işleme mimarisi, veri yolunda kaçınılmaz bir darboğaz yaratıyor.
3D X-AI tarafında ise her HBM çipinde yapay zeka işlemesi gerçekleştirebiliyor. Bu sayede HBM ve GPU arasında aktarılan veriler büyük ölçüde azaltılarak performans iyileştirilebiliyor ve güç tüketimi önemli ölçüde azaltılabiliyor. Tek bir 3D X-AI kalıbı 128 Gb kapasiteli 300 katman 3D DRAM hücresi ve 8.000 nöronlu bir nöral devre katmanı içeriyor.
NEO’nun tahminine göre bu, kalıp başına 10 TB/s‘ye kadar yapay zeka işleme kapasitesini destekleyebiliyor. HBM paketiyle istiflenmiş on iki 3D X-AI kalıbı kullanıldığında 120 TB/s işlem hacmi elde edilerek 100 kat performans artışı sağlanabiliyor. Buna ek olarak veri yolu tarafından güç tüketimini ve ısı üretimini azaltılarak yüzde 99’luk enerji tasarrufu ve bahsedilen 300 katman ile 8 kat yoğunluk elde ediliyor.