NEO Semiconductor ผู้ผลิตชิปหน่วยความจำ NAND Flash แบบ 3D และ 3D DRAM เปิดตัวเทคโนโลยีชิป 3D X-AI ที่จะมาแทนเทคโนโลยีชิปหน่วยความจำแบบแบนด์วิทด์สูงหรือ HBM แบบเดิม ที่อยู่ในหน่วยประมวลผลกราฟิก (GPU)
3D DRAM รุ่นใหม่ของ NEO มีหน่วยประมวลผล AI ฝังอยู่ ซึ่งจะช่วยในการประมวลผลและสร้างเอาต์พุตที่ไม่ต้องใช้การคำนวณทางคณิตศาสตร์ ลดคอขวดในการส่งข้อมูลจำนวนมหาศาลระหว่างหน่วยความจำไปยังหน่วยประมวลผล ทำให้ส่งข้อมูลได้อย่างราบรื่นยิ่งขึ้น เพิ่มสมรรถนะและประสิทธิภาพของ AI
สำหรับชิป 3D X-AI มีชั้นวงจรนิวรอน (Neuron Circuit Layer) อยู่ที่ฐาน ช่วยให้การประมวลข้อมูลที่เก็บไว้ในชั้นหน่วยความจำที่มีอยู่ 300 ชั้น ทางบริษัทอ้างว่า 3D X-AI จะมีประสิทธิภาพในการทำงานมากขึ้นกว่า HBM แบบเดิมถึง 100 เท่า เพราะมีแผงวงจรนิวรอน 8,000 แผงที่ทำหน้าที่ประมวลผล AI ในหน่วยความจำ มีชั้นหน่วยความจำที่หนาขึ้นถึง 8 เท่า และลดการใช้พลังงาน 99%
แอนดี หู (Andy Hsu) ซีอีโอและผู้ก่อตั้ง NEO ชี้ว่าสถาปัตยกรรมชิป AI ที่ใช้อยู่ในปัจจุบันเก็บข้อมูลไว้ใน HBM และใช้ GPU ในการคำนวณทั้งหมด ทำให้เกิดคอขวดในการประมวลผลที่หลีกเหลี่ยงไม่ได้ ซ้ำยังกินไฟมากด้วย แต่ 3D X-AI สามารถประมวลผล AI ได้ในชิป HBM เลย
NEO ระบุว่า X-AI มีหน่วยความจำ 128 จิกะไบต์ และรองรับการประมวลผล AI ในแต่ละตัวได้ถึง 10 เทระไบต์ต่อวินาที โดยสามารถใส่ X-AI รวมกันใน HBM ได้ถึง 12 ตัว ที่จะประมวลผลรวมกันได้มากกว่า 120 เทระไบต์ต่อวินาที และมีหน่วยคำวามจำทะลุ 1.5 เทระไบต์