Memori 3D Baru dari d-Matrix Bisa Membuat HBM Menjadi Kenyataan untuk Gamer

AI startup d-Matrix telah mengembangkan arsitektur memori 3D baru yang disebut 3DIMC, yang mereka klaim dapat menjadi pengubah permainan untuk menangani beban kerja kecerdasan buatan.

Proses menjalankan jaringan saraf yang telah dilatih, yang dikenal sebagai inferensi, merupakan beban komputasi utama untuk server perusahaan besar. Di sinilah para insinyur d-Matrix mengidentifikasi hambatan perangkat keras yang kunci: sementara memori HBM adalah juara tak terbantahkan untuk melatih model AI, itu kurang ideal untuk penggunaan sehari-hari mereka, menghabiskan daya dan menciptakan batasan bandwidth.

Solusi d-Matrix adalah desain ulang radikal tentang bagaimana chip dirakit. Teknologi mereka, yang disebut Digital In-Memory Compute (DIMC), menggunakan pendekatan penumpukan 3D. Chiplet komputasi khusus ditempatkan di atas die memori LPDDR5, terhubung melalui interposer. Ini memungkinkan perhitungan terjadi langsung di dalam array memori itu sendiri, secara drastis mengurangi pergerakan data, latensi, dan konsumsi daya.

Chip uji pertama, yang dinamakan Pavehawk, sudah berfungsi di laboratorium perusahaan. Namun d-Matrix melihat lebih jauh ke depan dan telah mengumumkan arsitektur generasi berikutnya, yang diberi nama kode Raptor. Perusahaan menjanjikan bahwa Raptor akan memenuhi potensi penuh teknologi ini: peningkatan sepuluh kali lipat dalam kecepatan inferensi sambil mengurangi konsumsi daya hingga 90% dibandingkan HBM konvensional.

Dari sudut pandang ekonomi, alternatif HBM yang layak datang pada waktu yang sempurna. Pasar saat ini didominasi oleh hanya tiga raksasa: SK hynix, Samsung, dan Micron, yang secara alami menjaga harga produk tetap tinggi. Jika 3DIMC d-Matrix atau memori khusus serupa mendapatkan adopsi yang luas di industri AI, HBM berkinerja tinggi bisa jadi jauh lebih terjangkau bagi pengguna umum dan segmen gaming.

Alasan utamanya adalah pergeseran permintaan yang sederhana. Jika pelanggan terbesar beralih ke solusi baru yang lebih efisien dalam inferensi ini, para produsen HBM besar akan dipaksa untuk mencari pasar baru untuk kapasitas produksi mereka. Ini bisa menyebabkan kelebihan pasokan dan, akibatnya, penurunan signifikan dalam harga HBM. Pada akhirnya, apa yang sekarang menjadi komponen eksklusif dan mahal yang diperuntukkan bagi akselerator AI kelas atas dan GPU profesional akhirnya bisa menjadi terjangkau untuk kartu grafis gaming kelas atas.