- Teknologi baru kurangi konsumsi energi AI hingga 1.000 kali.
- Teknologi CRAM proses data langsung dalam memori komputer.
- CRAM lebih efisien dan cepat daripada teknologi pengolahan-in-memori.
pibitek.biz -Teknologi baru yang dikembangkan oleh tim peneliti di University of Minnesota Twin Cities dapat mengurangi konsumsi energi yang dibutuhkan oleh pengolahan AI hingga 1.000 kali atau lebih. Penelitian ini dipublikasikan dalam jurnal npj Unconventional Computing dan dapat menjadi kunci untuk mengurangi konsumsi energi yang besar dalam pengolahan AI. Saat ini, pengolahan AI memerlukan transfer data antara komponen yang melakukan pengolahan (logika) dan tempat penyimpanan data (memori/penyimpanan).
2 – Google Kerjasama dengan Reaktor Nuklir untuk AI 2 – Google Kerjasama dengan Reaktor Nuklir untuk AI
3 – Cyera Akuisisi Trail Security untuk Keamanan Data 3 – Cyera Akuisisi Trail Security untuk Keamanan Data
Proses ini memakan energi yang sangat besar, yaitu sekitar 200 kali lipat dari energi yang digunakan dalam pengolahan itu sendiri. Oleh karena itu, tim peneliti mengembangkan teknologi Computational Random-Access Memory (CRAM) untuk mengatasi masalah ini. CRAM yang dikembangkan oleh tim peneliti ini berbeda dari teknologi pengolahan-in-memori yang ada sekarang, seperti teknologi PIM dari Samsung.
Teknologi PIM meletakkan unit pengolahan komputasi (CPU) dalam inti memori, sehingga data masih harus berpindah dari sel memori ke CPU dan kembali lagi. Namun, dengan CRAM, data tidak pernah meninggalkan memori dan dapat diproses secara langsung dalam array memori komputer. Dengan menggunakan CRAM, sistem yang menjalankan aplikasi pengolahan AI dapat menghemat energi hingga 1.000 kali lipat dibandingkan dengan solusi yang ada sekarang.
Bahkan, dalam salah satu tes, CRAM terbukti 2.500 kali lebih efisien dalam penggunaan energi dan 1.700 kali lebih cepat daripada sistem pengolahan-in-memori yang menggunakan teknologi 16nm. Penelitian ini sangat penting karena pengolahan AI saat ini sudah memakan energi yang sangat besar. Laporan terbaru menunjukkan bahwa pengolahan AI sudah mengonsumsi energi yang hampir sama dengan energi yang dikonsumsi oleh seluruh negara Cyprus pada tahun 2021.
Konsumsi energi ini diperkirakan akan terus meningkat dengan laju 26% hingga 36% dalam beberapa tahun mendatang. Tim peneliti yang dipimpin oleh Yang Lv, seorang peneliti postdoctoral di Departemen Teknik Elektro dan Komputer University of Minnesota, telah mengajukan beberapa paten berdasarkan teknologi baru ini. Mereka berencana untuk bekerja sama dengan pemimpin industri semikonduktor untuk melakukan demonstrasi besar-besaran dan menghasilkan hardware yang dapat membantu meningkatkan fungsionalitas AI sambil membuatnya lebih efisien.
