Microsoft Kembangkan Kartu Jaringan untuk Tingkatkan Performa AI



TL;DR
  • Microsoft mengembangkan kartu jaringan baru untuk meningkatkan performa AI.
  • Kartu jaringan ini diharapkan mendukung bandwidth maksimum Ethernet 400 Gb.
  • Microsoft berkomitmen mengurangi ketergantungannya pada Nvidia.
Microsoft Kembangkan Kartu Jaringan untuk Tingkatkan Performa AI - photo from: techspot - pibitek.biz - ChatGPT

photo from: techspot


336-280

pibitek.biz - Microsoft sedang mengembangkan kartu jaringan baru yang dapat meningkatkan performa chip server AI Maia-nya. Dalam proyek terbarunya ini, Microsoft berharap dapat mempersingkat waktu pelatihan model AI di servernya. Kartu jaringan baru ini juga diharapkan dapat memberikan peningkatan performa pada pusat data hyperscale milik Microsoft, yang sejajar dengan fungsionalitas kartu ConnectX-7 milik Nvidia.

Kartu jaringan baru yang sedang dikembangkan oleh Microsoft ini diharapkan dapat mendukung bandwidth maksimum Ethernet 400 Gb, yang serupa dengan kartu ConnectX-7 milik Nvidia. Namun, desain akhir kartu jaringan ini masih dalam tahap pengembangan dan dapat mengincar bandwidth Ethernet yang lebih tinggi, seperti 800 GbE. Tujuan utama Microsoft dalam proyek ini adalah memperpendek waktu yang diperlukan oleh OpenAI untuk melatih model AI-nya menggunakan server Microsoft, sekaligus mengurangi biaya proses tersebut.

Selain itu, kartu jaringan ini juga diharapkan dapat memberikan peningkatan performa pada pusat data hyperscale milik Microsoft dengan adanya optimisasi khusus. Microsoft telah menginvestasikan miliaran dolar dalam OpenAI, perusahaan AI yang menciptakan layanan populer ChatGPT dan proyek lain seperti DALL-E dan GPT-3. Teknologi OpenAI juga telah diintegrasikan dalam banyak produk Microsoft.

Pada saat yang sama, Microsoft berkomitmen untuk mengurangi ketergantungannya pada Nvidia. Pada tahun lalu, Microsoft mengumumkan bahwa mereka telah membuat dua chip sendiri untuk menangani beban kerja AI dan komputasi umum di Azure cloud. Salah satunya adalah Microsoft Azure Maia 100 AI Accelerator, yang dirancang untuk menjalankan LLM seperti GPT-3.5 Turbo dan GPT-4, yang mungkin dapat bersaing dengan Nvidia H100 AI Superchip.

Namun, bersaing dengan Nvidia akan sulit, mengingat posisi Nvidia sebagai pemimpin pasar AI dengan pangsa pasar lebih dari 70%. Meskipun kartu jaringan ini membutuhkan waktu setahun atau lebih untuk dirilis, Microsoft tetap serius dalam menggarap proyek ini.

Pradeep Sindhu ditunjuk sebagai kepala proyek kartu jaringan Microsoft. Sindhu adalah salah satu pendiri Juniper Networks dan juga pernah mendirikan perusahaan chip server bernama Fungible, yang diakuisisi oleh Microsoft tahun lalu. Namun, Sindhu harus bergerak cepat karena Nvidia terus membuat kemajuan di bidang ini.