Google Meluncurkan Chip AI TPU v5p yang Lebih Cepat dan Lebih Kuat dari Nvidia

December 31, 2023December 31, 2023
TL;DR
  • Google meluncurkan chip AI TPU v5p yang lebih cepat dan lebih kuat dari Nvidia.
  • TPU v5p memiliki 8.960 chip per pod, empat kali lipat dari versi sebelumnya, TPU v4.
  • TPU v5p juga mendukung framework machine learning seperti JAX, PyTorch, dan TensorFlow.
Google Meluncurkan Chip AI TPU v5p yang Lebih Cepat dan Lebih Kuat dari Nvidia - picture origin: techradar - pibitek.biz - Rilis

picture origin: techradar

336-280

pibitek.biz - Google telah meluncurkan versi terbaru dari chip AI mereka, TPU v5p, yang diklaim lebih cepat dan lebih kuat daripada chip AI Nvidia yang terkenal, H100. Chip ini merupakan bagian dari arsitektur "AI Hypercomputer" yang dirancang khusus untuk menjalankan aplikasi AI. TPU v5p memiliki 8.960 chip per pod, empat kali lipat dari versi sebelumnya, TPU v4. Selain itu, TPU v5p juga memiliki 95GB memori berkecepatan tinggi (HBM), tiga kali lipat dari TPU v4. Chip ini mampu melatih LLM hingga 2,8 kali lebih cepat daripada TPU v4, dan menawarkan nilai yang lebih baik dengan rasio 2,1 kali lipat.

Read more? 1 – USPTO Tolak AI Sebagai Penemu dalam Paten 1 – USPTO Tolak AI Sebagai Penemu dalam Paten
2 – Cucu Oppenheimer Minta Aksi Global AI dan Ancaman Lain 2 – Cucu Oppenheimer Minta Aksi Global AI dan Ancaman Lain
3 – CNET Turun Ratingnya di Wikipedia karena AI 3 – CNET Turun Ratingnya di Wikipedia karena AI 300x600

Dengan kecepatan dan kekuatannya yang luar biasa, TPU v5p bahkan mampu bersaing dengan GPU Nvidia H100 yang sangat diminati untuk beban kerja AI. Google telah lama menggunakan chip TPU untuk menggerakkan layanan-layanan mereka seperti Gmail, YouTube, dan Android. Namun, berbeda dengan Nvidia yang menjual GPU mereka kepada perusahaan lain, chip TPU buatan Google tetap digunakan secara internal untuk produk dan layanan mereka sendiri.

TPU v5p merupakan chip TPU terkuat yang pernah dibuat oleh Google, dan merupakan langkah serius perusahaan ini untuk bersaing dengan GPU Nvidia yang mendominasi pasar. Dalam pengujian awal, TPU v5p terbukti dua kali lebih cepat dalam melatih LLM dibandingkan dengan TPU v4. Chip ini juga mendukung framework machine learning seperti JAX, PyTorch, dan TensorFlow, serta alat-alat orkestrasi yang memungkinkan skalabilitas yang lebih efisien.

Meskipun belum ada benchmarking yang lebih rinci untuk membandingkan TPU v5p dengan GPU Nvidia H100, perkiraan kasar menunjukkan bahwa TPU v5p memiliki kecepatan sekitar 3,4 hingga 4,8 kali lipat dari GPU A100, yang berarti setidaknya setara atau bahkan lebih unggul dari H100. Namun, perlu diingat bahwa perbandingan yang lebih akurat masih perlu dilakukan untuk mengambil kesimpulan yang pasti. Dengan meluncurkan TPU v5p yang lebih cepat dan lebih kuat, Google menunjukkan komitmennya untuk terus mengembangkan teknologi AI mereka.

Related Topics:
#ai (546)#ai (546)   #akurasi (101)#akurasi (101)   #pangsa pasar (318)#pangsa pasar (318)   #gpu (66)#gpu (66)   #android (78)#android (78)   #machine learning (73)#machine learning (73)   #rilis (336)#rilis (336)