Demi percepat pengembangan teknologi AI NVIDIA dan Google Cloud berkolaborasi
NVIDIA dan Google Cloud mengumumkan kolaborasinya untuk mengembangkan aplikasi AI dan layanan AI agar mempermudah startup yang ada di seluruh negara. pengumuman tersebut di sampaikan pada Google Cloud Next 2024 di Las Vegas, dengan menyatukan masing - masing program yang dimiliki NVIDIA dan Google yaitu NVIDIA inception untuk startup dengan Google for startups Cloud Program yang bertujuan untuk memperluas layanan mereka di bidang akses kratu kredit cloud, go-to-market, dan dukungan pada startup.
Bagi anggota NVIDIA Inception yang berfokus dalam pengembangan teknologi AI dan memenuhi persyaratan, akan dipermudah dalam menggunakan Infrastruktur Google Cloud dan mendapat kredit Google Cloud hingga $350.000, Sedangkan keuntungan bagi anggota Google for Startups Cloud Program dapat bergabung dengan NVIDIA Inception dan memperoleh akses keahlian teknologi, kredit kursus NVIDIA Deep Learning Institute, software dan hardware NVIDIA.
Anggota Google for Startups Cloud Program yang memenuhi syarat pun dapat mengikuti dan berpartisipasi dalam NVIDIA Inception Capital Connect, yaitu sebuah platform yang memberikan paparan kepada perusahaan modal ventura yang berminat pada bidang tersebut.
Kolaborasi antara NVIDIA dan Google Cloud merupakan yang terbaru dari serangkaian pengumuman dari kedua perusahaan tersebut, bertujuan untuk meringankan biaya dan kesulitan terkait pengembangan aplikasi AI Generatif yang dilakukan khususnya startup yang terkendala karena tingginya biaya investasi AI.
Pada bulan februari lalu Google DeepMind meluncurkan rangkaian model terbuka yang canggih yaitu Gemma. Tim dari NVIDIA dan Google Cloud bekerja sama dengan baik untuk mempercepat kinerja Gemma yang dibangun dari penelitian dan teknologi serupa yang digunakan untuk membangun Gemini.
Rangkaian model Gemma, termasuk Gemma 7B, RecurrentGemma, dan CodeGemma, tersedia di katalog API NVIDIA yang dapat dicoba pengguna melalui browser seperti Chrome dan Safari, prototipe dengan titik akhir API, dan host mandiri dengan NIM.
Pada platform GKE dan Google Cloud HPC Toolkit, Google Cloud telah mempermudah penerapan framework NVIDIA NeMo. hal ini memungkinkan pengembang untuk mengoptimasi dan menskalakan pelatihan dan penyajian model AI generatif mempercepat proses pengembangan.
NVIDIA NeMo tersedia juga di Google Cloud Marketplace, menyediakan cara lain untuk pengguna mengakses NeMo dan kerangka kerja lain dengan mudah guna mempercepat pengembangan teknologi AI.
NVIDIA semakin memperluas dan mempercepat ketersediaan komputasi AI generatif, kemudian Google Cloud juga mengumumkan ketersediaan A3 Mega secara umum. Instans ini merupakan perluasan dari keluarga mesin virtual A3, yang di dukung oleh GPU NVIDIA H100 Tensor Core dan akan menggandakan bandwidth jaringan GPU ke GPU dari VM A3.
A3 juga akan menyediakan dukungan komputasi rahasia untuk membantu pengguna melindungi kerahasiaan dan integritas data sensitif. GPU terbaru dari NVIDIA berbasis Blackwell akan hadir di Google Cloud awal tahun depan dalam dua variasi, NVIDIA HGX B200 dan NVIDIA GB200 NVL72.
HGX B200 dirancang untuk beban kerja AI, analisis data, dan komputasi kinerja tinggi. sedangakan GB200 NVL72 dirancang untuk pelatihan model triliunan parameter dan inferensi realtime canggih, masif, dan performa tinggi.
NVIDIA GB200 NVL72 menghubungkan 36 Superchip Grace Blackwell, masing - masing menggunakan dua GPU NVIDIA Blackwell yang digabungkan dengan CPU NVIDIA Grace melalui chip ke chip 900GB/detik, dan mendukung hingga 72 GPU Blackwell dalam satu domain NVIDIA NVLink dan 130TB/detik bandwidth.
Sumber : https://blogs.nvidia.com/blog/nvidia-google-cloud-ai-development/
