Jakarta – Akamai Technologies baru saja meluncurkan implementasi skala global pertama dari desain referensi NVIDIA AI Grid. Inisiatif ini merupakan langkah penting dalam mengintegrasikan infrastruktur AI NVIDIA ke dalam jaringan mereka, memanfaatkan orkestrasi beban kerja cerdas untuk mendistribusikan inferensi AI di seluruh jaringan edge, regional, dan inti. Dengan langkah ini, Akamai berupaya untuk menggantikan konsep “pabrik AI” yang terisolasi dengan grid terintegrasi dan terdistribusi untuk inferensi AI. Ini adalah kemajuan signifikan dalam perkembangan Akamai Inference Cloud, yang diperkenalkan pada akhir tahun lalu.
Inovasi dalam Infrastruktur AI
Menjadi perusahaan pertama yang menerapkan NVIDIA AI Grid, Akamai kini mengerahkan ribuan unit GPU NVIDIA RTX PRO 6000 Blackwell Server Edition. Platform ini menyediakan solusi yang sangat terdistribusi bagi perusahaan yang ingin menjalankan AI berbasis agen dan fisik dengan respons komputasi lokal serta kemampuan skalabilitas jaringan global. Menurut Adam Karon, Chief Operating Officer dan General Manager dari Cloud Technology Group di Akamai, infrastruktur terpusat akan tetap menawarkan tokenomics yang optimal untuk pelatihan model model terkini.
Namun, aplikasi modern seperti video real-time, AI fisik, dan pengalaman personalisasi yang memerlukan koneksi tinggi, menuntut proses inferensi dilakukan di titik kontak. Ini berbeda dengan pengolahan yang harus melalui perjalanan bolak-balik ke klaster terpusat. Dengan demikian, orkestrasi cerdas NVIDIA AI Grid yang dikembangkan oleh Akamai menjadi perantara real-time untuk permintaan AI, mengarahkan beban kerja AI ke lebih dari 4.400 lokasi edge. Tujuannya adalah untuk menyeimbangkan latensi, biaya, dan kinerja.
Mengoptimalkan Kinerja dengan Orkestrator Cerdas
Pusat dari sistem ini adalah orkestrator cerdas yang menerapkan keahlian Akamai dalam optimisasi kinerja aplikasi ke ranah AI. Bidang kendali ini, yang sensitif terhadap beban kerja, memungkinkan pengoptimalan tokenomics dengan secara signifikan meningkatkan efisiensi biaya per token, waktu hingga token pertama, dan throughput. Salah satu keunggulan utama Akamai adalah kemampuannya untuk memberikan akses kepada pelanggan terhadap model yang disesuaikan melalui jaringan edge globalnya yang luas.
- Pengurangan biaya inferensi melalui penyesuaian otomatis beban kerja.
- Infrastruktur open source dengan kuota lalu lintas keluar yang besar.
- Responsivitas real-time untuk aplikasi seperti game dan keuangan.
- Interaksi NPC berbasis AI dengan waktu respons di bawah 50 milidetik.
- Deteksi penipuan yang dipersonalisasi dan rekomendasi pemasaran yang cepat.
Manfaat Infrastruktur Berbasis NVIDIA AI
Infrastruktur yang dibangun di atas NVIDIA AI Enterprise ini memanfaatkan arsitektur NVIDIA Blackwell dan NVIDIA BlueField DPU untuk mempercepat jaringan dan keamanan perangkat keras. Akamai telah mencatat adopsi awal yang kuat terhadap Akamai Inference Cloud di berbagai sektor industri. Sektor-sektor ini meliputi Gaming, Layanan Keuangan, Media dan Video untuk transcoding berbasis AI, serta Ritel dan Perdagangan untuk aplikasi AI di dalam toko.
Platform ini telah mendapat pengakuan dari penyedia teknologi terkemuka, termasuk penandatanganan perjanjian layanan senilai USD 200 juta selama empat tahun untuk klaster yang terdiri dari ribuan GPU. Dengan demikian, Akamai Inference Cloud kini telah tersedia untuk pelanggan korporat yang memenuhi syarat, dan berbagai organisasi dapat mengajukan permohonan untuk mendapatkan akses.
Dampak terhadap Berbagai Industri
Penerapan NVIDIA AI Grid oleh Akamai diharapkan akan memberikan dampak positif yang signifikan di berbagai industri. Dalam industri Gaming, misalnya, pengembang dapat memanfaatkan kemampuan AI untuk menciptakan pengalaman bermain yang lebih interaktif dan dinamis. Sementara itu, dalam sektor Layanan Keuangan, teknologi ini dapat meningkatkan kecepatan dan akurasi deteksi penipuan, serta memberikan rekomendasi yang lebih tepat kepada pelanggan.
Untuk industri Media dan Video, kemampuan transcoding berbasis AI akan memungkinkan pengolahan konten yang lebih efisien dan cepat. Dalam Ritel dan Perdagangan, aplikasi AI dapat diterapkan untuk meningkatkan pengalaman pelanggan di dalam toko dengan interaksi yang lebih personal dan responsif.
Menghadapi Tantangan dan Peluang di Era AI
Seiring dengan berkembangnya teknologi AI, perusahaan-perusahaan seperti Akamai harus siap menghadapi tantangan yang muncul. Salah satunya adalah kebutuhan untuk terus berinovasi dan beradaptasi dengan perubahan kebutuhan pasar. Dengan menerapkan NVIDIA AI Grid, Akamai tidak hanya menawarkan solusi yang efisien, tetapi juga berupaya untuk memimpin dalam inovasi di bidang teknologi AI.
Oleh karena itu, investasi dalam infrastruktur yang kuat dan terintegrasi menjadi kunci untuk menghadapi tantangan yang ada. Dengan kemampuan untuk mengoptimalkan kinerja dan biaya, Akamai memberikan peluang bagi perusahaan untuk memanfaatkan teknologi AI secara maksimal.
Membangun Masa Depan dengan Teknologi AI yang Terdistribusi
Dengan langkah inovatif ini, Akamai menunjukkan komitmennya untuk membangun masa depan di mana teknologi AI dapat dimanfaatkan secara lebih luas dan efektif. Infrastruktur terdistribusi yang dibangun dengan NVIDIA AI Grid memungkinkan perusahaan untuk tidak hanya meningkatkan efisiensi operasional, tetapi juga menciptakan pengalaman yang lebih baik bagi pelanggan.
Dalam dunia yang semakin terhubung, kemampuan untuk beradaptasi dan memberikan solusi yang tepat waktu akan menjadi pembeda utama bagi perusahaan. Dengan demikian, Akamai berusaha untuk menjadi pionir dalam penerapan teknologinya, membantu berbagai industri dalam perjalanan transformasi digital mereka.
Kesimpulan Perjalanan Menuju Inovasi AI
Implementasi NVIDIA AI Grid oleh Akamai menandai awal dari era baru dalam dunia teknologi. Dengan orkestrasi cerdas dan infrastruktur yang kuat, perusahaan dapat memanfaatkan potensi penuh AI untuk menghadapi tantangan yang ada di pasar. Langkah ini tidak hanya memberikan keuntungan kompetitif bagi Akamai, tetapi juga membuka peluang baru bagi berbagai industri untuk berinovasi dan berkembang.
Dengan terus berinvestasi dalam teknologi dan infrastruktur, Akamai siap untuk memimpin di garis depan inovasi AI. Dalam perjalanan menuju masa depan, perusahaan ini berkomitmen untuk menyediakan solusi yang tidak hanya efisien, tetapi juga relevan dengan kebutuhan dan tantangan yang dihadapi oleh industri secara keseluruhan.
➡️ Baca Juga: Indosat dan Safaricom Kolaborasi untuk Kembangkan Ekosistem Digital AI dan Fintech M-Pesa
➡️ Baca Juga: Presiden Prabowo Subianto Dapat Dukungan Buruh untuk Perjuangkan Kesejahteraan Rakyat
