RUZKA INDONESIA – Adopsi AI yang berkembang di Indonesia menuntut perusahaan memiliki visibilitas lebih baik terhadap infrastruktur AI agar investasi menghasilkan performa andal dan nilai bisnis nyata.
Datadog, Inc. (DDOG), platform observabilitas dan keamanan berbasis AI untuk aplikasi cloud, menilai beban kerja AI mencakup GPU, infrastruktur cloud, jaringan, model, hingga aplikasi yang masing-masing menghasilkan data performa berbeda. Tanpa tampilan terintegrasi, organisasi kesulitan mengidentifikasi kendala dan memahami akar masalah.
Kebutuhan visibilitas semakin penting seiring pembangunan infrastruktur AI berskala besar di Indonesia. Pada Agustus lalu diumumkan rencana pembangunan AI Factory dengan kapasitas hingga 1 gigawatt (GW) dalam tiga tahun, memposisikan Indonesia mendukung pengembangan AI regional. Pada skala ini, komputasi, jaringan, daya, dan sistem pendingin direncanakan sebagai kesatuan sistem terintegrasi.
“Skala infrastruktur AI berkembang pesat, tetapi kapasitas komputasi lebih besar tidak serta-merta menghasilkan hasil bisnis lebih baik,” ujar Field CTO Asia-Pasifik & Jepang di Datadog, Yadi Narayana.
Menurutnya, saat organisasi menjalankan AI ke tahap produksi, mereka perlu memahami kinerja lingkungan, konsumsi sumber daya, dan potensi hambatan. Tanpa visibilitas, sulit menentukan masalah berasal dari model, aplikasi, infrastruktur, atau keterbatasan kapasitas.
Kebutuhan pemantauan terintegrasi terlihat pada Indosat Ooredoo Hutchison (IOH) yang telah menyatukan lebih dari enam perangkat pemantau terpisah di jaringan, IT, dan platform digital ke dalam satu platform Datadog, sehingga memperoleh visibilitas menyeluruh.
Laporan State of AI Engineering 2026 dari Datadog berbasis data penggunaan ribuan organisasi menemukan hampir satu dari 20 permintaan AI mengalami kegagalan saat mencapai produksi secara global. Hampir 60 persen kegagalan berkaitan batasan kapasitas, rate limits, kuota, dan batas konkurensi, bukan kualitas model.
Laporan juga menemukan rata-rata volume data yang dikirim ke model AI per permintaan melonjak lebih dari dua kali lipat dalam setahun terakhir pada organisasi dengan penggunaan biasa, sementara pengguna tertinggi meningkat hingga empat kali lipat. Pertumbuhan volume dapat meningkatkan biaya dan kompleksitas operasional.
Datadog menyediakan perangkat lunak observabilitas yang memungkinkan organisasi memantau lingkungan AI di tingkat infrastruktur dan aplikasi, termasuk penggunaan GPU dan token berdasarkan beban kerja, tim, serta skenario penggunaan, yang dikaitkan dengan metrik latensi, kesalahan, dan performa aplikasi.
“Fase berikutnya infrastruktur AI tidak hanya ditentukan seberapa besar kapasitas komputasi, melainkan seberapa efektif organisasi mengoperasikan dan mengoptimalkan lingkungan,” ujar Yadi.
Menurutnya, organisasi yang membangun visibilitas sejak dini akan lebih baik mengendalikan biaya, menjaga performa, serta menangani masalah sebelum berdampak kritis. Hal ini krusial bagi Indonesia yang memperluas pembangunan infrastruktur AI skala regional agar investasi kapasitas mampu menghasilkan layanan AI andal, efisien, dan berkelanjutan. ***
Editor: Yoyok BP
Email: yoyokbp@gmail.com
Komentar