RUZKA-REPUBLIKA NETWORK – Penipuan digital berbasis Artificial Intelligence (AI) atau kecerdasan buatan kini mengancam kepercayaan publik terhadap berbagai sektor. Kasus pemalsuan rekening bank dengan identitas curian, salah satunya, telah merugikan nasabah serta menandai evolusi serius dalam kejahatan siber pada sektor layanan keuangan.

Kasus ini memicu perdebatan perlunya regulasi pada penggunaan AI. Walaupun demikian, regulasi penggunaan AI perlu dikaji secara sektoral, karena penggunaannya tidak seragam antar sektor. Sektor-sektor yang menggunakan, seperti media, kesehatan, keamanan, pendidikan, industri, dan pemerintahan, memiliki kebutuhan dan risikonya masing-masing.

“Karena penggunaan AI sangat tergantung kepada kebutuhan setiap masing-masing sektor, maka pengaturan bisa dilakukan oleh sektor atau institusi itu sendiri,” jelas Senior Fellow Center for Indonesian Policy Studies (CIPS) Ajisatria Suleiman di Jakarta, Selasa (8/7/2025).

Minimnya pemahaman dan kesadaran akan pentingnya adopsi teknologi AI yang mengutamakan etika, keamanan, serta kepatuhan terhadap aturan setempat dan organisasi, masih menjadi tantangan besar di tengah perkembangan AI.

Seiring perkembangannya, pemerintah dan masyarakat internasional mulai menyadari perlunya kerangka regulasi untuk penggunaan AI.

Namun, pendekatan one-size-fits-all tidak ideal. Regulasi perlu bersifat kontekstual dan sektoral, sesuai dengan karakteristik dan risiko di masing-masing sektor.

Saat ini, AI berkembang dalam berbagai bentuk dan fungsi, yaitu generatif, prediktif, danagentik. Fungsi generatif memungkinkan AI menciptakan konten seperti teks, gambar, dan video.

Fungsi prediktif menganalisis data historis untuk menghasilkan proyeksi atau rekomendasi. Sedangkan fungsi agentik memungkinkan AI bertindak secara otonom untuk menyelesaikan tugas tertentu. Masing-masing memiliki tantangan dan peluang yang berbeda, tergantung konteks penggunaannya.

Aji mencontohkan tantangan pada penyebaran konten digital, seperti misinformasi dan konten palsu atau deepfakes.

Menyikapi hal ini, beberapa negara, seperti Inggris, Uni Eropa dan Tiongkok, mulai menerapkan kewajiban pelabelan konten buatan AI untuk mendorong transparansi dan mencegah disinformasi. Regulasi yang dibutuhkan antara lain mencakup keterbukaan (disclosure) sumber dan bentuk informasi.

Di sektor pemerintahan, AI digunakan untuk teknologi biometrik seperti pengenalan wajah dalam layanan administrasi kependudukan atau penegakan hukum. Namun, hal ini menimbulkan risiko terhadap privasi, diskriminasi, dan potensi penyalahgunaan kewenangan.

Karena itu, regulasi di sektor ini perlu dirancang secara spesifik, berlandaskan prinsip perlindungan data pribadi, serta dilengkapi dengan mekanisme pengawasan dan akuntabilitas publik.

Namun, tidak semua penggunaan AI membutuhkan regulasi khusus. Contohnya, AI yang digunakan untuk efisiensi internal perusahaan, seperti otomasi tugas administratif, peningkatan operasional, atau sistem pendukung keputusan. Penggunaannya secara umum tidak berdampak langsung ke masyarakat.

Selama digunakan secara internal dan keputusan akhir tetap diambil oleh manusia, pengaturannya cukup melalui SOP internal perusahaan, termasuk kebijakan perlindungan data dan keamanan sistem.

"Regulasi yang ideal harus mempertimbangkan tiga aspek, yaitu tujuan penggunaan, skala dan dampaknya terhadap publik, serta potensi risikonya terhadap hak dasar manusia. Regulasi ini sebaiknya tidak seragam dan kaku,” jelas Aji.

Melihat beragamnya penggunaan dan kebutuhan, Aji menilai pendekatan sektoral dan berbasis risiko lebih tepat. Pendekatan ini melindungi publik dari dampak negatif AI, sekaligus menjaga ruang inovasi dan efisiensi di sektor yang berisiko rendah.

“Selain itu, meskipun regulasi diserahkan pada masing-masing sektor, perlindungan konsumen tetap harus menjadi prioritas,” tegasnya.

Di sisi lain, Aji menekankan pentingnya penguatan kemampuan berpikir kritis., Kemampuan ini diperlukan agar pengguna mampu menyikapi inovasi dan konsep baru secara rasional, seperti menganalisis, mengevaluasi, dan mengambil keputusan secara tepat. Dalam konteks AI, kemampuan ini krusial untuk memproses dan menilai informasi yang dihasilkan teknologi secara cermat. ***