Ibarat Pedang Bermata Dua, Masa Depan AI di Antara Inovasi, Regulasi, dan Ancaman Siber Global

Kecerdasan buatan (AI) berkembang begitu cepat. Namun, di balik gelombang inovasi itu, muncul kekhawatiran serius: regulasi, etika, dan keamanan publik justru tertinggal jauh.

Dalam Global Cybersecurity Forum 2025 di Riyadh, Arab Saudi pada 1-2 Oktober, Carmen Marsh, Presiden dan CEO United Cybersecurity Alliance, menegaskan bahwa dunia saat ini tengah menghadapi paradoks: AI tak bisa dihentikan, namun juga tak bisa dibiarkan tanpa pengawasan.

“AI tidak akan hilang. Ia akan tetap ada, berdampak pada ekonomi global, pekerjaan, tenaga kerja, dan kehidupan sosial kita. Tantangan kita adalah menemukan keseimbangan antara regulasi yang ketat dengan ruang bagi inovasi,” kata Marsh kepada merdeka.com.

Menurut Marsh, saat ini sudah ada berbagai kerangka kerja AI dari pemerintah maupun perusahaan teknologi. Namun, yang masih absen adalah satu kerangka global yang menyatukan prinsip etika, kepercayaan, akuntabilitas, dan explainability (kemampuan menjelaskan).

“Inilah yang sedang kami bangun lewat Global Council for Responsible AI, dengan melibatkan 195 negara. Kerangka kerja ini harus praktis, cerdas, dan fleksibel. Regulasi tidak boleh menghambat riset, tetapi juga tidak boleh membiarkan AI berkembang liar tanpa arah,” jelasnya.

Selain sisi positifnya, AI juga memicu ancaman baru: deepfakes, manipulasi konten, dan serangan otomatis berskala besar. Marsh menekankan pentingnya pendekatan berlapis dalam melindungi diri.

“Mulai dari cyber hygiene (keamanan yang solid berlapis), penerapan zero trust (jangan pernah percaya, selalu verifikasi), hingga pendidikan berkelanjutan bagi karyawan. Orang harus memahami bagaimana sistem bekerja, di mana data mereka disimpan, dan apa risikonya. Hanya dengan begitu kita bisa membangun ketahanan yang nyata,” tegasnya.

Di tengah perdebatan politik di AS tentang kemungkinan akuisisi TikTok, Marsh melihat generasi muda sebagai titik krusial.

“Gen Z menginginkan kreativitas dan kebebasan. Tapi keamanan tetap harus jadi fondasi. Tantangannya adalah merancang ruang digital yang aman tanpa membunuh ekspresi generasi ini,” katanya.

Dengan AI yang semakin memengaruhi bidang vital seperti kesehatan, pendidikan, dan keuangan, Marsh menilai prinsip utama yang wajib dijunjung adalah explainability (kemampuan menjelaskan), akuntabilitas, dan kepercayaan.

“Bagaimana mungkin kita mempercayai sesuatu yang bahkan tidak bisa kita jelaskan? Itulah mengapa memahami sistem AI itu sendiri menjadi prasyarat utama sebelum kita bicara soal etika,” ujarnya.

Bagi negara berkembang yang tengah mengadopsi AI, Marsh memberi peringatan tegas: jangan terburu-buru.

“Bangun infrastruktur yang kuat terlebih dahulu. Jangan implementasikan AI sebelum punya fondasi keamanan yang matang. Kolaborasi dengan pakar AI dan keamanan siber juga mutlak diperlukan. Kalau tidak, justru akan lebih rentan terhadap serangan berbasis AI,” kata dia.

Di balik optimisme, pesan Marsh jelas: AI adalah pedang bermata dua. Jika dikelola dengan kerangka kerja global yang etis dan fleksibel, AI bisa menjadi mesin inovasi yang menggerakkan ekonomi dunia. Namun jika dibiarkan tanpa regulasi yang cerdas, ia berpotensi menjadi ancaman terbesar abad ini.