Adopsi AI Otonom Naik Pesat, Tata Kelola dan Keamanan Siber Jadi Tantangan Baru
Kondisi ini menjadi sorotan dalam laporan terbaru yang dirilis perusahaan keamanan siber dan AI, Zentara Labs.
Perkembangan teknologi kecerdasan buatan (AI) yang semakin mampu bekerja secara mandiri mulai memunculkan tantangan baru di sektor keamanan siber dan tata kelola perusahaan. Kondisi ini menjadi sorotan dalam laporan terbaru yang dirilis perusahaan keamanan siber dan AI, Zentara Labs.
Dalam laporan berjudul SAFE-AGENT: An Agentic AI Security Framework for the Enterprise and Public Sector, Zentara menilai perusahaan mulai menghadapi risiko baru seiring meningkatnya penggunaan sistem AI otonom yang dapat mengambil tindakan sendiri di lingkungan digital perusahaan.
Co-Founder dan CEO Zentara, Regal Rauniyar Star, mengatakan perkembangan AI saat ini telah melampaui pendekatan keamanan tradisional yang selama ini digunakan perusahaan.
"AI kini mulai beroperasi dengan tingkat independensi yang belum pernah diantisipasi oleh pendekatan keamanan tradisional. Kondisi ini menciptakan kesenjangan antara cara sistem AI bekerja dengan kemampuan perusahaan dalam memantau serta mengelola risikonya," ujar Regal dalam keterangannya, Senin (18/5).
Memanfaatkan AI
Menurut laporan tersebut, banyak perusahaan mulai memanfaatkan AI untuk meningkatkan efisiensi dan otomatisasi proses bisnis. Namun, penerapan teknologi tersebut dinilai belum diimbangi dengan sistem perlindungan dan tata kelola yang memadai.
President Zentara, Darian Kuswanto, menilai fokus perusahaan ke depan tidak lagi hanya pada kemampuan AI, tetapi juga bagaimana teknologi itu diawasi dan dikelola secara bertanggung jawab.
"Membangun pemahaman mengenai tata kelola AI sejak dini akan menjadi langkah penting, tidak hanya untuk mengelola risiko, tetapi juga menjaga kepercayaan publik," kata Darian.
Keamanan Siber
Laporan tersebut juga menyoroti meningkatnya ancaman keamanan siber di tengah masifnya adopsi AI pada sektor keuangan, layanan pelanggan, hingga layanan publik. Dalam beberapa tahun terakhir, berbagai institusi di Indonesia disebut menghadapi tingginya anomali lalu lintas digital, upaya serangan siber, dan kasus kebocoran data.
Para pakar keamanan siber turut mengamati penggunaan AI untuk mengotomatisasi serangan digital, sehingga serangan dapat berlangsung lebih cepat dan semakin sulit dideteksi.
Situasi ini memunculkan tantangan baru terkait kemampuan perusahaan mempertahankan kontrol terhadap sistem yang dirancang bekerja secara mandiri.
Selain aspek keamanan, perkembangan AI juga memunculkan persoalan tata kelola yang lebih luas. Meningkatnya kekhawatiran terhadap penyalahgunaan AI, termasuk penyebaran konten berbahaya dan menyesatkan, mendorong perhatian regulator dan publik terhadap pentingnya pengawasan yang lebih jelas.
Secara global, sejumlah insiden keamanan berbasis AI serta munculnya panduan keamanan baru dari berbagai lembaga industri menunjukkan risiko tersebut mulai dipandang serius. Namun, implementasi tata kelola dan keamanan AI di tingkat perusahaan dinilai masih belum merata.
Di Indonesia dan kawasan Asia Tenggara, laju adopsi AI disebut terus melampaui perkembangan praktik tata kelola dan keamanan. Laporan Zentara menyebut kondisi ini sebagai “deployment gap” atau kesenjangan implementasi yang semakin melebar.
Melalui laporan tersebut, Zentara mendorong perusahaan dan pembuat kebijakan untuk mulai memperkuat pengawasan terhadap sistem AI. Beberapa langkah yang disoroti antara lain penetapan akses sistem secara jelas, peningkatan pemantauan aktivitas berbasis AI, pembatasan tindakan berisiko tinggi, serta penerapan akuntabilitas dalam