Agentic AI Masuk Sektor Keuangan, Komdigi Soroti Risiko Transaksi Tanpa Manusia

Transaksi Tanpa Perantara Manusia: Komdigi Peringatkan Ancaman Agentic AI di Dunia Keuangan

Wartanaya.com – Sektor jasa keuangan Indonesia kini menghadapi babak baru seiring meluasnya penerapan agentic AI. Sistem kecerdasan buatan generasi ini tidak lagi terbatas pada fungsi pendukung pengambilan keputusan, melainkan mampu mengeksekusi keputusan secara otonom — termasuk menjalankan transaksi finansial secara langsung.

Konsekuensi Baru bagi Pengelolaan Risiko

Wakil Menteri Komunikasi dan Digital Nezar Patria menegaskan bahwa pergeseran peran AI ke level otonomi tinggi mengubah secara fundamental cara risiko dikelola di industri keuangan. Ketika sebuah sistem diberi mandat tertentu, ia tidak hanya merekomendasikan langkah, tetapi juga melaksanakannya tanpa intervensi manusia secara langsung.

“Agentic AI apabila diberikan otoritas tertentu untuk decision making, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi.”

Nezar menjelaskan bahwa situasi ini menciptakan profil risiko yang jauh berbeda dari pemanfaatan AI sebagai sekadar alat bantu. Dalam skenario lama, rekomendasi sistem tetap memerlukan persetujuan manusia sebelum dieksekusi. Sebaliknya, pada model otonom, setiap cacat logika atau kesalahan algoritma dapat langsung menyentuh transaksi riil dan merugikan konsumen.

“Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kita siapkan juga mulai sekarang.”

Kerangka Tata Kelola yang Mendesak

Menurut Nezar, pemerintah wajib menyusun arsitektur regulasi sebelum adopsi AI berotonomi tinggi meluas di sektor keuangan. Kerangka tersebut harus menjawab sejumlah pertanyaan mendasar: sejauh mana batas kewenangan sistem, bagaimana mekanisme pengawasan oleh manusia tetap terjaga, dan siapa yang menanggung tanggung jawab hukum ketika keputusan mesin menimbulkan kerugian.

Dimensi lain yang tak kalah krusial meliputi perlindungan data, pengelolaan risiko operasional, serta protokol mitigasi saat satu entitas AI berinteraksi dengan entitas AI lain dalam satu ekosistem.

Urgensi persoalan ini diperkuat oleh fakta bahwa keputusan AI di ranah keuangan bersinggungan langsung dengan transaksi finansial, data pribadi warga, ketersediaan layanan, hingga akses masyarakat terhadap produk keuangan.

Fondasi Regulasi yang Sudah Ada dan yang Sedang Dibangun

Kementerian Komdigi sebelumnya telah menerbitkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai rujukan pemanfaatan AI secara bertanggung jawab.

Saat ini, pemerintah juga tengah merumuskan Peta Jalan Kecerdasan Artifisial Nasional beserta panduan etika AI. Nezar menyatakan kedua dokumen tersebut sedang dalam tahap finalisasi untuk ditetapkan melalui peraturan presiden.

“Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika artificial intelligence.”

Transformasi Kompetensi SDM di Era AI

Kehadiran AI berotonomi tinggi turut mengubah lanskap kebutuhan kompetensi tenaga kerja. Nezar menekankan bahwa sekadar mahir mengoperasikan teknologi tidak lagi memadai bagi talenta di era ini. Mereka juga dituntut memahami tata kelola data, manajemen risiko AI, keamanan siber, etika, serta prinsip akuntabilitas.

“Talenta yang unggul di era AI ini bukan hanya mahir menggunakan teknologi, tetapi mereka juga harus mampu memastikan teknologi tetap berpihak pada manusia.”

Kolaborasi Lintas Lembaga dan Proyeksi Kebutuhan SDM

Nezar menyebut pembangunan ekosistem tersebut memerlukan sinergi antara Komdigi dan Otoritas Jasa Keuangan (OJK). Bentuk kerja sama mencakup penyelarasan prinsip tata kelola AI, pengembangan kapasitas talenta, hingga pengujian inovasi melalui sandbox lintas sektor.

“Kolaborasi antara Komdigi dan OJK inilah yang akan menjadi tulang punggung ekosistem keuangan digital yang inovatif sekaligus aman.”

Sebelumnya, IBM Indonesia memperkirakan Indonesia membutuhkan minimal 9 juta talenta digital pada tahun 2030. Dalam proyeksi tersebut, developer disebut sebagai kelompok kunci yang mendorong modernisasi operasional dan mempercepat adopsi AI di berbagai industri.

Direktur Ekosistem Kecerdasan Artifisial dan Teknologi Emerging, Direktorat Jenderal Ekosistem Digital Kementerian Komdigi, Said Mirza Pahlevi, menegaskan pentingnya penguatan ekosistem digital sebagai prasyarat mengubah ambisi nasional menjadi dampak nyata.