AI Bisa Kirim Uang Sendiri, Siapa yang Bertanggung Jawab?

Perkembangan kecerdasan buatan (AI) makin ngebut dan sekarang mulai masuk ke area paling sensitif dalam sistem keuangan: pergerakan uang. AI bukan cuma menganalisis data, tapi sudah diarahkan untuk mengambil keputusan sendiri, termasuk memicu transaksi. Di titik ini, muncul pertanyaan besar: kalau AI bisa kirim uang sendiri, siapa yang bertanggung jawab kalau terjadi kesalahan?

Isu ini disorot dalam laporan yang dilansir HackerNoon, mengutip pandangan operator fintech Zack Shooter. Ia menilai adopsi AI justru berpotensi membuka celah besar dalam infrastruktur keuangan global yang sejak awal dirancang untuk manusia, bukan aktor otonom.

AI Mulai Menggerakkan Uang, Risiko Ikut Membesar

Menurut Shooter, tantangan utama AI di sektor keuangan bukan lagi soal kecerdasan sistem. Masalah terbesarnya justru ada pada fondasi infrastruktur keuangan itu sendiri.

Shooter memiliki pengalaman lebih dari lima tahun membangun infrastruktur keuangan global di Deel, termasuk menangani pembayaran lintas negara, kepatuhan regulasi, dan pengelolaan treasury di lebih dari 100 negara. Dari pengalaman itu, ia melihat langsung bagaimana otomatisasi sering kali berbenturan dengan sistem keuangan dunia nyata.

Di sektor finansial, kesalahan tidak bisa dianggap sepele. Transaksi bersifat permanen, sangat diatur, dan berdampak langsung ke banyak pihak. Ketika AI diberi kewenangan mengambil keputusan finansial, risiko ikut meningkat.

Sistem Keuangan Masih Dibangun untuk Manusia

Shooter menilai hampir semua sistem keuangan modern masih berangkat dari asumsi bahwa manusia selalu menjadi penanggung jawab terakhir. Proses persetujuan, pengecekan risiko, hingga penanganan error masih mengandalkan campur tangan manusia.

Masalahnya, AI bekerja dengan cara yang sangat berbeda. Sistem otonom berjalan tanpa henti, bertindak jauh lebih cepat dari manusia, dan mengambil keputusan berbasis probabilitas. AI juga tidak mengenal konsep “menunggu review”.

Akibatnya, celah-celah kecil yang sebelumnya bisa ditangani secara manual berpotensi berubah menjadi risiko sistemik ketika AI beroperasi secara terus-menerus.

Krisis Identitas dan Akuntabilitas AI

Salah satu isu paling krusial yang disorot Shooter adalah soal identitas dan tanggung jawab. Sistem keuangan global dibangun di atas kerangka KYC (Know Your Customer) dan KYB (Know Your Business), yang hanya mengenal manusia dan entitas bisnis sebagai subjek hukum.

AI agents tidak masuk dalam kategori tersebut. Ketika AI melakukan transaksi atau mengambil keputusan finansial yang keliru, belum ada mekanisme yang jelas untuk menentukan siapa yang harus bertanggung jawab.

Apakah pengembang AI, perusahaan pengguna, atau pihak lain? Ketidakjelasan ini dinilai berbahaya jika AI mulai diberi akses langsung ke bank, penyedia pembayaran, hingga sistem blockchain.

AI Agents Berpotensi Mengubah Peta Risiko Keuangan

Shooter memperkirakan AI agents ke depan akan semakin banyak digunakan untuk memulai pembayaran, mengelola likuiditas, mengatur rute transaksi lintas penyedia, hingga melakukan rekonsiliasi dana secara otomatis.

Namun, infrastruktur keuangan saat ini masih minim visibilitas real-time, memiliki model otorisasi yang terfragmentasi, serta belum siap menjelaskan atau membatalkan keputusan otomatis dengan baik.

Dalam sistem otonom, kesalahan kecil yang luput dari pengawasan manusia bisa terjadi berulang kali dan dalam skala besar.

Agentic Payment Masih Tahap Eksperimen

Beberapa sistem pembayaran berbasis agentic seperti X402 disebut sebagai sinyal awal arah industri. Meski begitu, Shooter menilai sistem tersebut masih berjalan di lingkungan tertutup dengan risiko terbatas.

Tantangan sesungguhnya akan muncul ketika AI harus berinteraksi langsung dengan bank global, regulator, penyedia layanan pembayaran, serta infrastruktur keuangan lama yang kompleks.

Baca juga: UMKM Jadi Target Utama Serangan Siber 2025, Alarm Serius untuk Bisnis di 2026

Infrastruktur Keuangan Perlu Beradaptasi

Shooter menegaskan bahwa AI akan menjadi ujian besar bagi sistem keuangan modern. Bukan karena AI terlalu canggih, melainkan karena fondasi sistem yang ada belum siap menghadapi aktor otonom.

Perusahaan yang akan bertahan, menurutnya, bukan yang paling cepat mengadopsi AI, tetapi yang serius membangun tata kelola, observabilitas real-time, serta akuntabilitas yang jelas.

Berita ini dilansir dari HackerNoon dengan judul “Why Zack Shooter Believes AI Agents Will Expose a Structural Fault Line in Financial Infrastructure”.