BI Ingatkan Bahaya Agen AI di Bank: Dari Penipuan Suara hingga Tarik Uang Massal
Bank Indonesia mengingatkan risiko agen AI di sektor perbankan. Kerentanan sistem bisa memicu penipuan suara dan aksi tarik uang massal.
Gambar buatan AI, bukan foto asli (Lucid Origin (Leonardo) via Cloudflare Workers AI)
Poin penting
- Bank Indonesia memperingatkan bahaya penipuan canggih dan aksi panik massal akibat kecerdasan buatan.
- Serangan siber berbasis AI terhadap celah bank kini terjadi dalam hitungan jam, bukan lagi berminggu-minggu.
- BI menyarankan perbankan mengendalikan penuh sistem mandiri lewat kedaulatan AI untuk mencegah kebocoran data.
Penggunaan kecerdasan buatan atau AI di sektor keuangan membawa risiko baru bagi nasabah. Peringatan ini datang langsung dari bank sentral Indonesia.
Bank Indonesia meminta bank mewaspadai celah keamanan dari teknologi otomatis tersebut. Hal ini dilaporkan oleh media Katadata.
Peringatan itu disampaikan oleh Ricky Satria pada Selasa (27/10). Ricky menjabat sebagai Kepala Departemen Inovasi dan Digitalisasi Data BI.
Acara tersebut menandai peluncuran buku putih kerja sama IBM, Perbanas, dan K&A. Buku putih itu berjudul Digital Sovereign AI and the Future of Trusted Banking.
Serangan Siber Hitungan Jam dan Agen Liar
Penipuan perbankan kini semakin tampak nyata berkat teknologi AI. Pelaku kejahatan bisa meniru suara korban dan memalsukan wajah pada panggilan video.
Selain penipuan, kecepatan serangan siber ke sistem bank juga meningkat tajam. Pelaku memakai AI untuk mencari celah keamanan jauh lebih cepat.
"Serangan sangat cepat, bukan lagi berminggu-minggu," kata Ricky Satria, Kepala Departemen Inovasi dan Digitalisasi Data BI.
Ricky mencontohkan masalah yang dialami bank raksasa asal Amerika Serikat, JPMorgan. Masalah itu sebelumnya dilaporkan oleh CNBC Internasional.
JPMorgan memblokir agen AI pihak ketiga seperti Muse Meta dan Instinct. Agen AI adalah program pintar yang bertindak atas nama pengguna.
JPMorgan melarang alat itu masuk ke data catatan aktivitas akun nasabah. Agen luar tersebut juga dilarang melakukan transaksi perbankan.
Menurut Ricky, JPMorgan sempat bingung membedakan agen resmi dan agen liar. Padahal agen tak dikenal itu dapat membuka data penting nasabah.
Risiko Keputusan Serentak dan Tarik Uang Massal
BI juga menyoroti bahaya perilaku meniru secara massal atau herding behavior. Risiko ini muncul saat jutaan program AI bergerak serentak.
Banyak bank memakai penyedia model AI dan pusat komputasi awan yang sama. Akibatnya, rekomendasi finansial yang keluar bisa seragam untuk seluruh nasabah.
Sorotan serupa datang dari badan keuangan dunia, International Monetary Fund atau IMF. Menurut IMF, model AI memakai data rujukan yang seragam.
Data tersebut mencakup laporan keuangan, berita ekonomi, dan aturan resmi. Saat pasar tenang, keputusan seragam ini memang bisa menambah likuiditas pasar.
Namun bahaya muncul saat pasar keuangan mulai panik. Rekomendasi serentak bisa merusak rasa percaya nasabah secara tiba-tiba.
Jika kepanikan meluas, kondisi ini dapat memicu penarikan simpanan massal secara serentak. Ricky menilai perekonomian bisa kacau jika agen salah mengambil langkah.
Untuk mencegahnya, BI menyarankan perbankan menerapkan kedaulatan AI atau sovereign AI. Konsep ini menuntut perusahaan mengendalikan infrastruktur teknologi secara mandiri.
"Kita memang butuh terbuka terhadap inovasi, tetapi harus sepenuhnya memegang kontrol," kata Ricky Satria, Kepala Departemen Inovasi dan Digitalisasi Data BI.
Apa Artinya bagi Pelaku Usaha
Peringatan BI ini menjadi alarm penting bagi para pemilik bisnis dan jajaran direksi. Layanan keuangan digital yang Anda pakai sehari-hari menghadapi ancaman baru.
Modus pemalsuan suara dan wajah kini bisa menarget staf keuangan perusahaan Anda. Prosedur persetujuan transaksi bernilai besar wajib diperketat dengan verifikasi berlapis.
Perusahaan juga perlu berhati-hati sebelum menghubungkan akun bisnis ke asisten digital pihak ketiga. Keamanan data operasional dan dana kas perusahaan harus tetap terlindungi.
- Katadata: BI Ingatkan Risiko AI di Perbankan: Penipuan hingga Ancaman Tarik Uang Massal
Lihat hasil pemeriksaan (11 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Bank Indonesia mengingatkan risiko agen AI di industri perbankan mulai dari kerentanan penipuan hingga ancaman tarik uang massal. | Didukung | “Bank Indonesia (BI) menyebut, di tengah adopsi penggunaan akal imitasi (AI) oleh industri perbankan, bank-bank di Indonesia perlu mewaspadai sejumlah kerentanan.” Katadata melaporkan peringatan BI terkait kerentanan keamanan hingga penarikan simpanan massal akibat AI. |
| Peringatan tersebut disampaikan oleh Kepala Departemen Inovasi dan Digitalisasi Data BI Ricky Satria pada Selasa (27/10). | Didukung | “Hal itu disampaikan Kepala Departemen Inovasi dan Digitalisasi Data BI Ricky Satria.” Katadata mengonfirmasi nama dan jabatan narasumber Ricky Satria serta waktu acara pada Selasa (27/10). |
| Acara tersebut menandai peluncuran buku putih Digital Sovereign AI and the Future of Trusted Banking kerja sama IBM, Perbanas, dan K&A. | Didukung | “kata Ricky dalam acara perilisan buku putih Digital Sovereign AI and the Future of Trusted Banking oleh IBM, Perbanas, dan K&A, Selasa (27/10).” Katadata mencatat judul buku putih dan pihak-pihak yang meluncurkannya. |
| Modus penipuan perbankan dengan AI dapat menggunakan suara tiruan dan wajah palsu lewat panggilan video. | Didukung | “Modus penipuan AI ini bisa mengolah hingga bisa menggunakan suara tiruan, bahkan wajah palsu melalui video call .” Katadata mencatat modus penipuan AI mencakup suara tiruan dan wajah tiruan di video call. |
| Serangan digital menggunakan AI terhadap celah perbankan terjadi dalam hitungan jam, bukan lagi berminggu-minggu. | Didukung | “Selain itu, serangan digital dengan menggunakan AI terhadap celah perbankan juga semakin cepat dalam hitungan jam, tidak lagi memakan waktu berminggu-minggu” Katadata memuat pernyataan mengenai kecepatan serangan siber AI dalam hitungan jam. |
| JPMorgan memblokir agen AI pihak ketiga seperti Muse Meta dan Instinct agar tidak dapat mengakses catatan aktivitas atau bertransaksi atas nama akun nasabah. | Didukung | “JPMorgan memblokir agen AI pihak ketiga seperti Muse Meta dan Instinct agar tidak dapat mengakses aktivitas logging atau melakukan transaksi menggunakan atau mewakili akun nasabah.” Katadata mengutip laporan terkait pemblokiran agen AI pihak ketiga oleh JPMorgan. |
| JPMorgan sempat kesulitan membedakan antara agen AI resmi mereka dan agen liar (rogue) yang berpotensi mengekspos data nasabah. | Didukung | “Menurut Ricky, kejadian itu membuat JPMorgan sempat kelimpungan sebab tidak bisa membedakan yang mana agen AI resmi mereka dan yang mana agen rogue .” Katadata mengutip pernyataan Ricky mengenai kebingungan JPMorgan membedakan agen resmi dan agen rogue. |
| BI menilai perbankan cenderung terkonsentrasi pada segelintir penyedia model dan komputasi awan sehingga rentan terhadap perilaku meniru massal (herding behavior). | Didukung | “Selain itu, BI menilai perbankan cenderung terkonsentrasi pada segelintir penyedia model dan komputasi awan ( cloud ), menjadikannya rentan terhadap herding behavior .” Katadata menyebut konsentrasi penyedia model dan cloud memicu herding behavior. |
| IMF menyoroti herding behavior dapat muncul karena berbagai model AI menggunakan data rujukan yang sama seperti laporan keuangan, berita ekonomi, dan dokumen regulator. | Didukung | “Menurut IMF, herding behaviour bisa muncul karena berbagai model AI menggunakan informasi yang sama untuk mengambil keputusan. Informasi-informasi ini mulai dari laporan keuangan, berita ekonomi” Katadata mengutip pandangan IMF terkait sumber data seragam pada model AI. |
| Jika herding behavior berlanjut saat tekanan pasar dan likuiditas memburuk, kondisi tersebut dapat berujung pada penarikan simpanan massal (bank run). | Didukung | “Dan jika herding behaviour ini berlanjut di saat tekanan pasar, likuiditas, dan kepercayaan nasabah memburuk, dapat merembet hingga penarikan simpanan massal atau bank run .” Katadata mencatat potensi herding behavior berujung pada penarikan dana massal. |
| BI menekankan pentingnya kedaulatan AI (sovereign AI) di mana bank mengembangkan, mengoperasikan, dan mengendalikan infrastruktur AI mandiri secara penuh. | Didukung | “Untuk itu, BI menyebut salah satunya penting bagi perbankan Indonesia untuk memiliki kontrol atas AI yang mereka gunakan lewat sovereign AI .” Katadata melaporkan dorongan BI agar perbankan mengadopsi sovereign AI dan memegang kendali penuh. |
Video AI terbaru
Merge CEO Shensi Ding: AI fluency starts at the top
