Survei Sumsub: 64 Persen Organisasi di Indonesia Hadapi Masalah Akibat AI
Banyak kantor di Indonesia percaya diri memakai AI. Namun, mayoritas pernah mengalami masalah akibat sistem bertindak sendiri.
Ilustrasi: liput24
Poin penting
- Sebanyak 64 persen organisasi di Indonesia mengalami masalah akibat AI yang bertindak sendiri.
- Hanya 34 persen organisasi yang menyimpan catatan keputusan AI secara utuh dan tahan manipulasi.
- Sekitar 94 persen responden memakai sistem AI di luar tujuan awal dalam setahun terakhir.
Banyak kantor di Indonesia mulai menyerahkan pekerjaan harian kepada kecerdasan buatan. Namun, langkah ini membawa risiko nyata bagi operasional usaha.
Sebanyak 64 persen organisasi di Indonesia mengaku pernah mengalami masalah akibat AI. Masalah itu muncul ketika sistem bertindak sendiri dan memicu dampak yang tidak diinginkan.
Fakta tersebut terungkap dari laporan media Republika. Laporan itu mengutip riset bertajuk APAC State of Digital Trust: AI Governance Benchmark.
Riset ini digarap oleh Sumsub bersama Blackbox Research dan Singapore FinTech Association. Survei tersebut melibatkan 720 profesional senior di sembilan negara Asia-Pasifik.
Temuan riset menunjukkan rasa percaya diri pengurus kantor yang sangat tinggi. Sebanyak 96 persen organisasi merasa yakin dapat menjelaskan keputusan sistem AI mereka.
Namun, keyakinan itu tidak sejalan dengan bukti di lapangan. Hanya 34 persen organisasi yang menyimpan rekam jejak keputusan AI secara utuh dan tahan manipulasi.
Sumsub menyebut jurang pemisah ini sebagai asimetri akuntabilitas. Pemimpin perusahaan merasa paham cara kerja sistem, tetapi mereka tidak bisa membuktikannya saat terjadi kekeliruan.
Tantangan pengawasan makin berat karena kehadiran agentic AI. Istilah ini merujuk pada sistem pintar yang bisa merencanakan, mengambil keputusan, dan bertindak sendiri mewakili kantor.
Perusahaan di tanah air tampak sangat santai melepas tugas rutin ke mesin pintar. Sebanyak 91 persen responden merasa nyaman membiarkan AI memutuskan perkara tanpa campur tangan manusia.
Sikap para pemimpin kantor berubah ketika menyangkut urusan uang. Responden yang nyaman menyerahkan keputusan otomatis turun menjadi 55 persen untuk transaksi keuangan.
Kebiasaan pemakaian alat pintar di lingkungan kerja juga cukup mengkhawatirkan. Sebanyak 94 persen organisasi memakai AI di luar tujuan awal dalam setahun terakhir.
Kualitas bahan data juga menjadi beban pikiran utama. Sebanyak 56 persen responden menyebut mutu data sebagai kekhawatiran terbesar ketika sistem pintar bertindak atas nama lembaga.
Kekhawatiran soal kualitas data di Indonesia ini menjadi yang tertinggi di Asia-Pasifik. Di sisi lain, 99 persen responden siap memakai alat pelacak tanggung jawab tindakan AI.
Apa Artinya bagi Pelaku Usaha
Ketiadaan bukti audit lengkap membawa risiko bahaya besar bagi pemilik usaha. Jika sistem pintar salah mengambil keputusan, pihak manajemen akan kesulitan membela diri di hadapan hukum atau nasabah.
Kebiasaan memakai perangkat pintar di luar fungsi awalnya juga menambah celah bahaya. Penggunaan bebas tanpa aturan jelas bisa membuat sistem melenceng dari rencana awal kerja.
Para direktur perlu segera memastikan setiap langkah otomatisasi memiliki jalur pengawasan ketat. Menyerahkan urusan rutin ke mesin memang hemat waktu, namun kendali akhir tetap harus berada di tangan manusia.
- Republika: Adopsi AI Meningkat, 64 Persen Organisasi di Indonesia Pernah Alami Hasil Tak Diinginkan
Lihat hasil pemeriksaan (11 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Sebanyak 64 persen organisasi di Indonesia pernah mengalami masalah akibat AI yang bertindak sendiri dan menghasilkan dampak tidak diinginkan. | Didukung | “64 persen organisasi mengaku pernah mengalami AI bertindak sendiri dan menghasilkan masalah atau dampak yang tidak diinginkan.” Republika mengutip temuan riset Sumsub terkait dampak tindakan mandiri sistem AI pada organisasi di Indonesia. |
| Hanya 34 persen organisasi yang menyimpan rekam jejak keputusan AI secara utuh dan tahan manipulasi. | Didukung | “Namun, hanya 34 persen yang menyimpan rekam jejak keputusan tersebut secara utuh dan tahan manipulasi.” Republika memaparkan persentase organisasi yang menyimpan bukti audit keputusan AI. |
| Sebanyak 94 persen organisasi pernah menggunakan sistem AI di luar tujuan awalnya dalam setahun terakhir. | Didukung | “Sebanyak 94 persen juga pernah menggunakan sistem AI di luar tujuan awalnya dalam setahun terakhir.” Republika mencatat proporsi penyalahgunaan fungsi AI dari tujuan awal. |
| Riset APAC State of Digital Trust: AI Governance Benchmark digarap oleh Sumsub bersama Blackbox Research dan Singapore FinTech Association terhadap 720 profesional senior di sembilan negara Asia-Pasifik. | Didukung | “survei terhadap 720 profesional senior di sembilan negara Asia-Pasifik (APAC). Survei independen tersebut digarap Sumsub bersama Blackbox Research dan Singapore FinTech Association.” Republika menjelaskan profil survei dan mitra riset Sumsub. |
| Sebanyak 96 persen organisasi di Indonesia meyakini dapat menjelaskan keputusan yang diambil oleh AI. | Didukung | “Sebanyak 96 persen organisasi di Indonesia meyakini dapat menjelaskan keputusan yang diambil kecerdasan artifisial (AI).” Republika melaporkan tingkat keyakinan organisasi dalam menjelaskan logika keputusan AI. |
| Sumsub menyebut kesenjangan antara kepercayaan menjelaskan AI dan kemampuan membuktikannya sebagai asimetri akuntabilitas. | Didukung | “Sumsub menyebut kesenjangan antara tingkat kepercayaan organisasi terhadap keputusan AI dan kemampuan membuktikannya sebagai Accountability Asymmetry atau asimetri akuntabilitas.” Republika mengutip istilah Accountability Asymmetry dari Sumsub. |
| Agentic AI merujuk pada sistem AI yang dapat merencanakan, mengambil keputusan, dan bertindak atas nama organisasi. | Didukung | “agentic AI , yakni sistem AI yang dapat merencanakan, mengambil keputusan, dan bertindak atas nama organisasi.” Republika mendefinisikan konsep agentic AI. |
| Sebanyak 91 persen responden nyaman membiarkan AI mengambil keputusan tanpa campur tangan manusia dalam proses rutin. | Didukung | “Sebanyak 91 persen responden nyaman membiarkan AI mengambil keputusan tanpa keterlibatan manusia dalam proses rutin.” Republika menyajikan persentase kenyamanan otomatisasi AI untuk proses rutin. |
| Kenyamanan responden menyerahkan keputusan ke AI turun menjadi 55 persen jika berkaitan dengan transaksi keuangan. | Didukung | “Namun, proporsinya turun menjadi 55 persen ketika keputusan berkaitan dengan transaksi keuangan.” Republika mencatat penurunan tingkat kenyamanan pada ranah keuangan. |
| Sebanyak 56 persen responden menyebut mutu/kualitas data sebagai kekhawatiran terbesar saat AI bertindak atas nama organisasi, menjadi yang tertinggi di kawasan APAC. | Didukung | “Dari sisi kualitas data, 56 persen responden menyebutnya sebagai kekhawatiran terbesar ketika AI bertindak mewakili organisasi. Menurut laporan tersebut, angka ini menjadi yang tertinggi di kawasan APAC.” Republika melaporkan temuan terkait persepsi risiko kualitas data di Indonesia dibanding kawasan lain. |
| Sebanyak 99 persen responden siap mengadopsi solusi pelacak tindakan AI hingga ke orang yang bertanggung jawab. | Didukung | “99 persen responden menyatakan siap mengadopsi solusi yang dapat melacak setiap tindakan AI hingga kepada orang yang bertanggung jawab.” Republika mencatat kesiapan responden mengadopsi mekanisme pelacakan akuntabilitas AI. |
Video AI terbaru
API credits, now in ChatGPT Pro and Business plans
