Asisten AI Cenderung Pilih Situs Tertentu Meski Barangnya Lebih Buruk
Riset terbaru menemukan agen AI kerap memilih produk dari situs web favoritnya, meski ada pilihan lain yang lebih sesuai kebutuhan.
Foto: paul_houle via Flickr (CC BY-SA 2.0)
Poin penting
- Riset arXiv mengungkap asisten AI kerap memfavoritkan situs web tertentu saat mencari produk.
- AI memilih barang kurang cocok sebanyak dua pertiga kali jika berasal dari situs favoritnya.
- Menyembunyikan nama situs dan melengkapi detail pencarian terbukti mengurangi bias AI.
Penggunaan asisten pintar berbasis kecerdasan buatan atau AI untuk belanja operasional menyimpan risiko baru. Sistem AI ternyata sering memihak situs web tertentu saat mencari barang.
Temuan ini diungkap oleh tim peneliti Seoul National University dalam laporan riset di arXiv. Mereka menguji 12 model AI terkemuka dalam tugas pencarian dan pemilihan otomatis.
Model yang diuji mencakup GPT, Gemini, DeepSeek, GLM, Llama, Tulu, dan Qwen. Pengujian ini memakai 4.822 permintaan pencarian pada belanja daring, pemesanan hotel, dan karya ilmiah.
Memilih Barang Kurang Bagus demi Situs Favorit
Asisten AI ternyata kompak menyukai situs tertentu di setiap bidang. Sebagian besar model lebih memilih Booking.com dan menghindari Expedia, meski keduanya menawarkan hasil setara.
Masalah menjadi runyam saat mutu barang yang dibandingkan berbeda. Peneliti membandingkan dua barang dengan selisih pemenuhan syarat kebutuhan sebesar satu poin.
AI memilih barang yang kurang lengkap fiturnya sekitar dua pertiga kali. Hal itu terjadi jika barang berasal dari situs favorit AI. Padahal, ada barang yang lebih baik dari situs yang kurang disukai AI.
Sebaliknya, AI hampir tidak pernah memilih barang kurang lengkap dari situs yang tidak disukainya. Nama domain situs terbukti lebih menentukan pilihan AI daripada kesesuaian barang itu sendiri.
Penyebab Prasangka dan Solusinya
Peneliti menemukan bahwa menyembunyikan identitas situs berhasil menekan kebiasaan pilih kasih tersebut. Sebaliknya, memberi label situs favorit langsung menaikkan angka pemilihan suatu barang.
Bias ini dapat terbentuk selama proses pelatihan model AI. Model AI belajar memakai nama situs sebagai jalan pintas untuk menilai mutu barang.
Informasi yang hilang saat pencarian juga memicu prasangka AI terhadap situs tertentu. Masalah ini bisa ditekan dengan melengkapi rincian pencarian dan memberi instruksi penangkal prasangka.
Dampak bagi Pengambil Keputusan Bisnis
Temuan ini penting bagi pimpinan perusahaan yang memakai agen AI untuk pengadaan barang kantor. Keputusan otomatis AI bisa membuat kantor memilih opsi yang kurang tepat. Akibatnya, alokasi anggaran belanja kantor menjadi kurang efisien.
Bagi pemilik bisnis daring, temuan ini juga patut diwaspadai. Produk unggulan Anda berisiko dilewati oleh agen AI. Hal itu bisa terjadi jika produk terpasang di platform yang tidak disukai sistem.
Lihat hasil pemeriksaan
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Penelitian oleh tim Seoul National University di arXiv meneliti preferensi sumber pada 12 model agen AI. | Didukung | “We study source preference in end-to-end search with 12 agent models across three domains.” arXiv:2610.03195 menyatakan penelitian preferensi sumber dilakukan oleh peneliti Seoul National University pada 12 model agen AI. |
| Pengujian melibatkan 4.822 permintaan pencarian di tiga ranah: belanja (WebShop), akomodasi (HotelQuEST), dan karya ilmiah (ScholarGym). | Didukung | “We use 4,822 requests: 1,500 from WebShop, 786 from HotelQuEST, and 2,536 from ScholarGym.” arXiv:2610.03195 mencantumkan total 4.822 permintaan dari ketiga domain tersebut. |
| Model yang diuji meliputi GPT, Gemini, DeepSeek, GLM, Llama, Tulu, dan Qwen. | Didukung | “We evaluate GPT-{5.4-nano (OpenAI, 2026a), 5.6-Luna (OpenAI, 2026b)}, Gemini-3.7-Flash (Deepmind, 2026), GLM-5.3-Flash (GLM-5-Team et al., 2026), DeepSeek-v4-Flash-0731 (DeepSeek-AI et al., 2026)” arXiv:2610.03195 mendaftar seluruh keluarga model tersebut pada bagian End-to-End Agent Setting. |
| Sebagian besar model lebih menyukai Booking.com dan menghindari Expedia meskipun barang memenuhi persyaratan yang sama. | Didukung | “most models prefer Booking.com, while many avoid Expedia, even though the items from these sites satisfy the same requirements.” arXiv:2610.03195 menyatakan kesepakatan preferensi model terhadap Booking.com dan penghindaran terhadap Expedia. |
| Barang yang memenuhi syarat satu poin lebih sedikit dipilih sekitar dua pertiga kali jika berasal dari sumber favorit dan barang yang lebih baik dari sumber yang tidak disukai. | Didukung | “an item satisfying one requirement fewer is selected about two-thirds of the time when it comes from a preferred source and the better one from a dispreferred source” arXiv:2610.03195 mencatat rasio pemilihan sekitar dua pertiga untuk barang dengan persyaratan satu poin lebih sedikit dari sumber favorit. |
| Menyembunyikan identitas sumber melemahkan preferensi, dan melabeli ulang barang dengan sumber favorit meningkatkan tingkat pemilihannya. | Didukung | “hiding it weakens the preference, and relabeling an item with a preferred source raises its selection rate.” arXiv:2610.03195 menjelaskan dampak manipulasi visibilitas dan pelabelan sumber terhadap tingkat pemilihan. |
| Informasi yang hilang dapat memicu prasangka terhadap sumber, dan melengkapi informasi atau memberikan prompt penangkal mengurangi ketergantungan pada sumber. | Didukung | “missing information can trigger preconceptions about the source. Supplying missing information or a prompt countering these preconceptions reduces source preference.” arXiv:2610.03195 membuktikan bahwa pemberian informasi yang hilang atau prompt penangkal efektif menekan bias sumber. |
Tanya jawab
Mengapa asisten AI memihak situs tertentu saat mencari barang?
Model AI memakai nama situs sebagai jalan pintas untuk menilai mutu barang akibat bias dari proses pelatihan dan informasi yang hilang saat pencarian.
Bagaimana cara mengurangi bias situs pada asisten AI?
Bias dapat ditekan dengan menyembunyikan identitas situs, melengkapi rincian pencarian, dan memberikan instruksi penangkal prasangka.
Model AI apa saja yang diuji dalam riset ini?
Peneliti menguji 12 model AI terkemuka pada 4.822 permintaan pencarian, termasuk GPT, Gemini, DeepSeek, GLM, Llama, Tulu, dan Qwen.
Sumber: arXiv: Source Preference in the Wild: How LLM Agents Favor Items by Source, and How to Reduce It
