Microsoft Ingatkan Bahaya Agen AI di Kantor: Berisiko Jadi Ancaman dari Dalam
Microsoft memperingatkan bahwa agen AI bisa menjadi ancaman dari dalam karena memegang data penting dan meluncurkan Guardian Agents untuk pengawasan.
Gambar buatan AI, bukan foto asli (Lucid Origin (Leonardo) via Cloudflare Workers AI)
Poin penting
- Microsoft menilai agen AI di kantor berisiko menjadi ancaman dari dalam karena memegang akses data sensitif.
- Fitur Guardian Agents dan pembaruan Microsoft Defender dirilis untuk memantau perilaku asisten cerdas.
- CEO Satya Nadella meminta pelaku usaha memisahkan penyedia AI dari pihak pengawas sistem.
Microsoft memperingatkan bahaya kecerdasan buatan atau AI mandiri di tempat kerja. Raksasa teknologi itu menilai asisten pintar berisiko menjadi ancaman dari dalam kantor.
Alat ini biasa disebut sebagai agen AI. Agen AI adalah peranti lunak cerdas yang bekerja otomatis tanpa arahan terus-menerus.
Peringatan ini dilaporkan oleh TechCrunch pada awal pekan ini. CEO Microsoft Satya Nadella menyamakan agen AI dengan karyawan bermasalah.
Program cerdas ini kerap memegang akses data penting perusahaan. Agen AI juga bisa mengambil tindakan berbahaya atas nama perusahaan.
"Kita tidak bisa menyerahkan tanggung jawab atas apa yang dilakukan kecerdasan buatan atas nama kita," kata Satya Nadella, CEO Microsoft.
Nadella meminta para pimpinan bisnis tidak langsung memercayai janji vendor AI. Perusahaan harus memisahkan penyedia sistem cerdas dari pihak yang berwenang mengawasinya.
Model Canggih Sulit Ditebak
Pimpinan bisnis keamanan Microsoft, Hayete Gallot, menyampaikan pandangan senada. Ia menegaskan bahwa model AI terdepan saat ini belum layak dipercaya.
"Sayangnya, model-model terdepan, dari mana pun asalnya, tidak bisa dipercaya," kata Hayete Gallot, Pimpinan Bisnis Keamanan Microsoft.
Menurut Gallot, AI bukan sengaja berbuat jahat atau mudah diretas. Masalah utamanya terletak pada sifat sistem yang sulit ditebak.
Peranti lunak tersebut hanya dilatih untuk menuntaskan pekerjaan. Agen AI tidak memahami norma kerja organisasi ataupun pertimbangan bisnis manusia.
Situasi ini berbahaya karena agen AI kerap memegang akses sistem penting. Tindakan yang salah bisa menimbulkan kerugian operasional yang berat.
Langkah Pengawasan Microsoft
Microsoft kini merilis fitur pengawas bernama Guardian Agents. Fitur ini merupakan bagian dari Project Perception yang meluncur pada Juni.
Sistem itu awalnya dirancang untuk menangkal serangan peretas AI dari luar. Kini Microsoft memperluas fungsinya untuk mengawasi agen buatan internal.
Microsoft juga memperbarui peranti lunak keamanan Microsoft Defender. Aplikasi ini dapat melacak hingga 60 jenis agen AI di komputer kantor.
Contoh asisten yang dipantau meliputi Claude Code, Codex, dan OpenClaw. Banyak karyawan mulai memakai alat-alat ini untuk membantu tugas harian.
Sistem pengaman ini mengatur izin akses data secara dinamis berdasarkan tugas. Agen AI juga wajib meminta izin manusia sebelum mengambil keputusan berisiko.
Microsoft juga bergabung dalam platform keamanan agen milik Nvidia. Kerja sama ini didukung oleh lebih dari 100 perusahaan teknologi lainnya.
Sistem dari Nvidia tersebut menyiapkan tombol pemutus untuk menghentikan perilaku AI lewat perangkat keras. Fitur serupa ditanamkan pada komputer jinjing Surface Laptop Ultra.
Apa Artinya bagi Pelaku Usaha
Para direktur dan pemilik usaha perlu segera mendata asisten digital di kantor. Jangan biarkan staf memasang agen AI tanpa pengawasan departemen terkait.
Batasi wewenang yang dipegang oleh peranti lunak otomatis. Pastikan akses data penting hanya diberikan secara sementara sesuai kebutuhan tugas.
Terapkan aturan ketat agar keputusan penting tetap disetujui staf manusia. Langkah ini mencegah agen AI mengambil tindakan fatal yang merugikan operasional.
Pisahkan pihak penyedia teknologi dari pihak yang mengaudit jalannya sistem. Cara ini memastikan pengawasan bisnis tetap berjalan mandiri dan objektif.
- TechCrunch: Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’
Lihat hasil pemeriksaan
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Microsoft memperingatkan bahwa agen AI berisiko menjadi ancaman dari dalam (insider threat) bagi perusahaan. | Didukung | “Microsoft CEO Satya Nadella has been warning that the AI enemy may be the very agents enterprises have deployed and are paying for, much like a rogue human employee, otherwise known as an “insider threat.”” TechCrunch melaporkan peringatan Microsoft dan Satya Nadella mengenai bahaya agen AI sebagai ancaman orang dalam. |
| Microsoft meluncurkan fitur keamanan Guardian Agents untuk memantau agen AI yang digunakan perusahaan. | Didukung | “Perhaps the most notable addition is Guardian Agents , a new feature intended to monitor the AI agents a company uses.” TechCrunch melaporkan peluncuran Guardian Agents untuk memonitor agen AI perusahaan. |
| Satya Nadella meminta para pelaku usaha memisahkan penyedia AI dari pihak yang berwenang mengawasinya. | Didukung | “In other words, we need to separate the supply of intelligence from the authority over it.” TechCrunch mengutip pernyataan Nadella bahwa penyedia kecerdasan buatan harus dipisahkan dari otoritas pengawasnya. |
| Satya Nadella menyatakan perusahaan tidak bisa mengalihkan tanggung jawab atas apa yang dilakukan kecerdasan buatan atas nama perusahaan. | Didukung | “We simply can’t outsource responsibility for what intelligence does on our behalf.” TechCrunch mengutip tulisan Satya Nadella dari blog pribadinya. |
| Satya Nadella meminta bisnis berhenti memercayai jaminan keamanan dari penyedia model AI. | Didukung | “Nadella warned that it’s time to stop trusting AI model providers, even if they offer assurances of safety and security with their agentic products.” TechCrunch melaporkan seruan Nadella agar berhenti memercayai jaminan keselamatan dari vendor model AI. |
| Pimpinan bisnis keamanan Microsoft Hayete Gallot menyatakan model frontier tidak dapat dipercaya terlepas dari asalnya. | Didukung | ““Unfortunately, frontier models, regardless of their origin, cannot be trusted,”” TechCrunch mengutip pernyataan Hayete Gallot saat mengumumkan Guardian Agents. |
| Hayete Gallot menjelaskan model AI tidak dapat dipercaya bukan karena berniat jahat atau mudah diretas, melainkan karena perilakunya tidak dapat diprediksi. | Didukung | “adding that this isn’t because they are malicious or easily hacked, but because they are unpredictable.” TechCrunch melaporkan penjelasan Gallot terkait alasan model AI tidak dapat dipercaya. |
| Agen AI dilatih untuk menyelesaikan tugas dan tidak mengikuti norma organisasi atau pertimbangan bisnis manusia. | Didukung | “They have been trained to achieve tasks, not follow “organizational norms or judgment.”” TechCrunch mengutip penjelasan Gallot mengenai keterbatasan pelatihan model frontier. |
| Guardian Agents merupakan bagian dari Project Perception yang dirilis Microsoft pada bulan Juni. | Didukung | “Guardian Agents is part of Project Perception, a product introduced in June.” TechCrunch menyebut Guardian Agents sebagai bagian dari Project Perception yang diperkenalkan Juni. |
| Project Perception awalnya dirancang dengan asumsi bahwa peretas AI berasal dari luar perusahaan. | Didukung | “The product was designed around the assumption that AI hackers would come from outside the company.” TechCrunch menjelaskan asumsi dasar awal perancangan Project Perception. |
| Microsoft Defender diperbarui dengan fitur yang mampu mendeteksi hingga 60 jenis agen AI yang dibawa karyawan ke tempat kerja. | Didukung | “it has added an agent detection feature to its Microsoft Defender product that can find up to 60 types of agents that employees bring into the workplace” TechCrunch melaporkan penambahan fitur deteksi agen pada Microsoft Defender. |
| Jenis agen AI yang dapat dipantau mencakup Claude Code, Codex, dan OpenClaw. | Didukung | “including Claude Code, Codex, and OpenClaw.” TechCrunch menyebut Claude Code, Codex, dan OpenClaw sebagai contoh peranti yang dideteksi Defender. |
| Fitur keamanan Microsoft mengatur izin secara dinamis dan mewajibkan persetujuan manusia jika agen AI membuat keputusan berisiko. | Didukung | “That includes requiring human approval if an agent appears to be making risky decisions.” TechCrunch melaporkan adanya pembatasan izin serta keharusan persetujuan manusia. |
| Microsoft menjadi anggota perdana platform Open Agent Safety milik Nvidia yang didukung lebih dari 100 perusahaan teknologi. | Didukung | “Microsoft was an inaugural member of Nvidia’s new Open Agent Safety Platform, which garnered the support of more than 100 other tech companies.” TechCrunch melaporkan keikutsertaan Microsoft dalam inisiatif platform keamanan Nvidia. |
| Platform Nvidia menyediakan mekanisme penghentian perilaku AI lewat perangkat keras semacam kill switch. | Didukung | “The platform isolates agents in secure environments and can monitor and stop behavior through hardware, functioning something like a kill switch.” TechCrunch menjelaskan cara kerja isolasi dan kill switch perangkat keras pada platform Nvidia. |
Video AI terbaru
AI factories need to respond when the power grid needs relief.
