OpenAI Rilis AI Kilat Hemat Biaya untuk Pangkas Waktu Layanan
OpenAI merilis model pengambil keputusan berbiaya murah. Sistem ini memangkas jeda aplikasi dari hitungan detik ke milidetik demi menekan beban server.
Gambar buatan AI, bukan foto asli (Lucid Origin (Leonardo) via Cloudflare Workers AI)
Poin penting
- OpenAI merilis sistem keputusan kilat yang memangkas waktu proses menjadi 100 milidetik.
- Biaya operasional AI bisa ditekan karena sistem ini menggantikan model AI besar yang boros daya.
- Perusahaan aplikasi Speak memangkas jeda aksi pengguna dari 1,4 detik menjadi 0,13 detik saja.
Biaya operasional kecerdasan buatan sering kali membebani kas perusahaan. Banyak sistem memakai model bahasa besar yang mahal untuk tugas-tugas sederhana.
Menurut laporan TechCrunch, OpenAI kini membuka akses Decisions API secara luas. Sistem baru ini dirancang untuk mengambil keputusan cepat dengan biaya jauh lebih murah.
Langkah ini menandai persaingan baru di pasar teknologi cerdas yang hemat. Sebelumnya, startup TypeSafe bernilai 7,6 miliar dolar AS mempopulerkan model sejenis bernama Jev.
Cara Kerja Cepat Pengambil Keputusan
Model keputusan ini bekerja seperti petugas pemilah data otomatis. Saat menerima beberapa pilihan tugas, sistem langsung menentukan pilihan terbaik dalam sekejap.
Sistem ini juga menyertakan tingkat kepastian pada setiap pilihannya. Pengembang perangkat lunak kini tidak perlu lagi memakai model AI besar yang lambat.
OpenAI tidak membuat model baru ini dari nol. Mereka memodifikasi model ChatGPT Luna agar memproses data lebih gesit dan hemat.
Hasilnya terbukti sangat mencolok pada kecepatan sistem. Waktu proses terpangkas dari hitungan satu hingga tiga detik menjadi 100 hingga 180 milidetik saja.
"Kunci utama Decisions API adalah kecepatan, memangkas waktu dari beberapa detik menjadi ratusan milidetik," kata Nikunj Handa, Pimpinan Produk API OpenAI.
OpenAI pertama kali mengumumkan fitur ini pada 29 September 2026. Versi terbarunya kini bisa membaca data suara serta gambar untuk pelanggan di seluruh dunia.
Nikunj Handa menargetkan kecepatan sistem bisa turun hingga 60 milidetik ke depan. Kecepatan ini nantinya memungkinkan analisis otomatis pada tiap bingkai video secara langsung.
Hasil Nyata Pengujian di Dunia Industri
Sejumlah perusahaan ternama sudah menguji coba sistem ini dalam operasional mereka. Perusahaan tersebut antara lain Box, Datadog, Ramp, dan Speak.
Manfaat besar dirasakan oleh Speak, pengembang aplikasi les bahasa berbasis AI. Pejabat teknologi Speak Andrew Hsu menyebut jeda aksi aplikasinya terpangkas nyata.
Waktu jeda tersebut turun dari 1,4 detik menjadi hanya 0,13 detik. OpenAI juga memasang sistem ini pada asisten suara mereka bernama Dots.
Hasilnya, percakapan suara asisten tersebut menjadi jauh lebih tanggap tanpa jeda canggung. Persaingan model keputusan kini makin ramai di pasar teknologi global.
Selain TypeSafe dengan Jev, hadir pula model D1 Ultra buatan Liquid. Laboratorium bernama Base Lab juga meluncurkan model tandingan bernama Elephant-1.
Pada indeks AIM System One dan Artificial Analysis, model OpenAI menempati posisi delapan dan empat belas. Namun, Handa menegaskan model Luna tetap unggul dalam mengenali gambar.
Model Jev dari TypeSafe unggul dalam pengujian reaksi gim PacMan bernama JevMan. CEO TypeSafe Diogo Almeida mengingatkan agar pengusaha tidak hanya terpaku pada papan skor.
"Ini adalah ujian menarik karena menyajikan arus keputusan cepat tanpa henti," kata Felix Wunderlich, Chief Growth Officer Opper AI yang membuat tolok ukur tersebut.
Almeida menyarankan pelaku usaha menguji langsung model pada kebutuhan kerja nyata. Saat ini, penawaran TypeSafe masih mencatat pemakaian tertinggi di layanan OpenRouter.
Apa Artinya bagi Pelaku Usaha
Peluncuran ini menjadi sinyal penting bagi para direktur dan pemilik bisnis. Perusahaan kini tidak perlu membayar mahal komputasi untuk tugas pemilahan data sederhana.
Manajemen puncak perlu mengajak tim teknologi mengevaluasi sistem kerja mereka. Hentikan pemakaian model AI raksasa yang boros jika tugasnya hanya memilih opsi.
Bagi pelaku usaha di Indonesia, kecepatan milidetik menghadirkan peluang layanan baru. Layanan pelanggan otomatis dan asisten suara bisa merespons konsumen seketika tanpa hambatan.
Langkah ini bisa menekan anggaran operasional sekaligus menaikkan kepuasan konsumen. Kuncinya adalah menguji langsung kecocokan model dengan alur kerja harian perusahaan.
- TechCrunch: OpenAI makes its Jev competitor widely available as decision model competition heats up
Lihat hasil pemeriksaan
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| OpenAI membuka akses Decisions API secara luas ke semua pengguna untuk pertama kalinya sebagai model pengambil keputusan yang cepat dan murah. | Didukung | “OpenAI made its Decisions API model widely available to users for the first time, entering the market for fast, cheap intelligence” TechCrunch menyatakan OpenAI merilis Decisions API secara luas ke pengguna umum untuk pertama kalinya. |
| Startup TypeSafe bernilai 7,6 miliar dolar AS dan didirikan oleh mantan peneliti lab frontier. | Didukung | “TypeSafe, a startup founded by a former researcher at the frontier lab, a $7.6 billion company .” TechCrunch melaporkan TypeSafe didirikan oleh mantan peneliti lab frontier dengan valuasi 7,6 miliar dolar AS. |
| Model Jev dari TypeSafe menciptakan kategori model deep learning yang bertindak sebagai super classifier pembuat keputusan cepat dengan tingkat kepastian. | Didukung | “TypeSafe’s Jev model created a category for deep learning models that act as super classifiers: Given a set of options, they can quickly make choices and offer a confidence rating in their decision.” TechCrunch menjelaskan model Jev berfungsi sebagai super classifier dengan penentu pilihan dan skor keyakinan. |
| Model keputusan atau System One dapat menggantikan LLM dalam berbagai alur kerja dengan kecepatan lebih tinggi dan biaya jauh lebih rendah. | Didukung | “Software developers quickly found that these decision or System One models could replace LLMs in a variety of workflows, operating more quickly and a at dramatically lower cost.” TechCrunch menyebut para pengembang memanfaatkan model ini untuk menggantikan LLM secara lebih cepat dan hemat biaya. |
| OpenAI tidak membuat model baru dari nol, melainkan mengonfigurasi ulang ChatGPT Luna untuk mempercepat inferensi dan memangkas biaya. | Didukung | “Rather than building a specifically calibrated decision model, the team took ChatGPT Luna and reconfigured it to speed up the inference and lower the cost.” TechCrunch mengonfirmasi tim OpenAI memodifikasi ChatGPT Luna agar lebih cepat dan murah alih-alih melatih model baru dari awal. |
| Nikunj Handa menyatakan Decisions API memangkas waktu proses dari 1–3 detik menjadi 100, 120, hingga 180 milidetik. | Didukung | ““The big unlock with Decisions API has been the speed, shrinking things from one to three seconds to 100, 120, 180 milliseconds,” Handa said.” TechCrunch memuat kutipan Nikunj Handa mengenai penurunan latensi menjadi kisaran 100-180 milidetik. |
| Decisions API diumumkan di ajang Developer Day OpenAI pada 29 September dan dirilis luas ke pelanggan pada hari Kamis. | Didukung | “Announced at the company’s developer day on September 29, the Decisions API became available to all customers on Thursday.” TechCrunch mencatat tanggal pengumuman pada 29 September dan ketersediaan umumnya pada hari Kamis. |
| OpenAI menambahkan modalitas suara dan visual pada versi publik Decisions API serta menargetkan inferensi secara geografis demi menekan latensi. | Didukung | “OpenAI added new voice and visual modalities to the public version, and worked to ensure lower latency in regions around the world by targeting its inference resources geographically.” TechCrunch melaporkan penambahan dukungan suara dan visual serta infrastruktur geografis untuk latensi rendah. |
| Uji coba awal Decisions API melibatkan pelanggan industri seperti Box, Datadog, Ramp, dan Speak. | Didukung | “In initial trials with customers like Box, Datadog, Ramp, and Speak, engineers used the API to replace OpenAI’s LLMs with higher throughput.” TechCrunch menyebutkan Box, Datadog, Ramp, dan Speak sebagai perusahaan yang menguji API tersebut pada tahap awal. |
| Andrew Hsu dari Speak menyatakan Decisions API memangkas jeda antar-aksi dari 1,4 detik menjadi 0,13 detik. | Didukung | “Andrew Hsu, the CTO at Speak, which builds AI language tutors, said the Decisions API allowed the company to cut the time between actions from 1.4 seconds to .13 seconds.” TechCrunch mengutip keterangan CTO Speak Andrew Hsu tentang pemangkasan jeda menjadi 0,13 detik. |
| OpenAI menggunakan Decisions API untuk meningkatkan ketanggapan asisten suara Dots milik mereka. | Didukung | “OpenAI also used the product to improve their Dots voice assistant’s responsiveness.” TechCrunch menuliskan OpenAI menerapkan sistem ini pada asisten suara Dots. |
| Model keputusan pesaing meliputi D1 Ultra yang dirilis Liquid dan Elephant-1 dari Base Lab. | Didukung | “favor D1 Ultra, a new decision model that Liquid released last week, and Base Lab’s Elephant-1.” TechCrunch menyebutkan model D1 Ultra buatan Liquid dan Elephant-1 buatan Base Lab. |
| Pada indeks AIM System One dan Artificial Analysis Decision, model OpenAI berada di peringkat ke-8 dan ke-14, sementara Jev berada di posisi ke-7 dan ke-3. | Didukung | “The latest Jev model remains competitive on both indices, in seventh and third, with OpenAI’s Decision Model falling eighth and fourteenth, respectively.” TechCrunch memaparkan perolehan peringkat model OpenAI dan Jev pada kedua indeks tolok ukur tersebut. |
| Model Jev dari TypeSafe menempati posisi teratas pada tolok ukur PacMan bernama JevMan. | Didukung | “The most fun Jev benchmark, however, is JevMan , a benchmark where decision models play PacMan; the latest Jev model tops that ranking.” TechCrunch menyatakan model Jev menempati peringkat teratas pada tolok ukur JevMan. |
| Felix Wunderlich dari Opper AI menyebut gim PacMan sebagai pengujian menarik karena arus keputusan berisiko tinggi yang cepat tanpa henti. | Didukung | “Felix Wunderlich, the chief growth officer at Opper AI, which built the benchmark, said the classic game “is an interesting test because of its nonstop stream of quick, high-stakes decisions.” TechCrunch mengutip Felix Wunderlich dari Opper AI mengenai karakteristik tolok ukur JevMan. |
| Nikunj Handa mengklaim model Luna sangat bertenaga dan menunjukkan kalibrasi lebih baik untuk klasifikasi gambar. | Didukung | ““Luna is extremely powerful and has been showing better calibrations,” Handa told TechCrunch” TechCrunch mengutip klaim Handa terkait kemampuan dan kalibrasi Luna dalam klasifikasi gambar. |
| Nikunj Handa menargetkan latensi bisa turun hingga 60 milidetik agar memungkinkan panggilan API pada tiap frame video. | Didukung | ““Can we get this to something like you know 60 milliseconds, and then you could imagine like an API like call like for every single frame in like a video?”” TechCrunch memuat visi Handa mengenai penurunan waktu proses hingga 60 milidetik untuk analisis frame video. |
| CEO TypeSafe Diogo Almeida tidak memercayai benchmark dan menyarankan pelaku usaha menguji langsung model pada pekerjaan nyata. | Didukung | “TypeSafe CEO Diogo Almeida distrusts benchmarks and urges people to trial the models in their own work” TechCrunch memberitakan saran Diogo Almeida agar pengguna menguji langsung alih-alih hanya berpatokan pada benchmark. |
| Penawaran TypeSafe saat ini paling banyak dikueri di platform OpenRouter. | Didukung | “However, TypeSafe’s offerings are, for now, the most widely-queried on OpenRouter.” TechCrunch menyebutkan model TypeSafe mencatat kueri terbanyak di OpenRouter untuk saat ini. |
Video AI terbaru
A New Look for Minecraft: Java Edition with NVIDIA RTX Remix
