Ringkasan

Jev adalah model keputusan terstruktur AI dari TypeSafe AI; model ini tidak menghasilkan kalimat, melainkan mengembalikan tiga jenis keputusan bertipe — Choice (Pilihan), Score (Skor), Noul (Ya/Tidak) — serta skor kepercayaan terkalibrasi dalam pilihan yang telah ditentukan; latensi sekitar 70–500 milidetik, 20–200 kali lebih cepat daripada model bahasa besar sejenis, mendukung evaluasi paralel banyak pertanyaan dalam satu panggilan, cocok untuk skenario keputusan frekuensi tinggi Agent.

Apa Itu Jev

Jev adalah model keputusan terstruktur (structured decision) berbasis AI yang diluncurkan oleh TypeSafe AI; pendirinya adalah mantan peneliti OpenAI, Diogo Almeida. Jev berbasis Transformer tetapi bukan model bahasa besar; model ini tidak menghasilkan kalimat, melainkan mengembalikan keputusan bertipe dalam pilihan yang telah ditentukan: Choice (Pilihan), Score (Skor), Noul (Probabilitas), disertai skor kepercayaan (confidence). Latensi respons model sekitar 70–500 milidetik, dan model ini dirancang khusus untuk skenario keputusan frekuensi tinggi Agent, seperti perutean alat, triase tiket, dan keputusan game.

Fitur Utama Jev

  • Keputusan Pilihan (Choice): Memilih satu item paling sesuai dari daftar pilihan yang telah ditentukan (maksimal 255), mengembalikan pilihan, distribusi probabilitas, dan skor kepercayaan; cocok untuk perutean dan klasifikasi.
  • Penilaian Skor (Score): Memberi skor pada input sesuai skala khusus (mis. tingkat 1–5), mengembalikan skor, probabilitas, dan skor kepercayaan; digunakan untuk mengukur urgensi, kualitas, atau tingkat risiko.
  • Penilaian Ya/Tidak (Noul): Memberikan nilai probabilitas 0–1 untuk "apakah pernyataan ini benar"; cocok untuk keputusan biner seperti apakah perlu dialihkan ke manusia atau apakah perlu tindakan.
  • Multi-pertanyaan Paralel: Satu panggilan API dapat menanyakan beberapa pertanyaan sekaligus, berbagi input yang sama, dievaluasi secara paralel dan independen; menambah pertanyaan hampir tidak menambah latensi dan tidak menimbulkan pelapukan konteks.
  • Output Skor Kepercayaan: Choice dan Score menyertakan skor kepercayaan terkalibrasi, sehingga kode dapat melakukan triase — kepercayaan tinggi eksekusi otomatis, kepercayaan rendah eskalasi ke model besar atau dialihkan ke manusia.
  • Output Bertipe Tanpa Halusinasi: Hanya mengembalikan dalam rentang pilihan dan tipe yang telah ditentukan pengguna; tidak perlu parsing JSON, menghilangkan kesalahan format dan jawaban di luar batas.
  • Latensi Sangat Rendah: Respons end-to-end sekitar 70–500 milidetik, 20–200 kali lebih cepat dari model bahasa besar sejenis, mendukung siklus keputusan frekuensi tinggi sekitar 10 kali per detik.

Tiga Bentuk Output Jev

  • Choice (Keputusan Pilihan): Memilih satu item paling sesuai dari daftar pilihan yang telah ditentukan pengguna (maksimal 255), mengembalikan pilihan yang dipilih, distribusi probabilitas setiap pilihan, dan skor kepercayaan; cocok untuk skenario "pilih satu dari banyak" seperti perutean, klasifikasi, dan pemilihan alat.
  • Score (Penilaian Skala): Memberi skor pada status input sesuai skala penilaian yang ditetapkan pengguna, mengembalikan skor, distribusi probabilitas setiap tingkat, dan skor kepercayaan; cocok untuk skenario "berapa skor" seperti penilaian urgensi, peringkat kualitas, dan penggolongan risiko.
  • Noul (Penilaian Ya/Tidak): Memberikan nilai probabilitas antara 0–1 untuk apakah sebuah pernyataan benar, tidak mengembalikan skor kepercayaan secara terpisah; cocok untuk skenario keputusan biner seperti "apakah perlu dialihkan ke manusia" dan "apakah perlu tindakan".

Hubungan Ketiganya: Dapat digunakan bersama secara bebas dalam satu panggilan API yang sama, berbagi status input yang sama dan dievaluasi secara paralel independen — menambah pertanyaan hampir tidak menambah latensi dan tidak menimbulkan pelapukan konteks.

Cara Menggunakan Jev

  • Daftar Akun: Kunjungi situs resmi Jev https://console.typesafe.ai/ ; setelah mendaftar dapat langsung digunakan.
  • Dapatkan API Key: Buat dan salin API Key di konsol, digunakan untuk autentikasi panggilan API selanjutnya.
  • Siapkan Status Input (State): Susun situasi saat ini menjadi teks atau data terstruktur, seperti status game, daftar elemen halaman web, isi email; Jev melihat deskripsi status, bukan gambar mentah.
  • Definisikan Pertanyaan (Questions): Pilih salah satu dari tiga primitif sesuai kebutuhan — Choice (Keputusan Pilihan), Score (Penilaian Skala), Noul (Penilaian Ya/Tidak); setiap pertanyaan hanya menanyakan satu hal yang spesifik.
  • Kirim Permintaan Panggilan: Kirim permintaan melalui REST API atau SDK resmi; State dan beberapa pertanyaan ditempatkan dalam panggilan yang sama, dan model akan mengevaluasi semua pertanyaan secara paralel.
  • Parsing Hasil Bertipe: Dapatkan langsung hasil bertipe kuat seperti pilihan/skor/probabilitas dan skor kepercayaan; tidak perlu menulis prompt JSON atau parser tambahan, kode dapat langsung mengonsumsinya.
  • Gabungkan Multi-pertanyaan dengan Kode: Setelah memecah keputusan kompleks menjadi beberapa pertanyaan atomik, gabungkan hasil setiap dimensi dengan logika kode berbobot, alih-alih membiarkan model menimbang semuanya dalam satu pertanyaan.
  • Terapkan Triase Kepercayaan: Rancang strategi berdasarkan skor kepercayaan yang dikembalikan, mis. di atas 90% eksekusi otomatis, 60–90% eskalasi ke model bahasa besar, di bawah 60% dialihkan ke manusia.
  • Kalibrasi dan Verifikasi dengan Data Sendiri: Sebelum menerapkan aturan keputusan otomatis, periksa terlebih dahulu dengan data bisnis apakah probabilitas model sesuai dengan hasil aktual; jangan hanya melihat nilai skor kepercayaan sekali jalan.
  • Gunakan Bersama Model Generatif: Untuk skenario yang perlu menghasilkan teks (seperti mengisi formulir), panggil model generatif secara terpisah; Jev secara khusus menangani tahap keputusan frekuensi tinggi "pilih yang mana".

Keunggulan Inti Jev

  • Kecepatan Ekstrem: Latensi end-to-end hanya 70–500 milidetik, 20–200 kali lebih cepat dari model bahasa besar sejenis, mendukung siklus keputusan frekuensi tinggi sekitar 10 kali per detik.
  • Tanpa Halusinasi Format: Output dibatasi ketat pada rentang pilihan dan tipe yang ditetapkan pengguna, tidak perlu parsing JSON, menghilangkan jawaban ngawur dan kesalahan format.
  • Kepercayaan Terkalibrasi: Mengembalikan distribusi probabilitas dan skor kepercayaan terkalibrasi, sehingga kode dapat mengambil keputusan triase eksekusi otomatis, eskalasi model, atau intervensi manusia.
  • Multi-pertanyaan Paralel: Satu panggilan dapat mengevaluasi beberapa pertanyaan independen sekaligus, berbagi input yang sama dan hampir tidak menambah latensi, tidak menimbulkan pelapukan konteks.
  • Pemisahan Keputusan dan Generasi: Memisahkan "keputusan" dari generasi teks lengkap, menghindari pemakaian model besar untuk tugas kecil, membiarkan model generatif fokus pada produksi teks yang menjadi keahliannya.
  • Dapat Dikomposisikan dengan Kode: Desain pertanyaan atomik membuat logika bisnis tertanam dalam kode; perubahan prioritas hanya perlu mengubah koefisien alih-alih menulis ulang prompt, lebih dapat dikontrol dan dipelihara.
  • Pemahaman Semantik Universal: Berbasis arsitektur Transformer, memiliki kemampuan pemahaman semantik universal; saat aturan dan kandidat sering berubah, tidak perlu dilatih ulang seperti pengklasifikasi tradisional.

Perbandingan Jev dengan Kompetitor Sejenis

Dimensi Perbandingan Jev (Model Keputusan System One) Gemini 2.5 Flash (LLM Umum untuk Keputusan Klasifikasi)
Esensi Model Model klasifikasi yang dilatih khusus untuk keputusan, tanpa kemampuan generasi teks Model besar multimodal autoregressive umum, generasi teks adalah pekerjaan utama
Latensi Respons 70–500 milidetik, stabil dan dapat diprediksi Ratusan milidetik hingga beberapa detik, sangat dipengaruhi panjang prompt dan jumlah token keluaran
Biaya Panggilan Input 0,042 dolar/sejuta Token, keluaran gratis Penagihan dua arah input dan keluaran, biaya keseluruhan 10–20 kali lebih tinggi
Akurasi Klasifikasi Dalam uji komunitas pada klasifikasi email bisnis sedikit lebih rendah dari Gemini Lebih akurat pada tugas umum, pemahaman semantik lebih menyeluruh
Bentuk Output Keputusan bertipe + distribusi probabilitas + skor kepercayaan terkalibrasi Teks bebas atau JSON terbatas, tanpa skor kepercayaan terkalibrasi native
Kontrol Halusinasi Dibatasi ketat pada pilihan yang telah ditentukan, tanpa halusinasi format Ada kemungkinan output di luar batas dan pergeseran bidang
Paralelisme Multi-tugas Satu panggilan mengevaluasi beberapa pertanyaan independen secara paralel, nol latensi tambahan Perlu beberapa panggilan serial atau merakit prompt kompleks, mudah terjadi pelapukan konteks
Kemampuan Multimodal Hanya memproses status teks terstruktur Mendukung gambar, teks, audio, dan video secara native, dapat langsung "melihat gambar lalu menilai"

Skenario Penerapan Jev

  • Perutean Agent dan Penjadwalan Alat: Menilai frekuensi tinggi apakah maksud saat ini harus memanggil pencarian, basis data, atau eksekusi kode; hanya memilih dari daftar API valid yang telah ditentukan, menghilangkan nama alat halusinasi sekaligus mendukung siklus cepat Agent dengan respons tingkat milidetik.
  • Triase Tiket Layanan Pelanggan: Satu panggilan secara paralel menilai tim pemilik tiket, tingkat urgensi, dan kelengkapan informasi, membuat jutaan email/tiket per hari melalui triase otomatis dengan biaya hampir nol.
  • Keputusan Game dan Simulasi: Menerima status terstruktur dari mesin game, memilih langkah dengan kecepatan sekitar 10 kali per detik dalam himpunan aksi yang telah ditentukan, menggerakkan pemain AI untuk game seperti DOOM dan Mario.
  • Otomasi Peramban: Setelah menomori elemen halaman, Jev memutuskan langkah demi langkah tombol mana yang diklik dan kolom input mana yang diisi; hanya beralih ke model generatif saat perlu menghasilkan teks, menyelesaikan tugas seperti mencari tiket pesawat dengan belasan langkah hanya dalam beberapa detik.
  • Kompresi Konteks dan Perutean Model: Dalam konteks panjang jutaan token, menilai informasi mana yang kritis dan mana yang bisa dibuang, serta memprediksi kompleksitas tugas secara real-time untuk menentukan dikirim ke model ringan atau model unggulan, mencapai alokasi optimal biaya dan efektivitas.

Pertanyaan yang Sering Diajukan tentang Jev

T1: Apa itu Jev?

J1: Jev adalah model keputusan terstruktur berbasis AI yang diluncurkan oleh TypeSafe AI; berbasis Transformer tetapi tidak menghasilkan teks, melainkan mengembalikan tiga jenis keputusan bertipe — Choice (Pilihan), Score (Skor), Noul (Ya/Tidak) — dalam pilihan yang telah ditentukan, disertai skor kepercayaan terkalibrasi, dirancang khusus untuk skenario keputusan frekuensi tinggi Agent.

T2: Apa bedanya Jev dengan model bahasa besar?

J2: Jev bukan model bahasa besar; model ini tidak menghasilkan kalimat, hanya mengembalikan keputusan terstruktur dalam rentang pilihan dan tipe yang ditetapkan pengguna, sehingga tidak ada halusinasi format; latensi respons sekitar 70–500 milidetik, 20–200 kali lebih cepat daripada model bahasa besar sejenis, cocok untuk keputusan frekuensi tinggi seperti perutean alat dan triase tiket, sementara generasi teks tetap diserahkan kepada model generatif.

T3: Bagaimana kecepatan respons dan biaya Jev?

J3: Latensi end-to-end sekitar 70–500 milidetik, mendukung sekitar 10 siklus keputusan per detik; penagihan input 0,042 dolar/sejuta Token, keluaran gratis, cocok untuk panggilan jenis keputusan dalam jumlah besar dan frekuensi tinggi.

T4: Untuk skenario apa Jev cocok?

J4: Cocok untuk skenario yang membutuhkan keputusan tipe "pilih yang mana" frekuensi tinggi dan latensi rendah, seperti perutean alat Agent, triase tiket layanan pelanggan, pemilihan langkah AI game, operasi otomasi peramban, serta penyaringan informasi dan perutean model dalam konteks panjang.

Pertanyaan yang sering diajukan

Apa itu Jev?

Jev adalah model keputusan terstruktur berbasis AI yang diluncurkan oleh TypeSafe AI; berbasis Transformer tetapi tidak menghasilkan teks, melainkan mengembalikan tiga jenis keputusan bertipe — Choice (Pilihan), Score (Skor), Noul (Ya/Tidak) — dalam pilihan yang telah ditentukan dengan skor kepercayaan terkalibrasi, dirancang khusus untuk skenario keputusan frekuensi tinggi Agent.

Apa bedanya Jev dengan model bahasa besar?

Jev bukan model bahasa besar; model ini tidak menghasilkan kalimat, hanya mengembalikan keputusan terstruktur dalam rentang pilihan dan tipe yang ditetapkan pengguna, sehingga tidak ada halusinasi format; latensi respons sekitar 70–500 milidetik, 20–200 kali lebih cepat daripada model bahasa besar sejenis, cocok untuk keputusan frekuensi tinggi seperti perutean alat dan triase tiket, sementara generasi teks tetap diserahkan kepada model generatif.

Bagaimana kecepatan respons dan biaya Jev?

Latensi end-to-end sekitar 70–500 milidetik, mendukung sekitar 10 siklus keputusan per detik; penagihan input 0,042 dolar/sejuta Token, keluaran gratis, cocok untuk panggilan jenis keputusan dalam jumlah besar dan frekuensi tinggi.

Untuk skenario apa Jev cocok?

Cocok untuk skenario yang membutuhkan keputusan tipe "pilih yang mana" frekuensi tinggi dan latensi rendah, seperti perutean alat Agent, triase tiket layanan pelanggan, pemilihan langkah AI game, operasi otomasi peramban, serta penyaringan informasi dan perutean model dalam konteks panjang.