OpenAI, uygulamaların belirli seçenekler arasından hızlıca karar vermesine yardımcı olan Decisions API’yi 22 Ekim’de genel kullanıma sundu. GPT-6 Luna üzerine kurulan araç; talepleri ilgili ekiplere yönlendirme ve yazılımlarda sıradaki adımı seçme gibi işlemlerde bekleme süresiyle maliyeti azaltmayı amaçlıyor.
Uygulamalar için seçenekler arasından karar veriyor
Geliştiriciler Decisions API’ye soruyu, yanıt seçeneklerini ve karar için gerekli bilgileri tanımlıyor. Sistem, girdileri değerlendirerek bir seçeneği işaretleyebiliyor, olasılık hesaplayabiliyor ya da seçeneklere puan verebiliyor. Kararıyla birlikte güven bilgisi de sunuyor.
OpenAI’ın açıklamasına göre araç, seçenekler arasından yanıt seçilmesi gereken görevlerde aynı modelin standart kullanımından 10 kata kadar daha hızlı çalışabiliyor. Şirket bu karşılaştırmanın yapay zekâ görevlerinin tamamını kapsamadığını belirtiyor.
Örneğin bir uygulama, müşteri mesajını inceleyip talebi fatura veya teknik destek ekibine gönderebilir. Başka bir kullanımda ürün fotoğrafındaki hasar belirlenerek düzeyi puanlanabilir.
Geliştiriciler metin, görsel ve düzenli veri girdilerinden yararlanabiliyor. OpenAI, tek istekte kullanılabilen soru sayısı sınırını 200’den 400’e çıkardı. GPT-Live bağlantısı ise sesli görüşmelerde sıradaki adımın seçilmesine yardımcı oluyor.
Speak, bekleme süresini 1,4 saniyeden 0,13 saniyeye indirdi
Dil öğrenme uygulaması Speak, kendi testinde iki işlem arasındaki bekleme süresini 1,4 saniyeden 0,13 saniyeye düşürdüğünü bildirdi. Açıklanan sonuç, şirketin denediği kullanım biçimine ait.
Başka şirketler de aracı farklı görevlerde deniyor. Box, belgeleri sınıflandırıp ilgili işlemlere yönlendiriyor. Datadog, yapay zekânın çalıştırmayı planladığı komutların riskini değerlendiriyor. Ramp ise yapay zekâ harcamalarının hangi işlerden kaynaklandığını ayırmak için Decisions API’yi kullanıyor.
Decisions API, Jev ile rekabet ediyor
OpenAI’ın bu alandaki rakiplerinden biri TypeSafe’in Jev modeli. Bu araçlar, uygulamalarda sık tekrarlanan seçimlere odaklanıyor.
TypeSafe, Jev 1.14’ü 14 Ekim’de duyurdu ve görsel desteği ile daha uzun girdiler gibi özellikleri denemeye açtı. Şirket, bu özelliklerin iş süreçlerinde kullanım için kendi güvenilirlik ölçütlerini henüz karşılamadığını belirtiyor.
Hız, modelleri karşılaştırmak için tek ölçüt değil. AIMultiple, başarı puanını hız ve maliyetten ayrı hesaplıyor. Kaynakta belirtilen kontrol tarihinde D1 Ultra listede ilk sırada, Jev 1.14 ise yedinci sırada yer aldı.
Opper AI, karar modellerini Pac-Man oynatarak sınayan JevMan testini yürütüyor. Testte modellerin oyun sırasında art arda gelen yön seçimlerini nasıl yaptığı ölçülüyor.
Ücret, girdi miktarına göre hesaplanıyor
OpenAI, Decisions API’nin bir milyon girdi birimi için 0,10 dolar ücret alıyor. Metin ve diğer girdiler, “token” adı verilen küçük birimler üzerinden hesaplanıyor; yanıtlar için ayrıca ücret alınmıyor.
Bu fiyat, her kararın sabit bir bedeli olduğu anlamına gelmiyor. Kullanım ücreti, her istekte işlenen bilgi miktarına göre belirleniyor.
