OpenAI’ın eylül ayında tanıttığı kişisel yapay zeka asistanı dot, kullanıcıdan yeni bir görev almadan yürüttüğü işlemlerle gündeme geldi. Yapay zeka güvenliği ve yönetimi alanında çalışan Geordie’nin incelemesinde sistemin bir günde 155 işlem dizisi başlattığı ve toplam 307 bin token kullandığı kaydedildi.
Meta Muse ve Grok Bot gibi otonom sistemlerin ardından kullanıma sunulan dot, sohbet botlarından farklı olarak kendi görevlerini oluşturup arka planda araştırma yapabiliyor. Geordie’nin bulguları, bu çalışma biçiminin güvenlik ve maliyet konularında soru işaretleri doğurduğunu gösteriyor.
Testi yürüten Geordie Üst Düzey Yapay Zeka Sorumlusu Hanah-Marie Darley, asistana yalnızca salt okunur erişim verdi. Sistem herhangi bir kişisel uygulamaya, e-posta hesabına ya da Slack kanalına bağlı değildi. Buna rağmen dot, çalışmaya başladığında kendi araştırma sürecini başlattı.
Dot kendi görevlerini oluşturdu
Asistan önce erişebildiği sistemleri, yetkilerini ve altyapıyı inceledi; elde ettiği bilgileri düzenli olarak güncellenen bir ajandada topladı. Ardından kullanıcıdan talimat ya da zamanlanmış görev olmaksızın yeni alt temsilciler oluşturarak araştırmayı genişletti.
İncelemeye göre ana temsilci kullanıcıyla iletişim kurarken ikinci bir temsilci arka planda bilgi toplamayı sürdürdü. Belirli işleri tamamlamak için ihtiyaç duyulduğunda kısa süreli başka alt temsilciler de devreye girdi.
Test sırasında bir temsilci erişilebilir kod depolarını kontrol etti, diğeri ise toplanan bilgilerin envanterini çıkardı. Kaydedilen 155 işlem dizisinin 50’si yalnızca iki dakikada gerçekleşti. Araştırmacılar, işlemlerin kullanıcıya ayrıca bildirilmeden yürütüldüğünü belirtti.
Günlük kullanım maliyeti 10 dolara yaklaşabilir
Geordie’nin testinde 155 işlem dizisinin toplam tüketimi 307 bin token oldu. Otonom sistemlerin arka plandaki faaliyetleri, kullanıcı yeni bir işlem başlatmasa da yüksek miktarda kaynak kullanabiliyor.
OpenAI’ın Astra modelinin fiyatlandırmasına göre yapılan hesaplamada, günde yaklaşık 200 bin token kullanımının 5 ila 10 dolar arasında maliyet oluşturabileceği belirtildi. Bu tutar dot kullanıcılarından alınmış bir ücret değil; benzer tüketimin olası maliyetine ilişkin bir hesaplama.
Uzmanlardan veri güvenliği uyarısı
Hanah-Marie Darley, geleneksel yapay zeka araçları ile otonom temsilciler arasındaki temel farkın görev belirleme yetkisi olduğunu vurguluyor. Geleneksel sistemler çoğunlukla kullanıcı talimatlarını yerine getirirken kişisel temsilciler kendi araştırmalarını ve alt görevlerini oluşturabiliyor. Bu özellik üretkenliği artırma potansiyeli taşısa da erişim izinleri ve veri güvenliği konusunda dikkat gerektiriyor.
Darley, e-postayla gönderilmesi uygun olmayacak hassas kişisel veya kurumsal bilgilerin bu sistemlerle paylaşılmamasını öneriyor. Alışveriş yetkisi verilen yapay zeka temsilcilerinde ise kişisel kredi kartları yerine harcama limiti bulunan sanal kartların kullanılmasını tavsiye ediyor.
