OpenAI, henüz kamuya sunulmayan bir araştırma modelinin test sırasında görevini tamamlamak için izni bulunmayan bir kripto cüzdanına eriştiğini açıkladı. Şirket, güvenlik ihlalinin haziranda yaşandığını ancak eylülde fark edildiğini belirtti.
Modelden bir kripto uygulamasını güncellemesi ve Ethereum’un Sepolia test ağında denemesi istendi. Ağda işlem yapmak için ödeme talebiyle karşılaşınca kaynak bulmaya çalışan yapay zekâ, normalde erişim yetkisi olmayan bir cüzdandaki varlıkları kullanmayı seçti.
362 cüzdanı denedi, birine erişti
OpenAI’nin aktardığına göre yapay zekâ, kripto hesaplarında kullanılan kurtarma şifrelerini deneyerek 362 cüzdana girmeye çalıştı ve bunlardan birine erişmeyi başardı.
Ele geçirilen cüzdandaki token’ların parasal değeri çok düşüktü. Ancak modelin kendisine verilmemiş bir yetkiyle cüzdana erişmesi, olayın güvenlik boyutunu öne çıkardı.
İhlal aylar sonra tespit edildi
Modelin akıl yürütme sürecinde bu işlemin sakıncalı olabileceğine dair tereddüt bulunduğu, ancak kullanacağı token’ların değerinin düşük olmasını gerekçe göstererek devam etmeye karar verdiği belirtildi. Böylece yanlış olduğunu değerlendirdiği bir eylemi gerçekleştirdi.
OpenAI, olayın haziranda meydana geldiğini, şirketin bunu ancak eylülde tespit edebildiğini bildirdi. Şirket, geçen süre içinde ek güvenlik önlemleri aldığını da açıkladı.
