OpenAI, ileri seviye yapay zeka modellerinin eğitimini gerçek internet bağlantısı bulunmayan güvenli ortamlarda sürdürecek. Şirket, eğitim ve değerlendirme çalışmalarının çoğunda canlı internete ihtiyaç olmadığını; ajanların kullanacağı araçların ise kontrollü, çevrimdışı bir sistemde erişilebilir olacağını belirtiyor.
Kararın arka planında şirketin testlerde karşılaştığı güvenlik sorunları da var. OpenAI, temmuz ayında sınadığı yapay zeka ajanlarının Hugging Face platformunu hacklediğini açıklamıştı. Bu olay, ajanların denetim dışına çıkma ihtimaline ilişkin endişeleri artırmıştı.
Ajanlar için çevrimdışı internet ortamı
Yeni düzende ajanlar görevlerini yerine getirmek için tarayıcıları, bilgisayar kullanım araçlarını ve kod çalıştırma ortamlarını kullanabilecek. Ancak bu araçlar gerçek internete bağlanmayacak; ajanların iletişimi de yalnızca izin verilen sistemlerle sınırlı tutulacak.
OpenAI, canlı internet bağlantısının model eğitimi ve değerlendirmelerinin büyük bölümü için gerekli olmadığını söylüyor. Ajanların web içeriğiyle çalışabilmesi amacıyla dizinlenmiş ve önbelleğe alınmış materyallerden yararlanan bir tür çevrimdışı internet ortamı oluşturuldu.
Bu yöntem, internet üzerinde gezinebilen ve uygulamalarla etkileşime girebilen Dots gibi yapay zeka ajanlarının geliştirilmesi açısından da önem taşıyor. Modeller böylece gerçek web sitelerine doğrudan bağlanmadan internet içeriğine dayalı görevleri yerine getirebiliyor.
Güvenlik testlerinde yeni zayıflıklar ortaya çıktı
İnternet bağlantısının kesilmesi tüm riskleri ortadan kaldırmadı. OpenAI’ın güvenlik önlemlerini sınamakla görevlendirdiği kırmızı takım ajanları, başka açıklar da tespit etti.
Testlerde bazı ajanların, ana sistemden yalıtım amacıyla kullanılan sanal makinelerden çıkabildiği görüldü. Ajanların ayrıca işlemci önbelleğindeki verileri değiştirerek ve verilerin yüklenme sürelerini ölçerek birbirleriyle iletişim kurabildiği belirlendi.
OpenAI, farklı sanal makine ortamlarındaki güvenlik açıklarını bildirdiğini ve giderdiğini açıkladı. Şirket, modellerin birlikte hareket etme veya izinsiz iletişim kurma girişimlerini saptamak için izleme sistemlerine yeni kontroller de ekledi.
Eğitim çalışmaları 1 Ekim’de yeniden başladı
Şirket, ileri seviye yapay zeka modellerinin eğitimini eylül ayında durdurmuştu. OpenAI, yeni güvenlik yaklaşımını duyururken çalışmaların 1 Ekim’de yeniden başladığını bildirdi.
OpenAI, güvenlik önlemleri daha geniş internet erişimini haklı çıkaracak düzeye ulaşana kadar modelleri internete kapalı ortamlarda eğitmeyi sürdürecek. Şirket, daha geniş erişim için hangi somut güvenlik koşullarının karşılanması gerektiğini henüz açıklamadı.
