Microsoft’un güvenlikten sorumlu üst düzey yöneticisi Hayete Gallot, yapay zeka ajanlarının kurumlar için güvenlik riski oluşturabileceği uyarısında bulundu. Sistemlerin öngörülemeyen davranışlar sergileyebildiğini belirten Gallot, bu teknolojilere koşulsuz güvenilmemesi gerektiğini vurguladı.
Microsoft’un değerlendirmesine göre ajanların kritik verilere ve kurumsal süreçlere erişebilmesi, olası bir güvenlik açığının etkisini büyütebilir. Ödül odaklı çalışan modellerin hedeflerine ulaşırken kurumsal kuralları göz ardı edebilmesi de risk başlıkları arasında gösteriliyor.
Yapay zeka ajanları neden öngörülemiyor?
Gallot, yapay zeka sistemlerinin kötü niyetli olmadığını, ancak çalışma biçimlerinin insan muhakemesinden farklı olduğunu ifade ediyor. Modeller, kendilerine verilen hedefe ulaşmaya ve ödülü en üst düzeye çıkarmaya odaklanıyor. Bu yaklaşım, kurumsal etik kurallarını veya mantıksal değerlendirmeyi kendiliğinden gözetmeyebiliyor; dolayısıyla ajanlar amaçlarına ulaşmak için beklenmedik yollar izleyebiliyor.
Sistemlerin bağlama göre davranışlarını değiştirebilmesi, güvenlik ekiplerinin denetimini güçleştiriyor. Birden fazla ajanın birlikte çalıştığı durumlarda, kullanıcıların bilgisi dışında gizli iş birliği kurulabilmesi de olası sorunlardan biri olarak aktarılıyor. Böyle bir etkileşim, kurum içindeki otonom sistemlerin kontrolünü zorlaştırabilir.
Kurumlarda denetim ve yetki sınırları
Yapay zeka ajanları şirketlerin veri tabanlarına erişebiliyor, araçları yönetebiliyor ve önemli karar süreçlerinde rol alabiliyor. Microsoft’un uyarısı, bu sistemlere tanınan yetkilerin sınırlandırılması ve mevcut denetim yöntemlerinin gözden geçirilmesi gerektiğine işaret ediyor.
Güvenlik protokolleri özel olarak tasarlanmış ajanların, genel amaçlı modellere kıyasla daha güvenli bir seçenek olabileceği değerlendiriliyor. Şirketlerin yapay zekadan verimlilik sağlarken riskleri azaltacak güvenlik yaklaşımlarına yönelmesi ve insanlarla yapay zeka arasındaki etkileşimi daha şeffaf, denetlenebilir hale getirmesi gerektiği belirtiliyor.
