Apple, App Store kurallarını güncelleyerek yapay zekâyla kişilerin izni olmadan cinsel içerikli veya çıplak sahte görüntüler üreten uygulamalara yönelik yükümlülükleri artırdı. Şirket, içerikleri önlemeyen ya da inceleme onayından sonra gizlice yeni özellikler ekleyen uygulamaları ve geliştirici hesaplarını mağazadan çıkarabilecek.
İçerik denetimi ve geliştirici sorumlulukları
Apple’ın 16 Ekim’de duyurduğu değişiklikler, App Store Review Guidelines’ın üç bölümünde düzenleme yapıyor. Şirket, pornografik içerik üreten uygulamaların zaten yasak olduğunu hatırlatırken, kullanıcıların içerik oluşturup paylaşabildiği uygulamalara yönelik denetim şartlarını da genişletti.
Güncellenen 1.2 numaralı kural uyarınca geliştiricilerin, rıza olmadan oluşturulan cinsel içerikli görüntüleri proaktif olarak engellemesi ve tespit edilen içerikleri kaldırması gerekiyor. Yapay zekâyla üretilen sahte görüntüler de bu kapsama dahil. Bu nedenle geliştiriciler yalnızca kullanıcı şikâyeti geldikten sonra işlem yapmakla yetinemeyecek.
Apple, yeterli güvenlik önlemi almayan veya ihlal bildirimlerinin ardından gereken düzeltmeleri yapmayan geliştiricilerin uygulamalarını App Store’dan kaldırabileceğini belirtiyor. Kullanıcıların zararlı içerikleri bildirebilmesi ve kötüye kullanım yapan hesapları engelleyebilmesi de platformun yükümlülükleri arasında.
İnceleme sonrasında gizlenen özelliklere yaptırım
Güncellenen 2.5.19 numaralı kural, uygulama incelemesinde onaylanan sürümden farklı işlevlerin sonradan eklenmesini açıkça yasaklıyor. Apple, inceleme sırasında zararsız görünen bir uygulamanın daha sonra kişileri kıyafetleri çıkarılmış gibi gösteren yapay zekâ özellikleri kazanmasını bu soruna örnek olarak ele alıyor. “Bait-and-switch” adı verilen bu yöntemde uygulamanın gerçek işlevleri inceleme sürecinde gizlenebiliyor.
Onaylanan sürümde yer almayan özelliklerin eklenmesi veya uygulamanın işlevlerinin değiştirilmesi halinde Apple yazılımı mağazadan kaldırabilecek. İhlal durumunda geliştiricinin Apple Developer Program üyeliği de sonlandırılabilecek.
Çocuk istismarı içeriğine karşı yeni kurallar
App Store kurallarının beşinci bölümündeki değişiklikler, insan ticaretini veya çocukların istismarını kolaylaştıran uygulamaları kapsıyor. Çocukların cinsel istismarını içeren materyaller barındıran uygulamalar mağazadan kaldırılacak. Apple, bu tür uygulamaların alternatif dağıtım kanallarında sunulmasını da engelleyecek.
Kuralların arka planı ve Apple’ın açıkladığı veriler
Yeni düzenlemeler, yıl boyunca yapay zekâyla oluşturulan sahte cinsel içerikler nedeniyle Apple’a yöneltilen eleştirilerin ardından geldi. X’in yapay zekâ aracı Grok kullanılarak kişilerin rızası dışında cinselleştirilmiş sahte görüntüler oluşturulması tepki çekmişti. Apple, tartışmalara karşın X ve Grok uygulamalarını App Store’dan kaldırmadı.
Şirket, ABD’li senatörlere verdiği yanıtta Grok’un mağazadan çıkarılabileceği konusunda uyarıldığını bildirdi. Haziran ayında yapılan WWDC 2026 etkinliğinde protestocular, Apple’dan Grok, X ve benzer görüntü oluşturma teknolojilerini kullanan uygulamaları kaldırmasını istedi.
Temmuzda San Francisco Şehir Savcısı David Chiu, Apple ve Google’a gönderdiği ihtarnamelerde rıza dışı çıplak görüntüler üretebilen toplam 13 uygulamanın kaldırılmasını talep etti. Apple, bunlardan üçünü kaldırdığını ve geliştirici hesaplarını kapatma sürecini başlattığını doğruladı. Google da kendisine bildirilen beş Android uygulamasını Play Store’dan çıkardı.
Apple’ın paylaştığı bilgilere göre şirket, geçtiğimiz yıl güvenlik sorunu taşıyan 150 binden fazla uygulamanın kullanıcılara ulaşmasını engelledi. Dolandırıcılık ve kötüye kullanım faaliyetleri nedeniyle 193 binden fazla geliştirici hesabının üyeliği de sona erdirildi. Şirket, bazı geliştiricilerin zararlı özellikleri onaydan sonra etkinleştirdiğini, kimi durumlarda bunun koordineli dolandırıcılık faaliyetleri kapsamında yapıldığını belirtti.
