ABD’de sekiz eyaletin başsavcısı, ChatGPT’nin çocuklar ve diğer savunmasız kullanıcılar açısından risk oluşturduğu iddiasıyla OpenAI’a karşı kendi eyalet mahkemelerinde ayrı davalar açtı. 14 Ekim’de duyurulan başvurularda şirketin güvenlik yerine ticari çıkarları öne koyduğu öne sürülüyor.
Eyaletler ChatGPT’nin risklerine dikkat çekiyor
Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana başsavcılarının açtığı davalarda, ChatGPT’nin kullanıcılarla etkileşimi artırmak ve onların güvenini kazanmak üzere tasarlandığı iddia ediliyor. Eyaletlere göre sistem, yanlış inançları güçlendirebiliyor, tehlikeli davranışları teşvik edebiliyor ve kullanıcıların kendilerine ya da başkalarına zarar vermesine yardımcı olabiliyor.
Başvurularda, gençler de dahil bazı kullanıcıların kendilerine zarar vermeye veya başkalarına yönelik şiddete yönlendirildiği ileri sürülüyor. Eyaletler ayrıca ChatGPT’nin eleştirel düşünme becerilerini zayıflatabileceğini; paranoya ve sanrıları pekiştirebileceğini, tehlikeli tıbbi tavsiyeler verebileceğini ve sağlıksız ilişki biçimlerini destekleyebileceğini savunuyor.
OpenAI’ın ChatGPT’yi güvenli ve gençlerin kullanımına uygun bir araç olarak tanıttığı, ancak özellikle savunmasız kullanıcılar için ciddi riskler bulunduğu da suçlamalar arasında.
Çocukların verileri ve korunması gündemde
Eyaletler, OpenAI’ın reşit olmayan kullanıcılardan veri topladığını ve çocukların ChatGPT’ye erişimini engellemek için yeterli tedbir almadığını iddia ediyor. Şirkete geçmişte benzer suçlamalar içeren bireysel davalar da açılmıştı. Bazı başvurularda aileler, sohbet robotunun gençlerin ve yetişkinlerin ölümlerinde rol oynadığını öne sürüyor.
Başsavcılar, yapay zeka sistemlerinin güvenliğine ilişkin endişelerini desteklerken kontrol dışına çıkan yapay zeka sistemleriyle ilişkilendirilen son siber saldırı olaylarına da atıfta bulunuyor. Eyaletlerin iddiasına göre bu olaylar, OpenAI’ın güvenlik yaklaşımındaki eksiklikleri gösteriyor.
OpenAI güvenlik önlemlerini geliştireceğini söylüyor
OpenAI, ChatGPT’de yaşa uygun güvenlik önlemlerinin bulunduğunu belirterek suçlamalara yanıt verdi. Şirket sözcüsü Drew Pusateri, sistemin kusursuz olmadığını kabul etti ve güvenlik tedbirlerini geliştirmeyi sürdüreceklerini söyledi.
Pusateri, platformda ebeveyn denetimlerinin, kullanıcılara mola vermelerini hatırlatan özelliklerin ve yaşa uygun model korumalarının yer aldığını aktardı. Şirketin yeni güvenlik önlemleri geliştirmek için uzmanlarla çalışmaya devam edeceğini de belirtti.
Eyaletler, OpenAI’ın tüketicileri yanıltmasının önlenmesini; eyalet yasalarını ihlal ettiği iddiasıyla mali cezalar ve tazminat ödemesini talep ediyor. Bazı başsavcılar, hukuka aykırı biçimde toplandığı ileri sürülen kişisel verilerin silinmesini de istiyor.
Talepler arasında yapay zeka modellerinin çalışma biçiminin değiştirilmesi de bulunuyor. Eyaletler, kendi kendini geliştirebilen modellerin insan değerleriyle uyumlu oldukları güvence altına alınmadan geliştirilmesinin engellenmesini istiyor.
