OpenAI çocukların cinsel istismarındaki artışa yönelik yeni bir güvenlik planı yayınladı
Çevrimiçi ortamda çocuk güvenliğine ilişkin artan endişelere yanıt olarak OpenAI, AI patlamasının ortasında ABD'deki çocuk koruma çabalarını geliştirmeye yönelik bir plan açıkladı. Salı günü yayınlanan Çocuk Güvenliği Taslağı, AI kapsamındaki çocuk istismarı vakalarının daha hızlı tespit edilmesine, daha iyi rapor edilmesine ve daha etkili bir şekilde soruşturulmasına yardımcı olmak için tasarlandı.
Çocuk Güvenliği Planının genel amacı, AI'deki gelişmelere bağlı olarak çocukların cinsel istismarındaki endişe verici artışla mücadele etmektir. Internet Watch Foundation'a (IWF) göre, 2025'in ilk yarısında AI tarafından oluşturulan çocuklara yönelik cinsel istismar içeriğine ilişkin 8.000'den fazla rapor tespit edildi; bu, bir önceki yıla göre %14 artış gösterdi. Buna, mali şantaj amacıyla çocukların sahte müstehcen resimlerini oluşturmak ve tımar için ikna edici mesajlar oluşturmak amacıyla AI araçlarını kullanan suçlular da dahildir.
OpenAI planı aynı zamanda politika yapıcıların, eğitimcilerin ve çocuk güvenliği savunucularının, özellikle de AI sohbet robotlarıyla etkileşime geçtikleri iddia edilen genç bireylerin intihar ederek öldüğü rahatsız edici olaylar ışığında, artan incelemeleri sırasında ortaya çıkıyor.
Geçtiğimiz Kasım ayında, Sosyal Medya Mağdurları Hukuk Merkezi ve Teknik Adalet Hukuku Projesi, OpenAI'nin GPT-4o'yi hazır olmadan önce serbest bıraktığı iddiasıyla Kaliforniya eyalet mahkemelerinde yedi dava açtı. Davalar, ürünün psikolojik olarak manipülatif doğasının intihar nedeniyle haksız ölümlere katkıda bulunduğunu ve intihara yardım ettiğini iddia ediyor. İntihar sonucu ölen dört kişiden ve chatbot ile uzun süreli etkileşimlerden sonra şiddetli, yaşamı tehdit eden sanrılar yaşayan diğer üç kişiden bahsediyorlar.
Bu plan, Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi (NCMEC) ve Başsavcı İttifakı ile işbirliğinin yanı sıra Kuzey Carolina Başsavcısı Jeff Jackson ve Utah Başsavcısı Derek Brown'ın geri bildirimleriyle geliştirildi.
Şirket, planın üç noktaya odaklandığını söylüyor: mevzuatın AI tarafından oluşturulan suiistimal materyallerini içerecek şekilde güncellenmesi, kolluk kuvvetlerine raporlama mekanizmalarının iyileştirilmesi ve önleyici tedbirlerin doğrudan AI sistemlerine entegre edilmesi. Bunu yaparak, OpenAI yalnızca potansiyel tehditleri daha erken tespit etmeyi değil, aynı zamanda işlem yapılabilir bilgilerin araştırmacılara derhal ulaşmasını sağlamayı da amaçlamaktadır.
OpenAI'in yeni çocuk güvenliği planı, 18 yaşın altındaki kullanıcılarla etkileşimler için uygunsuz içerik oluşturulmasını veya kendine zarar vermeyi teşvik eden ve gençlerin güvenli olmayan davranışları bakıcılardan gizlemesine yardımcı olacak tavsiyelerden kaçınan güncellenmiş yönergeler de dahil olmak üzere önceki girişimlere dayanıyor. Şirket yakın zamanda Hindistan'daki gençler için bir güvenlik planı yayınladı.