OpenAI, çevrim içi ortamda paylaşılan çocuk istismarı görüntülerini saptayabilen yeni bir sınıflandırma aracı tanıttığını duyurdu. Şirketin internet sitesinden yapılan açıklamaya göre bu araç, yapay zeka tarafından üretilmiş görseller de dahil olmak üzere daha önce fark edilmemiş istismar içeriklerini görsel ipuçlarından yola çıkarak belirliyor.
Araç, incelediği her görüntüye bir puan veriyor; bu sayede inceleme ekipleri hangi içeriğe öncelik vermesi gerektiğini daha hızlı anlayabiliyor. OpenAI, bu sistemi yapay zeka üretimi çocuk istismarı içeriklerini ayrı bir sinyalle işaretleyen ve geniş çapta kullanıma açılan ilk sınıflandırma aracı olarak tanımladı. Şirket, bu aracı onay almış kuruluşlara ücretsiz olarak sunacağını belirtti.
ChatGPT'de yeni uyarı sistemi devreye girecek
OpenAI, ChatGPT üzerinde zaten uygulanan güvenlik önlemlerinin yanına, çocuk istismarı içeriği aratan kullanıcıları durdurmayı hedefleyen yeni uyarılar ekleyeceğini açıkladı. Bu uyarılar sayesinde, bir görüntü yapay zeka ile oluşturulmuş olsa dahi çocuklara yönelik istismar barındırabilecek içeriklerin gerçek bir zarara yol açtığı kullanıcıya hatırlatılacak.
- Tekrar ihlal halinde erişim kısıtlaması daha da uzayabiliyor.
OpenAI, ihlalin tekrarlanması durumunda hesabın tamamen kapatılabileceğini ya da konunun yetkili mercilere iletilebileceğini ifade etti. Şirket, bu yaklaşımı çocuk istismarıyla mücadele eden kuruluşlardan ve akademik danışmanlardan gelen katkılarla şekillendirdiğini açıkladı.




