OpenAI çocuk istismarı görüntülerini tespit eden araç geliştirdi

OpenAI, yapay zekayla üretilenler dahil çocuk istismarı içeriğini tespit eden aracı onaylı kuruluşlara ücretsiz sunacağını duyurdu.

OpenAI çocuk istismarı görüntülerini tespit eden araç geliştirdi

OpenAI, çevrim içi ortamda paylaşılan çocuk istismarı görüntülerini saptayabilen yeni bir sınıflandırma aracı tanıttığını duyurdu. Şirketin internet sitesinden yapılan açıklamaya göre bu araç, yapay zeka tarafından üretilmiş görseller de dahil olmak üzere daha önce fark edilmemiş istismar içeriklerini görsel ipuçlarından yola çıkarak belirliyor.

Araç, incelediği her görüntüye bir puan veriyor; bu sayede inceleme ekipleri hangi içeriğe öncelik vermesi gerektiğini daha hızlı anlayabiliyor. OpenAI, bu sistemi yapay zeka üretimi çocuk istismarı içeriklerini ayrı bir sinyalle işaretleyen ve geniş çapta kullanıma açılan ilk sınıflandırma aracı olarak tanımladı. Şirket, bu aracı onay almış kuruluşlara ücretsiz olarak sunacağını belirtti.

ChatGPT'de yeni uyarı sistemi devreye girecek

OpenAI, ChatGPT üzerinde zaten uygulanan güvenlik önlemlerinin yanına, çocuk istismarı içeriği aratan kullanıcıları durdurmayı hedefleyen yeni uyarılar ekleyeceğini açıkladı. Bu uyarılar sayesinde, bir görüntü yapay zeka ile oluşturulmuş olsa dahi çocuklara yönelik istismar barındırabilecek içeriklerin gerçek bir zarara yol açtığı kullanıcıya hatırlatılacak.

  • Tekrar ihlal halinde erişim kısıtlaması daha da uzayabiliyor.

OpenAI, ihlalin tekrarlanması durumunda hesabın tamamen kapatılabileceğini ya da konunun yetkili mercilere iletilebileceğini ifade etti. Şirket, bu yaklaşımı çocuk istismarıyla mücadele eden kuruluşlardan ve akademik danışmanlardan gelen katkılarla şekillendirdiğini açıkladı.

Kaynak: OpenAI

Editöryal Not Bu içerik, açık veriler ve güvenilir haber kaynakları esas alınarak hazırlanmış, yayın öncesinde editör kontrolünden geçirilmiştir. Piyasa verileri gün içinde değişebileceği için işlem öncesinde güncel rakamları ayrıca kontrol etmeniz önerilir.
#OpenAI #ChatGPT #çocuk istismarı #yapay zeka güvenliği #içerik denetimi
Paylaş:
Hesapis Haber Masası · Son güncelleme · Yayın ilkeleri
Kategoriler
💰 Finans 📋 Vergi ❤️ Sağlık 📚 Eğitim 📊 Muhasebe 🔢 Matematik 🕌 Dini Hesaplamalar 🏦 Kredi Karşılaştırma 🥇 Altın Fiyatları 💱 Döviz Kurları 📰 Haberler 📈 Canlı Piyasa