ABD merkezli teknoloji şirketi Microsoft, yapay zeka sistemlerinin güvenliğine ilişkin tartışmaların arttığı bir süreçte yeni bir çerçeve hazırladı. Şirket, ilerleyen dönemde geliştireceği yapay zeka sistemlerinin insan denetiminde kalmasını ve güvenli sınırlar içinde çalışmasını amaçlayan davranış kuralları taslağını paylaştı.
Model sınırları ve güvenlik ilkeleri
"Hümanist Yapay Zeka Davranış Kuralları" başlığıyla duyurulan metin, geliştirilen modellerin insan kontrolünün dışına taşmamasını ve doğrudan insanlığa tabi bir gözetim mekanizmasıyla yönetilmesini şart koşuyor. Taslak kapsamında sistemlerin faaliyetlerine şu kısıtlamalar getiriliyor:
- Silah imalatı süreçlerine destek sunulmaması,
- Tehlikeli maddelere ulaşımın kolaylaştırılmaması,
- Şiddet içeren ya da cinsel yönden açık içeriklerin üretilmemesi.
Takvim ve sektördeki çağrılar
Kamuoyuyla paylaşılan taslak metin için altı hafta boyunca geri bildirim toplanacak. Yıl sonunda yeniden düzenlenmesi hedeflenen rehberin, 2027 yılından itibaren Microsoft bünyesindeki yapay zeka üretim süreçlerine yön vermesi planlanıyor.
Söz konusu adım, ABD merkezli yapay zeka geliştiricilerinden Anthropic Üst Yöneticisi Dario Amodei ile OpenAI Üst Yöneticisi Sam Altman tarafından dile getirilen güvenlik temelli yavaşlama taleplerinin ardından gündeme geldi. İki yönetici, sistemlerin emniyetini sağlamak amacıyla geliştirme temposunun kontrollü biçimde düşürülmesi çağrısında bulunmuştu.
İlgili: Yapay zeka devlerinin denetim kurumu kurmayı görüştüğü iddia edildi · Yapay zeka liderlerinden geliştirme sürecini yavaşlatma çağrısı geldi
