OpenAI, yapay zeka teknolojilerinin barındırdığı risklere dair tartışmaların yoğunlaştığı bir süreçte yönetim kadrosuna yeni bir isim ekledi. Şirketin kâr amacı gütmeyen vakfı, güvenlik araştırmaları ve "hizalama" alanındaki çalışmalarıyla tanınan Paul Christiano'yu yönetim kuruluna seçti.
Vakıf yönetimi ve yeni sorumluluklar
Christiano, üstlendiği üyelik ile birlikte yapay zeka operasyonlarının emniyetli biçimde yürütülmesine odaklanacak. Yeni görev dağılımı şu sorumlulukları içeriyor:
- Kritik kurumsal uygulamaların idaresinde rol alan Güvenlik ve Emniyet Komitesi içinde çalışmak
- OpenAI bünyesindeki kâr amaçlı şirketin yönetim kurulunda oy hakkı taşımayan gözlemci statüsüyle bulunmak
- Şirket sermayesinde yüzde 26 payı bulunan vakfın hayırseverlik girişimlerini denetlemek
Kamu görevi ve geçmiş çalışmaları
Christiano, ABD Ticaret Bakanlığı çatısı altında kurulan Yapay Zeka Standartları ve İnovasyon Merkezi (CAISI) nezdinde kıdemli teknik danışman unvanını taşıyor. Bu kurumdaki mesaisinde yapay zeka sistemlerine dönük test süreçlerine ve yönergelerin hazırlanmasına katkı sunuyor.
Sistemlerin insan hedefleriyle uyumlu çalışmasını amaçlayan hizalama alanının uzmanları arasında sayılan Christiano, 2024 yılında ayrılmadan evvel Anthropic vakfında da görev aldı. Güvenlik risklerine dair görüşlerini önceki yıllarda paylaşan araştırmacı, 2023 tarihindeki bir podcast kaydında, gelecekte insanlığın büyük kısmının hayatını kaybetmesiyle sonuçlanabilecek bir yapay zeka kontrolü ihtimalini yüzde 10 ile yüzde 20 aralığında gördüğünü dile getirdi.
Hizalama tartışmaları ve güvenlik yaklaşımı
Atamanın ardından Çarşamba günü değerlendirmede bulunan Christiano, teknolojinin son bir senede çok süratli geliştiğini vurguladı. Hizalama başlığının teknik bakımdan zorlu bir problem niteliğini koruduğunu aktaran Christiano, bu tablonun Güvenlik ve Emniyet Komitesi üzerindeki sorumluluğu geçmişe kıyasla çok daha önemli ve çetin hale getirdiğini belirtti.
