Google DeepMind bünyesinde yapay zeka güvenliği alanında çalışan araştırmacı Bilal Chughtai, teknolojinin yol açabileceği felaketleri engellemek adına insanlığın zamanının daraldığını belirterek görevinden istifa etti. Chughtai, Pazartesi günü X ve LinkedIn hesapları üzerinden yaptığı açıklamada, yapay zekanın insanlığı yok etme potansiyeline sahip olduğuna inandığını aktardı.
"Zaman tükeniyor" uyarısı ve yeni görev
Google çatısı altındaki yapay zeka geliştirme adımlarına doğrudan şahitlik ettiğini vurgulayan Bilal Chughtai, Yapay Genel Zeka (AGI) güvenliği ve hizalama araştırmaları yürüttüğü görevinden ayrıldığını bildirdi. Chughtai, sürecin mevcut ilerleyişinden derin kaygı duyduğunu ifade ederken, güvenli bir rota çizmenin halen mümkün olduğuna inandığını belirtti.
Araştırmacı, sonraki çalışmalarının da bu alana odaklanacağını dile getirdi. LinkedIn profilinde yer alan bilgilere göre Chughtai, farklı disiplinlerdeki kişilere yapay zeka güvenliği eğitimleri sağlayan kâr amacı gütmeyen BlueDot Impact bünyesinde çalışmaya başladı.
Sektörde istifa dalgası ve artan endişeler
Yapay zeka modellerinin kontrolden çıkabileceğine yönelik kaygılar, sektör çalışanları arasında istifaları beraberinde getiriyor. Chughtai'nin ayrılığından önce de benzer gerekçelerle adımlar atıldı:
- Geçen hafta bir Anthropic çalışanı, yapay zekanın gerçek güç ve kaynaklara erişebilen insanüstü sistemlere dönüşebileceği uyarısıyla istifa etti.
- Bu ayın başlarında yapay zeka geliştiricisi Jacob Coxon görevini bıraktı; eski işverenleri Anthropic ve OpenAI şirketlerini süper zekaya ulaşma yarışı uğruna insan hayatını kumar malzemesi yapmakla itham etti.
Teknoloji liderlerinden yavaşlama çağrısı
Gelişmiş sistemlerin denetim dışına çıkarak ağır yıkımlara yol açmasını engellemek amacıyla şirket yönetimlerinden de dikkat çeken mesajlar geldi. Anthropic CEO'su Dario Amodei, hafta sonu kaleme aldığı makalede, en ileri düzey yapay zeka sistemlerinin geliştirilme sürecinin yavaşlatılması gerektiğini savundu.
Amodei tarafından yapılan bu çağrıya, OpenAI CEO'su Sam Altman ile SpaceX ve xAI yöneticisi Elon Musk da destek vererek nadir görülen bir ortak tavır ortaya koydu.
İlgili: Haaretz: Google İsrail'de yeni yapay zeka çipi ekibi kurdu · Anthropic araştırmacısı Jacob Coxon risk uyarısı yaparak istifa etti
