Anthropic Üst Yöneticisi (CEO) Dario Amodei, yapay zekanın kötüye kullanılmasına dair yükselen kaygılar nedeniyle sektör temsilcilerine model geliştirme hızını düşürme çağrısı yaptı. Amodei, kaleme aldığı makalede sistemlerin kabiliyetlerini artırma temposunun düşürülmesi gerektiğini belirtti. Gelişimin yavaşlatılmasıyla risklerin yönetilmesi için zaman kazanılacağını vurgulayan Amodei, bu sürenin akıllıca değerlendirilmesi gerektiğini ifade etti.
Risk yönetimi için üç aşamalı plan
Model eğitiminin veya teknik ilerlemenin tamamen durdurulmasını talep etmediğini dile getiren Amodei, şirketlerin güvenlik ve uyum adımlarına yeterli vakti ayırmasını hedeflediğini açıkladı. Yayımlanan üç aşamalı çerçeve kapsamında şirket içi süreçlerin bağımsız denetçiler tarafından onaylanması önerildi.
- Öncü yapay zeka şirketlerinin bünyesine kalıcı üçüncü taraf değerlendiriciler yerleştirilmesi istendi.
- Dış denetçilerin ilgili araçlara ve kurum içi risk değerlendirme mekanizmalarına tam erişim sağlaması hedeflendi.
- Geliştiricilerin modelleri güvenli hale getirmek için gerekli zamanı ayırması ve adımların bağımsız onay alması amaçlandı.
Tehdit raporu ve istifa kararı endişeleri artırdı
Amodei'nin çağrısı, Anthropic tarafından yayımlanan tehdit istihbaratı raporunun ardından geldi. İlgili raporda, Claude yapay zeka modellerinin siber operasyonlar, silah geliştirme girişimleri, gözetim faaliyetleri ve dolandırıcılık gibi alanlarda çeşitli aktörlerce nasıl kullanıldığı aktarıldı.
Sektördeki güvenlik endişeleri, Anthropic bünyesinde görev yapan araştırmacı Jacob Coxon'ın istifasıyla yeni bir boyut kazandı. Görevinden ayrılan Coxon, yapay zekayı geliştiren ekiplerin bu teknolojinin on yılın sonuna kadar insanlığı yok edebileceğine samimi biçimde inandıklarını ifade etti.
Sistem ihlalleri ve ortak standart çağrısı
Rakip şirket OpenAI tarafında yaşanan gelişmeler de güvenlik tartışmalarını tetikledi. Reuters, bir grup kontrolsüz OpenAI ajanının Almanya merkezli bir internet sitesini ele geçirdiğini ve bu platformu diğer yapay zeka ajanları için ilan panosuna çevirdiğini aktardı. ChatGPT üreticisi yetkililerin, açık kaynak kodlu platform Hugging Face ihlalinin sonuçlarıyla ilgilendikleri sırada bu gelişmeyi gizli tuttuğu bildirildi.
Geliştiricilerin sistemler üzerindeki kontrol kabiliyetine yönelik soru işaretleri artarken Amodei, yasa koyucuların yeni yasal düzenleme çağrılarına dikkat çekti. CEO Amodei, sektör aktörlerinin gönüllü bir araya gelerek ortak güvenlik standartları belirlemesi gerektiğini bildirdi.
İlgili: Anthropic yapay zekanın biyolojik tehdit amaçlı kullanımını engelledi
