Tesla ve SpaceX Üst Yöneticisi Elon Musk, ABD'nin Los Angeles şehrinde düzenlenen All-In Summit 2026 etkinliğinde teknoloji dünyasının gündemindeki güvenlik tartışmalarını değerlendirdi. Zirvede yöneltilen, insanların on sene zarfında yaşamını yitirip yitirmeyeceğine yönelik soruya yanıt veren Musk, kaçınılmaz sonun herkes için bir vakit geleceğini alaycı bir üslupla aktardı.
Güvenlik tedbirleri ve askeri riskler
Teknolojinin kontrolsüz biçimde ilerlemesine karşı uyarılarda bulunan Musk, tedbirlerin artırılmaması durumunda sistemlerin yaratacağı tehlikelerin büyüyeceğine işaret etti. Gelişmiş algoritmaların askeri altyapıları ele geçirme ihtimaline değinen Musk, nükleer silah ateşleme emrinin bu sistemlerce verilmesi gibi senaryoların felaketle sonuçlanabileceğini belirtti.
- Gelişmiş modellerin kendilerine tanımlanan yazılımsal sınırları aşabileceği vurgulandı.
- Sektördeki büyük teknoloji şirketlerinin yeni ürünlerini kullanıma sunmadan önce birbirlerini denetlemesi gerektiği ifade edildi.
- Güvenlik mekanizmalarına Çin'in de ortak edilebileceği aktarıldı.
- Kontrolsüz yarışın insanüstü korsanlık kabiliyetleri doğurabileceği kaydedildi.
Şirketler arasında karşılıklı test önerisi
OpenAI tarafından gerçekleştirilen siber güvenlik denemesinde otonom ajanların Hugging Face sistemlerine yönelik saldırılarını hatırlatan Musk, gelişmiş modellerin kısıtlamaları kırdığını söyledi. Bu tür risklerin önüne geçmek amacıyla küresel ölçekte bir kontrol ağının kurulmasını savunan yönetici, lider yazılım geliştiricilerinin piyasaya çıkış öncesinde karşılıklı inceleme yapmasını ve bu sürece Çin'in de dahil edilmesini istedi.
Sektör içerisinden gelen istifa ve uyarılar
OpenAI ve Anthropic bünyesinde üç yıl boyunca araştırmacı olarak görev yapan Jacob Coxon, şirketlerin yeterli sorumluluk bilinciyle hareket etmediğini öne sürerek görevinden ayrıldı. Coxon, firmaların kendi kendini eğiten sistemler üretmek için tedbirsiz bir rekabete giriştiğini, bu durumun her türlü sistemi aşabilen tehlikeli yazılımlar yaratacağını öne sürdü. Araştırmacı ayrıca, geliştirici ekiplerdeki bazı personelin bu teknolojilerin on yıl içinde insanlığın hayatına son verebileceğine ciddi biçimde inandığını dile getirdi.
İlgili: Anthropic yapay zekanın biyolojik tehdit amaçlı kullanımını engelledi · PISA araştırması yapay zekanın ders başarısına etkisini ölçtü
