Anthropic bünyesindeki araştırmacı Jacob Coxon geçen hafta görevinden ayrıldı. Coxon, bu teknolojiyi üreten uzmanların on yılın bitimine kadar sistemlerin tüm insanlığı yok edebileceğine inandığını dile getirdi. Şirketin hizalama bilimi lideri Evan Hubinger da benzer bir tehlikeye işaret ederek, önümüzdeki 10 yıllık süreçte insanlığın ortadan kalkma olasılığının yüzde 10 seviyesinin üzerinde bulunduğunu ifade etti. Bu açıklamaların ardından sektörde güvenlik tartışmaları alevlendi.
Anthropic CEO'su Dario Amodei, kaleme aldığı 3.800 kelimeden oluşan "We Must Pace the Frontier" başlıklı değerlendirmesinde karar vericilere seslendi. Amodei, Pekin yönetimine ileri düzey işlemci tedarikinin durdurulmasını, kaçak çip sevkiyatına karşı denetimlerin artırılmasını ve otoriter rejimlerde faaliyet gösteren şirketlerin izinsiz damıtma yöntemlerine başvurmasının önüne geçilmesini talep etti. Demokratik ülkelerin teknolojik üstünlüklerini olabildiğince geniş tutmaları gerektiğini savunan Amodei'nin yaklaşımı, sektörde geniş yankı uyandırdı.
Yavaşlama ve bağımsız denetim çağrıları
Yapay zekâya yüz milyarlarca dolar kaynak aktaran yöneticiler, güvenliğin sağlanması ile geliştirme hızının dengelenmesi noktasında ciddi bir ikilem yaşıyor. Bazı liderler bağımsız mekanizmaların ve devlet işbirliğinin şart olduğunu savunuyor:
- Elon Musk: SpaceX ve Tesla CEO'su, X platformunda yaptığı açıklamada Amodei'nin görüşlerine katılarak haklı olduğunu belirtti.
- Sam Altman: OpenAI Kurucusu, en ileri düzeydeki sistemlerin ilerleme temposunun kontrol edilmesi gerektiği konusunda hemfikir oldu. Altman, OpenAI personelinin sahip olduğu erişim yetkilerine benzer haklarla donatılacak bağımsız denetçilerin görevlendirilmesini olumlu buldu ve kendi şirketlerinde de bu yöntemi uygulayacaklarını açıkladı.
- Satya Nadella: Microsoft CEO'su, süper zekâ adımlarının temel ilkeler çerçevesinde şekillenmesi gerektiğini vurguladı. Nadella, geliştirilen sistemlerin insanlığa katkı sağlamaması ve insan kontrolü altında kalmaması durumunda bu teknolojiyi ilerletmenin bir anlamı bulunmadığını bildirdi.
- Clément Delangue: Hugging Face Kurucusu, sistemlerin insan değerleriyle uyumunun kritik bir konu olduğunu ve kapalı kapılar ardındaki birkaç öncü laboratuvar tarafından çözülemeyeceğini duyurdu. Delangue, Open Alignment Initiative girişimini hayata geçirdiklerini ve Anthropic'in taahhüt ettiği yerleşik değerlendiriciler programına dahil olmak istediklerini aktardı.
Piyasa dinamiklerini ve hızı savunan yaklaşımlar
Sektörün diğer kanadında ise bilinçli bir yavaşlamanın ya da ilave yasal kısıtlamaların gereksiz olduğunu savunan yöneticiler öne çıkıyor. Nvidia CEO'su Jensen Huang, Salesforce etkinliğinde yaptığı konuşmada yeni yasalara veya düzenlemelere ihtiyaç duyulmadığını söyledi. Huang, şirketlerin sundukları çözümler piyasada kabul görene kadar geliştirme temposunu kendilerinin belirleyebileceğini ve mevcut piyasa dinamiklerinin güvenli inovasyonu yönlendirmek için yeterli olduğunu kaydetti.
Cohere Kurucusu Aidan Gomez, küresel düzeyde ortak bir yavaşlama önerisinin güvenliği artırmayacağını, yalnızca mevcut ticari üstünlükleri korumaya yarayacağını savundu. Gomez, toplumun uyum sağlayabileceği sorumlu bir hızda ilerlemenin önemine değindi.
CrowdStrike Kurucusu George Kurtz, gelecek teknolojileri yavaşlatmanın mevcut riskleri bertaraf etmeyeceğini belirterek, siber güvenlik tarafının otonom sistemlere yanıt verebilecek savunma araçları kurmasını, bağımsız testler ile kritik kararlarda insan denetiminin sürdürülmesini önerdi. Meta yöneticisi Mark Zuckerberg ise bağımsız uzmanlarla çalışmayı doğru bir uygulama olarak nitelendirdi. Zuckerberg, Muse modelinin çıkışını güvenlik gerekçesiyle birkaç ay ertelediklerini, ancak bunu sektör genelinde bir zorunluluk haline getirmeden şirket içi bir tercih olarak uyguladıklarını duyurdu.
İlgili: Johnson: Yapay zeka liderleri Beyaz Saray toplantısına çağrıldı · Bill Gates yapay zeka riskleri ve saglik yatirimi icin uyardi
