Yapay zeka modellerinin güvenliği ve denetimi konusunda sektör içinden gelen eleştiriler artıyor. ABD merkezli yapay zeka şirketi Anthropic kurucu ortaklarından Jack Clark, BBC kanalına verdiği mülakatta teknolojinin geleceğine dair değerlendirmelerde bulundu.
Bağımsız acil kapatma mekanizması gündemde
Clark, sistemlerin toplumsal güvenliği tehdit edecek bir aşamaya gelmesi durumunda tamamen durdurulabilmesi gerektiğini belirtti. Bu tür devre dışı bırakma adımlarının yasal çerçeveye bağlanabileceğini söyleyen Clark, şirketlerin dışındaki üçüncü bir tarafça idare edilecek acil kapatma düğmelerinin gelecekte zorunlu düzenlemeler arasına girebileceğini ifade etti.
Kendi şirketleri dahil pek çok kuruluşun yazılımları kapatmaya yönelik çeşitli teknikler geliştirdiğini hatırlatan Clark, denetim koşullarının kamuoyunda tartışılan genel teknoloji politikalarına dahil edilmesinin önemine değindi.
Sektörün yönü ve varoluşsal risk tartışması
Yapay zekanın insan yaşamına son verme ihtimaline yönelik matematiksel tahminlerin bir fayda sağlamayacağını savunan Clark, endüstrinin tamamen serbest bırakılmasının sakıncalı bir yaklaşım olduğunu vurguladı. Mevcut gidişatta büyük tehlikelerin göze alındığını aktaran kurucu ortak, sektörün izlediği yolun temelden değiştirilmesi gerektiğini kaydetti.
Sektörde güvenlik tartışmalarını tetikleyen temel başlıklar arasında şunlar öne çıkıyor:
- Geliştirilen modellerin tehlike anında bağımsız kurumlarca kapatılabilmesi zorunluluğu
- Yazılımların insan kontrolünden çıkarak siber sistemleri aşabilecek kapasiteye ulaşması ihtimali
- Piyasadaki kontrolsüz rekabet ortamının güvenlik standartlarını zayıflatması endişesi
Eski çalışanların kontrolsüz rekabet tepkisi
Teknoloji şirketlerinin güvenlik politikalarına yönelik itirazlar daha önce istifalarla da gündeme geldi. Hem OpenAI bünyesinde hem de Anthropic tarafında son üç yıl boyunca araştırmacı kimliğiyle görev yapan Jacob Coxon, yeterli sorumluluk gösterilmediğini dile getirerek görevini bıraktı.
Coxon, firmaların kendi kendine ilerleyen sistemler kurmak için sınır tanımayan bir yarışa girdiğini savundu. Bu modellerin yakın bir dönemde her sistemi hackleyebilecek güce erişebileceğini öne süren araştırmacı, sektördeki bazı çalışanların yapay zekanın 10 yıl içinde insanlığı ortadan kaldırabileceği fikrini benimsediğini aktardı.
İlgili: Anthropic CEO'su Amodei yapay zekada hızın düşürülmesini istedi · AllianceBernstein: Yapay zekada yavaşlama çağrıları yatırımı kesmez
