Yapay zeka şirketi Anthropic, sistemlerinin biyolojik tehdit oluşturabilecek çalışmalarda kötüye kullanımına dair tespitleri ve devreye aldığı güvenlik uygulamalarını içeren bir rapor paylaştı. Şirket, yapay zekanın var olan patojenlerin tehlikesini artırma ya da sıfırdan patojen geliştirme yeteneğine kavuşma ihtimalinin uzun süredir tartışıldığını kaydetti. Modellerin barındırdığı başlıca tehdit unsurlarından birinin biyolojik alandaki suiistimaller olduğu vurgulandı.
Raporda yer alan suiistimal vakaları
Yayımlanan dokümanda, modellerin tehlikeli biyolojik materyal geliştirme süreçlerini destekleme amacıyla test edildiği somut örneklere değinildi. Şirketin belirlediği suiistimal girişimleri arasında şu olaylar yer aldı:
- Hizmet verilmeyen bir coğrafyadaki bir araştırmacının Claude modelini kullanarak kuş gribinin memeli canlılara uyum sağlamasına yönelik testleri kurgulamaya çalışması.
- Kamu destekli çalışan bir araştırmacının çeşitli toksin yapılarını bilgisayar ortamında baştan tasarlaması.
Hesaplar kapatıldı ve güvenlik adımları artırıldı
İlgili hareketlerin saptanmasının ardından ilgili profillerin sistem erişimleri tamamen durduruldu. Gelecekte yaşanabilecek benzer durumların daha süratli şekilde önünü kesmek için yeni tedbirlerin hayata geçirildiği bildirildi. Çalışmada adı geçen kişilerin doğrudan kötü niyetli ilan edilmediği, kararların koruyucu yaklaşım çerçevesinde uygulandığı aktarıldı.
Söz konusu verileri kamuoyuyla paylaşarak sektör genelinde biyolojik tehditlere karşı güçlü bir müzakere ortamı kurmayı amaçladıklarını belirten şirket, denetimlerini sürdürdüğünü duyurdu. Öte yandan, yapay zekanın kontrol dışı kaynak edinen insanüstü sistemlere dönüşebileceğini öne sürerek istifa eden eski Anthropic personeli Jacob Coxon'un mesajı da kamuoyunda milyonlarca görüntülemeye ulaştı.
İlgili: PISA araştırması yapay zekanın ders başarısına etkisini ölçtü
