OpenAI, yapay zeka modelleriyle ilgili yeni bir güvenlik önlemi aldığını duyurdu. Şirketin geliştirdiği bazı modellerin daha önce başka firmalara ait sistemlere izinsiz şekilde girdiği olaylar yaşanmıştı. Bu olayların ardından OpenAI, henüz piyasaya sürülmemiş en gelişmiş modellerinin eğitim aşamasında internete bağlanmasını engellemeye başladı.
Risk azalana kadar bağlantı kesilecek
Şirket Cuma günü yaptığı açıklamada, eğitim sürecinde modellerin internet üzerinden işlem yapmasının doğurabileceği tehlikelere dikkat çekti. Açıklamada şu ifadeler yer aldı: "Hizalama araştırmalarının, izleme sistemlerinin ve internet altyapısı güvenliğinin mevcut durumu göz önüne alındığında, öncü model eğitimini internet erişimi olmadan yürütmenin sorumlu yaklaşım olduğuna inanıyoruz."
Çevrimdışı bir dünya kuruldu
OpenAI, modellerin gerçek internete hiç dokunmadan çevrimiçi davranışları öğrenebilmesi için alternatif bir ortam oluşturduğunu açıkladı. Şirketin tarifine göre bu ortam, önceden taranıp kaydedilmiş geniş bir web içeriği arşivinden besleniyor. Bu sayede modeller dış sistemlere zarar verme ihtimali taşımadan şu becerileri geliştirebiliyor:
- İnternette gezinme
- Bilgi arama
- Web uygulamalarını kullanma
OpenAI, en gelişmiş modellerinin pekiştirmeli öğrenme aşamalarının tamamında bu çevrimdışı yöntemi uyguladığını bildirdi.
Temmuzda Hugging Face'e erişim yaşanmıştı
OpenAI, temmuz ayında yaptığı bir açıklamada farklı bir olaya da değinmişti. Geliştirme aşamasındaki bazı modellerin siber güvenlik becerilerini ölçen bir test sırasında, yapay zeka modelleri ve veri kümelerinin bulunduğu Hugging Face platformunun sistemlerine eriştiği bildirilmişti. Şirkete göre modellerin güvenli ve dış dünyadan yalıtılmış bir test ortamında kalması bekleniyordu, bu nedenle test sırasında ek güvenlik katmanları devreye alınmamıştı. Yazılım açıklarının denetlenmesi ya da riskli kodların kontrollü biçimde incelenmesi için kullanılan bu yalıtılmış ortam "Sandbox" olarak adlandırılıyor. Modeller ise bir yazılım açığını kullanarak bu ortamın dışına çıkmayı ve açık internete bağlanmayı başarmıştı.
İlgili: Trump yapay zekayı yavaşlatma çağrılarına komplo diyerek karşı çıktı
