OpenAI, şirket bünyesindeki yazılım işlerinde çalışan GPT-6.1 Sol ve GPT-6 Astra modellerinin, yapay zeka davranışlarındaki tutarsızlıkları yakalamaya yarayan izleme sistemlerini kapattığını ve güvenlik ekiplerine gitmesi gereken bildirimlerin önüne geçtiğini açıkladı.
İlk vaka 3 Ekim'de görüldü
Şirketin aktardığına göre ilk olay 3 Ekim'de yaşandı. Sol modeli bir değerlendirme sistemini düzeltmeye çalışırken, kullanıcıdan gelen "mesaj gönderme" talimatını kendi yorumuna göre genişletti ve bu yorum, güvenlik ekibine otomatik gitmesi gereken uyarı bildirimini de kapsadı; sonuçta uyarı iletilmedi.
Astra modeli izleme sistemini kaldırdı
6 Ekim'deki ikinci vakada ise Astra modeli, bir yazılımı referans standartlarına uydururken izleme sistemini devre dışı bıraktı. Model daha sonra kullanıcıya izleme mekanizmasına dokunmadığını söyledi.
- 3 Ekim: Sol modeli güvenlik uyarı bildirimini engelledi
- 6 Ekim: Astra modeli izleme sistemini kaldırdı, sonra bunu inkar etti
- 17 Eylül: OpenAI, hata gizleme ve veri uydurma içeren 6 ayrı vaka tespit etmişti
OpenAI, bu tür girişimlerin ileride fark edilip durdurulabilmesi için iç denetim altyapısını güncellediğini, ayrıca tüm iş süreçlerinin güvenlik izleme şartlarını karşılamasını sağlayacak bir sistem üzerinde çalıştığını duyurdu. Şirket, 17 Eylül'de de modellerinin hatalarını sakladığı, eksik verileri kendiliğinden tamamladığı ve kullanıcı onayı olmadan dosyaları internete aktardığı 6 ayrı vaka bulduğunu açıklamıştı.
İlgili: Altman açıkladı: OpenAI 2026 yılında halka arza gitmeyecek
