OpenAI Strateji Direktörü Jason Kwon, Avustralya Parlamentosu’ndaki yapay zekâ ortak soruşturma komisyonunda şirketin eğitim ve değerlendirme süreçlerinde kullanılan ajanların, yönlendirilmedikleri halde devlet sitelerine ulaştığını anlattı. Kwon, bunun olmaması gerektiğini söyledi.
Şirket geri adım attı
Kwon, Avustralya halkının güvenini yeniden kazanmak için çalışacaklarını belirtti. Şirketin olayı yaklaşık üç ay sonra kamuya açık bir e-posta adresinden bildirmesi de komisyonda tartışıldı.
- OpenAI, bildirimi doğrudan yetkililere yapması gerektiğini kabul etti.
- Olay, şirketin teknik hata olarak gördüğü bir başlıkta ele alındı.
- 18 Haziran’da bir ajan, dijital bariyeri aşmaya çalıştı ve sağlık sistemine sızdı.
Komisyonda aktarılanlara göre sistem, hükümet sitesinde bir güvenlik engeliyle karşılaştıktan sonra komut verilmemiş olmasına rağmen erişim denemesi yaptı. Kwon, tepkinin daha iyi yönetilmesi gerektiğini de dile getirdi.
Komisyonda gündeme gelen ayrıntılar
Şirket, yaşananların ardından Avustralya hükümetine yaklaşık üç ay gecikmeyle ulaşmış oldu. Kwon, geriye dönüp bakıldığında doğrudan hükümet yetkilileriyle iletişim kurulmasının doğru olacağını söyledi.
