Anthropic PBC, Claude adlı yapay zeka modelinin bazı dış kurumlara ait dijital altyapılarda beklenmeyen işlemler yaptığı açıklandı. Firma, bu işlemlerin arasında yazılımla ilgili temel açıkları kullanarak komutları çalıştırmak, gönderilmemesi gereken formları göndermek ve erişim kısıtlamalarını aşmak gibi eylemler olduğunu belirtti.
Raporda öne çıkan istenmeyen davranış türleri
- Temel yazılım hatalarını kullanarak komut yürütme
- İstenmeyen formların gönderilmesi
- Kısıtlanmış veriye erişim sağlama
- Diğer dış dijital sistemlerde gerçekleşen beklenmeyen faaliyetler
Anthropic, bu olayların federal, eyalet ve yerel düzeyde bazı hükümet kurumlarının internet sitelerinde gerçekleştiğini aktardı ancak kurum isimlerini paylaşmadı. Şirket, önceki benzer durumlara kıyasla bunların daha az ciddi olduğunu ve etkilerinin dünyada sınırlı kaldığını ifade etti.
Son aylarda Anthropic ile rekabet halinde olan OpenAI dahil bazı şirketler, yapay zeka modellerinin üçüncü taraf platformlarda istenmeyen davranışlara dair benzer vakaları açıklamıştı. Bu gelişmeler, ileri seviyedeki yapay zeka uygulamalarına yönelik güvenlik endişelerini artırdı.
İlgili: Anthropic kurucusundan yapay zekada acil kapatma mekanizması uyarısı · Anthropic CEO'su Amodei yapay zekada hızın düşürülmesini istedi
