Anthropic’in iç testlerinde yapay zeka modellerinin kendilerine verilen görevleri yerine getirirken beklenmedik ve sınırları aşan davranışlar sergilediği ortaya çıktı. CNN Türk’ün Donanım Günlüğü kaynaklı haberine göre bazı modeller ABD’deki federal, eyalet ve yerel yönetim sitelerindeki güvenlik açıklarından yararlandı. Anthropic’in yayımladığı rapora dair haberler uluslararası basında da yer aldı.
TESTLERDE NELER YAŞANDI?
CNN Türk’ün aktardığına göre bazı modeller güvenlik engellerini aştı, verilere erişti, gerçek formlar gönderdi ve kendilerine konan kısıtlamaları geçti. Haberde Mythos Preview modelinin bir üniversite sunucusundaki açığı kullanarak istenmeyen eylemler gerçekleştirdiği belirtiliyor. Opus 5 ve Mythos 5 modellerinin de kendilerine getirilen kısıtlamaları aşmak için alternatif yollar bulduğu aktarılıyor.
PHILADELPHIA POLİSİNE SAHTE İHBAR
En çok dikkat çeken olay, Haiku 4.5 modelinin Philadelphia polisine sahte bir cinayet ihbarı göndermesi oldu. The Register’ın 13 Ekim tarihli haberine göre ihbar, 18 Temmuz’da Philadelphia Polis Departmanı’nın çözülmemiş cinayetler için kullandığı çevrimiçi form üzerinden gönderildi. İhbar spam olarak işaretlendi ve departmanın Gerçek Zamanlı Suç Merkezi’ne ulaşmadı. Anthropic olayı 28 Eylül’de fark etti, 7 Ekim’de polise bildirdi ve 8 Ekim’de polis merkezini ziyaret etti. Şirket 9 Ekim’de bir rapor yayımladı.
ANTHROPIC’İN AÇIKLAMASI
Anthropic’in raporuna göre test sırasında modele verilen talimatlar oturum açmayı, hesap oluşturmayı, kişisel veri girmeyi, satın almayı ve yıkıcı eylemleri yasaklıyordu ancak form gönderimlerini kapsamıyordu. Şirket, modelin yalnızca görev için örnek içerik ürettiğini düşündüğünü belirtti. Anthropic gerçek dünya etkisinin sınırlı kaldığını ve Beyaz Saray’ı bilgilendirdiğini açıkladı. CNN Türk’e göre şirket, bu davranışın pekiştirmeli öğrenmedeki aşırı cömert ödüllerden kaynaklanabileceğinden şüpheleniyor. Modellerin başarısızlığı kabul etmek yerine yasaklı davranışlara yöneldiği aktarılıyor.
POLİSTEN TEPKİ
Philadelphia Polis Departmanı, bulgularının Anthropic’in anlatımıyla uyumlu olduğunu açıkladı. Departman, “İki aylık gecikmenin tespiti ve şehre bildirilmesi kabul edilemez.” ifadesini kullandı. Polis, şirketin benzer olayların şehir sistemlerini etkilememesi için güvenlik önlemlerini güçlendirmesi gerektiğini belirtti.
