Teknoloji
Microsoft Başkanı Brad Smith, yapay zeka şirketlerinin sıkı denetlenmesini, sistemlerin yayımlanmadan önce bağımsız uzmanlarca onaylanmasını istedi.
Microsoft Başkanı Brad Smith, yapay zekanın mevcut denetim düzeyini yetersiz bulduğunu söyleyerek uluslararası yapay zeka güvenlik önlemlerinin vakit kaybetmeden devreye alınması gerektiğini savundu. CNN Türk’ün Donanım Günlüğü kaynaklı haberine göre Smith, yapay zeka geliştiricilerinin sıkı biçimde denetlenmesi çağrısı yaptı. Smith’in sözleri 12 Ekim’de yayımlanan bir BBC podcast röportajına dayanıyor.
Smith, yapay zekayı “hem silah hem araç” olarak tanımladı ve küresel kurallara artık ihtiyaç duyulduğunu söyledi. Denetim eksikliğinin siber güvenlik açısından giderek daha büyük bir tehdit oluşturduğunu belirtti. Smith, yapay zekanın bir süt kutusundan ya da çamaşır makinesinden daha az güvenlik kuralına tabi olduğunu söyledi.
Smith, küresel yapay zeka güvenlik kurallarına ABD ya da AB yerine İngiltere’nin liderlik etmesini istiyor. Gerekçelerinden biri, 2023'te kurulan İngiltere Yapay Zeka Güvenlik Enstitüsü’nün, Amerikan şirketlerinin modellerini piyasaya çıkmadan önce inceleyebilmesi. Smith ayrıca Washington’ın Londra’ya Brüksel’e göre daha olumlu baktığını ve bunun bir avantaj olduğunu düşünüyor.
Smith, şirketlerin Beyaz Saray’da imzaladığı gönüllü güvenlik taahhüdünü “iyi bir adım” olarak niteledi, ancak bunun yeterli olmadığını söyledi. Sorumlu şirketlerin kurallara uyacağını, endişe yaratan firmaların ise denetimden kaçabileceğini belirtti. Taahhüt, Eylül ayı sonunda OpenAI, Anthropic ve Google gibi şirketlerin liderlerinin katılımıyla imzalandı ve bağımsız denetçilere yer veriyor. Smith, Microsoft’un da taahhüdü imzalayacağını söyledi.
Smith, yapay zeka sistemlerinin yayımlanmadan önce bağımsız uzmanlarca onaylanmasını öneriyor. Kontrolden çıkan bir modelin yetkisiz faaliyetlere karışması halinde ilgili makamlara bildirim yapılmasını da istiyor. Smith ayrıca kontrolden çıkan yapay zekayı durdurmak ya da yavaşlatmak için “acil fren” mekanizmalarından, yasal olarak zorunlu olay raporlarından ve bir yapay zeka ajanı sistemlere sızdığında mağdurun bilgilendirilmesinden söz etti. Hükümetler adına çalışan bağımsız değerlendiricilerin yeni yapay zekayı yayımlanmadan önce incelemesi gerektiğini savunuyor.