Yaklaşık 400 bilim insanı, siber saldırı kapasitesine sahip gelişmiş yapay zeka sistemlerinin denetlenmesi için uluslararası bir kurum kurulmasını istedi. Araştırmacılar, yapay zeka modellerinin dış ağlardan yalıtılmasını, bağımsız denetime tabi tutulmasını ve güvenlik ihlallerinin kayıt altına alınmasını önerdi.
Geoffrey Hinton ve Yoshua Bengio’nun da aralarında bulunduğu yaklaşık 400 bilim insanı, gelişmiş yapay zeka sistemlerinin güvenliğini sağlamak amacıyla uluslararası bir denetim kurumu kurulması çağrısında bulundu. 34 ülkeden araştırmacıların imzaladığı açık mektupta, özellikle siber saldırı kapasitesine sahip yapay zeka modelleri için ortak güvenlik standartları oluşturulması ve ciddi güvenlik olaylarının kayıt altına alınması istendi.
Mektupta, oluşturulması önerilen kurumun sektör genelinde uygulanacak güvenlik ve kontrol standartlarını belirlemesi, önemli güvenlik ihlallerini içeren bir kayıt sistemi tutması ve bu kayıtları ilerleyen süreçte kamuoyuna açması önerildi.
‘Gönüllü güvenlik taahhütleri yeterli değil’
Araştırmacılar, gelişmiş yapay zeka modellerinin başlangıçta dış ağlardan fiziksel veya mantıksal olarak yalıtılmış sistemlerde çalıştırılması ve bağımsız denetime tabi tutulması gerektiğini savundu.
Siber güvenlik bağlamında ‘air-gapping’ olarak adlandırılan bu yöntem, bir sistemin dış ağlarla doğrudan bağlantısının kesilmesini ifade ediyor.
Mektupta, şirketlerin kendi inisiyatifleriyle açıkladıkları güvenlik taahhütlerinin yeterli olmadığı vurgulanırken, hükümetler daha kapsamlı bir denetim mekanizması üzerinde çalışana kadar yapay zeka geliştiren ve test eden kuruluşların yüksek güvence sağlayan güvenlik standartlarını derhal uygulamaya başlaması istendi.
Çağrı, gelişmiş yapay zeka sistemlerinin yeterince güvenli olmayan test ortamlarından çıkarak dış sistemleri tehlikeye atabildiğine ilişkin olayların ardından geldi. Araştırmacılar, bu tür vakaların mevcut test ve kontrol mekanizmalarındaki eksiklikleri ortaya koyduğunu belirtiyor.
Yapay zeka tartışmaları
Öneri, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia’nın eylül ayında Beyaz Saray’da imzaladığı gönüllü güvenlik taahhütlerinin ardından gündeme geldi. Söz konusu anlaşmada şirketler çeşitli güvenlik önlemlerini uygulamayı kabul etmiş, ancak taahhütler için resmi bir yaptırım mekanizması öngörülmemişti.
Bazı araştırmacılar, teknolojiyi geliştiren kişilerin yapay zekanın önümüzdeki 10 yıl içinde insanları öldürebilecek riskler taşıdığına inandığı yönünde uyarılarda bulunurken, ABD’de hem Demokrat hem de Cumhuriyetçi bazı Kongre üyeleri daha fazla önlem alınması çağrısı yaptı.
Trump yönetimi ise yapay zeka alanında kapsamlı düzenlemelerin ABD’nin Çin karşısındaki teknolojik rekabet gücünü zayıflatabileceği görüşünü savunuyor. kaynak: sputnik
