Reuters'ın haberine göre, yapay zekâ alanında öncü isimler Geoffrey Hinton ve Yoshua Bengio'nun da aralarında bulunduğu yaklaşık 400 bilim insanı, siber saldırı kapasitesine sahip gelişmiş yapay zekâ sistemlerinin denetlenmesi için uluslararası bir kuruluş oluşturulması çağrısı yaptı. Bilim insanları, sektör genelinde güvenlik standartları belirlenmesini ve önemli güvenlik olaylarının kayıt altına alınmasını istedi.
34 ülkeden bilim insanlarının imzaladığı açık mektupta, gelişmiş yapay zekâ sistemlerinin güvenliğini sağlamak amacıyla uluslararası bir denetim mekanizması kurulması önerildi.
Mektupta, en gelişmiş yapay zekâ modellerinin başlangıçta dış ağlardan tamamen ayrılmış ortamlarda çalıştırılması ve bağımsız denetime tabi tutulması gerektiği ifade edildi. Araştırmacılar, şirketlerin kendi istekleriyle üstlendikleri güvenlik taahhütlerinin yeterli olmadığını savundu.
Bu çağrı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia şirketlerinin Beyaz Saray ile gönüllü güvenlik önlemlerini kabul eden bir anlaşma imzalamasından yaklaşık bir ay sonra geldi. Söz konusu anlaşmada, güvenlik önlemlerinin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizması bulunmuyordu.
Bilim insanlarının çağrısı, gelişmiş yapay zekâ sistemlerinin test edilmesi ve kontrol altında tutulması konusundaki bazı güvenlik açıklarının gündeme geldiği olayların ardından yapıldı. Araştırmacılar, yeterince güvenli hale getirilmemiş, sınırlandırılmış çalışma ortamlarını aşan yapay zekâ modellerinin harici sistemlere erişerek bu sistemlerin güvenliğini tehlikeye attığı vakalara dikkat çekti.
34 ülkeden imzacı bilim insanları, siber saldırı kapasitesine sahip yapay zekâ modelleri geliştiren veya test eden kuruluşların, hükümetler daha resmi bir denetim sistemi üzerinde çalışırken yüksek güvence sağlayan güvenlik ve kontrol standartlarını derhal uygulamaya başlaması gerektiğini altını çizdi.
Gelişmiş yapay zekâ sistemlerinin nasıl denetlenmesi gerektiği, politika yapıcıların da gündeminde yer alıyor. Avrupa Birliği'nin (AB) teknoloji alanından sorumlu üst düzey yetkilisi Henna Virkkunen, cuma günü Reuters'a yaptığı açıklamada, AB'nin Yapay Zekâ Yasası'nın kontrolden çıkan yapay zekâ sistemlerinin oluşturabileceği riskleri ele almak için yeterli olduğunu aktardı.
Konuya dair farklı kaynaklardan gelen notlar, tablonun henüz netleşmediğini gösteriyor. Önümüzdeki saatlerde yeni açıklamalar bekleniyor.
Türkiye başlığı altında sıralanan bu gelişme, sosyal medyada da hızla yayılıyor.
Kısa özet
- Reuters'ın haberine göre, yapay zekâ alanında öncü isimler Geoffrey Hinton ve Yoshua Bengio'nun da aralarında bulunduğu yaklaşık 400 bilim insanı, siber saldırı kapasitesine sahip gelişmiş yapay zekâ sistemlerinin denetlenmesi için uluslararası bir kuruluş oluşturulması çağrısı yaptı. Bilim insanları, sektör genelinde güvenlik standartları belirlenmesini ve önemli güvenlik olaylarının kayıt altına alınmasını istedi
- 34 ülkeden bilim insanlarının imzaladığı açık mektupta, gelişmiş yapay zekâ sistemlerinin güvenliğini sağlamak amacıyla uluslararası bir denetim mekanizması kurulması önerildi
- Mektupta, en gelişmiş yapay zekâ modellerinin başlangıçta dış ağlardan tamamen ayrılmış ortamlarda çalıştırılması ve bağımsız denetime tabi tutulması gerektiği ifade edildi. Araştırmacılar, şirketlerin kendi istekleriyle üstlendikleri güvenlik taahhütlerinin yeterli olmadığını savundu
- Bu çağrı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia şirketlerinin Beyaz Saray ile gönüllü güvenlik önlemlerini kabul eden bir anlaşma imzalamasından yaklaşık bir ay sonra geldi. Söz konusu anlaşmada, güvenlik önlemlerinin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizması bulunmuyordu
Neden önemli?
400 bilim insanından yapay zekaya denetim çağrısı başlığı altında takip edilen süreç; kamuoyu, piyasa ve siyaset gündeminde yer tutuyor. Hatay Masası, doğrulanmış bilgileri öne çıkararak okura dengeli bir çerçeve sunmayı hedefliyor.
Bu metin Hatay Masası tarafından özgünleştirilerek hazırlanmıştır; birebir alıntı değildir. İlgili kaynak
