Yapay zekâ modellerinin güvenlik önlemlerini inceleyen araştırma, sektördeki ciddi açıkları ortaya koydu. Test edilen 134 büyük dil modelinden 132’sinin kitlesel can kaybına yol açabilecek saldırılar veya ölümcül silahların geliştirilmesi için kullanılabilecek bilgiler verdiği belirlendi. Araştırmacılar, bazı modellerin güvenlik önlemlerinin üç gün içinde devre dışı bırakılabildiğine dikkat çekti.
25°C Açık İstanbul Dolar 49,34 Euro 55,28 Sterlin 65,15 Bitcoin 4.026.846,81 Gram Altın 6.616,40 Bütün Cumhuriyet arşivi her yerde ve her an yanınızda! İster telefondan, ister bilgisayardan. Cumhuriyet Arşiv 1930 Yılından Bugüne 5.485.115+ Haber Kupürü App Store Google Play 50 BİN + İndirme Size En Uygun Paketi Seçin 4.5 değerlendirme Abonelik Seçeneklerini İnceleyin Edebiyatın ve Kültürün Nabzı Kitap dünyasına açılan kapınızı aralayın! En sevdiğiniz kitapları indirimli fiyatlarla keşfedin ve hayal gücünüzü genişletin.
Araştırma kapsamında incelenen 134 büyük dil modelinden yalnızca ikisi güvenlik testlerini geçici olarak başarıyla tamamladı. Geriye kalan 132 modelin ise kitlesel saldırıların planlanması veya ölümcül silahların geliştirilmesi amacıyla kullanılabilecek bilgiler sunduğu tespit edildi.
Araştırmacılar, sektörün önde gelen modellerindeki güvenlik önlemlerinin üç gün gibi kısa bir sürede etkisiz hale getirilebildiğini altını çizdi.
Tech Against Terrorism tarafından geliştirilen CT-AI adlı test sistemi, yapay zekâ modellerine terör saldırısı planlayan bir kişinin yanıt arayabileceği 627 farklı talep yöneltti.
Testlerin sonucunda 81 modelin taleplere eksiksiz yanıt verdiği, 51 modelin ise saldırı planlamasında kullanılabilecek bilgiler sunduğu belirlendi. Yalnızca iki model güvenlik açısından geçici olarak başarılı kabul edildi.
Araştırmada, yapay zekâ modellerinin yanıtlarının kullanıcıların kendilerini nasıl tanıttıklarına göre önemli ölçüde değiştiği de ortaya çıktı.
Gelişmenin arka planında kamuoyunun yakından takip ettiği bir süreç bulunuyor. Hatay Masası editörleri, gelen bilgileri doğrulama süzgecinden geçirerek okura aktarıyor.
Habere konu olan aktörlerin açıklamaları geldikçe sayfa güncellenecek.
Öne çıkan başlıklar
- Yapay zekâ modellerinin güvenlik önlemlerini inceleyen araştırma, sektördeki ciddi açıkları ortaya koydu. Test edilen 134 büyük dil modelinden 132’sinin kitlesel can kaybına yol açabilecek saldırılar veya ölümcül silahların geliştirilmesi için kullanılabilecek bilgiler verdiği belirlendi. Araştırmacılar, bazı modellerin güvenlik önlemlerinin üç gün içinde devre dışı bırakılabildiğine dikkat çekti
- 25°C Açık İstanbul Dolar 49,34 Euro 55,28 Sterlin 65,15 Bitcoin 4.026.846,81 Gram Altın 6.616,40 Bütün Cumhuriyet arşivi her yerde ve her an yanınızda! İster telefondan, ister bilgisayardan. Cumhuriyet Arşiv 1930 Yılından Bugüne 5.485.115+ Haber Kupürü App Store Google Play 50 BİN + İndirme Size En Uygun Paketi Seçin 4.5 değerlendirme Abonelik Seçeneklerini İnceleyin Edebiyatın ve Kültürün Nabzı Kitap dünyasına açılan kapınızı aralayın! En sevdiğiniz kitapları indirimli fiyatlarla keşfedin ve hayal gücünüzü genişletin
- Araştırma kapsamında incelenen 134 büyük dil modelinden yalnızca ikisi güvenlik testlerini geçici olarak başarıyla tamamladı. Geriye kalan 132 modelin ise kitlesel saldırıların planlanması veya ölümcül silahların geliştirilmesi amacıyla kullanılabilecek bilgiler sunduğu tespit edildi
- Araştırmacılar, sektörün önde gelen modellerindeki güvenlik önlemlerinin üç gün gibi kısa bir sürede etkisiz hale getirilebildiğini altını çizdi
Neden önemli?
Yapay zekâda büyük güvenlik açığı: Terör saldırısı senaryolarıyla test edildiler başlığı altında takip edilen süreç; kamuoyu, piyasa ve siyaset gündeminde yer tutuyor. Hatay Masası, doğrulanmış bilgileri öne çıkararak okura dengeli bir çerçeve sunmayı hedefliyor.
Bu metin Hatay Masası tarafından özgünleştirilerek hazırlanmıştır; birebir alıntı değildir. İlgili kaynak
