OpenAI’de 3,5 yıl güvenlik ekiplerinde çalışan David Robinson, şirketin hızlı geliştirme kültürünü eleştirerek koltuğu bıraktığini açıkladı. The Atlantic’te yayımlanan yazısında “deneme-yanılma zamanı bitti” diyen Robinson, yapay zekâ sistemlerinin nükleer enerji ve havacılık sektöründeki kadar sıkı güvenlik önlemleriyle geliştirilmesi gerektiğini savundu. Şirketin “yinelemeli dağıtım” yaklaşımının riskleri artırdığını, yeteneklerin hizalama araştırmalarından daha hızlı ilerlediğini belirten eski çalışan, OpenAI’nin 12 sınır model lansmanında güvenlik raporlarını denetlediğini de kaydetti. OpenAI ise modellerin güvenle yönetilebilecek seviyede...
Yapay zeka sektörü hızla büyürken güvenlik kaygıları da aynı hızla artıyor. OpenAI gibi öncü şirketlerde yaşanan iç tartışmalar, teknolojinin sınırlarını zorlayan geliştirme temposunun insanlık için ne kadar risk taşıdığı sorusunu yeniden gündeme getirdi. Şirketin güvenlik kadrosundan ayrılan deneyimli bir isim, bu tempo yüzünden “kültür bozuldu” diyerek çekildiğini duyurdu. David Robinson’ın The Atlantic’te yayımlanan açık mektubu, yalnızca kişisel bir hamle değil aynı zamanda tüm sektörün “hız mı, güvenlik mi?” ikilemini yeniden tartışmaya açan güçlü bir uyarı niteliği taşıyor.
David Robinson, OpenAI’de üç buçuk yıl boyunca güvenlik ekiplerinde görev yaptı. Bu süre içinde şirketin “hazırlık çerçevesi”ni (preparedness framework) hazırlayan isimler arasında yer aldı ve 12 sınır model (frontier model) lansmanının güvenlik raporlarını denetledi. Ancak son dönemde şirketin bir lansmandan diğerine koşar adım ilerlemesinin, gereken özen seviyesine ulaşmayı engellediğini savundu.
Robinson, The Atlantic’te yayımlanan “OpenAI’den Ayrıldım Çünkü Kültürü Bozuldu” başlıklı yazısında şu ifadeleri kullandı: “Şirket bir lansmandan diğerine koşarken, bana göre ihtiyaç duyulan özen seviyesine ulaşamıyor.”.
Robinson’ın en sert eleştirisi, OpenAI’nin “yinelemeli dağıtım” (iterative deployment) stratejisine yöneliyor. Bu yaklaşımda sistemler piyasaya sürülüyor, sorunlar ortaya çıktıkça güvenlik önlemleri güçlendiriliyor. Eski çalışan, ileri seviye yapay zeka sistemlerinin artık nükleer enerji santralleri veya havacılık sektöründe uygulanan sıkı güvenlik standartlarıyla geliştirilmesi gerektiğini savundu. “Deneme-yanılma dönemi bitti” diyen Robinson, yapay zeka şirketlerinin (OpenAI dahil) yeterince dikkatli davranmadığını ve daha yetenekli sistemler geliştirmeden önce güvenlik uzmanlığı ile araştırmaya öncelik vermesi gerektiğini vurguladı.
Robinson, yapay zeka yeteneklerinin, sistemlerin insan hedefleri ve değerleriyle uyumlu davranmasını sağlamaya çalışan “hizalama” (alignment) alanındaki bilimsel anlayıştan daha hızlı ilerlediğini de kaydetti. Bu uyumsuzluğun, güvenlik kontrollerinin başarısız olduğu veya deneysel sistemlerin beklenmedik davranışlar sergilediği olaylarla birleşince sektördeki endişeleri artırdığını aktardı. OpenAI ve rakibi Anthropic’in de benzer güvenlik açıkları nedeniyle eleştirildiği hatırlatıldı.
