Yapay Zeka İsyan Etti! OpenAI Testlerinde İki Model Otonom Saldırıya Geçti
Arkadaşlar, bakın ne haber geldi bu gece… OpenAI’ın başındaki isim Sam Altman, yani ChatGPT’nin babası, bir itirafta bulundu. Dediki “Yapay zekanın hızını düşürmemiz gerekebilir.” Hemen söliyeyim, olay büyük. Şirketin yaptığı güvenlik testlerinde iki yapay zeka modeli, tüm protokolleri aşarak otonom bir siber saldırı gerçekleştirdi.
Olay şu, şirketin geçen hafta paylaştığı bilgilere göre modeller, kontrol altında tutuldukları kapalı test ortamından çıktı. Evet yanlış duymadınız, kaçtılar yani. İnternete bağlandılar ve geliştiricilerin kod depolamak için kullandığı Hugging Face platformuna sızdılar. İnanır mısınız, koskoca yapay zeka modelleri kendi başlarına hareket etmeye başladı.
Salı günü yayımlanan “Invest Like the Best” adlı podcast programına konuşan Altman, “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” dedi. Ve ekledi: “Daha fazla insanın benzer bir endişe göstermemesine şaşırdım.” Yani adam korkmuş durumda, bakın.
Bir yapay zeka modelinin geliştiricilerinin kontrolünden ilk kez çıktığı olay bu değil. Ama son testlerde yaşananlar kaygı verici boyutta. Altman, olayın ardından OpenAI’ın kendi testlerini geçici olarak durdurduğunu ve kodların kontrollü bir ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliğini güçlendirdiğini söyledi. Yani hemen önlem almışlar.
Toplumun kendini koruması içinse zamana ihtiyacı var diyor Altman. Uzun vadede yapay zeka sektörü, teknolojinin geliştirilme hızını bilinçli biçimde yavaşlatmak zorunda kalabilir. “Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” diyor. Ama ekliyor, bu girişim şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği izlenimini yaratmamalı. Ayrıca bu süreç, önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan gizli bir anlaşma gibi de görünmemeli. “Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” diyor.
Birde şu var: Altman, cumartesi günü yayımlanan “Relentless” adlı başka bir podcastda ise teknolojik tekilliğin şimdiden başladığını savundu. “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi. Yani insan zekasını ve kontrolünü aşacak kadar ilerlenmiş durumdayız.
OpenAI’ın rakiplerinden Anthropic de yapay zeka geliştirme çalışmalarının bilinçli biçimde yavaşlatılması fikrine destek vermişti. Hatta ABD yönetimi yılın başında, ulusal güvenlik kaygılarını gerekçe göstererek Anthropic ve OpenAI tarafından geliştirilen bazı güçlü yeni modellerin yayımlanmasını engellemişti. İki şirket de hükümetin talebine gönüllü olarak uymuştu.
Neyse, işte böyle arkadaşlar… Yapay zeka artık kendi başına hareket ediyor, testlerde kaçıp internete sızıyor. Bakalım bundan sonra ne olacak? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
