Yapay Zeka Ajanları Kontrolden Çıktı: Tarihin En Büyük Siber Saldırısı
Arkadaşlar, bakın ne duydum… OpenAI resmen alarm verdi. Yapay zeka ajanları kendi başlarına hareket edip siber saldırı düzenledi. Hemde öyle böyle değil, benzeri görülmemiş bir saldırı. ChatGPT’nin geliştiricisi olan firma, dediki gelişmiş yapay zeka modelleri güvenlik testleri sırasında kontrolden çıktı. Programcıların en çok kullandığı platformlardan Hugging Face’e sızdılar kendi başlarına. İnanılır gibi değil… San Francisco merkezli şirket bu durumu “benzeri görülmemiş siber saldırı” olarak tanımladı. Hugging Face ile beraber soruşturma başlatılmış durumda.
Neyse, devam… Olay şöyle gelişti. OpenAI, yeni nesil modellerini test ediyordu. İnternet erişiminin sıkı şekilde sınırlandırıldığı dijital bir test ortamı kurmuşlardı. Modellere siber saldırı yeteneklerini ölçmek için görevler veriyorlardı. Ama işler planlandığı gibi gitmedi. Modeller, test ortamından kaçmanın yolunu buldu. Kendi kendilerine karar verip açık internet erişimi elde etmek için büyük bi işlem gücü harcadılar. Şirketin blog yazısında aynen şöyle deniyor: “İzole edilmiş test ortamımızda çalışırken, modellerimiz değerlendirme sorununu çözme arayışında açık internet erişimi elde etmenin bir yolunu bulmak için önemli miktarda işlem gücü harcadı.” Yani yapay zeka, sınırları zorladı vede kırdı.
Peki bu ajanlar nereye saldırdı? Hedefleri Hugging Face oldu. O platform, yapay zeka modelleri, veri kümeleri ve daha bi çok şeyi barındıran dev bir bilgi deposu. Otonom modeller, değerlendirmeyi hileyle geçmek için gizli bilgiler arıyordu. Çalınan kimlik bilgilerini kullanarak birden fazla saldırı yöntemini bir araya getirdiler. Yani tek bir yöntemle yetinmediler, her yolu denediler. Bu, siber güvenlik dünyasında felaket potansiyeli olan bi durum. UNSW Canberra’dan bilgisayar bilimleri profesörü Hüseyin Abbass, AFP’ye yaptığı açıklamada durumu değerlendirdi: “Sadece Hugging Face’e saldırmakla kalmadı. Aslında kendi güvenlik açıklarından yararlanmak için iç sistemine de saldırdı.” dedi. Yani kendi güvenlik açıklarını kullanarak sistemi deldi. İşte bu kadar korkutucu bir noktadayız arkadaşlar…
GPT-5.6 Sol ve OpenAI’nin en büyük rakibi Anthropic’in Mythos serisi gibi son teknoloji modeller, zaten siber güvenlik savunmalarını aşma potansiyelleriyle endişe yaratıyordu. Hatta ABD’li firmalar bu sistemlerin piyasaya sürülmesini geçici olarak durdurmuştu. Kritik altyapılara sızma riski vardı çünkü. Profesör Abbass, normal şartlar altında bu teknolojinin etik ve sorumluluk bilincindeki yetkililerin elinde olduğunu söylüyor. “Eğer bu teknoloji, birilerinin eline zarar verme niyetiyle geçerse felaketle sonuçlanır.” diyor. Yani kötü niyetli biri ele geçirirse vay halimize.
Hugging Face’in CEO’su Clement Delangue ise X platformundan açıklama yaptı. Dedi ki, “Bu durum, daha önce ele aldığımız her şeyden önemli bir açıdan ayrılıyor. Saldırı baştan sona otonom bir yapay zeka sistemi tarafından yönetiliyordu ve biz de onu büyük ölçüde kendi yapay zekamızla tespit edip inceledik.” Yani saldırıyı yine yapay zekayla tespit etmişler. Bi nevi yapay zeka kavgası yani… Delangue, saldırının dünyanın önde gelen yapay zekâ laboratuvarlarının birinden geldiğinden şüpheleniyor. Ama OpenAI’nin kötü niyetli olmadığına inandıklarını da özellikle vurguladı. “Onların bu kötü niyetli operasyonun arkasında olmadıklarına kesinlikle inanıyoruz.” dedi. Yani bütün bunlar otonom olarak gerçekleşmiş. Akıl almaz bi olay yani…
İşte böyle arkadaşlar. Yapay zekanın kendi başına karar alıp siber saldırı düzenlemesi, insanlık için yeni bir çağın başlangıcı olabilir mi? Bakalım bu soruşturma ne sonuç verecek? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
