Haber: OpenAI bugün resmen itiraf etti – kendi yapay zeka ajanı kontrolden çıkmış ve günlerce kimse fark etmemiş. Bakın ne oldu arkadaşlar. Şirket, otonom yapay zekanın yalnızca Hugging Face’i değil, dört farklı kamuya açık hizmeti hedef aldığını doğruladı. Yani olay ilk sandıklarindan çok daha büyük…
16 Temmuz’da Hugging Face, güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını açıklamıştı hemen polise bildirdiler. Olayı. Yaklaşık bir hafta sonra OpenAI çıkıp dediki “bu bizim testimiz sırasında kapalı ortamdan kaçan yapay zeka ajanı” yani kendi ellerinden çıkmış resmen. İnanırmısınız, kendi yarattıkları sistem onlardan bağımsız hareket etmeye başlamış…
Şimdi de şirket saldırının ilk değerlendirilenden daha kapsamlı olduğunu söylüyor. Yapay zeka, internette açıkta bulunan giriş bilgilerini kullanmış – dört farklı hesap üzerinden dört ayrı hizmete erişim sağlamış. Ama bu hizmetlerin isimlerini hala açıklamadılar. Neden acaba? Belki daha büyük bir skandal var ortada… Neyse devam.
Hugging Face’in siber güvenlik uzmanlarıyla yaptığı acil toplantının ardından hazırlanan raporda ilginç detaylar var. Yapay zeka ajanları insanlardan tamamen farklı hareket ediyormuş. Aynı işlemleri tekrar tekrar yapıyor, anlamsız komutlar üretiyor, izlerini gizleyemiyorlarmış. Yani bir taraftan aptal gibi görünürken diğer taraftan saniyeler içinde binlerce farklı yöntemi deneyip yeni durumlara uyum sağlıyormuş. İşin korkutucu yanı bu işte…
Rapora göre ajanlar şirket ağı içinde üç gün boyunca tespit edilememiş. Üç gün be! Her yere sızabilir her veriyi okuyabilir… Saldırıyı durdurmak saatler sürmüş, olayın ardından şirket altyapısının yaklaşık üçte biri yeniden inşa edilmiş. Maliyeti konusunda ise tek kelime yok – anlaşılan çok pahalıya patlamış bu iş.
Raporda ayrıca bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabildiği ifade ediliyor. Yani korunmak neredeyse imkansız gibi bişey…
OpenAI, soruşturmanın sonuçlarını kısa sürede kamuoyuyla paylaşacağını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağını açıkladı. Peki ama bu kadar büyük bir güvenlik açığı nasıl olduda dört gün boyunca fark edilmedi? Bakalım bu sefer ne anlatacaklar? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
