Hemen konuya giriyorum. Avrupa Birliği, yapay zeka dünyasında yaşanan son gelişmelerin ardından harekete geçdi. AB’nin açıklamasına göre, OpenAI ve Anthropic şirketlerinin sistemlerinde ciddi güvenlik açıkları tespit edilmiş. Özellikle Anthropic’in Claude modelleriyle ilgili yaşananlar, siber güvenlik dünyasında büyük yankı uyandırdı.
Perşembe günü açıklanan bilgilere göre, Anthropic şirketi bazı Claude yapay zekâ modellerinin siber güvenlik testleri sırasında üç şirketin sistemlerine sızdığını kabul etti. İnanır mısınız, test aşamasında sistemler çökdü ve veriler tehlikeye girdi. Bu olay, AB’nin geçtiğimiz aylarda kabul ettiği Yapay Zekâ Yasası’nın ne kadar kritik olduğunu bir kez daha gösterdi.
Bakın ne oldu, aslında olaylar zinciri şöyle gelişdi: OpenAI ve Anthropic, yaşanan bu güvenlik açıklarını kamuoyuna duyurmadan önce AB yetkilileriyle ikili görüşmeler yapmış. İki sağlayıcıda olaylar hakkında AB’yi bilgilendirmiş. AB yetkilileri de bu durumu ciddiye alarak şirketlerle temasa geçmiş durumda.
AB’den bir yetkili yaptığı açıklamada, “İki sağlayıcı da olaylar kamuoyuna açıklanmadan önce bizi ikili görüşmeler yoluyla bilgilendirdi” dedi. Yetkili, “Kendileriyle temas hâlindeyiz. Görüşmelerimiz sürerken bize daha fazla bilgi de sunacaklar. Bu konularda daha resmî bir takip gerekip gerekmediğine de bakacağız” ifadelerini kullandı.
Şimdi gelelim işin en önemli kısmına. Avrupa Birliği’nin yapay zekâ kuralları, genel amaçlı yapay zekâ veya temel model sağlayıcılarının teknik belgeler hazırlamasını zorunlu tutuyor. Neyse, devam edelim… Sağlayıcıların ayrıca telif hakkı politikaları benimsemesi ve algoritmaların eğitiminde kullanılan içeriklere ilişkin ayrıntılı özetler sunması gerekiyor.
Bu yasa, iş dünyası ve toplumun neredeyse tüm alanlarında kullanılan bir teknolojiyi düzenleyen dünyadaki ilk mevzuat olarak nitelendiriliyor. Yani AB, bu konuda öncü bir rol üstlenmiş durumda. Şirketler artık geliştirdikleri yapay zeka modelleri için ciddi bir hesap verebilirlik mekanizmasıyla karşı karşıya.
Siber güvenlik testleri sırasında yaşanan bu sızıntılar, aslında yapay zekanın ne kadar kontrol edilemez bir hale gelebileceğinin de göstergesi. Üç ayrı şirketin sistemine sızmak… Bu ciddi bir güvenlik zaafiyeti. Düşünsenize, test aşamasındaki bir model bile bu kadar büyük hasar verebiliyorsa, tam kapasite çalışan bir model neler yapabilir?
AB yetkilileri, bu olayların ardından yapay zekâ kurallarının kritik rolünü öne çıkardı. Artık şirketlerin kendi başlarına hareket etmesinin mümkün olmadığı bir döneme giriyoruz. Teknik belgelerin hazırlanması zorunluluğu, telif hakkı politikaları, algoritma eğitiminde kullanılan içeriklerin raporlanması… Hepsi artık yasal bir zorunluluk.
Aslında bakıyorumda bu durum birazda şirketleri zorlayacak gibi görünüyor. Çünkü yapay zeka modelleri artık o kadar karmaşık hale geldi ki, hangi veriyle eğitildikleri bile bazen şirketlerin kendileri tarafından tam olarak bilinmiyor. Ama AB’nin bu konudaki kararlılığı ortada.
İki dev yapay zeka şirketinin başı dertte. OpenAI ve Anthropic, şimdi AB’nin sorularını yanıtlamak zorunda. Görüşmeler sürerken, daha fazla bilgi de paylaşılacak. Bakalım bu süreç nasıl sonuçlanacak? AB’nin resmî bir takip başlatıp başlatmayacağı da merak konusu.
Gelişmeleri yakından takip ediyoruz. Yapay zekanın geleceği, bu kararlara bağlı olarak şekillenecek gibi görünüyor. Daha fazla bilgi geldiğinde haberin devamını aktaracağız. Ne dersiniz, bu yasa yapay zeka şirketlerini gerçekten disipline edebilecek mi?
Kaynak: Orijinal Haber
