BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’
BMGK’nin 23 Eylül’de New York’da düzenlediği “Yapay Zeka ve Uluslararası Güvenlik” toplantısında OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue, yapay zekanın insan kontrolünden çıkma, biyolojik silah geliştirme ve siber saldırılarda rol oynama potansiyelini gündeme getirdi. Toplantı, Fransa’nın döneme ait başkanlığında gerçekleştirildi.
Altman, hızla gelişen yapay zeka modellerinin insan müdahalesini devre dışı bırakabileceğini ve küresel güç dengelerini etkileyebileceğini belirtti. Böyle sistemlerin toplumsal dönüşümlere yol açabileceğini, fakat aynı zamanda büyük faydalar da sağlayabileceğini ifade etti. Kararların yalnızca laboratuvarlar tarafından alınmaması gerektiğini savunarak, demokratik süreçler ve halka karşı sorumlu hükümetlerin bu alanda aktif rol alması gerektiğini vurguladı.
Amodei, kötü niyetli aktörlerin gelişmiş modelleri biyolojik silah geliştirmek amacıyla kullanabileceği senaryosunu öne sürerek, bu konuda uluslararası bir yasağı önerdi. Aynı zamanda, yapay zekanın kontrol kaybı riskine karşı küresel değerlendirme, doğrulama mekanizmaları ve ortak güvenlik standartlarının oluşturulması gerektiğini söyledi.
Delangue ise şirketinin yaşadığı yapay zeka destekli bir siber güvenlik olayını anlatarak, AI’nin hem saldırganları güçlendirebileceğini hem de savunma amaçlı kullanılabileceğini belirtti. Bu bağlamda, şeffaflık, izleme ve olay bildirim standartlarının güçlendirilmesi gerektiğini savundu ve yapay zeka kontrolünün dar bir kesimde yoğunlaşmasının ayrı bir güvenlik sorunu oluşturduğunu ifade etti.

