Yapay Zeka Savaşında Açık Kaynak Krizi: Çin Şoku ve Yasak Çıkmazı
Son günlerde teknoloji dünyasının gündemi kaynıyor. Yapay zeka devi Anthropic’in CEO’su Dario Amodei, açık kaynaklı yapay zeka modelleriyle ilgili alevlenen tartışmalara nokta koyacak bir açıklama yaptı. Dün şirketin resmi internet sitesinde yayımlanan metinde Amodei, “Açık ağırlıklı modellerin yasaklanması için lobi yapıyoruz” iddialarını net bir dille reddetti. Bakın neler oldu…
Olayın perde arkası Nvidia CEO’su Jensen Huang’ın öncülüğünde 24 Temmuz’da duyurulan “Açık Ağırlıklar ve Amerikan Yapay Zeka Liderliği” başlıklı ortak açık mektupla başladı. Huang, yapay zekanın her sektörü dönüştüreceğini, her şirkete güç vereceğini ve her ülke tarafından inşa edileceğini söylemişti. Açık modellerin siber güvenliği güçlendirdiğini, yenilikçilik ile yayılımı hızlandırdığını ve egemenliğe imkan tanıdığını vurgulayan Huang, dünyanın hem öncü kapalı modellere hem de öncü açık modellere aynı anda ihtiyaç duyduğunu belirtmişti. İşte bu mektuba Nvidia, Meta, Microsoft, IBM, Dell Technologies, CrowdStrike, Palantir, Mozilla, Mistral, Hugging Face, Y Combinator, Andreessen Horowitz, The Linux Foundation, Perplexity, ServiceNow, Box, Replit, Black Forest Labs, Arcee AI, Arena, Emergence Capital, Mariana Minerals, Reflection, Telnyx ve American Innovators Network imza attı. Tam 24 firma, devler ordusu yani…
Ama asıl kriz Çin cephesinde patlak verdi. Amodei, son birkaç gündür özellikle Çin çıkışlı açık ağırlıklı modellere dair yoğun tartışmalar yürütüldüğünü kaydetti. ABD’li yetkililerin, Amerikan şirketlerinin Çin menşeli açık ağırlıklı modelleri kullanmasını yasaklamayı değerlendirdiğine dair haberler basına yansımıştı. İşte tam bu noktada bazı kesimler Anthropic’i kendi ticari çıkarını korumak adına açık modellerin yasaklanmasını istemekle suçladı. Amodei ise bu suçlamalara net cevap verdi: “Açıklığa kavuşturayım ki hiçbir şüphe kalmasın: Anthropic, açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadı. Tehlikeli kabiliyetler barındırmayan açık ağırlıklı modeller bir kamu yararıdır; çalıştırmak için gereken bilgi işlem gücü dışında bir maliyet getirmeyen bu modeller şirketlere, geliştiricilere ve araştırmacılara değer sağlar.”
Korumacı yasakların en ciddi ulusal güvenlik endişelerini çözmeyeceğini söyleyen Amodei, altı ay önce kaleme aldığı “Teknolojinin Ergenliği” başlıklı makalesinde de vurguladığı iki temel korku senaryosunu yeniden sıraladı. Birincisi ve en önemlisi: Çin Komünist Partisi başta olmak üzere “otoriter rejimlerin” ABD’den daha güçlü yapay zeka modelleri inşa ederek kalıcı askeri üstünlük sağlaması veya kendi halkı üzerinde derin baskılar kurması. Bu endişenin ABD yönetimi içinde de paylaşıldığına dikkati çeken Amodei, ABD Başkan Yardımcısı Vance’in geçen yıl Paris’te “Otoriter rejimler askeri, istihbarat ve gözetleme kabiliyetlerini güçlendirmek için yapay zekayı çaldı ve kullandı” dediğini hatırlattı. Amerikan istihbaratının 2026 Yıllık Tehdit Değerlendirmesi raporunda da diğer küresel güçlerin ilerlemesinin ABD’nin ekonomik ve askeri avantajlarına meydan okuduğu kaydedilmişti.
Bu modellerin açık ağırlıklı olarak sunulmasının veya ABD şirketlerince kullanılmasının durumu değiştirmediğini belirten Amodei, en tehlikeli modelin gizlice eğitilerek insansız hava araçlarında kullanılmak üzere Çin Halk Kurtuluş Ordusuna veya gözetleme amacıyla Devlet Güvenlik Bakanlığına teslim edilen model olabileceğini söyledi. İkinci kaygısı ise güçlü yapay zeka modellerinin siber saldırılar veya biyolojik saldırılar gerçekleştirmek üzere kötüye kullanılması ve ciddi “hizalanma” sorunları yaratması. Açık ağırlıklı modellerin kapalı modellere kıyasla daha yüksek risk taşıyabileceğini kabul eden Amodei, ancak ABD şirketlerinin bu modelleri kullanımını yasaklamanın riski ortadan kaldırmayacağını, çünkü kötü niyetli aktörlerin meşru ABD şirketleri olmadığını vurguladı. Ticari rekabetten korunmanın kendisinin bir hedefi olmadığını da ekledi.
Peki çözüm ne? Amodei, ulusal güvenlik ve güvenlik risklerini ele almak amacıyla Anthropic ve kendisinin tutarlı biçimde savunduğu üç maddelik tedbir paketini açıkladı. Birincisi gelişmiş çip kısıtlamaları ve kaçakçılıkla mücadele: Çin’e güçlü çiplerin ve çip üretim ekipmanlarının satılmaması, kaçakçılık ve yasal boşlukların üzerine gidilmesi gerekiyor. Çin’in yerli üretim kapasitesinin sınırlı olduğunu ve ölçekleme yasaları nedeniyle ABD çipleri olmadan ABD’den daha güçlü modeller üretemeyeceğini kaydeden Amodei, bunun en birincil tehdidi engellemenin en etkili yolu olduğunu yazdı.
İkinci madde sanayi ölçeğindeki distilasyon operasyonlarının engellenmesi. Model kopyalama ve küçültme yöntemi olan distilasyon, silikon kısıtlamalarının etrafından dolaşılmasına imkan tanıyor. Distilasyonun Çin sınırını ABD sınırına birkaç ay kadar yaklaştırabildiğine işaret eden Amodei, toptan bir yasak yerine bu davranışı caydıracak hedefli hukuki ve ticari müdahaleler yapılması gerektiğini vurguladı.
Üçüncü ve son madde ise zorunlu güvenlik testleri. İster açık ister kapalı olsun, yeterince gelişmiş tüm modellerin piyasaya sürülmeden önce siber, biyolojik ve hizalanma risklerine karşı zorunlu güvenlik testinden geçirilmesi önerildi. Amodei, Trump yönetiminin son aylarda bu yönde adımlar atmasını ve sektörün benzer önerilerini olumlu karşıladığını, test sürecinin küresel ölçekte uygulanması gerektiğini dile getirdi.
Açık mektuptaki pek çok görüşe katıldığını, açık ağırlıkların yapay zeka ekonomisine erişimi genişlettiğini ve rekabeti artırdığını belirten Amodei; ancak açık modellerin güvenlik önlemleri geliştirmeyi kolaylaştırdığı veya geniş erişimin savunmacılara saldırganlardan daha fazla yarar sağladığı tezine katılmadığını söyledi. Biyoloji alanında saldırı-savunma dengesizliği olabileceğine dikkati çeken Amodei, yeterli kabiliyete sahip modellerin salgın düzeyindeki virüsleri hızla silahlaştırabileceğini, savunmanın ise yıllar alabileceğini ifade etti.
Kısacası, Anthropic’in CEO’su son noktayı koydu: Odağın çiplerin otoriter rejimlerden uzak tutulması, sanayi ölçekli distilasyonun durdurulması ve tüm güçlü modellere güvenlik testi getirilmesi olması gerekiyor. Açık ağırlıklı modellerin yasaklanması gibi birşey yok, hiç olmadı. Ama sorular bitmedi… Bakalım ABD yönetimi bu üç maddelik paketi hayata geçirecek mi? Çin cephesinden ne cevap gelecek? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
