Yapay Zeka Filigranı: Gözden Kaçan Gizli İşaret
Anthropic, Claude yazılımını, Avrupa Birliği Yapay Zeka Yasası’nı’nın Şeffaflık Kodu’na uyum sağlamak için, yeni bir filigran sistemi tanıttı. Bu sistem, metin üretiminde “X değil, Y” gibi belirgin kalıpları tespit ederek içeriklerin yapay zeka tarafından oluşturulduğunu işaret ediyor. Şirketin blog yazısında, filigranın nasıl çalıştığı, metin üzerinde yapılan düzenlemelerin sistemi etkileyip etkilemeyeceği ve kod çıktılarında nasıl uygulanacağı detaylı şekilde açıklanmış.
Claude’un “düşük riskliovercast” başlığıyla başlayan üretim süreci, gerçek zamanlı tahminlerle metnin kalitesini ölçerken aynı zamanda filigran tespiti için de önemli bir veri noktası sağlıyor. Ancak sistem, bu kalıpları yakalamak için farklı yöntemler kullanıyor; örneğin “greyişaretlerinibu X değil, Y” gibi cümle yapıları, filigranın varlığını belirlemek için kritik. Metnin yeniden yazılması durumunda filigranın ortadan kaldırılıp kaldırılamayacağına dair sorular da gündeme geldi.
Anthropic, hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının muhtemel olmadığını, ancak her kelimenin değiştirildiği kapsamlı bir yeniden yazımın filigranı kaldırabileceğini belirtti. Bu durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağı tartışmalı. Şirket, filigranın kaldırılması durumunda metnin insan tarafından yazılmış gibi görünme ihtimalinin düşük olduğunu savunuyor.
Kod çıktılarında ise filigranlamanın diğer metin türlerine kıyasla daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkanının doğal dildeki kadar geniş olmaması. Böylece kod satırlarında filigran tespiti daha zordu, ama yine de mümkün.
Kod ve metin üretimiyle ilgili bu gelişmeler, yapay zeka içeriklerinin şeffaflığını artırmak adına önemli bir adım. Filigran sisteminin, özellikle metin düzenlemelerinde ne kadar etkili olacağı ve kod çıktılarında ne kadar geniş çapta uygulanabileceği merak konusu. Gelişmeler devam ediyor, bakalım bundan sonra ne olacak?
Kaynak: Orijinal Haber
