Yapay Zekada Filigran, Damgalanmak mı Demek?
Kullanıcılar arasında şimdiden tartışmalar başladı. Bazıları metin çıktılarına da bu tür etiketler eklemenin damgalanma riskini de beraberinde getireceğini düşünüyor. Bazıları ise metinlere müdahale etmenin kaliteyi düşürebileceğinden endişeli.
İllüstrasyon: Jason marz/gettyimages
Avrupa Birliği'nin (AB) yeni şeffaflık kuralları, şirketlerin üretken yapay zeka sistemleri tarafından üretilen içeriğe yine makine tarafından okunabilecek şekilde filigran eklemesini zorunlu kılıyor. Üstelik bu zorunluluk, sadece görseller ve videolar için değil, yapay zekayla üretilen metinler ve kodlar için de geçerli.
Piyasadaki mevcut sistemlerin bu kurala uyması için Aralık 2026'ya kadar süreleri var.
Kullanıcılar arasında şimdiden tartışmalar başladı. Bazıları metin çıktılarına da bu tür etiketler eklemenin damgalanma riskini de beraberinde getireceğini düşünüyor. Bazıları ise metinlere müdahale etmenin kaliteyi düşürebileceğinden endişeli.
Hangi şirketler filigran eklemeye başladı?
Google halihazırda metin filigranlama teknolojisi kullanıyor. Kendi geliştirdiği SynthID Text teknolojisiyle 2024'ten beri Gemini metinlerine filigran ekliyor. Teknolojinin kodu da yayımlandı. Dolayısıyla isteyen araştırmacılar, bunu kullanarak kendi sistemlerinde filigranlama ve tespit altyapısı kurabilir.
Anthropic de 2 Ağustos 2026 ve sonrasında AB'de piyasaya sürülen yeni modeller için destek taahhüdünde bulundu. Anthropic'in filigranı da SynthID-Text'e dayanıyor, ancak şirket sistem üzerinde değişiklikler yaptığını belirtti. Yine Anthropic'in sunacağı filigran tespit aracına düzenleyici kurumlar ve kolluk kuvvetleri, gazeteciler, medya kuruluşları ve doğrulama kuruluşları ile bağımsız araştırmacılar ve eğitim kuruluşları başvurabiliyor.
OpenAI da 5 Ekim itibarıyla 'textGrain' adlı sistemiyle kafileye katıldı. Şirket ayrıca filigran özelliğini AB dışındaki diğer bölgelerde de sunacak, ancak bu bölgelerde özellik varsayılan olarak kapalı olacak. OpenAI, dedektöre sınırlı sayıda araştırmacı ve kuruluşa erişim sağlayacağını ve zaman içinde başkalarının da eklenmesi için bir onay süreci sunacağını söylüyor.
Meta'nın ise yapay zeka metinlerini filigranlamak için geliştirdiği TextSeal adlı açık kaynaklı bir araştırma projesi var. Ancak Meta AI veya Llama modellerinin bütün metin çıktılarının TextSeal ile filigranlandığına dair resmi bir açıklama yok.
Yazıya nasıl filigran eklenir?
Halihazırda var olan ticari yapay zeka dedektörleri, yapay zeka üretimi yazılar ile insan yazısı arasındaki farkları tespit etmek üzere eğitiliyor. Filigran ise tamamen farklı bir şey yapıyor: Yazı stili yerine kelime seçimine odaklanıyor.
ChatGPT gibi büyük dil modelleri, normalde metin üretirken bir sonraki kelimenin ne olacağını tahmin etmeye dayanan bir sistemle çalışır. Bu modeller, eğitimleri sırasında çok büyük miktarda metni analiz ederek kelimeler, ifadeler ve kavramlar arasındaki istatistiksel ilişkileri öğrenir. Kullanıcı bir soru sorduğunda model, soruyu ve o ana kadar oluşturduğu yanıtı dikkate alarak sıradaki kelime veya kelime parçasının (token) ne olabileceğine ilişkin olasılıklar hesaplar.
Örneğin "Bugün hava çok..." ifadesinin ardından gelebilecek "güzel", "soğuk" veya "sıcak" gibi kelimelere farklı olasılıklar atar. Ardından bu olasılıklara göre bir seçim yapar ve aynı işlemi her yeni kelime parçası için tekrarlar.
Metne filigran eklerken ise bu olası kelimelerin her birinin olasılığı yapay zeka modelinin bazı kelimeleri diğerlerine göre daha çok tercih etmesini sağlayacak şekilde yeniden ayarlanıyor. Örneğin belirli kelimeler istatistiksel açıdan biraz daha olası hale getiriliyor.
Böylece okur herhangi bir işaret görmezken, dedektör bu gizli örüntüyü yakalayabiliyor. Metin ne kadar uzun olursa, filigranın tespit edilme olasılığı o kadar artıyor.
Ne kadar uzun o kadar iyi
AB Komisyonu da yaklaşık 150 kelimenin altındaki metinleri filigran zorunluluğundan tamamen muaf tutuyor. Dilbilgisi ve yazım denetimi gibi girdiyi önemli ölçüde değiştirmeyen yardımcı işlevler de muafiyet kapsamına giriyor.
Bir metni kopyalayıp başka bir yere yapıştırmak filigranı ortadan kaldırmıyor. Fakat metni yeniden yazmak, başka dile çevirmek veya büyük ölçüde değiştirmek tespit başarısını düşürebiliyor. Google'a göre, kullanıcıların bu filigranlardan kurtulmak için metni çok yoğun biçimde düzenlemesi, değiştirmesi gerekiyor.
Meta'da yapay zeka araştırma bilimcisi olan ve metin filigranlarının tespit edilebilirliği üzerine bir makalenin ortak yazarlığını yapan Vinu Sankar Sadasivan, filigranların özellikle potansiyel kelime seçeneklerinin sayısı az olduğunda zorlandığını söylüyor.
Spectrum IEEE'ye konuşan Sadasivan, "20 kelimelik bir tweet düşünün. Etkin şekilde tespit edilebilmesi için kelimelerin yüzde 50 veya 60'ının 'yeşil listeden' olması gerekir" diyor.
Filigranlar ne kadar güvenilir?
OpenAI'ın textGrain ile yaptığı testler, metin filigranlarının ne kadar doğrulukla tespit edilebileceğine dair fikir verebilir. Şirketin yürüttüğü bazı testler yüzde 92'lik başarılı tespit oranı gösterse de sonuçlar metnin uzunluğuna ve düzenlenme oranına göre değişebiliyor.
Örneğin testlerde, yapay zeka üretimi 200 kelimelik metinlerin yalnızca yüzde 80'inde filigran tespit edilebildi. Şirket, 400 kelimelik bir metinde kelimelerin yalnızca yüzde 10'unun değiştirilmesinin tespit oranını yüzde 66'ya düşürdüğünü, kelimelerin yüzde 25'inin değiştirilmesinin ise bu oranı yüzde 17'ye kadar düşürdüğünü belirtti.
Üstelik 2026 tarihli bir araştırma, filigranlı metinlerle eğitilmiş bir yapay zeka modelinin, yine filigran taşıyan çıktılar üreteceğini gösteriyor.
OpenAI, metin filigranlarının oluşturulan içeriğin sahipliğini belirleyemeyeceğini, doğruluğunu kanıtlayamayacağını veya içeriği kimin oluşturduğunu tespit edemeyeceğini vurguluyor. Ayrıca şu aşama filigran tespit edilmemesi de içeriğin kesinkes insanlar tarafından üretildiğini kanıtlamaya yetmeyebilir.
Açık kaynaklı yapay zekalar ne olacak?
Açık kaynaklı veya açık ağırlıklı yapay zeka modelleri de metin filigranlama düzenlemelerinden etkilenebilir. Ancak bunların denetlenmesi, ChatGPT veya Claude gibi merkezi hizmetlere kıyasla çok daha zor.
Zira kullanıcılar, Llama veya Qwen ya da Deepseek gibi açık ağırlıklı modelleri kendi bilgisayarlarına veya sunucularına indirerek çalıştırabiliyor. Böylece metin üretimi, modeli geliştiren şirketin kontrolü dışında gerçekleşebiliyor.
Öte yandan açık kaynaklı modellerde de filigranlama teknik olarak mümkün. Ancak açık ağırlıklı bir modelin metin üretim algoritmasına erişen geliştiriciler, filigranlama mekanizmasını değiştirebilir veya devre dışı bırakabilir. Bu nedenle filigranın modelin kendisine ne ölçüde entegre edildiği önemli.
Google'ın SynthID Text teknolojisi eldeki somut örneklerinden biri. Google, açık kaynaklı Gemma modellerine filigran eklenmesini ve bunların tespit edilmesini sağlayan örnek kodlar yayımladı. Bu, açık kaynaklı modellerin de filigranlanabileceğini gösteriyor.
Buradaki temel yöntemlerden biri metin üretimi sırasında filigran eklemek. Filigranlama, modelin sıradaki token'ı seçtiği aşamada uygulanabilir. Ancak modeli kendi bilgisayarında çalıştıran bir geliştirici, bu mekanizmayı kullanmamayı seçebilir.
Filigranı modelin ağırlıklarına yerleştirmek ise ikinci seçenek. Burada araştırmacılar, filigranın doğrudan modelin öğrendiği parametrelere yerleştirilmesini inceliyor. Böylece filigranın kaldırılması zorlaştırılabilir. Ancak model üzerinde sonradan yapılan değişiklikler bu işaretleri zayıflatabilir.
Bu durum, yeni bir tartışmayı da doğuruyor: Yapay zeka konusunda bilgisi daha derin olan kötü niyetli aktörler filigranları kaldırıp manipüle edebilirken, sıradan kullanıcıların üretimleri etiketlenmeye devam mı edecek?
Metnin kalitesini bozacak mı?
Konuyla ilgili bir diğer tartışma, filigranlama algoritmalarının yapay zekanın kelime seçimlerine müdahale etmesi. Bazı yorumcular, ücretli bir yapay zeka hizmetinin kullanıcıya en uygun yanıtı üretmek yerine filigran oluşturacak kelime seçimlerine öncelik vermesini eleştiriyor.
Özellikle yazılım geliştirme amacıyla Claude kullanan bazı kişiler, filigranlama sisteminin kod düzenleme gibi hassas görevleri etkilemesinden endişe ediyor. Anthropic ise yaptığı testlerde filigranlamanın metin kalitesi, yaratıcılık ve okunabilirlik üzerinde anlamlı bir olumsuz etkisini görmediklerini savunuyor.
Üniversitedeyken çeşitli kültür sanat yayınlarında görev aldıktan sonra popüler bilim kitapları çevirmeye başladı. 2019'da dış haber editörlüğü ile medyaya girerek gazetecilik hayatına başladı. Koronavirüs pandemisi mesleki yönelimi için önemli bir dönüm noktası oldu. Pandemiyle birlikte sağlık ve bilim haberciliği, sonrasında teknoloji haberciliği yaparak mesleğine devam etti. Halihazırda çeşitli mecralarda bilim ve teknoloji haberleri/yazıları yazıyor.