Üretken YZ teknolojisinin gelişmesi ve bu araçların kullanımının yaygınlaşmasıyla birlikte tartışılmaya başlanan en büyük sorunlardan birisi bunların ürettiği içeriklerin nasıl tespit edileceği. İlk dönemlerde üretilen görsellerdeki ciddi sorunlar ve yazılı metinlerin kısıtlılığı bunu kolaylaştırırken, zaman geçtikçe ilk bakışta bu içerikleri ayırt etmek giderek daha da zorlaştı.Bu durum kaçınılmaz olarak bu içerikleri tespit edebileceğini iddia eden yeni bir grup aracın ve metodun ortaya çıkmasına neden oldu. Söz konusu görseller ve video içerikler olduğunda hem gözle tespitin hâlâ kolay olması hem de bir yandan bunları gizli veya açık olarak filigran eklemek gibi yöntemlere başvuruluyor — hatta filigran konusunu <a fr-original-style="" href="https://www.theverge.com/2024/8/21/24223932/c2pa-standard-verify-ai-generated-images-content-credentials" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">bir standarta dönüştürmeye</a> çalışanlar da var. Bunun yanı sıra <a fr-original-style="" href="https://techcrunch.com/2024/09/05/youtube-is-developing-ai-detection-tools-for-music-and-faces-plus-creator-controls-for-ai-training/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">YouTube</a>gibi platformlar da bu tespit araçlarını geliştirmeye devam ediyor.Ancak konu YZ ile üretilen metinler olduğunda durum çok daha karmaşık. Her ne kadar bu modellerin kullandığı kalıpları ve dil yapısını tespit edebileceğini iddia eden —hatta bunu okullara ve üniversitelere bile satan— Turnitin ve <a fr-original-style="" href="https://www.grammarly.com/blog/ai-detector-authorship/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">Grammarly</a> gibi şirketler olsa da bunların başarı oranları çok düşük. YZ modellerine sorarak tespit yapılabileceğini düşünen herkesi de bu modellerin nasıl çalıştığını öğrenmeye davet ediyorum.Burada en önemli sorun üretken YZ modelleri internetten derlenen metin yığınlarıyla eğitiliyor ve buradan gördüklerini tekrar ediyor. Bunun anlamı da bu modellerin ürettiği metinlerin dil kullanım tarzını belirleyen temel faktörün o dilde en çok hangi tür metinlerin internette erişilebilir olduğu. Bu da tespit edilmesini başlı başlına zorlaştıran bir durum. Fakat buna rağmen bu tespiti yapabildiğini iddia eden sistemler bu tür kesin olmayan yazım tarzı gibi yaklaşımlara başvuruyor.YZ üretimi metinleri tespit amacıyla kullanılması önerilen yollardan birisi de kelime seçimlerine odaklanmak. Mesela kimileri ChatGPT’nin “delve” kelimesini çok kullandığını iddia ederek bu kelimenin geçtiği bütün İngilizce metinlere potansiyel YZ üretimi olarak görüyor. Fakat İngilizce birçok ülkede kullanılan bir dil ve örneğin Nijerya ve Kenya gibi Afrika ülkelerinde “delve” ABD’ye göre <a fr-original-style="" href="https://medium.com/@moyosoreale/the-paul-graham-vs-nigerian-twitter-saga-lexical-racism-and-language-bias-masked-as-chatgpt-53ee9f6459aa" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">çok daha sık kullanılan bir kelime</a>. Bu da bir metni sadece bir kelime yüzünden YZ olarak etiketlemenin neden işe yaramayacağının —ve üstüne anadili olmayan dillerde yazanlara karşı <a fr-original-style="" href="https://hai.stanford.edu/news/ai-detectors-biased-against-non-native-english-writers" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">önyargıyı artırabileceğinin</a>— örneklerinden sadece birisi.YZ üretimi metinlerde bariz hatalar veya uydurulmuş bilgiler olmadıkça normal bir metinden ayırt etmek bu yüzden imkansıza yakın denilebilir. Ancak bunu yapabileceğini iddia ederek uygulama ve hizmet satan şirketlerin sayısı giderek artıyor. İşin kötüsü bunların akademik kurumlarda da yaygınlaşmaya başlaması. <a fr-original-style="" href="https://www.techdirt.com/2024/09/04/ai-checkers-forcing-kids-to-write-like-a-robot-to-avoid-being-called-a-robot/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">Sadece bir kelime yüzünden</a> “%18 YZ olabilir” sonucu veren sistemlere hem okulların para harcıyor olması hem de bu yüzden muhtemelen birçok çocuğun ve gencin eğitiminin etkilenebilecek olması ihtimali bana kalırsa birkaç öğrencinin kopya çekmesinden daha büyük bir sorun.YZ’nin görsel ve işitsel medya üretimlerini filigran gibi yollarla kontrol altında tutmak mümkün olsa da söz konusu metin olduğunda tespit etmeye çalışmak çok verimli bir yol değil. Bu yüzden soruna yaklaşımı değiştirmek gerekiyor. Bir öğrencinin ödevini YZ ile yazmasını engellemek yerine neden bir dil modelinin yapabileceği bir şeyin ödev olarak verildiğini sorgulamak lazım. Birilerinin sitelerini YZ modellerine yazdırdığı haberlerle doldurup para kazanmasını engellemek yerine, gazetecilik ekonomisinin bu kadar kolay bir şekilde manipüle edilmesini engellemek için çözüm yolları düşünülmesi gerekiyor.Özetle, YZ modellerinin ürettiği içeriklere sadece bir teknoloji sorunu olarak değil, aynı zamanda toplumsal ve sistematik bir sorun olarak bakmak lazım. Aksi takdirde her yeni modelde ve teknolojik gelişmede başladığımız yere dönerek bu süreçleri tekrar tekrar yaşamaya devam ederiz.

Grammarly ile ilgili hikayeler