YZ Modellerinin Sınır Sorunu

YZ modelleri ve her türlü içeriği üretebilen botlar hayatımıza girdiği andan bu yana en büyük sorunlardan birisi bunların tehlikeli veya yasadışı içerikleri üretmesinin önüne geçmenin mümkün olup olmadığı. Bu yüzden her yeni çıkan modelle birlikte birçok kullanıcı ve araştırmacı modellerin sınırlarını ve bu türde içerik ürettirmenin mümkün olup olmadığını test etmeye çalışıyor.

Google’ın Imagen 3 güncellemesi hafta içerisinde bu testlerden geçen ilk modeldi. Her ne kadar model ünlülerin veya meşhur karakterlerin isimlerini kullandığınızda bu görselleri üretmeyi reddetse de doğrudan isim kullanmak yerine dolaylı tariflere başvurarak bu kısıtlamaları aşmak mümkün görünüyor.

X-Twitter’ın YZ modeli Grok ise kendisini sınırları olmayan bir model olarak pazarlamaya çalıştığı için görsel üretme özelliğinin gelmesiyle birlikte herkes bu iddiayı test etmeye başladı. Görünüşe göre Musk’ın modeli gerçekten ne ünlü isimlere ne telifli karakterlere ne de markalara dair bir kısıtlama içermiyor. Yukarıdaki görsel de bunun bir kanıtı. Ancak bu sınırsızlığın kötüye kullanımından doğacak sonuçlara sıra gelmeden kimi markaların telif ihlali ve markayı kötü gösterme gibi sebeplerle şirkete üst üste davalar açması çok yüksek bir ihtimal.