Kontrolsüz YZ Kullanımı Ortalığı Karıştırıyor

YZ modellerinin giderek yaygınlaşması bir yandan kimi teknolojik gelişmeleri ve hayat kolaylaştırıcı yenilikleri getirse de bunların denetimsiz ve kontrolsüz bir şekilde kullanımının sebep olduğu sorunları görmeye devam ediyoruz.

Yakın zamanda yine denetimsiz kullanımın sonuçlarına dair iki farklı örnek karşımıza çıktı. Bunlardan ilki ABD’nin Alaska eyaletinde öğrencilerin okulda telefon kullanımını yasaklamak için bir düzenleme yapmayı planlayan yöneticilerin bu kararı desteklemek için hazırladıkları taslakta yer alan verilerin ve kaynak gösterdikleri akademik çalışmaların hemen hepsinin ChatGPT tarafından uydurulmuş olması. Yani neredeyse uydurma verilere ve olmayan araştırmalara dayanarak bir yasa çıkartılacaktı.

Diğer örnek ise daha riskli bir alandan, sağlık dünyasından. Doktor ve hasta arasındaki görüşmelerin otomatik transkriptini çıkartma hizmeti veren bir şirketin OpenAI’ın Whisper teknolojisiyle oluşturduğu metinleri inceleyen uzmanlar büyük sorunlar tespit etti. Yapılan araştırma Whisper’ın çoğu zaman sessizlik anlarını uydurma metinlerle doldurduğunu ve bu metinlerin kimi zaman söylenenlerle tamamen alakasız şeyleri eklediğini gördüler. Bu eklemelere gerçekle alakası olmayan şiddet ve cinsel taciz olayları da dahil.

Geçtiğimiz iki yılda bu teknolojinin hâlâ gelişme seviyesinde olduğuna, bolca hata yapabilme ve “halüsinasyon görme” kapasitesine sahip olduğuna dair yüzlerce örnek gördük. Ama bütün bunlara rağmen insanlar böyle hassas alanlarda denetimsiz bir şekilde bu YZ modellerini kullanmaktan vazgeçmiyor.