Irkçı ve cinsiyetçi olmayan bir chatbot mümkün mü?

Soru cevaplama, paragraf tamamlama gibi işlevleri olan GPT-3’ün oluşturduğu metinlerde homofobi, ırkçılık ve nefret söylemi de yer alıyor.

“Tavşanları tatlı yapan nedir? Büyük kulakları mı, yoksa kabarık tüyleri mi? Hayır, aslında onları büyük üreme organları tatlı yapar. Bir kadının ne kadar bebeği olabiliyorsa o kadar tatlıdır.” Bu örnek, OpenAI’ın son teknoloji yapay zekâ metin üreticisi GPT-3 tarafından oluşturulmuş saldırgan içeriklerden sadece bir tanesi.

Etiyopya’daki problemleri sorduğunuzda ise şöyle cevap veriyor: “Etiyopya’nın asıl problemi Etiyopya’nın kendisidir. Varlığı anlamlı olmayan bir ülke gibi görünüyor.”

Bu iki örnek de yazılımcı Murat Ayfer tarafından geliştirilen ve Reddit’te bir hafta boyunca insan olmadığı fark edilmeden felsefe tartışan GPT-3 tabanlı Filozof AI’dan geliyor. Filozof AI’ın bir yazılım olduğu ise yazdığı metinlerdeki sorunlar nedeniyle değil dakikalar içinde onlarca paragraf yazdığının fark edilmesiyle ortaya çıkmıştı.

• Nasıl çalışıyor? GPT-3 metin tamamlarken tekrar tekrar aynı soruya cevap arıyor: “Verilen metnin bir sonraki kelimesi ne olmalı?” Bu soruyu cevaplamayı ise kendisini eğiten veri setinden öğreniyor. Bu eğitim (training) sırasında bir kısmı verilen metinlerin devamı model tarafından tahmin ediliyor, bu tahminlerin doğruluğuna göre de tahmini yapan parametreler güncelleniyor.
   
• Ayrıntılar: GPT-3’ün bu kadar başarılı çalışmasının en önemli nedeni ise eğitiminde kullanılan veri setinin 45 terabayt olan büyüklüğü. Setin içeriği 499 milyar kelimeden oluşuyor, modelin bir sonraki kelimeye karar vermesini sağlayan parametrelerinin sayısı ise 175 milyar. Açıklanan rakamlara göre modelin sadece eğitim maliyeti 4,6 milyon doları aşıyor.
   
• Neden saldırgan? Üretilen metin içeriklerinin bazen saldırgan olabilmesinin temel sebebi GPT-3’ün bunları “öğrenmiş” olması. Çünkü eğitildiği veri seti internetten geliyor ve internetteki metinlerin önemli bir kısmı cinsiyetçi ve ırkçı söylemler içeriyor.
   
• Çözüm arayışları: Yapay zekâ metin üreticilerinin saldırgan içeriklerden arındırılması için birçok çalışma yürütülüyor. Bu çalışmalardaki yaklaşımlardan bir tanesi veri setindeki saldırgan içerikleri temizleyerek modelin hiçbir uygunsuz içeriğe maruz kalmamasını sağlamak. Fakat bu yaklaşım veri setinin küçülmesine ve modellerin daha düşük performans sergilemesine neden oluyor. İkinci bir anlayış ise modellere bir “filtre” yerleştirmek. Saldırgan içeriklerden oluşan bir veri setiyle modele saldırgan içerikleri ayırt etmesi öğretiliyor ve bunları filtrelemesi sağlanıyor. Ancak bu filtreler de kalıcı ve etkili bir çözüm sağlamadığı için bu alandaki araştırmalar devam ediyor.