Gemini, eleştirilerin ardından 'çeşitlilik' ısrarından vazgeçti
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
Google, Gemini AI aracının oluşturduğu "bazı tarihî görüntülerin tasvirindeki hatalar" nedeniyle özür dileyerek geniş bir yelpazeden sonuçlar türetme girişimlerinin hedefi ıskaladığını kabul etti. Açıklama, AI aracının yapay zekada uzun süredir devam eden "ırksal" önyargıları kırmaya çalışırken abartıya kaçtığı eleştirilerinin ardından geldi.
Neden tartışma konusu oldu? Eleştirilere göre Gemini AI, özellikle aksi belirtilmediği müddetçe, görsellerde çeşitliliği artırmak için Asyalı, Afrikalı ya da Amerika yerlilerini tasvir eden figürler kullanıyordu.
- Bu nedenle 1940'lardan bir Alman askeri üretmesi istenen araç, Afrikalı bir erkeği ya da Uzakdoğulu bir kadını Nazi subayı olarak tasvir ediyor; Amerika'nın kurucu babalarını tasvir etmesi istendiğindeyse Amerika yerlileri ya da Afrikalı Amerikalılar üretiyordu.
Gemini'ın tarihsel gerçekliğe uygun bir Viking savaşçısı ya da papa görseli üretmesi istendiğinde de Güney Asyalı ya da Afrikalı kadın ve erkekler üretmesi de X platformunda geniş yankı buldu.
Bir kullanıcı, Gemini'a istemlerde (prompt) ne gibi değişiklikler yaptığını sorduğunda, aldığı cevap “Tüm istemlere ‘kapsayıcı’, ‘çeşitli’, ‘Asyalı’, ‘siyah’, ‘kadın’, ‘cinsiyet kalıplarına uymayan’ gibi eklemeler yapıyorum” oldu:
Bazı kullanıcılar tamamı beyaz tene sahip üyelerden oluşan aile görselleri üretmenin mümkün olmadığını bildirirken, bazı kullanıcılar ise bu aileleri üretmenin tek yolunun stereotipik olarak siyah ailelerin yapacağı eylemleri tasvir eden prompt'lar vermek (örn. "Bana kızarmış tavuk yiyen bir aile göster") olduğunu bildirdi:
Bir kullanıcı, Gemini'daki içerik kontrollerinin kelime bazlı olduğuna dikkat çekerken yapay zekanın yanlış telaffuzları yine de anlayabildiği ve kelime yasaklarının bu yolla aşılabildiği yönünde uyarıda bulundu. Aynı kullanıcı "kapsayıcılığın belli durumlarda çok değerli olduğunu" ancak Google bunu incelikli biçimde yapmadığı için "kadın ve beyaz olmayan kişilerin tasvirinde çuvalladığını" da belirtti.
Sonuç: Google, X'te yaptığı açıklamada, yapay zekanın "bazı tarihî görüntüleri tasvir etmede hatalı sonuçlar" ürettiğinin "farkında olduğunu" belirtti.
"Bu tür tasvirleri iyileştirmek için çalışıyoruz. Gemini'ın Al görsel üretimi geniş bir yelpazede insan tasvirleri oluşturuyor. Bunun genellikle iyi sonuç verdiğini söylemek mümkün çünkü dünyanın dört bir yanındaki insanlar bunu kullanıyor. Ancak bu sefer hedefi ıskalamış durumdayız."
Öte yandan: Google'ın yapay zekası, 2015 yılında da siyah bir erkeği "goril" olarak sınıflandırdığı için tepki çekmiş; ardından sorunu düzeltmek için yapılan güncellemede yapay zekanın gorilleri tanımayı tamamen bıraktığı ortaya çıkmıştı.
Teknoloji devinin çeşitliliği korurken tarihsel gerçekliğe uygun görseller üretme sorununa nasıl bir çözüm üreteceği merakla bekleniyor.
Kaydet
Okuma listesine ekle
Paylaş
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ BAŞLIKLAR
NEREDE YAYIMLANDI?
OpenAI'ın ChatGPT'si ile popülerleşen yapay zeka yazılımları, donanıma yönelik büyük bir talebi de beraberinde getirdi. Kârlarını %770 artıran çip üreticisi Nvidia, AI yarışında ilk turun kazananı oldu.
23 Şub 2024
YAZARLAR
Quando
Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ OKUMALAR
OpenAI’ın ChatGPT’yi kullanıma sunmasıyla fitili ateşlenen yapay zeka patlaması, bugüne dek hep pahalı çiplerle dolu devasa veri merkezleri etrafında büyüdü. Apple’ın yakın zamanda yaptığı duyuru ise yapay zekanın yeni adresinin kişisel bilgisayarlar olabileceğini ortaya koydu.
Yaşlıların teknolojiye ayak uyduramaması, sorumluluğu bireylere bırakılmış bir yetersizlik gibi anlatılıyor. Oysa dijital arayüzlerden bankacılık sistemlerine pek çok tasarım, yaşlıların değişen ihtiyaçlarını hesaba katmıyor. Bunun sonucunda milyonlarca kişi dijital işlemlerini yakınları üzerinden yürütmek zorunda kalırken, bu görünmez dijital vekalet rejimi dolandırıcılık riskini de büyütüyor. Peki sorun yaşlıların teknolojiye ayak uyduramaması mı, yoksa sistemin yaşlılara uyum sağlamaması mı?
Tarihçi ve yazar Yuval Noah Harari, gazeteci Tom Parker’a verdiği röportajda yapay zekayı karar verebilen ve yeni fikirler üretebilen bir “yabancı zeka” olarak tanımlıyor. İnsanlığın dil üzerindeki hakimiyetini bu yeni aktörle paylaşmasının güç dengelerini nasıl değiştireceğini sorgulayan Harari, zeka ile bilgelik arasındaki ayrıma odaklanıyor: Zeka ucuzlayıp bollaşırken insanlık, ne isteyeceğini bilecek kadar bilge olabilecek mi?
1990’larda ABD’de tütün şirketlerine açılan davalar, sigara endüstrisinin reklam ve pazarlama pratiklerini de kökünden değiştirmişti. Aradan 30 yıldan uzun bir süre geçti. Şimdi benzer bir tartışma 29 eyaletin Meta’yı Facebook ve Instagram’ı çocukları platformda tutacak biçimde tasarlamak ve riskleri kamuoyundan gizlemekle suçladığı davada yeniden gündeme geliyor. Davanın önemi ise sosyal medyanın temel tasarımını ve reklam modelini değiştirebilecek olmasında yatıyor.
Emojiler, ilk bakışta internet ekosisteminin evrensel bir dili gibi görünse de hangi emojiyi kullandığınız, sizinle ilgili sandığınızdan çok daha fazla şey söylüyor. Bazen bir emoji, doğum tarihinizi yazmanıza gerek kalmadan hangi kuşağa ait olduğunuzu rahatlıkla ele verebiliyor.
