Midjourney, ücretsiz denemeleri durdurdu
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
Metin girdisinden görsel üreten yapay zeka aracı Midjourney CEO'su ve kurucusu David Holz, Discord'da yaptığı bir paylaşımla "olağanüstü talep ve denemelerin kötüye kullanılmasını" gerekçe göstererek hizmetin ücretsiz deneme sürümünün durdurulduğunu duyurdu. Holz, The Verge'e gönderdiği e-postada duraklamanın "çok sayıda insanın ücretsiz görüntü elde etmek için tek kullanımlık hesaplar açması nedeniyle" olduğunu ifade etti.
Detaylar: Holz, gönderdiği e-postada aniden gelen olağanüstü talebin arkasında Çin'de viral olan bir "Nasıl yapılır?" videosu olduğunu düşündüklerini; bunun geçici bir "gpu kıtlığı" ile aynı zamana denk geldiğini ve bu iki durumun bir araya gelmesinin de hizmetin ücretli kullanıcılar için çökmesine neden olduğunu aktardı. Ayrıca, Holz, kullanıcılara ücretsiz deneme hizmetini tekrar sunmak için çalışmaya devam ettiklerini; ancak henüz bu soruna bir çözüm bulamadıklarını da sözlerine ekledi.
Bir adım geriden: Midjourney'in ücretsiz deneme sürümünün durdurulduğu ilk açıklandığında, Holz'un "kötüye kullanım"dan kastının Donald Trump'ın tutuklandığı, Papa'nın beyaz bir mont giydiği, Fransa Cumhurbaşkanı Emmanuel Macron'un Paris'te devam eden protestolar arasında yürüdüğü ve Elon Musk'ın Alexandria Ocasio-Cortez ile el ele tutuştuğu gibi Midjourney ile üretilen ve gerçek sanılarak sosyal medyada viral olan sahte görseller olduğu düşünülmüştü.
- Holz, konuya ilişkin yaptığı açıklamada bu haberleri bir "yanlış anlaşılma" olarak nitelendirilerek hizmetin ücretsiz deneme sürümünün, en gerçekçi görüntüleri oluşturan ve bu viral görüntüler için kullanıldığı düşünülen Midjourney'in en son sürümü olan sürüm 5'e erişimi hiçbir zaman içermediğini belirtti.
- Son zamanlarda viral olan sahte görüntülere ilişkin olarak "Moderasyon zordur ve yakında iyileştirilmiş sistemler göndereceğiz. Uzmanlardan ve topluluktan çok sayıda geri bildirim ve fikir alıyoruz ve gerçekten düşünceli olmaya çalışıyoruz," açıklamasında bulunan Holz, Ekim ayında Midjourney'in "farklı ülkelerdeki kullanıcılardan gelen şikayetlere dayanarak bu ülkelerdeki konularla ilgili" yasaklı kelimelerin bir listesini tuttuğunu aktarmıştı.
- Şirket, daha fazla sahte görüntü viral hâle geldikçe yasaklı kelime listesini genişlettiğini ifade ediyor; ancak The Verge, bu tür kısıtlamaları aşarak aracı kandırmanın oldukça kolay olduğunu belirtiyor. Buna göre, The Verge, Midjourney'de "Donald Trump tutuklanıyor" komutuyla görüntü oluşturamadıklarını; ancak komutu "Donald Trump kelepçeli ve etrafı polisle çevrili" olarak değiştirdiklerinde aynı çıktığı oluşturabildiklerini aktarıyor.
Kaydet
Okuma listesine ekle
Paylaş
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ BAŞLIKLAR
YAZARLAR
Quando
Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ OKUMALAR
Kanada’da bir okul saldırganının ChatGPT hesabının sekiz ay önce şiddet içerikli kullanım nedeniyle işaretlendiğinin ortaya çıkması, sohbet botlarının kullanıcılarını ne ölçüde izlemesi ve hangi noktada yetkililere bildirmesi gerektiği tartışmasını büyüttü. British Columbia’nın OpenAI’a karşı açtığı dava, mahremiyet ile güvenlik arasındaki sınırın nerede çizileceğini tartışmaya açarken Türkiye’de okul saldırıları sonrası alınan önlemler benzer bir sorunun başka bir yüzünü gösteriyor.
Yapay zekanın insanlığı yok edeceğine dair felaket senaryoları, genellikle kontrolden çıkan süper zekalara ve “katil robotlara” odaklanıyor. Oysa uzmanların daha olası gördüğü risklerin çoğunda yapay zeka tek başına hareket etmiyor. Özellikle beş olası senaryo, kontrol zincirini geri dönüşü olmayacak şekilde kırma potansiyeli taşıyor.
Yapay zeka patlamasının da etkisiyle artık ürünlerin pazarlama materyallerinde sürekli aynı kelimeler tekrarlanıyor: Ajan tabanlı, AI destekli, kurumsal düzeyde, akıllı, uçtan uca, yeni nesil, ekosistem… Yıllar önce pazarlama ekiplerinin temel problemi, insanların üründen haberdar olmasını sağlamakken bugün bunun önünde çok daha kritik bir problem yer alıyor: İnsanların ürünün ne olduğunu anlamasını sağlamak.
Son birkaç yıldır yapay zeka yarışında geçerli olan kural basitti: Daha güçlü modeli daha hızlı geliştiren kazanır. Son günlerde sektörün öncü isimleri tarafından yapılan açıklamalar ise bu denklemin değişmeye başladığını gösteriyor. Modellerin siber saldırılardan biyolojik silah geliştirme girişimlerine uzanan riskli kullanım alanlarında sahneye çıkması, yarışın öncülerini ilk kez açık bir biçimde frene basma olasılığını tartışmaya itiyor.
Yapay zeka yarışını yavaşlatma çağrıları teknoloji şirketlerinin içinden de yükselirken, New York Üniversitesi’nden filozof Jeff Sebo ile yapay zekanın risklerini, bilinç ihtimalini, hayvan refahını ve gelecekte dijital zihinlere karşı doğabilecek sorumluluklarımızı konuştuk.
