Steve Wozniak, yapay zekanın kötüye kullanımı konusunda endişeli
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
Apple'ın kurucu ortaklarından Steve Wozniak, BBC'ye verdiği röportajda yapay zekaya ilişkin ilgi çekici açıklamalarda bulundu. Buna göre, yapay zekanın "kötü aktörler tarafından kullanılması" konusunda endişeli olduğunu belirten Wozniak, yapay zeka ile üretilen içeriklerin mutlaka işaretlenmesi ve denetlenmesi gerektiğini ifade etti.
Geniş açı: Röportajda "Yapay zeka teknolojileri o kadar akıllı ki, sizi kim oldukları konusunda kandırmak isteyen kötü niyetli kişilerin kullanımına çok açık" ifadelerine yer veren Wozniak, ChatGPT ve Bard gibi yapay zeka sohbet robotlarının "kulağa çok zekice gelen" metinler oluşturabilme yeteneğinin, sahtekâr ve dolandırıcıların daha ikna edici hâle gelmesine yardımcı olabileceğine dair uyarıda bulunuyor.
- Yapay zeka aracılığıyla üretilen içeriklerin tümünden insanların sorumlu tutulması gerektiğini kaydeden Wozniak, "her şeyden paçayı sıyırabileceklerini hisseden" teknoloji devlerinden hesap sorulması gerektiğini belirterek yapay zeka teknolojisinde denetimin önemine dikkat çekiyor. Gelgelelim, Wozniak, "Bence para peşinde koşan güçler genellikle kazanıyor, bu biraz üzücü" diyerek denetimi yapması gereken şirketlere de güvenmediğini belirtiyor.
- Wozniak, duygudan yoksun olduğunu belirttiği yapay zekanın bu nedenle asla insanların yerini alamayacağını düşündüğünü de sözlerine ekliyor.
Bir adım geriden: Steve Wozniak, Mart ayında aralarında Elon Musk'ın da bulunduğu bir grup sektör lideri ve yapay zeka uzmanıyla birlikte, OpenAI'ın Mart ayına kullanıma sunduğu büyük dil modeli GPT-4'ten daha gelişmiş yapay zeka teknolojilerinin geliştirilmesine "topluma ve insanlığa yönelik potansiyel riskler" nedeniyle 6 ay ara verilmesi için şirketlere çağrıda bulunan bir mektup imzalamıştı.
- Buna ek olarak Apple patronu Tim Cook da geçtiğimiz hafta gerçekleşen bir yatırımcı toplantısında, yapay zekaya "kasıtlı ve düşünceli" bir şekilde yaklaşılması gerektiğini ifade etmişti.
Kaydet
Okuma listesine ekle
Paylaş
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ BAŞLIKLAR
YAZARLAR
Quando
Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ OKUMALAR
Televizyonda sunucuların “50 milyon bizi izliyor” dediği günlerden herkesin kendisi için üretilmiş başka bir içerik akışında yaşadığı "yankı odaları" dünyasına geldik. Sosyal medya ortak metni parçaladı, üretken yapay zeka ise kişiselleştirmeyi başka bir aşamaya taşıdı. Peki bu ortamda kitle iletişimi tamamen öldü mü? Belki de buradaki asıl krizi erişimin azalması değil, ortak gerçekliği kuran sistemlerin giderek daha az hesap verebilir hâle gelmesi olarak okumalıyız.
Kanada’da bir okul saldırganının ChatGPT hesabının sekiz ay önce şiddet içerikli kullanım nedeniyle işaretlendiğinin ortaya çıkması, sohbet botlarının kullanıcılarını ne ölçüde izlemesi ve hangi noktada yetkililere bildirmesi gerektiği tartışmasını büyüttü. British Columbia’nın OpenAI’a karşı açtığı dava, mahremiyet ile güvenlik arasındaki sınırın nerede çizileceğini tartışmaya açarken Türkiye’de okul saldırıları sonrası alınan önlemler benzer bir sorunun başka bir yüzünü gösteriyor.
Yapay zekanın insanlığı yok edeceğine dair felaket senaryoları, genellikle kontrolden çıkan süper zekalara ve “katil robotlara” odaklanıyor. Oysa uzmanların daha olası gördüğü risklerin çoğunda yapay zeka tek başına hareket etmiyor. Özellikle beş olası senaryo, kontrol zincirini geri dönüşü olmayacak şekilde kırma potansiyeli taşıyor.
Yapay zeka patlamasının da etkisiyle artık ürünlerin pazarlama materyallerinde sürekli aynı kelimeler tekrarlanıyor: Ajan tabanlı, AI destekli, kurumsal düzeyde, akıllı, uçtan uca, yeni nesil, ekosistem… Yıllar önce pazarlama ekiplerinin temel problemi, insanların üründen haberdar olmasını sağlamakken bugün bunun önünde çok daha kritik bir problem yer alıyor: İnsanların ürünün ne olduğunu anlamasını sağlamak.
Son birkaç yıldır yapay zeka yarışında geçerli olan kural basitti: Daha güçlü modeli daha hızlı geliştiren kazanır. Son günlerde sektörün öncü isimleri tarafından yapılan açıklamalar ise bu denklemin değişmeye başladığını gösteriyor. Modellerin siber saldırılardan biyolojik silah geliştirme girişimlerine uzanan riskli kullanım alanlarında sahneye çıkması, yarışın öncülerini ilk kez açık bir biçimde frene basma olasılığını tartışmaya itiyor.
