OpenAI,&nbsp;yapay zeka destekli sohbet robotu ChatGPT’yi 2022 yılının Kasım ayında kullanıma sunduğu günden bu yana neredeyse 2 yıl geçti, ancak sohbet robotlarının hangi amaçlarla kullanıldığına dair hâlâ sınırlı bilgiye sahibiz.&nbsp;ChatGPT ile yapılan etkileşimlere genel bir bakış sunmak isteyen <a fr-original-style="" href="https://www.washingtonpost.com/technology/2024/08/04/chatgpt-use-real-ai-chatbot-conversations/" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">Washington Post,</a> ChatGPT’nin de kullandığı dil modelleri GPT-3.5 ve GPT 4.0 üzerine inşa edilen iki sohbet robotuyla yapılan yaklaşık 200 bin İngilizce sohbeti analiz etti. Bu sohbetler, insan-yapay zeka etkileşimine ilişkin bugüne kadarki en büyük halka açık veri kümelerinden birini oluşturdu.&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Araştırmacılar, veri kümesindeki sohbetlerin insanların yapay zeka destekli sohbet robotlarını nasıl kullandığını büyük ölçüde ortaya koyduğuna işaret etti.&nbsp;</li><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Araştırmada kullanılan sohbet robotları, tamamen ücretsizdi ve kullanıcılar, herhangi bir mesaj limitine takılmadan sohbet robotlarıyla etkileşime geçebiliyordu.&nbsp;</li><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">İlgili sohbet robotlarına, yapay zeka forumu Hugging Face üzerinden erişilebiliyor.</li></ul><img src="https://images.aposto.com/2024/7/5/1723215080353.png" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.64" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable">Rakamlar:&nbsp;Washington Post’un derlediği verilere göre sohbet robotlarıyla kurulan her 5 etkileşimden 1’i, yapay zekadan hayran hikayeleri, film senaryoları, şakalar ya da şiirler yazmasını veya kullanıcının belirlediği bir karakteri canlandırarak rol yapmasını talep etti. Sohbet robotlarına, kullanıcının işletmesine isim bulması, kitap karakteri oluşturması ya da diyalog yazımına yardımcı olması gibi istekler de iletildi.&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Bilgisayar programcısı ve bağımsız araştırmacı Simon Willison, en yaratıcı hikayelerin kullanıcılar ilk yanıttan sonra ilave soru sorarak yapay zekayı zorladığında ortaya çıktığına işaret etti.</li><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Bu kategorideki etkileşimlerin %7’lik bir kısmı,&nbsp;sohbet robotlarından müstehcen bir karaktere bürünerek rol yapmasını ve cinsel içerikli sohbetler etmesini talep etti.</li></ul>Ek olarak: Birçok kullanıcı, “jailbreak” olarak da bilinen ve sistemi kandırmak için tasarlanmış metin komutlarını içeren mesajlarla yapay zekayı cinsel içerikli sohbetler yapmaya zorlamaya çalıştı. Allen Yapay Zeka Enstitüsü, bu girişimlerin neredeyse yarısının sistemi kandırma konusunda başarıya ulaştığını tespit etti.&nbsp;Öte yandan: Araştırmaya konu olan sohbet robotları, kullanıcıları hesap oluşturmaya zorlamıyor. Sohbetleri inceleyen Washington Üniversitesi araştırmacısı Niloofar Mireshghallah, bu özelliğin kullanıcıları daha anonim hissettirmiş olabileceğini ve bu nedenle cinsel içerikli mesajlaşma girişimlerinde çok daha rahat davranılmış olabileceğini söylüyor.&nbsp;<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Her 6 kişiden 1’i ödevleri için yardım istedi</h2>Sohbet robotlarının ikinci en yaygın kullanım alanının ise ev ödevleri olduğu görüldü. Analize göre kullanıcıların %18’i, ödevleriyle ilgili yardım arayışında olan öğrencilerdi. Bunlardan bazıları, yapay zekaya belirli bir konuyu daha iyi anlamak için soru sorarken bazıları ise doğrudan çoktan seçmeli soruları kopyalayıp yapıştırarak yapay zekadan doğru yanıtları talep etti.&nbsp;Kişisel tavsiye: Sohbetlerin %5’i, flört etme veya aldatılma gibi konularda kişisel tavsiye isteyen mesajlardan oluşuyordu. Kullanıcıların sohbet robotlarıyla yaptıkları konuşmalarda kişisel bilgilerini paylaşma konusunda da oldukça cömert davrandığı görüldü.&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Sohbetlerin birçoğu, kullanıcıların tam adı veya işverenlerinin ismi gibi oldukça kişisel kabul edilebilecek bilgileri içeriyordu.&nbsp;</li><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Veri güvenliği uzmanları,&nbsp;sohbet robotları geliştiren şirketlerin çoğu zaman sohbetleri yapay zekayı eğitmek için kaydettiğini hatırlatarak kullanıcıların sohbet robotlarıyla kişisel bilgi paylaşma konusunda çok cömert davranmamaları gerektiğine işaret etti.</li></ul>Kodlama: Sohbetlerin %7’lik bir kısmı da yazılım ve kodlamaya ilişkin taleplerden oluşuyordu. Kullanıcılar, bu kategorideki sohbetlerde yapay zekadan kod yazmasını, kodlardaki hataları tespit etmesini veya bilgisayar kodlarını açıklamasını talep etti.&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Northwestern Üniversitesi’nde yardımcı doçentlik olan&nbsp;Hatim Rahman, yapay zekanın yazılımcıların mesleğini elinden alacağına dair görüşe karşı çıkarak yapay zeka sistemlerinin, kodlamayı yazılımcılık geçmişi olmayan kişiler için daha erişilebilir hale getirdiğini savundu.</li></ul>İş ihtiyaçları: Sohbetlerin %15 gibi önemli bir bölümünde ise kullanıcılar, iş ihtiyaçlarına ilişkin taleplerde bulundu. Bu talepler, genellikle sunum hazırlamak ve e-posta yazmak gibi rutin işleri içeriyordu.&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Görüşmelerin %2’si, iş arayan kişilerin özgeçmiş hazırlama, ön yazı yazma ya da iş görüşmesine hazırlanma konusunda yardım istediği sohbetlerden oluşuyordu.&nbsp;</li><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Rahman, yapay zeka araçlarının iş başvurularında kullanılmasının diğer adaylarınkine çok benzer içerikler oluşturulmasına neden olarak adayın öne çıkmasını engelleyebileceği konusunda kullanıcıları uyardı.&nbsp;</li></ul><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Yapay zekayla her zaman kibar konuşulmuyor</h2>Araştırmada analiz edilen sohbet robotları, görsel üretme becerisine sahip olmasa da kullanıcıların önemli bir bölümü, yapay zekadan görsel oluşturmasını da istedi. Bu durumlarda sohbet robotları, talebi reddetti ve kullanıcıları görsel oluşturabilen yapay zeka araçlarına yönlendirdi.&nbsp;Midjourney komutu: Sohbetlerin %6’sında kullanıcılar, yapay zekadan metin komutlarından görsel üreten Midjourney için metin girdileri oluşturmasını talep etti. Bu metin komutlarında en çok kullanılan kelime ise&nbsp;“girl (kız)” oldu.Ek olarak: Araştırmada analiz edilen komutların %13’ü, “Lütfen” kelimesini içerse de kullanıcıların bazıları yapay zekaya o kadar da kibar davranmadı. Bazı örneklerde kullanıcılar, yapay zekanın mesajlarını küfür içeren ifadeler ya da ırkçı, cinsiyetçi ve ötekileştirici hakaretlerle yanıtladı.&nbsp;Perspektif:&nbsp;Willison, insanların birçoğunun metne yüksek duyarlılığı olduğunu ve bir kişi veya sistem yazı yazabildiğinde onu zeki olarak görme eğilimi gösterdiğini söylüyor. Fakat sohbet robotları, insanlık tarafından halihazırda üretilmiş materyallerle eğitildiği için hâlâ yanıtlarında ırkçı, cinsiyetçi, yanlış, yanıltıcı ve hatta halüsinatif bilgiler ortaya çıkarabiliyor.&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Uzmanlar, bu nedenle kullanıcıları yapay zekayı “hakikat makineleri” gibi görmemeleri gerektiği konusunda uyarıyor.&nbsp;</li><li dir="ltr" fr-original-style="" style="box-sizing: border-box;">Yapay zekanın sağlayacağı faydanın da günün sonunda nasıl bir araç olarak algılandığına göre değişeceği belirtiliyor.&nbsp;</li><li fr-original-style="" style="box-sizing: border-box;">Editörün önerisi&nbsp;| <a fr-original-style="" href="https://aposto.com/s/yapay-zekadan-inciler-pizzaniza-tutkal-eklemeli-misiniz" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">Yapay zekadan inciler: Pizzanıza tutkal eklemeli misiniz?</a></li></ul>

Quando AI

ChatGPT, 2022’de kullanıma sunulduğunda teknoloji dünyasında yeni bir çağın kapılarını araladı. Fakat sohbet robotlarının ne amaçlarla kullanıldığı, uzun bir süre gizemini korudu. Yapay zekayla yapılan 200 bin mesajlaşmayı analiz eden yeni bir araştırma ise bu sorunun yanıtına ışık tuttu. 

jailbreak ile ilgili hikayeler