Mahremle kamusal arasında: Yapay zeka şirketleri tehditleri polise ne zaman bildirmeli?

Önce Gabriel Garcia Marquez’in meşhur Kırmızı Pazartesi romanını hatırlayalım. Roman, aslında herkesin işleneceğini önceden bildiği ancak kimsenin engellemek için bir şey yapmadığı bir cinayeti anlatır. Burada asıl mesele kolektif suç ortaklığıdır. Sonra günümüze gelelim. 10 Şubat 2026’da Kanada’da, British Columbia’ya bağlı 2 bin 400 nüfuslu bir madenci kasabası Tumbler Ridge’de 18 yaşında bir genç, önce evde annesini ve üvey kardeşini, ardından okulda beş öğrenci ve bir eğitimciyi öldürdü. Ülkemiz dahil birçok ülkede yaşanan kahredici okul saldırılarından biri olarak düşünülebilir pekâlâ. 

Fakat bu trajediyi diğerlerinden ayıran bir şey vardı. Saldırgan aylar önce bir yapay zeka şirketinin, OpenAI’ın radarına girmişti. Peki bu olay nasıl olup da engellenememişti? 

Kanada saldırganı sekiz ay önce işaretlenmiş

Her şeyden önce OpenAI’ın otomatik tarama sistemlerinin hakkını vermek gerek. Çünkü sistem olması gerektiği gibi çalışmış ve saldırganın ChatGPT hesabını sekiz ay önce şiddet içerikli kullanım nedeniyle işaretlemiş. Bu işaretleme hesabın insan incelemesinden geçmesini gerektiriyor. İnsan incelemesinin ardından da hesap kapatılmış zaten. Buraya kadar şirket üzerine düşeni yapmış diyebilirsiniz. 

Ancak burada yeni bir soru akla geliyor: Polise haber vermeleri gerekmez miydi? Şirket konuşmalarda polise haber verme eşiğini aşan bir planlamanın olmadığını savunuyor ama tartışmalı iddialar da var. Saldırgan ise kolayca ikinci bir hesap açıp yasağı aşmış zaten. 

OpenAI bu olaydan sonra yeni bir protokol duyurdu ve o hesabı bugün olsa polise bildireceğini kabul etti. Bizzat Sam Altman, olaydan önce bildirmedikleri için derinden üzgün olduklarını yazdı. Davadaki daha ağır bir iddia, ondan fazla çalışanın bildirim önerdiği ama yönetimin bunu reddettiği yönünde. Bu iddia henüz mahkemede kanıtlanmış değil ama British Columbia eyaletinin açtığı davanın duruşmaları sırasında mutlaka konuşulacaktır. 

British Columbia eyaletinin sekiz maddelik tedbir talebi

Eyaletin San Francisco’daki mahkemede açtığı dava da öyle bir tazminat ya da ceza davası değil. Aslen sekiz maddelik bir tedbir talebi var: Şiddet niyeti taşıyan konuşmaların otomatik tespiti ve insan incelemesi, yakın tehditlerin polise bildirilmesi, yasaklı kullanıcının geri dönüşünün engellenmesi ve üç ayda bir bağımsız denetim. Bu talepleri sıralayan eyalet yetkilileri, OpenAI’a yeni bir şey dayatmadıklarını, şirketin kendi vaatlerini hukuki olarak bağlayıcı hâle getirmeye çalıştıklarını savunuyor.  

Peki bu taleplerin hukuki bir dayanağı var mı derseniz; içtihat 1969’da bir terapistin hastasının cinayet planını polise bildirmesine rağmen kurbanın uyarılmaması sonucu işlenen cinayete dayanıyor. Bu olay sonrasında açılan davanın sonuçları tarihe geçer ve Koruma Yükümlülüğü (Duty to Protect) kavramını netleştirir. Buna göre bir terapist, mesleki standartlarına göre hastasının üçüncü bir şahsa karşı ciddi bir şiddet tehdidi oluşturduğuna kanaat getirirse, potansiyel kurbanı uyarmak, polisi bilgilendirmek ve kurbanı korumak için makul özeni göstermek zorundadır. 

• Böylece anlaşılır ki koruyucu gizlilik, kamusal tehlikenin başladığı yerde biter. 

Bu yükümlülük bugüne kadar hiçbir yapay zeka şirketine uygulanmadı. Ayrıca bir bildirimin saldırıyı önleyip önleyemeyeceği de ayrıca tartışmalı ama onlarca insanın hayatını kurtarma ihtimalini düşününce, ciddi ciddi tartışılması gerektiği de açık.  

Türkiye’de önce yayın yasağı sonra engelleme

Gelelim Türkiye’ye. Okul veya okul önü saldırıları maalesef bu yıl gündemimizden çıkmıyor ve bizde prosedür belli. Peş peşe yaşanan bu tür olayların ardından derhal geniş kapsamlı yayın yasakları getiriliyor, soruşturmalar kapsamında binlerce sosyal medya hesabı engellenip, okulları hedef gösteren kişiler hızla gözaltına alınıyor. Yani Türkiye’de olay yaşandıktan sonrası sıkı bir şekilde denetim altına alınıyor. 

Peki ya öncesi? Bu olayların ardından hızlandırılan 15 yaş altına sosyal medya yasağı, olayın öncesini görebilir mi sizce? Sohbet botları da bu işin bir yerinde olabilir mi mesela? Peki onları da sosyal medya sayıp çocuklara yasaklamak mı gerekir yoksa British Columbia örneğinde olduğu gibi tedbir talebinin konusu olabilir mi? 

Sohbet botları Türkiye’de henüz tartışılmıyor

Sohbet botları, henüz Türkiye tarafındaki tartışmanın konusu olmadı. Zaten saldırganların sohbet botu kullandığına dair güvenilir bir bilgi de yok. Türkiye’nin refleksi şimdilik kamusal ağlara yönelik ancak zaman geçtikçe mahrem sohbet alanı da gündeme gelecektir. 

Alelacele düzenlemeler de oldukça riskli. Kanada örneğinde davayı açan bir eyaletti. Federal hükümetin bakış açısı ise biraz daha farklıydı. Burada Yapay Zeka Bakanı Evan Solomon’un “Zor vakalar kötü yasalar doğurur” uyarısı bana kalırsa yerinde bir uyarı. 

Ya Google da e-postaları tarayıp polise bildirseydi

Kanada’da Haziran’da sunulan yeni yasa tasarısı (C-34) sohbet botlarına kriz protokolü getirdi ama polise zorunlu bildirim kapsam dışında kaldı. Eyalet tarafı buna bozulmuş, Başbakan David Aby bunu konuyu ıskalayan bir düzenleme olarak yorumlamış ama hukuk, konulara daha geniş kapsamlı yaklaşmak zorunda. 

• Hukukçu Michael Geist, bunun kısa mesaj veya e-posta yazışmalarını tarayıp bildirmekten farklı olmadığını söylemiş örneğin. Kanada Yüksek Mahkemesi’nin içtihadı ise daha ortadan bir yol çiziyor ve avukat-müvekkil gizliliği bile açık ve yakın bir ölüm tehlikesi karşısında esneyebilir diyor. 

Burada dikkat etmemiz gereken bir sınır var bence. O da “gizliliğin esas, istisnanın dar” bırakılması ilkesi. OpenAI’ın Kanada’daki vakası bu istisnaya girebilir mi? Olay çalışanların iddiasındaki gibi yaşandıysa bence girebilir. Çünkü yönetimi bildirme konusunda uyardıklarını ve yönetimin bundan kaçındığı söylenmiş.     

Kanada’daki olay son ihbar kapısını açıyor

Konuya Türkiye tarafından bakarsak, ülkemizde platformlar çoktan görevlendirilmiş durumda. Büyük sosyal ağların yerel temsilci atama, hızlı içerik kaldırma gibi sorumluluklar var. Yüzde 90’a varan bant daraltma yaptırımıyla bu sorumluluklar güvence altına alınmış. Hatta bazı suçlarda faili tespit edecek bilgiyi savcılığa verme zorunluluğu da var. 

Türkiye’de yapay zeka sohbetleri henüz tartışma konusu olmadı. Kanada’daki olayın farkı bu son mahrem alana bir ihbar kapısı açması olabilir. Eğer kamu güvenliği nedeniyle bu kapı da açılır ve sınırları iyi çizilmezse sorunlar artabilir, özgürlükler daha da fazla daralabilir. Evet, OpenAI’ın Kanada vakası bu kapının açılması gerekliliğine ikna ediyor gibi ama aynı kapıdan başka neler çıkabilir iyi düşünmek gerek. 

Yapay zeka şirketleri konuşmalar üzerinde ne kadar hak sahibi?

Sohbetler üzerinden ihbar kapısının devletlere açılıp açılmayacağı daha uzun süre tartışılacak gibi. Ancak konunun bir de diğer tarafı var. Bu konuda şirketlerin sahip olduğu sınırlar yeterince açık mı mesela? 

• British Columbia davasından beş gün önce aynı mahkemede açılan başka bir dava bunun cevabını veriyor. 16 Eylül’de açılan toplu dava, OpenAI’ın gerçek konuşmaları dış yüklenicilere okuttuğunu ve bunu kullanıcılarına açıkça söylemediğini iddia ediyor. 

Davanın dayanağı da 404 Media’nın Project Lily haberi. Bu habere göre yüzlerce yüklenici gerçek istemleri, bazen bütün konuşmayı okuyup yanıtları puanlıyor. Kullanıcı adları gizleniyor evet ama filtreler konuşma içinde geçen bazı kişisel bilgileri de kaçırabiliyor. Bu uygulama OpenAI’a özgü bir uygulama da değil. Anthropic de insan incelemesi kullandığını doğrulamış. Zaten modellerde varsayılan ayarlar yazışmaların eğitim için kullanılmasına izin veriyor. Bu ayarları değiştirmek sadece yeni konuşmaları kapsıyor. 

Böylece tek bir konuşmanın üç farklı hayat sürdüğünü kabul etmemiz bekleniyor. Birincisi yazdıklarımız birer hammadde. Yani model eğitiminde kullanılabiliyor. İkincisi delil. Örneğin, New York Times davasında 20 milyon ChatGPT kaydının teslim edilmesine hükmedildi. Üçüncüsü ihbar sinyali. OpenAI’ın dili Tumbler Ridge vakasından sonra “bildirebiliriz”den “bildiririze” döndü.

Şiddet niyeti nasıl yorumlanacak? 

Şirketlerin yasal mercilere bildirim yükümlülüğü çok yeni bir şey sayılmaz. Bankaların şüpheli işlem bildirimlerinden tutun çocuk istismarı materyalinin bildirimine kadar pek çok örneği mevcut. Ancak dil modelleriyle sohbetlerin bildirilmesinde insanı düşündüren bir fark var. Bu mantık “şiddet niyeti” gibi yorumu çok zor bir alana taşınıyor. 

• İstismar görüntüsü dijital parmak iziyle eşleştirilebilecek bir nesne nihayetinde, niyet ise dilin yorumuna dayanıyor. Karanlık bir hikaye yazan bir ergen ile gerçek bir plan yapan saldırgan aynı kelimeleri kullanabilir. Bunları ayıracak olan insan muhakemesi için devasa bir yetkin insan kaynağına ihtiyaç duyulur ve platformlar da özellikle İngilizce dışı dillerde bunu kolay kolay sağlayamaz bana kalırsa. 

Jack Balkin’in “yan sansür” kavramı bu riski güzel açıklıyor: Aracı sorumlu tutulduğunda gereğinden fazlasını sansürler. Her şüpheli konuşmanın polise aktarıldığı bir durumu düşünün. Yanlış pozitifler sistematik olarak artacak ve doğruyu kaçırma riskini de artıracaktır. Yani yapay zeka şirketlerine ve platformlara bildirim zorunluluğu getirmek pratikte akla yatkın belki ama uygulamada ciddi zorluklar getirebilir. 

İnsan hayatı söz konusuysa bu zorluklar aşılabilir mi? Bir defa mahremiyet kavramını iyi özümsemiş olmak şart. Helen Nissenbaum’a göre mahremiyet, bilginin ait olduğu bağlamın normlarına uygun akması demek. Burada kullanıcı sohbet botunu bir günlük ya da terapi odası gibi yaşarken aynı metnin eğitim hattına, yüklenici ekranlarına, dava dosyalarına ve polisin masasına akması büyük bir açık yaratıyor. Bu yüzden konuşma ne kamusal ne de tümüyle mahrem gibi bir yerde asılı kalıyor.  

‘Bilgi emanetçisi’ fikrini hatırlamak 

Bunu tanımlayacak en iyi kavram emanet olabilir. Bir defa konuşmaları eğitim için kullanma izninin varsayılan olarak açık gelmesi güvensizlik yaratıyor. Bu ayar varsayılan olarak kapalı olmalı. Jack Balkin’in bilgi emanetçisi fikri ise bu alana doğru bir sınırlama getiriyor. 

• Bu fikre göre emanetçi, bilgiyi kendi çıkarı için gerçek rıza olmadan kullanamaz ve üçüncü kişilere de ancak başka birinin hayatı yakın tehlikedeyse açabilir.

Pratikte bu sorumluluk, "belirli bir hedef ve ağır fiziksel zarar arayan dar bir bildirim eşiğiyle" karşılanabilir. Bunun için gerekçesi kayıtlı bir insan kararı olmalı. Dahası konuşmanın tamamı yerine sadece tehlikeyi gösteren kısmını polisle paylaşmak da bir sınır olabilir. Kişinin kendine zarar verme riskinde ise kapsamlı bir kriz desteği protokolü şart. 

Eksik olan kurumsal karar ve muhakeme

Yurt dışındaki ve Türkiye’deki vakaları yan yana koyunca en çarpıcı ortaklık beklenmedik bir yerde çıkıyor bence. Türkiye’deki eski bir vakada saldırgan niyetini sosyal medyada duyurmuş ama kimse durduramamış. Tumbler Ridge’de saldırganın yapay zeka modelindeki konuşmaları sekiz ay önce görülüp işaretlenmiş ama karar masası polise bildirmemeyi seçmiş. 

İki ülkede de eksik olan sinyalden ziyade sinyali değerlendirecek ve hesabını verecek kurumsal karar. Kanada’daki bir eyalet bunu daha geniş bir ihbar yükümlülüğüyle, Türkiye ise konuşmaları kısarak çözmeye çalışıyor. Oysa silahların evlerde nasıl saklandığı ya da açık bir tehdidin neden ciddiye alınmadığı çocukların mahremiyetini veya soruşturmanın salahiyetini ihlal etmeden de tartışılabilir. 

Sınırların net çizilmesi gerek

Bilgi kontrolünün otomatikman güvenlik anlamına gelmediğini kabul etmemiz gerek. Evet, insanların, çocuklarımızın ölümü de okulları hedef gösteren yüzlerce tehdit de ciddiye alınmalı, bu süreçlerde isteyen istediğini yazıp çizmemeli kesinlikle. Ancak buradaki iki argüman da daha fazla gözetimi değil, daha iyi ayrıştırmayı işaret ediyor. 

Bu konuda hukuk tarafına çok iş düşüyor. Çünkü eğer platform sohbetleri bir emanetse, ancak kimin neyi hangi koşulda açabileceği önceden ve herkesin gözü önünde yazıldığında emanettir. Bugünün sohbet botlarıysa ne tam mahrem ne de tam kamusal alan niteliği taşıyor. Hem mahremiyet hem de kamusal güvenlik için sınırların net çizilmesi gerekiyor. 

Burada da Kırmızı Pazartesi yaklaşıyor. O gün geldiğinde güvenlik bahanesiyle mahremiyetten veya mahremiyet korumasıyla güvenlikten yoksun kalmak çok olası.