Kanada’da bir okul saldırganının ChatGPT hesabının sekiz ay önce şiddet içerikli kullanım nedeniyle işaretlendiğinin ortaya çıkması, sohbet botlarının kullanıcılarını ne ölçüde izlemesi ve hangi noktada yetkililere bildirmesi gerektiği tartışmasını büyüttü. British Columbia’nın OpenAI’a karşı açtığı dava, mahremiyet ile güvenlik arasındaki sınırın nerede çizileceğini tartışmaya açarken Türkiye’de okul saldırıları sonrası alınan önlemler benzer bir sorunun başka bir yüzünü gösteriyor.

Yazı: Ümit Alan

Önce Gabriel Garcia Marquez’in meşhur Kırmızı Pazartesi romanını hatırlayalım. Roman, aslında herkesin işleneceğini önceden bildiği ancak kimsenin engellemek için bir şey yapmadığı bir cinayeti anlatır. Burada asıl mesele kolektif suç ortaklığıdır. Sonra günümüze gelelim. 10 Şubat 2026’da Kanada’da, British Columbia’ya bağlı 2 bin 400 nüfuslu bir madenci kasabası Tumbler Ridge’de 18 yaşında bir genç, önce evde annesini ve üvey kardeşini, ardından okulda beş öğrenci ve bir eğitimciyi öldürdü. Ülkemiz dahil birçok ülkede yaşanan kahredici okul saldırılarından biri olarak düşünülebilir pekâlâ.

Fakat bu trajediyi diğerlerinden ayıran bir şey vardı. Saldırgan aylar önce bir yapay zeka şirketinin, OpenAI’ın radarına girmişti. Peki bu olay nasıl olup da engellenememişti?

Kanada saldırganı sekiz ay önce işaretlenmiş

Her şeyden önce OpenAI’ın otomatik tarama sistemlerinin hakkını vermek gerek. Çünkü sistem olması gerektiği gibi çalışmış ve saldırganın ChatGPT hesabını sekiz ay önce şiddet içerikli kullanım nedeniyle işaretlemiş. Bu işaretleme hesabın insan incelemesinden geçmesini gerektiriyor. İnsan incelemesinin ardından da hesap kapatılmış zaten. Buraya kadar şirket üzerine düşeni yapmış diyebilirsiniz.

Ancak burada yeni bir soru akla geliyor: Polise haber vermeleri gerekmez miydi? Şirket konuşmalarda polise haber verme eşiğini aşan bir planlamanın olmadığını savunuyor ama tartışmalı iddialar da var. Saldırgan ise kolayca ikinci bir hesap açıp yasağı aşmış zaten.

OpenAI bu olaydan sonra yeni bir protokol duyurdu ve o hesabı bugün olsa polise bildireceğini kabul etti. Bizzat Sam Altman, olaydan önce bildirmedikleri için derinden üzgün olduklarını yazdı. Davadaki daha ağır bir iddia, ondan fazla çalışanın bildirim önerdiği ama yönetimin bunu reddettiği yönünde. Bu iddia henüz mahkemede kanıtlanmış değil ama British Columbia eyaletinin açtığı davanın duruşmaları sırasında mutlaka konuşulacaktır.

YAZININ DEVAMI