Mahremle kamusal arasında: Yapay zeka şirketleri tehditleri polise ne zaman bildirmeli?

Bugün şirketler, faaliyet gösterdikleri süre boyunca müşterilerinden çalışanlarına, iş ortaklarından tedarikçilerine kadar milyonlarca kişi ve kuruma ait veri topluyor. Şirket kapandığında ise bu devasa dijital arşiv bir anda ortadan kaybolmuyor. Verilerin bir bölümü yasal yükümlülükler nedeniyle saklanmaya devam ederken bazıları, başka şirketlere devredilebiliyor; hatta iflas sürecinde satışa çıkarılan varlıklar arasında yer alabiliyor.

Algoritmalar artık iş dağıtıyor, çalışanları puanlıyor ve hatta işten çıkarma kararlarında belirleyici oluyor; insan denetimi ise otomasyon yanlılığı ve gig ekonomisinin hukuki boşlukları nedeniyle her zaman gerçek bir güvence sağlamıyor. Kaliforniya, “Robot Patrona Hayır” yasası ile işten çıkarma ve disiplin kararlarının yalnızca yapay zekaya bırakılmasını yasaklayan ilk ABD eyaleti oldu belki ama asıl sorunun kapitalizmin ulaştığı noktayla ilgili olduğunu hatırlamak gerekiyor.

Şirketler yapay zekayı toplantı notu çıkaran araçlardan operasyon yürüten ajanlara dönüştürmek istiyor; ancak bir yandan da güvenilmez veri, eksik bağlam ve belirsiz sorumluluklar kurumların yıllardır kapalı odalarda tuttuğu dağınıklığı da su yüzüne çıkarıyor. Üstelik ajanların gerçekten işe yaradığı bir düzende asıl mesele, onlara hangi işleri devredeceğimiz kadar açılan zamanı insanın muhakemesine, öğrenmesine ve daha nitelikli üretime ayırıp ayıramayacağımız da.

Yıllarca makineleri insanların anlayabileceği biçimde tasarlamaya çalıştık. Yapay zeka bu problemi çözüyor gibi görünüyor ama önümüze daha tuhaf bir tasarım sorusu çıkarıyor: İnsanların kendilerini makinelerin anlayacağı biçimde yeniden düzenlemeye başladığını nasıl fark edeceğiz ve hangi noktada bunu gerçekten problem sayacağız?

Birkaç yıl önce bir ürünün ismine “yapay zeka destekli” ifadesini eklemek, onu bir anda daha yeni, daha akıllı ve daha değerli gösterirdi. Bugün ise bu ifade, hemen hemen her üründe rastlanan son derece sıradan ve hatta kimi zaman “korkutucu” bir etiket hâline geldi. Güvenlik endişeleri, şirketleri ürünlerini “sevimli dijital maskotlar” arkasına gizlemeye iterken ABD hükümeti, çözümü yapay zekanın adını “süper zeka” olarak değiştirmekte buldu.