ChatGPT Terörü Engelleyebilir miydi?

Yapay zeka devi OpenAI’ın, Kanada’da yaşanan trajik bir okul saldırısını evvelce fark etmiş olabileceği fakat harekete geçmediği ortaya çıktı. OpenAI polis ikilemi olarak isimlendirilebilecek bu durum, şirketin kullanıcı saklılığı ve kamu güvenliği ortasındaki hassas dengeyi sorgulatıyor. Wall Street Journal’ın özel haberine nazaran, saldırganın ChatGPT ile yaptığı tehlikeli konuşmalar, hücumdan aylar evvel şirket tarafından tespit edildi.

OpenAI Polis İkilemi Nasıl Başladı?

Her şey, Kanada’daki okul saldırısını düzenleyen Jesse Van Rootselaar’ın ChatGPT platformundaki yazışmalarıyla başladı. OpenAI’ın tehlikeli içerikleri tespit etmek için kullandığı otomatik güvenlik sistemleri, Rootselaar’ın konuşmalarını potansiyel bir tehdit olarak işaretledi. Bu işaretleme üzerine, kayıtlar çok sayıda OpenAI çalışanı tarafından incelendi.

Haberlere nazaran, şirket içinde önemli bir tartışma yaşandı. Kimi çalışanlar, yazışmaların somut bir fizikî şiddet tehdidi içerdiğini savunarak durumun derhal Kanada polisine bildirilmesi için yöneticilere baskı yaptı. Lakin, bu talepler sonuçsuz kaldı ve son kararın ihbarda bulunmamak istikametinde olduğu belirtildi.

Şirketin Resmi Açıklaması ve Gerekçesi

Konuyla ilgili bir açıklama yapan OpenAI sözcüsü, şirketin durumu ciddiye aldığını ve kelam konusu şahsın hesabını kapattığını doğruladı. Bununla birlikte sözcü, paylaşımların polise haber verme kriterlerini karşılamadığına karar verdiklerini söz etti. OpenAI’ın siyasetine nazaran, bir kullanıcının ihbar edilmesi için paylaşımlarının “ciddi ve her an gerçekleşebilecek bir risk” taşıması gerekiyor.

Bu olay, yapay zeka şirketlerinin etik sorumlulukları ve yasal yükümlülükleri konusunda kıymetli bir tartışmayı tekrar alevlendirdi. Bir yandan kullanıcıların özel konuşmalarının saklılığı, başka yandan ise bu platformların potansiyel hataları önlemedeki rolü, teknoloji dünyasının tahlil bulması gereken en büyük zorluklardan biri olarak öne çıkıyor.

Peki, OpenAI’ın bu kararı hakkındaki sizin görüşleriniz neler? Niyetlerinizi yorumlarda bizimle paylaşın!