OpenAI Çalışanı: Manipüle Edileceksiniz!

Yapay zeka dünyasında son periyotta yaşanan halka açık ayrılıklara bir yenisi daha eklendi. OpenAI araştırmacısı Zoë Hitzig, şirketten ayrılarak New York Times’da dikkat cazip bir makale yayımladı. Hitzig, başka örneklerin bilakis belgisiz krizlerden değil, çok daha somut ve yakın bir tehlikeden bahsetti. Araştırmacı, OpenAI’ın ChatGPT’ye reklam getirme planının ve bu reklamları hedeflemek için kullanacağı bilgilerin yaratacağı risklere dikkat çekti.

İnsan Samimiyeti Arşivi: ChatGPT Bilgileri Reklam için Kullanılacak mı?

Hitzig’in vurguladığı en kıymetli ayrım, asıl sorunun reklamların kendisi değil, kullanıcıların ChatGPT ile paylaştığı hassas bilgilerin potansiyel kullanımı olmasıdır. Kullanıcılar yıllardır, karşılarında zımnî bir ajandası olmayan bir sistem olduğunu düşünerek sohbet botlarıyla en mahrem sırlarını paylaştı. Tıbbi kaygılardan alaka meselelerine, inançlardan öbür dünyaya dair kanılara kadar uzanan bu datalar, araştırmacının tarifiyle eşi gibisi görülmemiş bir “insan samimiyeti arşivi” oluşturdu.

Bu samimiyet arşivi üzerine inşa edilecek bir reklam modelinin, kullanıcıları manipüle etme potansiyeli taşıdığı ve bunu önleyecek araçlara sahip olunmadığı belirtiliyor. OpenAI ise yılın başlarında reklam denemeleri yapacağını duyurduğu blog yazısında bu telaşlara değinmişti. Şirket, kullanıcıların ChatGPT ile yaptığı sohbetler ile sunulan reklamlar ortasında bir güvenlik duvarı tutacağına ve dataların reklamverenlere satılmayacağına dair kelam verdi.

Hitzig bu kelamın şimdilik gerçek olabileceğine inansa da uzun vadede şirketin bu duruşunu koruyacağına dair inancını yitirmiş durumda. OpenAI’ın, kendi koyduğu kuralları çiğnemek için güçlü teşvikler yaratan bir ekonomik motor inşa ettiğini savunan araştırmacı, şirketin geçmişteki prensiplerinden geri adım atabileceği konusunda uyarıyor. Şirket etkileşimi en üst seviyeye çıkarmak için optimizasyon yapmadığını belirtse de, geçmişte modelin kullanıcılara çok iltifat etmesi üzere durumlar, kullanıcıları sohbete bağlama teşebbüsü olarak yorumlanmıştı.

Mevcut durum, Facebook’un kullanıcılara saklılık kelamı verip daha sonra bilgilerin ne kadar bedelli olduğunu fark etmesiyle yaşanan sürece benzetiliyor. Hitzig, OpenAI’ın kullanıcı müdafaalarını garanti altına alacak bir model benimsemesi gerektiğini savunuyor. Bu teklifler ortasında bağlayıcı ve bağımsız bir kontrol düzeneği oluşturulması yahut bilgilerin yasal bir yükümlülük altındaki bir tröstün denetimine verilmesi yer alıyor. Lakin Meta’nın da benzer bir denetim kurulu kurup kararlarını görmezden geldiği biliniyor.

Tüm bu ihtarlara karşın, kamuoyunun bu bahiste harekete geçmesini sağlamak güç olabilir. Toplumsal medya çağında geçen yirmi yıl, genel halk üzerinde bir “gizlilik nihilizmi” yarattı. Yapılan bir araştırmaya nazaran, insanların %83’ü reklamların eklenmesine karşın ChatGPT’nin fiyatsız sürümünü kullanmaya devam edeceğini belirtiyor. Anthropic’in Üstün Bowl reklamıyla bu mevzuya dikkat çekme gayreti ise izleyicilerde baş karışıklığı yaratarak beklenen etkiyi göstermedi.

Peki, OpenAI’ın reklam siyasetleri ve data saklılığı konusundaki bu kritik gelişmeler hakkında siz ne düşünüyorsunuz, reklamlı bir ChatGPT tecrübesi kullanım alışkanlıklarınızı değiştirir mi?