OpenAI ChatGPT için Tartışmalı Yetişkin Modunu Hazırlıyor

Yapay zeka dünyasının öncü şirketi OpenAI, tanınan sohbet botu ChatGPT için planladığı “yetişkin modu” üzerinde çalışmaya devam ediyor. Wall Street Journal tarafından paylaşılan yeni raporlara nazaran bu özellik, görsel pornografi yerine yalnızca metin tabanlı erotik sohbetler sunmaya odaklanacak.

OpenAI yetişkin modunda görsel içeriklere yer vermeyecek

Şirket sözcüsünün açıklamalarına nazaran, yeni sistemde görsel, sesli yahut görüntü üretimi katiyen desteklenmeyecek. Kullanıcılar sadece yetişkin temalı metin tabanlı sohbetler (erotica/smut) gerçekleştirebilecek. Şirket CEO’su Sam Altman, ekim ayında yaptığı açıklamada güvenlik kısıtlamalarını gevşeterek onaylanmış yetişkinler için bu biçim bir sistem getireceklerini duyurmuştu. Fakat bu çeyrekte çıkması beklenen özellik, yüksek öncelikli öbür vazifeler ve çeşitli güvenlik kaygıları sebebiyle kısa müddet evvel ileri bir tarihe ertelendi.

Güvenlik kaygıları ve yaş doğrulama sorunları

Bu ertelemenin temelinde çocukları müdafaaya yönelik önemli teknik ve etik zorluklar yatıyor. Şirketin seçilmiş danışma kurulu, bu modun çocukların erişimine açık olabileceği ve sohbet botuna karşı sıhhatsiz bir duygusal bağımlılık yaratabileceği konusunda ihtarda bulunuyor. Hatta bir konsey üyesi, bu sistemin “seksi bir intihar koçu” yaratma riski taşıdığını belirterek durumun ciddiyetine dikkat çekiyor.

Bununla birlikte, sistemi reşit olmayanlardan uzak tutmak için geliştirilen yaş varsayım algoritmasının testlerde çocukları yüzde 12 oranında yetişkin olarak yanlış sınıflandırdığı ortaya çıktı. ChatGPT’yi her hafta 18 yaş altı yaklaşık 100 milyon kişinin kullandığı düşünüldüğünde, bu yanılgı hissesi milyonlarca çocuğun cinsel içerikli sohbetlere tehlikeli bir halde erişmesine yol açabilir.

İçerik kontrolü zorlukları ve yasal stratejiler

Geliştirici takım, bir yandan yetişkin içerik (NSFW) kısıtlamalarını esnetmeye çalışırken öteki yandan çocuk istismarı ve istek dışı senaryoları engellemek için ağır gayret sarf ediyor. Sistemin yalnızca metin tabanlı kalması, markanın İngiltere’nin Çevrimiçi Güvenlik Yasası üzere katı kuralları (görsel pornografide yaş doğrulaması koşulu arayan fakat yazılı metinleri muaf tutan yasalar) daha kolay aşmasını sağlıyor. Öte yandan Elon Musk’ın xAI şirketi, Grok yapay zekası ile “R-rated” derecelendirmesine giren görsel ve görüntü üretimlerine açıkça müsaade vererek büsbütün farklı ve agresif bir strateji izliyor.

Peki, ChatGPT’nin yeni yetişkin modu hakkındaki sizin görüşleriniz neler? Niyetlerinizi yorumlarda bizimle paylaşın!