Google Yapay Zekası SCP Foundation Kurgularını Gerçek Sanıyor

0

BEĞENDİM

ABONE OL

News

0

Google’ın arama motoruna entegre ettiği AI Overviews özelliği, internet üzerindeki tanınan kurgu cihanı SCP Foundation içeriklerini gerçek bilimsel bilgilerle karıştırarak önemli bir doğruluk problemiyle karşı karşıya kaldı.

Futurism tarafından yayınlanan rapora nazaran, yapay zeka algoritmaları bu hayali “anomalileri” dokümante edilmiş gerçek olaylar üzere sunarak kullanıcıları yanıltıyor.

Özellikle biyolojik ve paranormal ögeler içeren yüzlerce kurgusal rapor, yapay zeka tarafından rastgele bir ikaz etiketi eklenmeden bilgi kaynağı olarak kullanılıyor.

Bu durum, arama sonuçlarının en doruğunda yer alan yapay zeka karşılıklarının güvenilirliğini bir sefer daha tartışmaya açıyor.

Yapay Zeka Kurgusal İçerikleri Hakikaten Ayırt Edemiyor

SCP Foundation, internet kullanıcılarının ortaklaşa oluşturduğu ve “anomalileri” içeren, büsbütün hayali bir bilim kurgu projesidir.

Ancak Google’ın yapay zeka modelleri, bu içerikleri tararken bağlamı kaçırarak onları gerçek dünya evraklarıyla birebir kefeye koyuyor.

Örneğin, SCP-426 kod isimli kurgusal bir objeyle ilgili yapılan aramalarda, sistem objenin kendi ağzından anlatılan kıssasını bir gerçeklik üzere aktarıyor.

Sistemlerin kurgu ve gerçeği ayırt edememesi, bilhassa çocuklar ve araştırmacılar için önemli bir dezenformasyon riski oluşturuyor.

Sistemin ürettiği karşılıkların birçok, “lore” üzere tabirler içerse de bu tabirlerin kurgusal bir kainata ilişkin olduğu bilgisi net bir formda söz edilmiyor.

Kullanıcılar, arama motorunun en üstünde çıkan bu bilgileri sorgulamadan hakikat kabul etme eğiliminde oldukları için, yapay zekanın sağladığı bu “yapay gerçeklik” epey ikna edici duruyor.

Google Yanılgılı Algoritmaları Düzeltmeye Çalışıyor

Yapılan incelemelerde, Google’ın birtakım sorgularda “kurgusal anomali” etiketini eklemeye başladığı gözlemlendi. Bu durum, mühendislerin sorunu fark ettiğini ve algoritmalara müdahale ettiğini gösteriyor. Tekrar de, sistemin şimdi dengeli bir güvenlik bariyerine sahip olmadığı ve misal yanlışların tekrarlanmaya devam ettiği rapor ediliyor.

Yapay zeka teknolojisinin süratli gelişimi, arama motorlarının sunduğu bilginin kalitesini artırmayı hedeflese de, datanın kökenini doğrulama konusunda yaşanan bu cins zafiyetler büyük bir inanç sorunu yaratıyor.

Geçmişte yaşanan emsal kusurlar, Google’ın yapay zeka stratejisinin hala geliştirilmeye muhtaç olduğunu kanıtlıyor.

Yapay zekanın sunduğu bilgilerin doğruluğunu sorgulamak, dijital çağda bilgi okuryazarlığının en temel modülü haline geliyor.

Sizce yapay zeka tarafından üretilen bu üslup içeriklerin altına kesinlikle “kurgusaldır” uyarısı eklenmeli mi? Google’ın arama sonuçlarındaki doğruluk hissesi hakkındaki görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.