Canva’da Filistin Krizi! Saklı Sansür Uygulamışlar

0

BEĞENDİM

ABONE OL

News

0

Popüler grafik tasarım platformu Canva, yapay zeka takviyeli araçlarından birinde yaşanan beklenmedik bir metin değişikliği meselesiyle gündeme geldi. Kullanıcılar, platformun yeni Magic Layers özelliğinin dizaynlardaki ‘Filistin’ tabirini otomatik olarak değiştirdiğini fark etti.

X platformu üzerinden paylaşılan imgeler, ‘Cats for Palestine’ yazılı bir dizaynın yapay zeka tarafından ‘Cats for Ukraine’ formunda değiştirildiğini ortaya koydu. Bu durum, kullanıcılar ortasında geniş çaplı bir tartışma başlattı.

Magic Layers özelliğinde yaşanan teknik hata

Canva sözcüsü, mevzunun farkında olduklarını ve Magic Layers özelliğinde yaşanan bu sorunu süratle inceleyerek tahlile kavuşturduklarını belirtti. Şirket, yaşanan durumdan ötürü üzgün olduklarını söz ederek kullanıcılardan özür diledi.

Sözcü, sorunun izole edildiğini ve dizaynları genel olarak etkilemediğini savundu. Fakat kimi kullanıcılar, kelam konusu yanılgıyı kendi projelerinde tekrarlayabildiklerini rapor etti.

Canva, benzeri durumların gelecekte yaşanmaması için ek kontrol sistemleri kurduklarını açıkladı. Şirket, yanılgının kökenini anlamak için kapsamlı bir iç kontrol süreci başlattığını duyurdu.

Geçtiğimiz ay kullanıma sunulan Magic Layers aracı, statik görselleri düzenlenebilir katmanlara ayırmak için tasarlanmıştı. Aracın neden metinleri değiştirdiği yahut hangi eğitim datalarının bu sonuca yol açtığı şimdi netlik kazanmadı.

Yapay zeka araçlarında yaşanan misal tartışmalar

Bu olay, yapay zeka modellerinin belli hususlarda sergilediği önyargılarla ilgili birinci örnek değil. Daha evvel Meta’nın WhatsApp üzerindeki yapay zeka araçları, Filistinli görseli istendiğinde tartışmalı sonuçlar üretmesiyle eleştirilmişti.

Benzer biçimde 2023 yılında ChatGPT’nin Filistinlilerle ilgili kimi sorulara verdiği karşılıklar aktivistler tarafından incelenmişti.

Yapay zeka sistemlerinin eğitim süreçleri ve tarafsızlıkları, teknoloji dünyasında yeniliğini koruyan bir husus olmaya devam ediyor.

Canva, gelecekteki beklenmedik çıktıları tespit etmek ismine iç test süreçlerini gözden geçirdiğini vurguladı. Şirket, kullanıcıların itimadını yine kazanmak için gerekli adımları atacağını belirtti.

Yapay zeka araçlarının bu çeşit metin müdahaleleri yapması hakkında siz ne düşünüyorsunuz?