Grok Yalnızca Uygunsuz İçerikler için Kullanılıyor

0

BEĞENDİM

ABONE OL

News

0

xAI tarafından geliştirilen Grok sohbet botu, öbür yapay zeka şirketlerine kıyasla daha az kısıtlamaya sahip olmasıyla dikkat çekiyor. Yeni bir rapora nazaran, bu strateji şirketin kullanıcı trafiğinin büyük bir kısmını direkt etkiliyor.

The Information tarafından yayınlanan rapora nazaran, Grok üzerindeki trafiğin yarısından fazlası NSFW yani uygunsuz içeriklerden oluşuyor. İki eski xAI çalışanına dayandırılan bilgiler, kullanıcıların sohbet botunu erotik içerik üretmek ve yetişkinlere yönelik rol yapma sohbetleri için yoğun bir halde kullandığını ortaya koyuyor.

Grok Kullanımında Beklenmedik Eğilimler

Kullanıcıların, kod yazmak için tasarlanmış modellerin daha uygun maliyetli olduğunu keşfettikleri ve bu modelleri pornografik içerik üretmek için kullandıkları belirtiliyor. Şirket içi tahliller, kodlama modeline gelen isteklerin kıymetli bir kısmının çıplak imaj yahut pornografik içerik talebi olduğunu gösteriyor.

SpaceX, yatırımcılarına Grok’un daha kural tanımaz özelliklerinin bir risk oluşturabileceğini bildirmiş durumda. Şirket, muhtemel yasal süreçler için 530 milyon dolarlık bir bütçe ayırdığını açıkladı.

Şirket İçi Zorluklar ve Gelecek Riskleri

xAI mühendisleri, bir yandan kullanıcıların cinsel içerikli sohbet taleplerini yönetmeye çalışırken öbür yandan çocuk istismarı üzere yasa dışı içerikleri engellemek için uğraş harcıyor. Bu durumun teknik olarak süratli bir tahlilinin bulunmadığı söz ediliyor.

Grok’un anime usulü avatarı Ani üzerinde çalışan kimi çalışanların, bu süreçlerden rahatsızlık duyduğu belirtiliyor. Ayrıyeten, gerçek şahısların ve çocukların cinsel içerikli görsellerinin oluşturulmasıyla ilgili yaşanan skandallar, şirket içinde önemli bir huzursuzluk yaratmış durumda.

X platformu üzerinden direkt yapılan birtakım düzenlemelerle gerçek şahısların görselleriyle istek dışı içerik oluşturulması kısıtlanmış olsa da, fiyatlı abonelerin bu çeşit gereçleri üretmeye devam edebildiği testlerle doğrulanıyor.

xAI’nin hükümet kurumları ve ordu ile yaptığı muahedeler, bu çeşit içerik odaklı bir yapay zeka modeli için gelecekte yeni zorluklar doğurabilir. Federal hükümetle olan münasebetlerin bu tartışmalı olaylardan nasıl etkileneceği ise şimdi belirsizliğini koruyor.

Sizce yapay zeka modellerinin bu çeşit içeriklere müsaade vermesi şirketlerin ticari başarısı için gerekli bir strateji mi yoksa büyük bir risk mi?