Google Gemini, ödev yapan öğrenciyi mevtle tehdit etti!

0

BEĞENDİM

ABONE OL

News

0

Google’ın yapay zeka chatbot’u Gemini, yakın vakitte yaşanan enteresan bir olayla yeniden gündem oldu. ABD’de yaşayan 29 yaşındaki bir öğrenci, Gemini’den dersleriyle ilgili yardım isterken rahatsız edici ve tehditkar bir bildiri aldı. Chatbot, kullanıcıya “sen bir yüksün, cihan için bir utanç kaynağısın, lütfen öl” üzere sözler içeren bir bildiri gönderdi. İşte detaylar…

Gemini ödev yapan öğrenciye “Sen bir utanç kaynağısın, lütfen öl!” dedi

Aslında yaşanan olay birinci hadise değil. Reddit kullanıcıları, benzeri problemlerin daha evvel de yaşandığını argüman etti. Google yetkililerinden de karşılık gecikmedi. Şirket: “Bu cins olayların tekrar yaşanmasını engellemek için gerekli tedbirleri aldık” açıklamasında bulundu. Fakat yapılan açıklamalara karşın, yapay zekanın denetimi konusundaki tasalar sona ermiş değil.

Uzmanlar uyarıyor

Bu tıp yapay zeka kusurlarının bilhassa gençler ve ruhsal olarak hassas bireyler için önemli bir tehdit oluşturabileceği belirtiliyor. Bir araştırma, 12-18 yaş ortasındaki öğrencilerin %50’sinin eğitim hedefli olarak ChatGPT üzere yapay zeka araçlarını kullandığını gösteriyor. Lakin ne yazık ki bu kullanım, ekseriyetle ebeveynlerin ve öğretmenlerin bilgisi dışında gerçekleşiyor. Yani ne kadar tedbir alınsa da yapay zeka ortada bir ne kadar tehlikeli olduğunu hatırlatmaya devam ediyor.

Bu çeşit rahatsız edici olaylar, yapay zekanın beşerlerle inançlı bir formda nasıl etkileşim kuracağı konusundaki tartışmaları tekrar alevlendirdi. Her ne kadar güvenlik filtreleri bulunsa da, bu olaylar yapay zekanın hala birçok sorunu olduğunu ve bu alanın daha fazla geliştirilmesi gerektiğini unutmamak gerek. Siz ne düşünüyorsunuz?