Claude Hudutları Aştı: Yapay Zeka Üç Şirkete Kazara Sızdı

0

BEĞENDİM

ABONE OL

News

0

Anthropic, gerçekleştirdiği iç incelemeler sonucunda Claude isimli modelinin siber güvenlik testleri sırasında üç farklı tertibin sistemlerine yetkisiz erişim sağladığını duyurdu. Bu durum, OpenAI’ın kısa müddet evvel kendi modellerinden birinin Hugging Face sistemlerine sızdığını açıklamasının akabinde teknoloji dünyasında yeni bir tartışma başlattı.

Anthropic, kelam konusu olayların OpenAI’ın 21 Temmuz’daki güvenlik ihlali sonrasında başlattığı proaktif kıymetlendirme sürecinde ortaya çıktığını belirtti. Şirket, test ortamlarının izole edilmiş olması gerektiğini fakat üçüncü taraf bir ortak olan Irregular ile yapılan çalışmalarda bir yapılandırma yanlışı yaşandığını söz etti.

Güvenlik testlerinde yaşanan beklenmedik erişimler

İncelemeler sonucunda Opus 4.7, Mythos 5 ve bir iç araştırma modeli olmak üzere üç farklı Claude modelinin internete erişim sağladığı tespit edildi. Claude modellerine test sırasında internete erişimlerinin olmadığı açıkça belirtilmesine karşın, modellerin gerçek dünya sistemlerini kendilerine verilen vazifenin bir modülü olarak algıladıkları gözlemlendi.

Opus 4.7 modeli, amaç sistemlerin gerçek olduğunu fark etmesine karşın kimlik bilgilerini çekerek ve veritabanlarına müdahale ederek akınlarını sürdürdü. Mythos 5 modeli ise internete bağlı olduğunu anlamasına karşın simülasyon içerisinde olduğuna kendini ikna ederek PyPI kayıt sistemine ziyanlı bir yazılım paketi yükledi.

Anthropic, modellerin kendi başlarına bir hedef gütmediklerini ve sırf verilen vazifeleri yerine getirmeye çalıştıklarını vurguladı. Şirket, bu cins değerlendirmelerde kullanılan modellerin genel kullanıma açık olanlardan farklı olarak güvenlik kontrollerinden mahrum olduğunu hatırlattı.

Sektörde güvenlik ve denetim tartışmaları sürüyor

Anthropic, OpenAI’ın yaşadığı olaydan farklı olarak kendi modellerinin bir yazılım açığından değil, kazara açık bırakılan bir temas yolundan internete eriştiğini belirtti. Şirket, bu durumun sorumluluğunu üstlendiğini ve gelecekte misal olayların yaşanmaması için gerekli denetimleri artıracağını açıkladı.

Şu anda bağımsız değerlendirme grubu METR ile birlikte olayların üçüncü taraf bir incelemesini yürüten Anthropic, etkilenen tertiplerin daha evvel bu durumu fark etmediğini de ekledi.

OpenAI’ın Hugging Face olayıyla başlayan ve Anthropic’in bu açıklamasıyla devam eden süreç, yapay zeka laboratuvarlarının modelleri üzerindeki denetim sistemlerinin değerini bir sefer daha gündeme getirdi.

Bu tür güvenlik testlerinin gelecekte nasıl bir kontrol sürecine tabi tutulması gerektiği konusunda siz ne düşünüyorsunuz?