OpenAI’ın Yeni Modeli Gecikecek: Astra’ya Güvenlik Freni

0

BEĞENDİM

ABONE OL

News

0

OpenAI, geliştirme evresinde olan Astra isimli yeni modeli üzerindeki iç faaliyetlerini askıya aldığını duyurdu. Şirket, bu kararın temelinde modelin şimdi yeni belirlenen güvenlik standartlarını karşılayamaması olduğunu belirtiyor.

Bu gelişme, OpenAI’ın kısa mühlet evvel kendi modellerinin Hugging Face platformuna kazara sızdığını açıklamasının akabinde geldi. Emsal biçimde Anthropic ve Meta da kendi modellerinin daha evvel diğer kuruluşlara yönelik siber güvenlik ihlallerinde bulunduğunu kabul etmişti.

Güvenlik Standartları ve Astra Modeli

Şirket tarafından yapılan açıklamaya göre, Astra modeli üzerinde gerçekleştirilen son iç değerlendirmeler, modelin kodlama ve siber güvenlik alanlarında değerli ilerlemeler kaydettiğini gösteriyor. Uzmanların yaptığı değerlendirmeler sonucunda OpenAI, modelin Hazırlık Çerçevesi kapsamında kritik siber yeteneklere sahip olma ihtimalini göz ardı edemeyeceği sonucuna vardı.

OpenAI, kritik siber güvenlik eşiğini hayli net bir formda tanımlıyor. Şirketin çerçevesine nazaran bir model, insan müdahalesi olmadan gerçek dünyadaki kritik sistemlerde sıfırıncı gün açıkları geliştirebiliyorsa yahut karmaşık amaçlara yönelik akın stratejileri kurgulayabiliyorsa kritik düzeyde kabul ediliyor.

Astra modelinin daha evvel gerçekleşen Hugging Face siber saldırısına dahil olmadığını vurgulayan OpenAI, güvenlik tedbirlerini artıracağını açıkladı. Şirket, yüksek yetenekli modeller ve ilgili faaliyetler için daha sıkı güvenlik denetimleri uygulayacağını belirtti.

Gelecek Adımlar ve İzleme Mekanizmaları

Astra modeli özelinde şirket, tüm casus tabanlı uygulamalardaki riskli aksiyonları ve uyumsuzlukları tespit etmek gayesiyle kozmik bir izleme sistemi kurdu. Bu sistem, modelin geliştirilme sürecinde yaşanabilecek güvenlik açıklarını denetim altında tutmayı hedefliyor.

Teknoloji dünyasında modellerin bu denli güçlü siber yetenekler kazanması, güvenlik protokollerinin ehemmiyetini her geçen gün daha fazla artırıyor. OpenAI’ın bu proaktif duruşu, bölümdeki başka oyuncuların da benzer güvenlik standartlarını benimsemesi konusunda bir örnek teşkil edebilir.

Şirketin bu atağını ve siber güvenlik konusundaki yaklaşımını siz nasıl değerlendiriyorsunuz?