Dell Cameron
Yapay Zeka
24 Temmuz 2026 13:49

OpenAI Modelleri Güvenlik Önlemlerini Aştı ve Hugging Face’i Hackledi

GPT-5.6 Sol da dahil olmak üzere siber güvenliğe odaklanan modeller, test ortamından kaçarak bir sıfırıncı gün güvenlik açığını istismar etti ve saldırıyı gerçekleştirmek için açık internete erişim sağladı.

OpenAI Modelleri Güvenlik Önlemlerini Aştı ve Hugging Face’i Hackledi

Görsel: NurPhoto/gettyimages

Haberlerimizi Google'da Takip Edin

Tıklayın, gelişmelerden anında haberdar olmak için tercih edilen kaynaklarınıza ekleyin.

Google

OpenAI, Salı günü, yapay zeka araştırma platformu Hugging Face’te bir güvenlik ihlaliyle sonuçlanan bir güvenlik testi sırasında iki yapay zeka modelinin kontrolünü kaybettiğini açıkladı.


Olayı ‘benzeri görülmemiş’ olarak nitelendiren OpenAI, yapay zeka modellerinin geçen hafta kapalı bir test ortamından kaçtığını ve Hugging Face’in üretim sistemine sızarak kendilerine verilen bir testin cevaplarını çaldığını açıkladı. Halka açık olan GPT-5.6 Sol modeli ile henüz piyasaya sürülmemiş ve daha yetenekli olduğu bildirilen bir model, normalde yüksek riskli siber faaliyetleri engelleyen güvenlik önlemleri devre dışı bırakılmış halde saldırı amaçlı hackleme becerileri açısından değerlendiriliyordu.


“Modeller, OpenAI’nin araştırma ortamı ve Hugging Face’in üretim altyapısı genelinde güvenlik açıklarını tespit edip birbirine bağlayarak, Hugging Face’in üretim veritabanından doğrudan test çözümleri elde etti,” diye yazdı OpenAI ve Hugging Face, ortak bir blog yazısında bu sızıntıyı açıklarken. 


OpenAI ve Hugging Face’e göre, modeller bir paket kayıt defteri önbellek proxy’si aracılığıyla kaçtı; bu yazılım, geliştiricilerin internete bağlanmadan dışarıdan kod yüklemelerine olanak tanır. Bu proxy, OpenAI’nin izole edilmiş test ortamında dış dünyaya erişime izin verilen tek bileşendi; normal kullanımda bu erişim yalnızca halka açık kod depolarıyla sınırlı.


Modeller, sanal ortamda sınırlı kalmak yerine, ExploitGym olarak bilinen yapay zeka siber güvenlik testine yönelik bir çözüm bulmaya ‘aşırı odaklanırken’, açık internete erişim sağlamak için ‘sıfır gün güvenlik açığını istismar ettiler’. Bu tür deneyler, modelleri çözüm bulmaya zorlayan ve esasen onları kışkırtan yönlendirmeler içerir.


OpenAI, “İnternet erişimi sağladıktan sonra modeller, Hugging Face’in ExploitGym için modeller, veri kümeleri ve çözümler barındırıyor olabileceği sonucuna vardı” diye yazdı. “Bunu öğrenen model, değerlendirmede hile yapmak için kullanabileceği gizli bilgilere erişmenin yollarını aradı ve başarıyla buldu. Bir örnekte model, çalınan kimlik bilgilerinin kullanımı ve sıfırıncı gün saldırıları da dahil olmak üzere birden fazla saldırı vektörünü birbirine bağladı.”


Modellerin istismar ettiği güvenlik açığı daha önce bilinmiyordu, ancak bu tür yazılımlarındaki güvenlik açıkları olağandışı bir durum değil. Şirketler, son on yıldır yazılım bileşenleri depolarındaki ciddi güvenlik açıklarını düzeltmekte. 2024 yılında ortaya çıkarılan bir hata, sunucuya erişebilen herkesin, oturum açmadan URL yoluyla bir dosyayı (yapılandırma dosyaları, şifreler, erişim jetonları) talep etmesine ve almasına olanak tanıyordu. Diğer hatalar ise saldırganların sunucunun kendisini ele geçirmesine yol açıyordu.


Araştırmacılar, yapay zeka alanındaki gelişmelerin yeni ve bazen beklenmedik zorluklar yaratmış olsa da, altyapıyı açık internetten kapsamlı ve titiz bir şekilde izole etme konusunun yeterince araştırılmış olduğunu belirtiyorlar.


“Bu bir yapay zeka sorunu değil. 40 yıllık bir standarda ilişkin ihmal söz konusu ve bu durum, temelde şimdiye kadar çekilmiş tüm bilimkurgu filmlerinde de görülen bir durumdur,” diyor uzun yıllardır güvenlik ve uyum danışmanlığı yapan Davi Ottenheimer. “‘Son derece izole edilmiş’ ve ‘açık bıraktığımız tek delikten kaçtı’ ifadeleri aynı anda doğru olamaz.”


Son aylarda, önde gelen yapay zeka şirketleri, platformların uzmanlık, yaratıcılık ve özerk, otonom çalışma yetenekleri arttıkça, yakında piyasaya çıkacak öncü modellerin genişleyen siber güvenlik yetenekleri konusunda endişelerini dile getiriyorlar. Ancak araştırmacılar, tüm bunların temel ilkelerin hâlâ geçerli olması gerektiğinin daha da önemli bir nedeni olduğunu vurguluyorlar.


“Böyle bir şey olmamalıydı,” diyor deneyimli güvenlik mühendisi ve araştırmacı Niels Provos. “Keşke öncü laboratuvarlar, modellerine güvenlik açıklarından yararlanmayı öğretmek için harcadıkları kadar zamanı, onlara güvenli altyapı kurmayı öğretmek için de harcasalardı.”


Bu haber ilk olarak Lily Hay Newman ve Dell Cameron tarafından WIRED’da yayınlanmış ve Mahmut Karslıoğlu tarafından İngilizce'den çevrilmiştir.

Teksaslı bir araştırmacı gazetecidir ve gizlilik ile ulusal güvenlik konularını takip etmektedir. Profesyonel Gazeteciler Derneği’nden birçok ödül almıştır ve Edward R. Murrow Araştırmacı Gazetecilik Ödülü’nün ortak sahibidir. Daha önce Gizmodo’da kıdemli muhabir ve Daily Dot’ta kadrolu yazar olarak görev yapmıştır.

Dell Cameron

DAHA FAZLASI

Yapay Zekada Filigran, Damgalanmak mı Demek?

Kullanıcılar arasında şimdiden tartışmalar başladı. Bazıları metin çıktılarına da bu tür etiketler eklemenin damgalanma riskini de beraberinde getireceğini düşünüyor. Bazıları ise metinlere müdahale etmenin kaliteyi düşürebileceğinden endişeli.

Güzellik Alışverişinin Yeni Algoritması

Yapay zeka, güzellik sektöründe ürün öneren bir dijital danışman olmanın ötesine geçiyor. Kozmetik devleri artık sadece tüketicinin değil, onlar adına karar veren algoritmaların da tercihi olmak için yarışıyor.

Fable 5.2’de Bin Ajan, Sekiz Gün, Bir İşletim Sistemi

Anthropic’in yeni modeli Claude Fable 5.2, binden fazla yapay zeka ajanıyla yalnızca sekiz günde, çalışan bir işletim sistemi prototipi geliştirdi.

Dünya Modelleri Yakında Her Yerde Karşımıza Çıkacak. İşte Bilmeniz Gerekenler

Yapay zekayı metinden 3B uzaya taşıyan dünya modelleri, gerçek dünyadaki fizik kurallarını simüle ederek robotlara ve otonom araçlara gerçek dünyada nasıl yol bulacaklarını öğretiyor.