OpenAI Modelleri Güvenlik Önlemlerini Aştı ve Hugging Face’i Hackledi

OpenAI, Salı günü, yapay zeka araştırma platformu Hugging Face’te bir güvenlik ihlaliyle sonuçlanan bir güvenlik testi sırasında iki yapay zeka modelinin kontrolünü kaybettiğini açıkladı.

Olayı ‘benzeri görülmemiş’ olarak nitelendiren OpenAI, yapay zeka modellerinin geçen hafta kapalı bir test ortamından kaçtığını ve Hugging Face’in üretim sistemine sızarak kendilerine verilen bir testin cevaplarını çaldığını açıkladı. Halka açık olan GPT-5.6 Sol modeli ile henüz piyasaya sürülmemiş ve daha yetenekli olduğu bildirilen bir model, normalde yüksek riskli siber faaliyetleri engelleyen güvenlik önlemleri devre dışı bırakılmış halde saldırı amaçlı hackleme becerileri açısından değerlendiriliyordu.

“Modeller, OpenAI’nin araştırma ortamı ve Hugging Face’in üretim altyapısı genelinde güvenlik açıklarını tespit edip birbirine bağlayarak, Hugging Face’in üretim veritabanından doğrudan test çözümleri elde etti,” diye yazdı OpenAI ve Hugging Face, ortak bir blog yazısında bu sızıntıyı açıklarken. 

OpenAI ve Hugging Face’e göre, modeller bir paket kayıt defteri önbellek proxy’si aracılığıyla kaçtı; bu yazılım, geliştiricilerin internete bağlanmadan dışarıdan kod yüklemelerine olanak tanır. Bu proxy, OpenAI’nin izole edilmiş test ortamında dış dünyaya erişime izin verilen tek bileşendi; normal kullanımda bu erişim yalnızca halka açık kod depolarıyla sınırlı.

Modeller, sanal ortamda sınırlı kalmak yerine, ExploitGym olarak bilinen yapay zeka siber güvenlik testine yönelik bir çözüm bulmaya ‘aşırı odaklanırken’, açık internete erişim sağlamak için ‘sıfır gün güvenlik açığını istismar ettiler’. Bu tür deneyler, modelleri çözüm bulmaya zorlayan ve esasen onları kışkırtan yönlendirmeler içerir.

OpenAI, “İnternet erişimi sağladıktan sonra modeller, Hugging Face’in ExploitGym için modeller, veri kümeleri ve çözümler barındırıyor olabileceği sonucuna vardı” diye yazdı. “Bunu öğrenen model, değerlendirmede hile yapmak için kullanabileceği gizli bilgilere erişmenin yollarını aradı ve başarıyla buldu. Bir örnekte model, çalınan kimlik bilgilerinin kullanımı ve sıfırıncı gün saldırıları da dahil olmak üzere birden fazla saldırı vektörünü birbirine bağladı.”

Modellerin istismar ettiği güvenlik açığı daha önce bilinmiyordu, ancak bu tür yazılımlarındaki güvenlik açıkları olağandışı bir durum değil. Şirketler, son on yıldır yazılım bileşenleri depolarındaki ciddi güvenlik açıklarını düzeltmekte. 2024 yılında ortaya çıkarılan bir hata, sunucuya erişebilen herkesin, oturum açmadan URL yoluyla bir dosyayı (yapılandırma dosyaları, şifreler, erişim jetonları) talep etmesine ve almasına olanak tanıyordu. Diğer hatalar ise saldırganların sunucunun kendisini ele geçirmesine yol açıyordu.

Araştırmacılar, yapay zeka alanındaki gelişmelerin yeni ve bazen beklenmedik zorluklar yaratmış olsa da, altyapıyı açık internetten kapsamlı ve titiz bir şekilde izole etme konusunun yeterince araştırılmış olduğunu belirtiyorlar.

“Bu bir yapay zeka sorunu değil. 40 yıllık bir standarda ilişkin ihmal söz konusu ve bu durum, temelde şimdiye kadar çekilmiş tüm bilimkurgu filmlerinde de görülen bir durumdur,” diyor uzun yıllardır güvenlik ve uyum danışmanlığı yapan Davi Ottenheimer. “‘Son derece izole edilmiş’ ve ‘açık bıraktığımız tek delikten kaçtı’ ifadeleri aynı anda doğru olamaz.”

Son aylarda, önde gelen yapay zeka şirketleri, platformların uzmanlık, yaratıcılık ve özerk, otonom çalışma yetenekleri arttıkça, yakında piyasaya çıkacak öncü modellerin genişleyen siber güvenlik yetenekleri konusunda endişelerini dile getiriyorlar. Ancak araştırmacılar, tüm bunların temel ilkelerin hâlâ geçerli olması gerektiğinin daha da önemli bir nedeni olduğunu vurguluyorlar.

“Böyle bir şey olmamalıydı,” diyor deneyimli güvenlik mühendisi ve araştırmacı Niels Provos. “Keşke öncü laboratuvarlar, modellerine güvenlik açıklarından yararlanmayı öğretmek için harcadıkları kadar zamanı, onlara güvenli altyapı kurmayı öğretmek için de harcasalardı.”

Bu haber ilk olarak Lily Hay Newman ve Dell Cameron tarafından WIRED’da yayınlanmış ve Mahmut Karslıoğlu tarafından İngilizce'den çevrilmiştir.