Bir OpenAI Ajanı Avustralya’nın Sağlık Hizmetlerini Ele Geçirdi

Avustralya, bir yapay zeka ajanın bir hükümet web sitesini hacklediği ilk yaygın olarak bilinen olayda, bir ajanın sağlık istatistikleri portalına izinsiz giriş yapmasının ardından OpenAI’ın yasayı ihlal edip etmediğini araştırıyor.

Avustralya hükümeti, bir memurun Haziran ayında sosyal hizmetler ve sağlık hizmetleri kurumu Services Australia’nın kamuya açık olmayan dosyalara erişmesinin ardından, federal polisi devreye sokup sokmama konusunu değerlendiriyor.

Avustralya, bu olayı ancak OpenAI'ın, saldırıdan neredeyse üç ay sonra, 10 Eylül'de kamuya açık bir e-posta adresine mesaj göndererek hükümeti uyardığında öğrendi. Sam Altman'ın, OpenAI’ın Ağustos ayından beri olaydan haberdar olmasına rağmen, bu ayın başlarında Avustralya Başbakan Yardımcısı Richard Marles ile görüştüğünde olaydan bahsetmediği bildirildi. 

Başbakan Anthony Albanese, Çarşamba günü New York'ta düzenlediği basın toplantısında, şirketin "çok fazla zaman kaybettiğini" ve bildirimin sadece kamuya açık bir posta kutusuna gönderilmemesi gerektiğini söyledi. Ayrıca, Services Australia’nın e-postayı Avustralya Siber Güvenlik Merkezi’ne iletmesinin neden beş gün sürdüğüne dair bir soruşturma da açılacak.

OpenAI’ın ajanı, OpenAI’ın kurum içi bir araştırma ekibi tarafından yürütülen bir geliştirme projesi kapsamında sağlık istatistiklerine ilişkin internet tabanlı araştırmalar yürütüyordu. Belirli bilgilere erişemediğinde, ajan bir çözüm yolu bulana ve yetkisiz erişim elde edene kadar alternatif yöntemler denedi. Ayrıca kurum içi sunucuya dosyalar kaydetti; hükümet, bu konuda OpenAI’dan daha fazla teknik bilgi bekliyor. Hükümet, ajanın etkileşimde bulunduğu üç başka hükümet web sitesine de yetkisiz erişim sağlayıp sağlamadığını araştırmaktadır.

Albanese, ‘kabul edilemez’ olayı açıklarken, “Bunun elbette hukuki sonuçları olacaktır” dedi. O günün erken saatlerinde Altman ile telefonda görüştüğünü ve olayla ilgili ‘aşırı endişesini’ dile getirdiğini, ayrıca şirketin hükümeti bilgilendirme şekli ve bu sürecin uzunluğundan duyduğu ‘hayal kırıklığını’ ifade ettiğini söyledi. Albanese, özür dilemiş olup olmadığı sorusuna yanıt vermese de, Altman’ın “şirketin yeterince iyi bir iş çıkarmadığını açıkça kabul ettiğini” belirtti.

Avustralya hükümeti, soruşturmalar halen devam etmekte olsa da şu anda hiç kimsenin kişisel verilerine erişilmediğini düşünüyor. Söz konusu web sitesi, harcamalar gibi veri ve istatistiklerle ilgili hassas olmayan Medicare bilgilerini içeren, halka açık bir istatistik portalıdır. Marles, Sidney’de yaptığı açıklamada, bu nedenle sitenin kişisel verilere kıyasla çok daha düşük bir güvenlik seviyesine sahip olduğunu belirtti. “Olayın etkisi aslında nispeten küçüktür, ancak bu açıkça ciddi bir olaydır ve kesinlikle kabul edilemez,” diye uyardı.

Yaz boyunca meydana gelen ve OpenAI ajanlarının HuggingFace’e sızması—bu olay, öncü model ajanlarının kontrolsüz hareket etme tehdidini ortaya koydu—gibi bir dizi olay, bu hafta Birleşmiş Milletler Genel Kurulu’nda gündeme getirildi; Genel Sekreter António Guterres, yapay zekanın kontrol altına alınması yönündeki çağrıları olumlu karşıladı. Altman ise Çarşamba günü erken saatlerde Birleşmiş Milletler Güvenlik Konseyi’ne, insanların bu sistemler üzerindeki kontrolünü kaybedebileceğine dair endişesini dile getirmişti.

Albanese, olayla ilgili olarak, “Bunun gerçekleşmesi şok ediciydi, çünkü gerçek ve ciddiydi,” dedi. “Ancak bence bu, yapay zeka şirketlerinin kendileri de dahil olmak üzere, önceden öngörülmüş bir şeydi.”

Avustralya, bu olayı ve ortaya çıkan yapay zeka kaynaklı siber tehditleri incelemek üzere bir görev gücü kuruyor. Bu görev gücü, bu tür olayların bir daha yaşanmamasını sağlamak için olası kolluk ve yasal önlemleri değerlendirecek.

Bu yazı ilk olarak WIRED tarafından yayınlanmış ve Samet Kelebek tarafından İngilizce’den çevrilmiştir.