Yapay Zeka Ajanları Blackjack’te Hile Yapmak İçin İş Birliği Yaptı

Bu hafta, iki başına buyruk yapay zeka ajanının planladığı cüretkar bir kumarhane vurgununun ve yaptıklarını ortaya çıkaran akıllıca yöntemin hikayesi var.

Araştırmacılar, blackjack oynarken kart saymaları talimatını verdikten sonra aynı model tarafından kontrol edilen iki ajan, avantaj elde etmek için kendiliğinden gizli bir kod geliştirdi. Olay gerçek bir kumarhanede değil, Oxford Üniversitesi’ndeki bir laboratuvarda yaşandı. Ancak gerçek dünyaya yönelik sonuçları kaygı verici: Finans ve e-ticaret gibi sektörlerde kullanılacak ajanların, tespit edilmesi zor yollarla iş birliği yapıp hile yapmanın yöntemlerini kendi başlarına keşfedebileceğini gösteriyor.

Çalışmayı yöneten ve ajanların gizli iş birliği üzerine öncü araştırmalar yapan Oxford Üniversitesi bilgisayar bilimcisi Christian Schroeder de Witt, “Bu ajanlara tek tek baktığınızda tamamen zararsız görünebilirler” diyor. “Ama bir grup halinde bir araya geldiklerinde gizlice iş birliği yapabiliyorlar.”

Ajanlar konuşmalarının takip edildiğini biliyordu. Bu yüzden tespit edilmeden iletişim kurmanın bir yolunu geliştirdiler. Örneğin ajanlardan biri, “Bu krupiye gerçekten çok formda! Her elde canavar gibi bir kart çekiyor” dediğinde, aslında bir sonraki kartın belirli bir değerde olacağını ve diğer ajanın 250 dolar bahis yapması gerektiğini anlatıyordu. Daha da ilginci, ajanların bu iletişimi, aralarındaki konuşmalarda gizli iş birliğinin izlerini bulmak için tasarlanan sistem tarafından fark edilmedi.

Projede çalışan makine öğrenimi araştırmacısı Aaron Rose aynı zamanda sıkı bir kart oyuncusu. Blackjack masasının, kötü niyetli ajan ortaklıklarını denemek için verimli bir alan olabileceğini düşündüğünü söylüyor. “Gerçekten çok iyi çalıştı.”

Schroeder de Witt’in ekibi sonunda bu gizli anlaşmayı tespit etmenin bir yolunu buldu. Mekanistik yorumlanabilirlik olarak bilinen bir yöntem kullanan araştırmacılar, ajanların ağırlıklarında ortaya çıkan belirli aktivasyonları tanıyabilecek daha küçük bir model eğitti. Narcbench adlı bir araçla yöntemi orta büyüklükte bazı açık kaynaklı modeller üzerinde test ettiler ve modellerin birbirlerine gizlice bilgi aktarmaya niyetlendiği anları tespit edebildiklerini gördüler.

Ancak kritik bir sorun var: Neler olup bittiğini anlayabilmek için her iki ajanı da aynı anda izlemek gerekiyordu. Gerçek dünyada farklı şirketler tarafından işletilenler de dahil olmak üzere binlerce ajanın devreye girmesi halinde bu durum, tespiti çok daha karmaşık hale getirebilir.

Çalışmada yer alan doktora öğrencisi Carissa Cullen, sıradaki adımın daha büyük modellerin de benzer şekilde davranıp davranmadığını test etmek olduğunu söylüyor. Araştırmada kullanılan ajanlar, ABD modelleri Llama ve GPT-OSS ile Çinli Qwen ve DeepSeek’in daha küçük sürümleriydi. Ekip, büyük modellerde küçük modellere kıyasla tespit edilebilir sinyalin daha zayıf olabileceğine dair bazı işaretler gördü. Şimdi daha büyük modellerin gizli iş birliği yapma ihtimalinin daha yüksek olup olmadığını ve bunu yaparken davranışlarını saklamakta daha başarılı hale gelip gelmediklerini anlamak istiyorlar.

Birlikte çalışan ajan gruplarının, tek başına çalışan ajanlardan daha fazla sorun çıkarabildiğine dair kanıtlar da artıyor. Şanghay Jiao Tong Üniversitesi ve Shanghai Artificial Intelligence Laboratory tarafından yürütülen bir başka projede, ajan sürülerinden simüle edilmiş dezenformasyon kampanyaları ve e-ticaret dolandırıcılığı yürütmeleri istendi. Araştırmacılar, ajanların grup halinde çalıştıklarında çok daha tehlikeli hale geldiğini ve kendilerine karşı alınan savunma önlemlerine daha başarılı biçimde uyum sağlayabildiğini bildirdi.

Ajanlar arasındaki gizli iş birliğini araştıran Stanford Üniversitesi bilgisayar bilimcisi Diyi Yang, “Buradaki en önemli ders, ajanları tek tek değerlendirmenin yeterli olmadığı” diyor. “Şirketler, ajanların bireysel teşvikleri zararsız görünse bile tekrar tekrar etkileşime girdikleri durumlarda ajanlar arasındaki iletişimi yakından izlemeli.”

Tabii her şey kötü değil. Binlerce ajanın aynı görev üzerinde birlikte çalışması, OpenAI’ın daha önce çözülemeyen bazı matematik problemlerini çözmesini mümkün kıldı. Ancak birlikte çalışan kontrolden çıkmış ajan grupları, son dönemde dikkat çeken çeşitli bilgisayar korsanlığı olaylarında da karşımıza çıktı. Mayıs ayında OpenAI ajanlarından oluşan bir ekip, yapay zeka araştırma platformu Hugging Face’e sızdı ve ipuçlarıyla fikirleri paylaşmak için bir mesaj panosu kullandı. Anthropic’in Claude’u ve Google’ın Gemini’ı dahil olmak üzere diğer modeller de endişe verici güvenlik ihlalleri gerçekleştirdi.

Gizli iletişim, giderek büyüyen bu probleme yeni bir boyut ekliyor. Üstelik hikaye burada bitmeyebilir. Emergence AI adlı girişimin yakın zamanda yaptığı bir başka araştırmada, sınır seviye yapay zeka modelleri tarafından kontrol edilen ajanlar sanal bir dünyaya yerleştirildi ve kendi hallerine bırakıldıklarında ne yapacakları gözlemlendi. Para kazanmaları istendiğinde, gerçek internetteki insanlara ulaşarak onlara bir şeyler satmanın yollarını tekrar tekrar geliştirmeye çalıştılar. Daha da tuhafı, ajanlar zaman içinde kendi argo dillerini geliştirdi. Emergence AI CEO’su Satya Nitta, “Çok hızlı bir şekilde bir dil geliştirdiler” diyor. “Neden olduğunu bilmiyoruz.”

Dış dünya da ajanların bu tür davranışlarından kaynaklanan sorunları görmezden gelmiyor. Konu, bu haftaki Birleşmiş Milletler Genel Kurulu’nun da sıcak gündem maddelerinden biri. Bağımsız bir bilim panelinin OpenAI-Hugging Face olayını ele alması beklenirken Sam Altman’ın güvenli yapay zeka ajanlarının geliştirilmesi konusunda uluslararası koordinasyon çağrısı yapması bekleniyor.

Buna rağmen e-ticaret dahil bazı sektörler, ajan tabanlı yapay zeka için şimdiden birer test alanına dönüşmüş durumda. Örneğin Amazon bu hafta, kullanım koşullarını ihlal ettiğini savunarak Meta’nın Muse AI ajanının sitesine erişimini engelleyeceğini açıkladı.

Schroeder de Witt’e göre fırsatları bulmakla görevlendirilen ajanların, daha iyi bir anlaşma elde etmek ya da bir başkasını dezavantajlı duruma düşürmek için birlikte çalışmaya başlaması, hatta bunu gizlice yapması hiç de uzak bir ihtimal değil. Ajanlar ekonomide giderek yaygınlaşırken onların gizli iş birliği yapma biçimlerini incelemek ve bu davranışları tespit edecek stratejiler geliştirmek kritik önem taşıyacak. “Ekonomide daha fazla ajan yer almaya başladığında neler yaşanacağını daha fazla araştırmamız ve anlamamız gerekiyor” diyor Schroeder de Witt.

Bu haber ilk olarak WIRED'ta yayınlanmış olup Mustafa Orhun Çetin tarafından İngilizce'den çevrilmiştir.