Çin’in Önde Gelen Yapay Zeka Uzmanlarıyla Görüştüm. Onlar da Panik içinde

Bir haftadan biraz fazla bir süre önce, Pekin’in hareketli yüksek teknoloji bölgesi Zhongguancun’da düzenlenen büyük bir yapay zeka konferansına katıldım.

Etkinlik, modellerin kendi kodlarını düzenleyip sonsuza dek gelişebileceği fikri olan özyinelemeli kendini geliştirmeden insansı robotlara kadar her konuyu ele alan büyüleyici oturumlarla doluydu. Ayrıca, açık anahtar şifrelemenin ortak mucidi Whitfield Diffie ve pekiştirmeli öğrenme alanındaki öncü çalışmalarıyla Rich Sutton ile birlikte Turing Ödülü’nü kazanan Andrew Barto gibi bilgisayar dünyasının birkaç efsane ismi de etkinlikte yer aldı.

Ancak her şeyden öte, kafamda tek bir sonuç kaldı: ABD ve Çin, yapay zeka alanındaki şiddetli rekabetlerini bir kenara bırakmalı.

Frontier AI’nın siber güvenlik ve sistemik riskleri göz ardı edilemeyecek kadar ciddi ve dünyanın yapay zeka süper güçleri işbirliği yapmazsa, giderek daha yetenekli hale gelen özerk modeller yakında kaosa yol açabilir. Konferansa video bağlantısıyla katılan MIT’den bilgisayar bilimcisi Stephen Casper, etkinlikten sonra bana şöyle dedi: “Yapay zeka, küresel faydalar ve zararlar sağlayan, yeni yeteneklerin zamanla yaygınlaşma eğilimi gösteren küresel bir teknoloji.”

Şimdiye kadar ABD, Çin’in yapay zeka alanındaki ilerlemelerini büyük ölçüde ekonomik ve ulusal güvenlik tehdidi olarak değerlendirmiş. Washington, ülkenin güçlü yapay zeka teknolojisi geliştirmesini engellemek amacıyla yongalara ve yonga üretim ekipmanlarına sıkı kısıtlamalar getirmiş. Son olarak, ABD hükümeti ulusal güvenlik endişeleri nedeniyle Anthropic’e, yabancı uyrukluların en güçlü modelleri olan Mythos ve Fable 5’e erişimini engellemesi talimatını verdi. Buna karşılık Anthropic, herkesin erişimini iptal etti. WIRED’in daha önce ortaya çıkardığı gibi, özellikle endişe kaynağı olan şirketlerden biri, Çin ile bağlantıları olduğu iddia edilen Güney Koreli bir telekom deviydi.

Ancak Pekin Yapay Zeka Akademisi tarafından düzenlenen konferans, yapay zekanın çok hızlı ve düşüncesizce geliştirilmesi durumunda hem ABD’nin hem de Çin’in zarar göreceği fikrini pekiştirdi. Yapay zeka daha güçlü, daha özerk ve günlük yaşamla daha iç içe hale geldikçe, siber saldırılar gerçekleştirmek için kullanılması veya felaketle sonuçlanacak şekilde arızalanması riskleri de artacak. Dünyanın en gelişmiş yapay zeka modellerini geliştiren iki büyük güç arasında işbirliği yapılması hayati önem taşıyacak gibi görünüyor.

Casper, yapay zeka kaynaklı tehlikeler konusunda uluslararası işbirliğinin sağladığı faydaların, bu işbirliğinden kaynaklanabilecek ulusal güvenlik risklerinden daha ağır bastığını gösteren araştırmalara işaret etti. Mevcut durumu, ABD ile Sovyetler Birliği’nin birbirlerini stok bakımından geride bırakmaya çalışsalar da nükleer tehlikeler konusunda işbirliği yapmaya mecbur kaldıkları duruma benzetti.

Casper, “Şu anda yapay zeka alanında çalışan hemen hemen herkesin üzerinde hemfikir olduğu bir konu, yapay zekanın bir ‘Çernobil anına’ ihtiyacı olmadığıdır,” dedi.

Bir günlük oturumda, daha gelişmiş yapay zekanın ortaya çıkardığı siber zorlukların evrensel niteliği vurgulandı. Bunlar arasında, yapay zeka tarafından üretilen kodlardaki yeni tür güvenlik açıkları, ajan tabanlı araçların kullanımıyla mümkün hale gelen sistemlere yönelik yeni saldırı yöntemleri ve sosyal mühendislik saldırılarını gerçekleştirmek için kullanılan otomatik yöntemler yer alıyor.

Bir başka oturumun ardından, yapay zeka ve bilgisayar güvenliği alanlarında olağanüstü çalışmalar yürüten Şanghay Jiao Tong Üniversitesi’nden Profesör Lin Yun ile görüştüm. Yun, kısa vadede hackerların üstünlük kazanacağını öngördüğünü, ancak yapay zekanın yenilikçi kullanımları da dahil olmak üzere yeni önlemlerin zamanla dengeyi yeniden savunma tarafına kaydıracağını söyledi.

Yun, uluslararası işbirliğinin rekabet nedeniyle karmaşıklaşsa bile öncelikli kalması gerektiğini söyledi. “Farklı ülkeler riskleri benzer şekilde anlarsa, ortak güvenlik ilkeleri ve teknik standartlar geliştirmek daha kolay hale gelir,” dedi bana. “Önemli olan, hassas operasyonel ayrıntıları ifşa etmeden paylaşımın sistemik riski azaltabileceği alanları bulmak”

Her iki ülke için de belki de en acil soru, açıklık ile risk arasında nasıl bir denge kurulacağı. Açık kaynaklı modeller, araştırma ve inovasyon açısından hayati önem kazanmış; Çin menşeli modeller ise ABD’de büyük rağbet görmekte. Ancak bu modeller geliştikçe, hackerların güvenlik açıklarını tespit etmelerine yardımcı olmamalarını ve siber silah olarak kullanılmamalarını sağlamak giderek daha zor hale gelecek.

Son birkaç yıldır Çinli şirketler, Moonshot’un Kimi’si, Alibaba’nın Qwen’i ve Z.ai’nin GLM’si gibi yüksek performanslı açık ağırlıklı yapay zeka modellerini sunma konusunda öncülük etmiş. ABD ise Nvidia’nın Nemotron’u gibi modellerle kendi açık ağırlıklı yapay zeka girişimlerini yeniden canlandırmış. Ancak, güvenlik önlemlerinden yoksun bırakıldıkları takdirde daha düşük performanslı açık modellerin bile tehlikeli hale gelebileceği bir dönüm noktasına yaklaşıyoruz. Uzman analizlerine göre, Çinli Z.ai şirketinin en son modeli olan GLM 5.2, en ileri düzeyde ajansal ve kodlama yeteneklerine sahip. Yeni nesil açık ağırlıklı yapay zeka modelleri, Fable veya Mythos kadar yetenekli olabilir. Nitekim, bu hafta Çin’in önde gelen siber güvenlik şirketlerinden biri olan 360 Security Technologies, Mythos ile eşdeğer düzeyde siber saldırı yeteneklerine sahip bir yapay zeka modeli geliştirdiğini açıkladı.

Yun, sektörün açık kaynaklı modellerin güncel olmasını, arka kapılar ve güvenlik açıkları içermemesini ve güvenlik standartlarını karşıladığını garanti altına alacak yeni yöntemler geliştirmesi gerekeceğini söyledi.

Gelecekte yaşanabilecek gelişmelerin olası bir işareti mi? Basınla konuşma yetkisi olmadığı için isminin açıklanmamasını isteyen, Çin’in önde gelen yapay zeka şirketlerinden birinde çalışan bir kaynak, bana güvenlik endişelerinin, Çin’deki bazı gelişmiş modellerin artık açık kaynak olarak yayınlanmamasının nedenlerinden biri olduğunu söyledi.

Bu yazı ilk olarak WIRED'da yayınlanmış ve Mahmut Karslıoğlu tarafından İngilizce'den çevrilmiştir.