Yapay Zeka İkilemi: Biri Bizi Durdursun

20 Kasım 1983 akşamı, ABD'de 100 milyon kişi aynı gece ‘The Day After’ filmini izledi. Soğuk Savaş'ın zirve yaptığı bu dönemde, Avrupa'da tırmanan bir NATO-Sovyet krizinin nükleer bir çatışmaya dönüşmesinin ardından ortaya çıkan felaketi gözler önüne seren film, döneminin televizyon tarihindeki en çok izlenen yapımlardan biri olarak kayıtlara geçti.

Filmi yayından birkaç hafta önce izleyen dönemin ABD Başkanı Ronald Reagan, Beyaz Saray günlüğüne kısaca not düşüyordu:

"...film beni derinden üzdü... Asla bir nükleer savaş yaşanmaması için elimizden gelen her şeyi yapmalıyız."

Reagan'ın bu tepkisi sözde kalmadı. Üç yıl sonra, Ekim 1986'da, Sovyetler Birliği lideri Gorbaçov ile Reykjavik'te bir araya geldi. Bir yıl sonra imzalanan INF Antlaşması (Intermediate-Range Nuclear Forces Treaty) ile iki süper güç ilk kez bir nükleer silah kategorisini tamamen ortadan kaldırmayı kabul ettiler.

Reykjavik görüşmesinin kırkıncı yıl dönümüne çok az bir zaman kala, Temmuz 2026'da, Cenevre'de İyilik İçin Yapay Zeka Zirvesi'nde, bu hikayeyi The Social Dilemma belgeselinden çok iyi tanıdığımız bir isimden dinledik. Geçmişte Google'da ‘tasarım etikçisi’ olarak çalışan, 2018'de Aza Raskin ile birlikte Center for Humane Technology'yi kuran Tristan Harris, Raskin ve deneyim tasarımcısı Joy Mauthe Raskin ile birlikte sundukları ‘The Humanity Dilemma: A Species-Level Event’ başlıklı müzikli performansta, Reagan'ın bu filmi izleyip iki hafta depresyona girdiğini, bunun da Reykjavik'teki ilk silahsızlanma görüşmelerine giden yolu açtığını bize anlattı.

Tristan Harris'in nükleer caydırıcılık analojisini kullanması sebepsiz değil. Toplumların ve liderlerin harekete geçmek için varoluşsal bir korku eşiğine ihtiyaç duyduğunu biliyor. Harris'in kendi deyişiyle, nükleer başlıklar kendi kendilerine daha iyi nükleer başlıklar tasarlamaz; yapay zeka ise tam olarak bunu yapıyor. Ama 1983 ile 2026 arasında gözden kaçırılması tehlikeli bir fark var. Soğuk Savaş döneminde masada sadece iki ana aktör vardı ve kontrol edilmesi gereken şey sayılabilir, fiziksel bir materyaldi. Müzakereler, hangi ülkenin kaç füzeye ve savaş başlığına sahip olduğu, bunların nerede konuşlandırıldığı üzerinden yürüyordu. Bugün ise onlarca şirket ve devlet, görünmez, sayılamaz bir yarışın içinde; bir ülkenin hesaplama kapasitesini, bir öncü modelin ne derece ileride olduğunu uydu fotoğrafıyla saptayamıyorsunuz.

Korkuyla umut arasında

İşte bu arka planın eşliğinde, Cenevre'de, İyilik İçin Yapay Zeka Zirvesi'nde Avrupa prömiyeri yapılan The AI Doc: Or How I Became an Apocaloptimist belgeseli, çok aktörlü bir yarışın içine sıkışan yapay zeka endüstrisine iyi bir ayna tutmuş.

Belgeseli, Navalny ile Oscar kazanan Daniel Roher ve Charlie Tyrell birlikte yönetmiş. Prodüksiyon sürerken eşiyle birlikte bir bebek beklediklerini öğrenen Roher, film boyunca "Bu dünyaya bir çocuk getirir miydin?" sorusunu konuştuğu herkese soruyor ve bu öngörülemez dünyada doğacak bebeğinin mutlu ve güvenli bir hayata sahip olabilmesi için umut arıyor.

Belgesel, "Yapay zeka nedir?" sorusuyla açılıyor. Ardından yapay zekaya birbirinden farklı perspektiflerden bakan bilim insanlarını, araştırmacıları, sivil toplum temsilcilerini ve teknoloji şirketlerinin CEO'larını aynı anlatının içinde buluşturuyor. Yapay zekayı insanlık için büyük bir fırsat olarak görenlerle, ciddi riskler konusunda uyarıda bulunanların görüşleri arasında gidip gelen bu yolculuk, izleyiciyi sonunda ne kör bir iyimserliğe ne de kaçınılmaz bir felaket senaryosuna teslim ediyor. Bunun yerine, filmin adını da veren ‘Apocaloptimist’ bakış açısıyla baş başa bırakıyor.

Sektörün yaşadığı derin psikolojik ayrışma belgeselin ‘korku’ ve ‘umut’ bölümlerinde gözler önüne seriliyor. Bir tarafta Yoshua Bengio, Yuval Noah Harari ve Geoffrey Hinton gibi isimler tam olarak anlayamadığımız, bizden daha akıllı, manipülasyon yapabilen otonom sistemlerin yaratacağı kontrol kaybına ve varoluşsal risklere dikkat çekerken, diğer tarafta Peter Diamandis ve Jensen Huang gibi figürler bolluk toplumundan ve ‘süper insan’ geleceğinden bahsediyor.

Bu ayrışmanın en uç iki sesi belki de Eliezer Yudkowsky ve Guillaume Verdon. MIRI'nin (Machine Intelligence Research Institute) kurucusu Yudkowsky, insandan çok daha akıllı ve onu önemsemeyen bir sistemle aynı gezegeni paylaşmanın yaşanabilir olmadığını söylüyor. ‘Beff Jezos’ takma adıyla tanınan, ‘hızlandırmacılık’ (accelerationism) akımının en radikal kanadı e/acc'ın (effective accelerationism) kurucusu Verdon ise geleceğin harika olacağını, teknolojik ilerlemenin medeniyetin kapsamını genişletmenin tek yolu olduğunu savunuyor.

Belgesel, yapay zeka dünyasının üç önemli lideriyle yaptığı mülakatlarla da öne çıkıyor. Demis Hassabis, Dario Amodei ve Sam Altman bir yandan üretilen teknolojinin insanlığın sonunu getirebileceğini kabul ederken, diğer yandan da "Biz yavaşlasak bile rakip yavaşlamaz." diyerek şirketlerini büyütmeye ve bir sonraki çeyreğin hedeflerine odaklanmaya devam ediyorlar.

Kimse frene ilk basan olmak istemiyor

İşte tam da bu ‘Apocaloptimistic’ ortamda, 28 Temmuz 2026 günü, OpenAI, Anthropic, DeepMind ve Meta gibi öncü yapay zeka şirketlerinde çalışan mühendis ve araştırmacıların imzasını taşıyan bir bildiri yayınlandı. Pacing the Frontier başlığını taşıyan bu bildiri, dünyanın önde gelen yapay zeka şirketlerinin kendi araştırma ve geliştirme süreçlerini otomatikleştirmeye yaklaştığını ve yapay zekanın yeteneklerindeki gelişimin kontrol kapasitemizi aşma riski taşıdığını söylüyor.

Bildiride, yapay zekanın getireceği riskleri ele almak, bunlara ilişkin güvenlik önlemleri geliştirmek, denetimini güçlendirecek sistemler kurmak için bir soluklanma fırsatına ihtiyaç olduğu belirtiliyor. Rekabet baskısının şirketlerin ve ülkelerin tek taraflı olarak yavaşlamasına engel olduğu, bugün ilerlemeyi kasıtlı olarak yavaşlatacak teknik ve yönetsel araçların yokluğunda sektörün çaresiz kaldığı vurgulanıyor. Bildirinin imzacıları, ABD hükümetinden, yapay zeka araştırma ve geliştirme süreçlerinin otomatikleşmesini kontrollü biçimde yönetebilmek için gerekli teknik ve yönetsel araçların geliştirilmesine yönelik uluslararası girişimleri desteklemesini talep ediyor.

Bildiriyle, şirketlerin kendi başlarına yavaşlayamayacağı gerçeği, artık sadece CEO'ların röportajlarda dile getirdiği bir itiraf olmaktan çıkıp, sektörü temsil eden pek çok ismin imzasıyla kayıt altına alınmış oldu.

Pacing the Frontier imzacılarından OpenAI'dan Leo Gao'nun süreci ‘kontrolden çıkmak üzere olan bir nükleer zincirleme reaksiyona’ benzetmesi, tesadüf değil: Tristan Harris'in yazının başında andığımız The Day After benzetmesi, kırk yıl sonra, bu sefer bir aktivistin ağzından değil, bizzat bunu inşa eden bir mühendisin ağzından, neredeyse aynı kelimelerle sahnelere geri dönüyor.

Pacing the Frontier Temmuz ayı içerisinde yayımlanan tek bildiri değildi. Bu bildiriden iki hafta geriye gidersek, bu defa karşımıza 13 Temmuz 2026’da Stanford Digital Economy Lab öncülüğünde yayımlanan ‘We Must Act Now’ çıkıyor. Aralarında Daron Acemoğlu’nun da bulunduğu 16 Nobel ödüllü ekonomist ve bu yazının yazıldığı tarihte 3000’i aşkın akademisyen, uzman, profesyonel tarafından imzalanan bildiri, yapay zekanın Sanayi Devrimi’nden bile daha büyük bir ekonomik dönüşümü çok daha kısa sürede gerçekleştireceğini öne sürüyor. İmzacılar, yapay zekanın ekonomik etkilerini daha iyi anlamak ve yapay zekanın insanın yerini alan değil, onu tamamlayan bir yapıda gelişmesi için gerekli önlemleri alma çağrısında bulunuyorlar.

Bu iki bildiri, rekabet sarmalında sıkışan şirketlerle, yapay zeka araştırmalarını bizzat yürüten üniversitelerdeki ve laboratuvarlardaki akademisyenlerin ortak bir yardım çağrısı. Küresel yapay zeka yönetişiminde hâlâ etkili bir diyalog kuramadığımızın, ortak bir anlayış geliştiremediğimizin, teknolojinin ise kurallardan çok daha büyük bir hızla tehlikeli sınırlara yaklaşacak şekilde geliştiğinin göstergesi.

Rekabetin yeni cephesi

Oysa daha Haziran 2026'da G7 zirvesinde, Amodei ve Hassabis'in Trump ve diğer liderlerle bir araya geldiği kapalı kapılar ardındaki bir öğle yemeğinin ardından, ABD liderliğinde yeni bir yapay zeka koalisyonu kurulması önerildi. Pax Silica'nın 2025 yılı sonundaki kuruluşunun ardından gelen bu stratejik yakınlaşma ABD-Çin kamplarının arasına bir kez daha dikenli tel çekmiş, buna tepki olarak da Çin, World AI Cooperation Organization'ı (WAICO) kurduğunu açıklamıştı. Daha geçtiğimiz ay iki kamp arasındaki kutuplaşmaya yeni bir katman daha eklenmişken, şimdi yapay zeka alanındaki ilerlemeyi bir süreliğine yavaşlatacak, insan yaşamını ve tüm canlıları önceleyen ortak bir anlayış geliştirilmesini mümkün kılacak etkili bir diyalog süreci nasıl başlatılacak?

Birkaç ihtimal var, hiçbiri kolay değil. Bugün ABD ile Çin arasında, Reagan-Gorbaçov emsaline benzer ikili bir anlaşma mümkün mü? Zor bir ihtimal, ama imkânsız değil. Pax Silica ile WAICO arasında bir anlaşma olabilir mi, BM kanalı burada devreye girebilir mi? Ya da her blok, tıpkı iklim değişikliğindeki karbon azaltım yükümlülükleri gibi, kendi hızını kendi belirleyip ilan edebilir mi?

Bu soruların hepsine evet diye yanıt vermek mümkün ama önümüzde üç büyük engel var.

Üç büyük açmaz

Birinci açmaz teknik. Çünkü doğrulayamıyoruz. Kimin ne geliştirdiğini ve ne kadar güçlü sistemler kurduğunu nasıl ölçüp doğrulayacağız? Nükleer çağda denetlenen şey fiziki uranyum ve sayılabilir füzelerdi. Bugün denetlemeye çalıştığımız şey ise bulut sunucularındaki hesaplama gücü ve modellerin yetenekleri. Fiziksel olmayan bir gücü sınırlandırmak büyük zorluk yaratıyor. Henry Kissinger, Eric Schmidt ve Daniel Huttenlocher, 2021'de birlikte yazdıkları ‘The Age of AI’ kitabında bu ayrımı zaten öngörmüştü: nükleer denge ‘okunabilir’di, savaş başlıkları sayılabilir, güçleri hesaplanabilirdi; yapay zekanın kapasitesi ise sabit değil, dinamik.

İkinci açmaz jeopolitik. Çünkü hiçbir aktör diğerinin gerçekten yavaşlayacağına güvenmiyor. Ülkelerin ve şirketlerin verdikleri sözlere gerçekten uyduğunu nasıl kontrol edeceğiz? Pax Silica ve WAICO hatlarının yarattığı kutuplaşma masadaki her aktörün diğerinin gizlice eğitime devam edeceğine inanmasına sebep. ABD veya Çin'den birinin ilk adımı atıp yavaşlamayı kabul etmesi, jeopolitik mahkûmun ikilemi yüzünden imkânsız.

Üçüncü açmaz kurumsal. Çünkü mevcut teşvik sistemi, şirketleri ve devletleri daha yavaş hareket etmeleri için ödüllendirmiyor. Şirketleri ve devletleri daha yavaş ve kontrollü ilerlemeye nasıl ikna edeceğiz? Üstelik, şirketlerin "biz duramayız, bizi devlet durdursun" çağrısı samimiyet sorunu taşıyor. Şirketler ilk iki kilidin açılmasının çok zor olduğunu biliyor. Burada, olası bir felaketin ahlaki ve yasal sorumluluğunun devredilip devredilmediği sorusu akla geliyor.

Tarihe bakınca, hiçbir büyük kriz önleyici anlaşmanın aslında barış zamanında, sakin zamanlarda planlanarak doğmadığını görüyoruz. Hemen her vakada, önce gerçek bir felaketin eşiğine gelinmiş ve caydırıcılık mantığı ancak ondan sonra doğmuş. Belki bugünün ‘kısa durak fırsatı’ da önceden tasarlanamaz; somut bir kriz, mesela Hugging Face güvenlik ihlali gibi bir olayın çok daha büyüğü, yaşandıktan sonra aniden mümkün hale gelebilir.

1983'te Reagan ve Gorbaçov'u üç yıl sonra Reykjavik'te aynı masaya oturtan şey, sadece bir televizyon filminin yarattığı duygusal etki ya da politikacıların iyi niyeti değildi. Nükleer gücün mutlak imha sınırına ulaştığına dair somut, ölçülebilir kanıtlardı. Denetimi de nispeten kolaydı: her ülkenin sahip olduğu uranyum stokları net bir öngörü sağlıyordu.

Bugünün yapay zekasının hesaplama gücü ise ne sayılabiliyor ne de sınır tanıyor. Belki de asıl soru, bu yarışı kimin durduracağı değil, durmadan önce, duvara ne kadar hızlı çarpacağımız.