Eski DeepMind Yöneticisi, Yapay Zeka Silahlanma Yarışının Felaketle Sonuçlanabileceğini Düşünüyor

Bu yayında da olmak üzere yapay zeka silahlanma yarışı hakkındaki haberler her yerde. Peki, ya bu bakış açısı temelde tehlikeli ise? Verity Harding’in iddiası da bu. 2016 ile 2020 yılları arasında Harding, günlerini Barack Obama’dan Emmanuel Macron’a kadar dünyanın dört bir yanındaki politikacılara yapay zeka alanındaki gelişmeler hakkında brifingler vererek geçirdi. Google DeepMind’ın küresel kamu politikası başkanı olarak Harding, etik ikilemleri ve potansiyel riskleri belirlemekten sorumluydu. Harding, WIRED’e verdiği son röportajda, o dönemde yapay zeka araştırmalarının 'uluslararası iş birliğine dayandığını' söyledi. Ancak zamanla sektör, Anthropic ve OpenAI gibi laboratuvarlar arasındaki rekabetin yanı sıra, iki küresel süper güç olan ABD ve Çin arasındaki rekabetin etkisiyle şekillenmeye başladı. Yapay zeka silahlanma yarışı, günün en popüler metaforu haline geldi.

Harding’in yeni deneme derlemesi “Reframing the AI Arms Race”te, kendisi ve tarihçi Lawrence Freedman ile Japon siyasetçi Taro Kono da dahil olmak üzere küresel siyaset ve akademi dünyasından diğer isimler, yapay zekayı tanımlamak için kullanılan dilin politika oluşturma sürecinin gidişatını ve ülkeler arasındaki ilişki şartlarını belirlediğini savunuyor.

Harding, yapay zekayı ölümcül bir silah olarak sunmanın, teknolojinin güvenli olmasını ve faydalarının eşit bir şekilde dağıtılmasını sağlamak için gerekli olan uluslararası iş birliğinin önünü kapatma riski taşıdığına inanıyor. Öte yandan, bu teknolojiyi ithal eden daha küçük güçler için, silahlanma yarışı çerçevesine boyun eğmek, kendi çıkarlarına aykırı olabilecek şekilde bir süper gücün ya da diğerinin arkasına dizilmek anlamına geliyor. Harding, Trump yönetiminin milliyetçi yapay zeka söylemini ve yerli modellere ihracat kontrolleri getirme girişimini, 'silahlanma yarışı' çerçevesinin belirtileri olarak görüyor ve bunun en kötü senaryonun şekillenmekte olduğunun bir kanıtı olduğunu düşünüyor.

WIRED, Haziran ayı başında Harding ile bir araya gelerek, 'silahlanma yarışı' fikrinin nereden kaynaklandığını, bu anlatının jeopolitiği nasıl şekillendirdiğini ve daha küçük ülkelerin yapay zeka geliştirme sürecinde söz sahibi olabilmek için neler yapabileceklerini tartıştı.

Aşağıdaki söyleşi, uzunluk ve netlik açısından düzenlenmiştir.

WIRED: Sizce insanlar neden yapay zeka konusunda savaş metaforlarına bu kadar ilgi duyuyor?

VERITY HARDING: Bence bu sadece çekici bir çerçeveleme. Her şeyi çok netleştiriyormuş gibi görünen şeylerden biri, ama derinlemesine incelendiğinde düşünceyi kısıtlıyor. DeepMind’da çalışırken görevim, siyasi liderlerin bu teknolojiyi ve neler yapabileceğini anlamalarına yardımcı olmaktı. Bu, teknolojinin gerçekten heyecan verici olduğu fikrine dayanıyordu; ancak endişe verici bazı hususlar da vardı ve bunların iş birliğine dayalı, uluslararası bir yaklaşımla ele alınması daha uygun olurdu. [Zamanla] fark etmeye başladığım şey, bunun daha çok bir medeniyetler savaşı olduğu düşüncesiydi: Batı ile Çin arasında. Bu değişimin arkasındaki itici güçler nelerdi? Bunlardan biri, teknolojinin tehlikeli olduğuna —ya da yanlış ellere geçerse tehlikeli olacağına— ve bu nedenle anahtarların demokrasilerin elinde olması gerektiğine dair içten bir inançtı. Diğeri ise, Çin’i bir korkuluk olarak göstermenin kendileri için yararlı olduğunu düşünen bir düzenleme karşıtı akımdı: “Bizi düzenlerseniz, Çin’in kazanmasına izin vermiş olursunuz.”

Tetikleyici olarak belirli bir anı işaret edebilir misiniz?

ChatGPT (Kasım 2022’de piyasaya sürülen versiyonuyla), birdenbire pek çok kişinin dikkatini yapay zekaya çevirdi. Ancak aynı zamanda başka olaylar da yaşandı. ChatGPT, küresel bir pandemiyle aynı zamanda ortaya çıktı; o dönemde insanlar sınırsız dünyanın yeniden sınırlandırılmasından korkuyordu. Ayrıca Ukrayna’daki savaş da devam ediyordu; bu dönemde yapay zeka ve jeopolitikle ilgili tartışmaların çoğu —özellikle de silahlarla ilgili olanlar— birdenbire çok somut bir hal aldı. Yapay zekanın yeni bir silahlanma yarışı olduğu fikri çok kısa sürede genel bir kanı haline geldi. Bu durum, hafızalarda yer eden son silahlanma yarışı olan Soğuk Savaş ile ilişkilendirildi; insanlar bunu nükleer silaha benzeterek konuştular.

Herhangi bir teknolojinin gidişatı, gelişiminin kritik anlarında küresel süper güçlerin başında kimin olduğuna ne ölçüde bağlı?

Çok büyük ölçüde. İnsanlar geleneksel olarak teknolojinin ortaya çıkıp toplumu değiştirdiğini düşünür, ancak bunun tersi de geçerli. Şu anda yapay zeka konusunda bunun gerçekten gerçekleştiğini görebilirsiniz. ABD’deki siyasi kültür, yapay zeka politikasının nasıl şekilleneceği ve dolayısıyla yapay zekanın nasıl gelişeceği üzerinde büyük bir etkiye sahip. Jeopolitik ortam şu anda oldukça gergin ve hareketli. Bunun büyük bir kısmı, ABD’nin daha izolasyonist bir yaklaşım benimsemesinden kaynaklanıyor.

Neden yapay zeka geliştirme konusunda enternasyonalist bir yaklaşımı savunuyorsunuz ve tek tek ülkelerin bu teknolojiyi kendi başlarına geliştirmek için içe dönme fikrine karşı çıkıyorsunuz?

Bence Avrupa ve Birleşik Krallık’taki egemenlik kapasitesi gerçekten, gerçekten çok önemli. [Ancak izolasyonizm] yapay zeka politika yapımında tek itici güç haline gelmiş durumda ve diğer olasılıkları ve gerçekleri gölgeliyor. ABD ve Çin bile her şeyi kendi başlarına geliştiremez; bu da şu stratejik darboğazların ortaya çıkmasına neden oluyor: “Çiplerimizi alamazsınız.” “Peki, siz de kritik minerallerimizi ya da bilim insanlarımızı alamazsınız — ve biz de sizin ürününüzü satın almayacağız.”

Her ülkenin tamamen egemen bir yapay zeka altyapısına sahip olabileceğini öne sürmek gerçekçi değil. Bununla birlikte, Avrupa güçlerinin Amerikan teknolojisine bağımlılıklarından neden endişe duyduklarını anlamak kolay. Son iki hafta içinde Donald Trump, milliyetçi söylemlerle dolu bir yapay zeka başkanlık kararnamesi yayınladı ve yönetimi, Anthropic’i en son Frontier modelini piyasadan çekmeye fiilen zorladı.

Evet, kesinlikle. Ancak enternasyonalist yaklaşım, egemenlik argümanıyla çelişmiyor. Bu argüman şu şekilde özetlenebilir: Rekabet normal ve sağlıklıdır, ancak işbirliği ve dayanışmayla birbirini dışlamak zorunda değil. Ben bir orta güçler koalisyonu kurulması çağrısında bulunuyorum.

Bu neye yarar?

Bu kısmen etki gücüyle, kısmen de ölçekle ilgili. Diyelim ki Kanada, Fransa, Japonya, Güney Kore, Hindistan ve Birleşik Krallık var. Hindistan’da teknolojinin yayılımı ve ölçeği inanılmaz; Birleşik Krallık’ta ise inanılmaz bir yetenek havuzu ve gelişmiş bir girişim ekosistemi var; Kanada’da ise kritik mineraller bulunuyor, [ve benzeri]. Önemli olan, silahlanma yarışı çerçevelemesinin sizi, yapay zeka oyununun tamamının iki süper güç arasındaki ikili bir yarış olduğuna ikna etmesine izin vermemektir. Bunun doğru olduğuna inanarak, bunu gerçeğe dönüştürürsünüz ve kendinizi bir tarafta ya da diğer tarafta küçük bir satranç taşına dönüştürürsünüz. Her zaman daha az değersiniz.

Para yozlaştırıcı bir etken mi? Silahlanma yarışı kavramının yaygınlaşması, bu teknolojinin ticarileştirilmesine giden bir yolun ortaya çıkmasıyla ilgili mi?

Paranın akış miktarı, hızı ve şekli — bu çılgınlık — kesinlikle bir etki yarattı. Ancak bu, tek başına gördüklerimizi açıklamak için yeterli değil.

Büyük laboratuvarların, söylemi iş birliğinden rekabete kaydırmada suç ortağı olduğunu düşünüyor musunuz?

Öyleler. Yapay zekayı bir silahlanma yarışı olarak ele almak, onlara güç kazandırıyor; çünkü bu teknolojinin o kadar güçlü, yeni ve benzersiz olduğunu, cevabı sadece kendilerinin bildiğini ve çözümün kontrolünün sadece kendilerinde olması gerektiğini söylüyorlar.

Bu teknolojiyi ele geçirmek için tek tek yapay zeka laboratuvarları arasında ve küresel güçler arasında yaşanan şiddetli rekabet, güvenli ve sorumlu yapay zeka geliştirme hedefini mutlaka baltalar mı, yoksa her ikisini birden elde etmek mümkün mü?

Her ikisini birden elde etmek mümkün.

Peki bu olası mı?

'Yarış' dilinin, kimsenin sakin ve iş birliği içinde plan yapmasına yardımcı olacağını sanmıyorum.

Peki, bu yolda ilerlemeye devam edersek, varacağımız yer neresi olacak?

Doğal olarak uzun vadede ortaya çıkacak sonuç, bu sistemler üzerinde aşırı devlet kontrolü ve iktidarın merkezileşmesi olacaktır — ve güvenlik, gıda güvenliği ya da hastalıkların ortadan kaldırılması gibi konularda iş birliği yapmanın yollarını bulamadığımız için, daha az güvenli ve faydalı sistemler. Ardından, bir süper gücü ya da diğerini seçmek zorunda kalacak pek çok bağımlı devlet.

İnsanların tamamen aynı fikirde olmasalar bile birlikte çalışabilecekleri küçük bir konu bile nedir? Silahlanma yarışı söylemi, laboratuvarlar arasındaki rekabet, yapay zekada gördüğümüz milliyetçilik artışı… Bütün bunlar, insanların artık o [işbirliği] kasını çalıştırmak istemediği anlamına geliyor. O kası çalıştırmaya devam etmelisiniz, aksi takdirde körelir.

Bu yazı ilk olarak WIRED'ta yayınlanmış ve Mustafa Orhun Çetin tarafından İngilizce'den çevrilmiştir.