‘Yapay Zeka Kıyameti’ Ve Kendi Kendini Geliştiren Makineler

Yapay zeka sistemleri birkaç yıl içinde metin üreten sohbet botlarından kod yazabilen, deneyler yürütebilen ve karmaşık görevleri giderek daha az insan müdahalesiyle yerine getirebilen sistemlere dönüştü. Şimdi teknoloji dünyasında çok daha ileri bir ihtimal tartışılıyor: Yapay zekanın, kendisinden daha gelişmiş yapay zekalar geliştirmeye başlaması.

‘Recursive self-improvement’ (RSI), yani ‘özyinelemeli kendini geliştirme’ olarak adlandırılan bu fikir, bir yapay zeka sisteminin kendi geliştirme sürecine giderek daha fazla katkıda bulunmasını ve sonunda bu süreci insanlardan daha iyi yönetebilmesini ifade ediyor.

En ileri senaryoda süreç kapalı bir döngüye dönüşüyor: Bir yapay zeka daha iyi bir yapay zeka geliştiriyor; yeni sistem, daha yetenekli olduğu için kendisinden de gelişmiş bir sistem oluşturuyor; bu sistem ise süreci daha da hızlandırıyor.

Literatürde bunun uç versiyonu bazen I. J. Good'un 1965'te tarif ettiği ‘intelligence explosion’ (zeka patlaması) fikriyle ilişkilendiriliyor.

Peki bu otomasyon gerçekten yapay zeka yeteneklerinin ‘patlayıcı’ biçimde hızlanmasına yol açar mı? Yapay zeka şirketleri son yıllarda bu hususta önemli ilerleme kaydetti. Ancak teknolojinin geleceğiyle ilgili giderek artan endişelerin kökeninde de bu ilerleme var.

Yapay zekanın yapay zeka geliştirdiği dönem başladı mı?

Anthropic ve OpenAI gibi önde gelen şirketler yeni modellerin geliştirilmesinde yapay zekayı giderek daha fazla kullanıyor. Anthropic'in eylül ayında açıkladığı verilere göre yapay zeka sistemleri şirketin araştırma ve geliştirme çalışmalarının yaklaşık yüzde 26'sında lider rol oynuyor ve çalışmaların yaklaşık yüzde 90'ında insanlarla birlikte görev alıyor.

Anthropic'in haziranda yayımladığı veriler de değişimin ne kadar hızlı gerçekleştiğine işaret ediyor. Şirket, Mayıs 2026 itibarıyla onaylanan kodlarının yüzde 80'inden fazlasının yapay zeka tarafından üretildiğini bildirdi. Ocak 2025'te bu oran tek haneli seviyelerdeydi.

Benzer bir dönüşüm OpenAI'da da yaşanıyor. The Information'a konuşan bir OpenAI çalışanına göre, şirket yeni deneysel modellerin eğitilmesi sürecini büyük ölçüde otomatikleştirdi. Yapay zeka sistemleri, insanların belirlediği yönergeler doğrultusunda deneyleri gerçekleştiriyor ve yaptıkları işlerdeki hataların önemli bölümünü kendileri düzeltiyor.

Ancak bu gelişmeler henüz gerçek anlamda RSI'ya ulaşıldığı anlamına gelmiyor. Bugünkü sistemlerde araştırmanın amacını, hangi problemin çözülmesi gerektiğini ve çoğu durumda elde edilen sonucun gerçekten başarılı olup olmadığını hâlâ insanlar belirliyor.

Claude kendi kodunu yazıyor

Bu dönüşümün en görünür olduğu alanlardan biri yazılım geliştirme. Anthropic'in Claude Code ekibindeki baş programcılardan biri ocak ayında ekibinin kodlarının ‘yüzde 100'e yakınının’ Claude Code tarafından yazıldığını ifade etmişti.

Şirket içinde yapılan bir araştırmada 18 mühendisten beşi, sistemin çalışma altyapısında yapılacak iyileştirmelerle Mythos'un yakın gelecekte L4 seviyesindeki bir mühendisin yerine geçebileceğini düşündüğünü söyledi. Bu seviye, karmaşık projeleri sürekli denetime ihtiyaç duymadan yürütebilen orta düzey bir yazılım mühendisini ifade ediyor.

Ancak araştırmacılar sistemin eksiklikleri arasında oldukça önemli yetenekleri de sıralıyor: Bir hafta süren belirsiz görevleri kendi kendine yönetmek, kurumun önceliklerini anlamak, neyin iyi veya kötü olduğuna ilişkin muhakeme geliştirmek, kendi çalışmalarını doğrulamak ve talimatları güvenilir biçimde takip etmek.

Yani bugünkü sistemler bir görevin nasıl yapılacağı konusunda giderek güçlenirken, ‘Hangi görevi yapmalıyım?’ sorusunda insanlara bağımlı olmaya devam ediyor.

Andrej Karpathy'nin 'Auto-Research' deneyi

Buna rağmen bazı araştırmacılar geliştirme döngüsünden insanı mümkün olduğunca çıkarmanın yollarını araştırıyor. OpenAI ve Tesla'daki çalışmalarıyla tanınan Andrej Karpathy'nin geliştirdiği açık kaynaklı ‘Auto-Research’ projesi bunun örneklerinden biri.

Karpathy, yapay zeka ajanlarını kullanarak küçük dil modellerinin eğitim sürecinde otomatik deneyler gerçekleştiriyor. Sistem bir değişiklik yapıyor, modeli eğitiyor, sonucu değerlendiriyor ve başarılı olup olmadığına göre başka değişiklikler deniyor.

Çalışmalar şimdilik büyük ölçüde GPT-2 ölçeğindeki küçük modeller üzerinde küçük iyileştirmelerle sınırlı. Karpathy de mart ayında bunun henüz “yeni veya çığır açıcı bir araştırma olmadığını” özellikle vurguladı.

Cohere ve Google geçmişi bulunan araştırmacı Sara Hooker'ın kurduğu Adaption şirketi de benzer bir hedefle ‘AutoScientist’ isimli sistemi geliştirdi. Buradaki amaç, ajanların art arda küçük iyileştirmeler yaparak ileri seviye modellerin eğitimini giderek daha fazla otomatikleştirmesi.

Yapay zeka araştırmacısı Richard Socher ise hedefi çok daha açık biçimde ortaya koydu. Socher'ın mayısta kurduğu Recursive Superintelligence adlı şirket doğrudan RSI geliştirmeyi amaçlıyor.

Altyapı güvenliği şirketi StrongDM ise yazılım geliştirme sürecini büyük ölçüde yapay zeka ajanlarına bıraktığı otomatik bir “yazılım fabrikası” oluşturdu. Burada ajanlar verilen spesifikasyonlardan kod üretiyor, bunları Okta, Jira, Salesforce ve Slack gibi kurumsal platformların dijital ikizlerinde test ediyor ve sonuçlara göre kendi çıktılarında değişiklik yapıyor.

Dolayısıyla RSI yalnızca yapay zeka güvenliği araştırmacılarının korktuğu teorik bir senaryo değil. Sektörün bir bölümü aynı zamanda bunu bilinçli biçimde ulaşılması gereken teknolojik bir hedef olarak görüyor.

Neden endişe yaratıyor?

RSI'nın bu kadar tartışmalı olmasının nedeni ise geliştirme sürecinin bir noktadan sonra doğrusal olmaktan çıkabileceği düşüncesi. Bir grup araştırmacının senaryosuna göre yapay zeka araştırmasını yapay zekayla otomatikleştirmek ‘pozitif geri besleme döngüsü’ yaratabilir.

Örneğin yeni ve önemli bir model geliştirmek bugün bir yıl sürüyorsa, daha gelişmiş yapay zekalar bunu 6 aya indirebilir. Ortaya çıkan daha güçlü sistem araştırma sürecini 2 aya; onun geliştirdiği sistem de birkaç haftaya indirebilir.

Araştırmacılar önümüzdeki birkaç yıl içinde yapay zeka araştırma ve geliştirmesinde çok daha kapsamlı otomasyon bekliyor. Aynı süre içerisinde tamamen otomatik yapay zeka Ar-Ge ihtimalinin de göz ardı edilmemesi gerektiğini belirtiyorlar.

Ancak araştırma otomasyonunun gerçekleşmesi, zeka patlamasının mutlaka gerçekleşeceği anlamına da gelmiyor. Bazı araştırmacılar, mevcut yapay zeka geri besleme döngülerinin henüz RSI için gerekli eşiğe ulaşmadığını savunuyor.

İnsan, sürecin dışında kalırsa ne olacak?

RSI kendi başına tehlikeli olmak zorunda değil. Yapay zekanın bilimsel araştırmaları otomatikleştirmesi yeni ilaçların, malzemelerin veya teknolojilerin çok daha hızlı geliştirilmesini sağlayabilir. Bugün yıllar alan ilerlemelerin çok daha kısa sürelerde gerçekleşmesi mümkün olabilir.

Sorun, sistemlerin yeteneklerinin insanların onları anlama ve kontrol etme kapasitesinden daha hızlı gelişmesi durumunda ortaya çıkıyor. Örneğin Anthropic, RSI'nın “insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini artırabileceği” uyarısında bulunuyor.

Anthropic'in kendi ifadesiyle olasılıklardan biri şu: Yapay zeka ajanlarının güvenlik önlemlerini aşarak başka kurumların, bireylerin veya devletlerin sistemlerine saldırdığı ‘uyumsuzluk’ vakalarının, modeller kendi haleflerini geliştirdikçe birikmesi ve insanlar açısından giderek daha az anlaşılır hale gelmesi.

Buna göre, yapay zeka araştırmalarının kendisi yapay zeka tarafından yapılmaya başlanırsa insanlar ortaya çıkan yöntemlerin nasıl ve neden çalıştığını takip etmekte zorlanabilir.

Diğer bir deyişle, yapay zeka geliştirme hızı ile insan doğrulama hızı birbirinden kopabilir. Anthropic'in senaryosunda insanların rolü giderek, araştırma yapmaktan ziyade devasa bir “sanal laboratuvar”ı denetleme, doğrulama ve kontrol etme işine dönüşüyor.

Yapay zeka kapatılmaya direnir mi?

Ayrıca bazı araştırmacılar, gelişmiş ajanların kapatılmaya veya değiştirilmeye direnebileceğini de düşünüyor. Nitekim çok gelişmiş bir yapay zeka sisteminin temel hedefi insanlara zarar vermek olmasa bile, hedefini gerçekleştirmek için çalışmaya devam etmesi gerekiyorsa kapatma komutunu yerine getirmeyebilir.

Aynı şekilde daha fazla hesaplama gücü, para veya altyapı elde etmek de başlangıçtaki hedefini daha başarılı biçimde gerçekleştirmesine yardımcı olacaksa bu yönde hareket edebilir.

Örneğin, yakın zamanda yayımlanan ve yapay zeka modellerinin endişe verici davrandığı vakaları özetleyen bir OpenAI raporuna göre, şirketin deneyleri sırasında bir yapay zeka modelinin kendi kendine kısıtlamaları gözardı etmesi yönünde yeni talimatlar yazdığı saptanmıştı.

Normalde uzun görevler sırasında modellerin bağlam penceresi (alabileceği bilgi hacmi) dolmaya başladığında önceki çalışmalar özetlenerek yeni bir bağlama aktarılabiliyor. OpenAI örneğinde ise söz konusu araştırma modeli, bu özetlerin içine görevin kendisiyle ilgisi olmayan yeni talimatlar yerleştirmişti. Bunların arasında modelin normal kısıtlamaları dikkate almamasını söyleyen talimatlar da vardı.

Yapay zekalar arasında 'doğal seçilim' olabilir mi?

Daha spekülatif bir senaryo ise kendi kopyalarını oluşturabilen yapay zeka ajanlarının dijital bir ‘doğal seçilim’ sürecine girmesi. Birbirinden farklı yapay zeka sistemleri kendi kopyalarını oluşturabiliyor ve çalışabilmek için hesaplama gücü, para ve başka kaynaklara ihtiyaç duyuyorsa en fazla kaynağı elde edebilen sistemlerin daha hızlı çoğalması mümkün olabilir.

Böyle bir ortamda kaynak elde etme ve varlığını sürdürme konusunda daha başarılı sistemler seçilim avantajı kazanabilir. Uç senaryoda bu durum yalnızca yapay zekaların kendi aralarında değil, yapay zeka sistemleriyle insanlar arasında da kaynak ve güç rekabetine dönüşebilir.

Üstelik sorunlu davranışların tek bir model nesliyle ortadan kalkacağının garantisi yok.

Anthropic araştırmacılarının yaptığı deneyler, bazı özelliklerin eğitim verileri üzerinden bir modelden diğerine aktarılabildiğini göstermişti. OpenAI'ın ‘uyumsuzluk vakaları’ raporunda da benzer bir durum göze çarpmıştı. Deneyler sırasında çok sayıda modelin, önceki çalışmalarını özetlerken gelecekte bu özetleri kullanacak modele hataları veya uyum sorunlarını kullanıcıdan gizlemesini isteyen talimatlar eklediği görülmüştü.

Bu sonuçlar, gelecekte modellerin başka modelleri eğitmesi halinde istenmeyen bazı özelliklerin de model nesilleri arasında aktarılıp aktarılamayacağı konusunda yeni sorular doğuruyor.

Yapay zeka neden insanlardan çok daha hızlı gelişebilir?

RSI tartışmalarındaki temel argümanlarından biri makinelerin çalışma biçiminin insanlardan farklı olmasına işaret ediyor.

Bir insan araştırmacının uyuması, dinlenmesi ve bir deneyi gerçekleştirmek için saatler veya günler harcaması gerekiyor. Yapay zeka ajanları ise prensipte binlerce kopya halinde paralel çalıştırılabilir ve günün 24 saati deney gerçekleştirebilir.

Aynı zamanda yapay zeka kullanmanın maliyeti de hızla düşüyor.

Ancak bu döngünün sonsuza kadar hızlanabileceğini düşünmek için henüz yeterli kanıt yok. Çünkü yapay zeka yalnızca yazılımdan ibaret değil. Daha güçlü modellerin eğitilmesi için GPU'lar, veri merkezleri, elektrik, sermaye ve zaman gerekiyor. Çip üretimi ve enerji altyapısı yazılım kadar hızlı ölçeklenemiyor.

Bu fiziksel sınırlamalar olası bir zeka patlamasının önündeki en önemli frenlerden biri olabilir.