Ajanlar Hata Yaptığında Kim Dur Diyecek?

Teknoloji dünyasının yeni kelimesi ‘ajan’. McKinsey’nin 2025 küresel araştırmasına göre kurumların yüzde 62’si yapay zeka ajanlarını deneme ya da pilot uygulama aşamasına almış durumda. Yüzde 23’ü kurum içinde bir yerde agentic AI sistemlerini ölçekliyor. Ancak herhangi bir iş fonksiyonu özelinde ölçekli kullanım yüzde 10’u geçmiyor.

Öte yandan sektörün önemli analiz şirketi Gartner’ın çalışması bir alarm da veriyor. Ajan tabanlı yapay zeka projelerinin yüzde 40’tan fazlasının 2027 sonuna kadar artan maliyet, belirsiz iş değeri ya da yetersiz risk kontrolü nedeniyle iptal edileceği öngörülüyor. Aynı raporda 2028’e kadar günlük iş kararlarının en az yüzde 15’inin otonom biçimde ajan tabanlı yapay zeka tarafından alınabileceği de tahmin ediliyor. Yani bir tarafta işlerin bir kısmını devralabilecek yazılım çalışanları, diğer tarafta daha üretim ortamına çıkmadan çöpe gidebilecek pahalı denemeler var. Bu yüzden “Hangi yapay zeka modelini kullanacağız?” sorusu yerini “Bu ajanlar nerede çalışacak, hangi veriye erişecek, hangi ağ üzerinden konuşacak, hata yaptığında kim durduracak ve işler ters giderse sistemi kim geri saracak?” sorusuna bırakıyor.

Ajan tabanlı yapay zeka kulağa yazılım meselesi gibi gelse de arkasında fazlasıyla fiziksel bir dünya var. Sunucular, GPU’lar, veri merkezleri, ağ anahtarları, yönlendiriciler, güvenlik katmanları, depolama sistemleri, hibrit bulut yönetimi ve bütün bunların üstünde çalışan operasyon yazılımları…

Ajanların akıllı olması tek başına yeterli değil. Onlara koşacakları zemini de akıllı, hızlı, güvenli ve gerektiğinde kendi kendini onarabilir bir yapıyla sunmak gerekiyor. HPE Türkiye Genel Müdürü Yasemin Doğrul, HPE Networking Türkiye, Kafkaslar ve Orta Asya Ülke Müdürü Pelin Alp ve HPE Türkiye, Balkanlar, Kafkaslar & Orta Asya İş Geliştirme ve Dijital Dönüşüm Projeleri Yöneticisi Mert Sarıkaya’nın anlattığı çerçeve de tam olarak bu noktaya odaklanıyor.

Doğrul’un çizdiği çerçeve yapay zeka trendiyle sınırlı değildi. Özel sektör ve kamu, jeopolitik belirsizliklerin, tedarik sıkıntılarının, enerji maliyetlerinin ve veri egemenliği tartışmalarının aynı anda sıkıştırdığı bir dönemden geçiyor. Kurumların gündeminde veriyi işleme yöntemiyle birlikte, nerede tutacakları ve hangi altyapı üzerinde çalıştıracakları bulunuyor. HPE tarafı ise ajan tabanlı yapay zekanın eski kurumsal mimarilerle taşınamayacağını, bu dönem için yeni bir temel gerektiğini söylüyor. Bu temelin ilk katmanı ise ağ. Alp stratejilerini üç başlıkta (yapay zeka için ağlar, ağlar için yapay zeka ve bütünsel güvenlik) anlatırken ‘self-driving network’ diye tarif ettiği otonom ağ yaklaşımının önemli olduğunu vurguluyor. Ağın yalnızca bağlantı sağlaması değil, neyin nerede tıkandığını anlaması, sorunları öngörmesi, iş yüküne göre kendini ayarlaması ve güvenlik katmanıyla birlikte çalışması gerekiyor.

Yapay zeka kullanımında GPU yatırımı önemli ancak tek başına yeterli değil. GPU’lar doğru ağ altyapısı olmadan birbirleriyle yeterince hızlı konuşamıyorsa, yatırımın önemli bir kısmı atıl kalır. Yüksek hızlara çıkan bir otomobili toz, toprak ve çukurlarla dolu bir tali yolda kullanmaya çalışmak gibi bir etki yaratır. Bu nedenle ağlar daha da önemli hale geliyor. Neredeyse her şeyin ağ yapısıyla başladığını söylemek mümkün.

İkinci katman ise yapay zeka fabrikaları. Mert Sarıkaya yapay zeka fabrikasında veri ‘girdi’, yapay zekanın işlediği ‘çıkarım’, öngörü ve akıl ise ‘çıktı’ diyor. Bu fabrika donanım, model, yazılım, depolama, güvenlik, ağ ve operasyon katmanlarının birlikte çalıştığı bir yapıdan oluşuyor. Yapay zeka fabrikalarının özellikle kapalı ve güvenli ortamlarda çalışması gereken senaryolarda confidential computing (gizli hesaplama) yaklaşımı öne çıkıyor. Bu sayede bellekte işlenen verinin ve modelin de güvenli biçimde çalıştırılması mümkün oluyor.

Gelelim Türkiye ayağına. Türkiye’de yeni veri merkezi projelerinin gündemde olduğu, bazı kurumların kendi ihtiyaçları için, bazılarının ise başka kurumlara hizmet verecek büyük altyapı projelerine yöneldiğini görüyoruz. Yapay zeka ve veri merkezi potansiyeli oldukça yüksek. 13 Haziran’da duyurulan Yapay Zeka Eylem Planı da Türkiye’nin bölgesel bir merkez olma ihtimalini, veri merkezi, ağ, sistem ve yönetim katmanlarını merkeze alıyor.

Üçüncü ve kritik katman ise güvenlik. Çünkü yapay zeka araçları ilk günden bu yana pek çok soruya cevap verse de sicilleri tamamen temiz değil. Yanlış bilgiler, uydurulmuş kaynaklar ve hatalı yönlendirmeler küresel çapta tartışılırken, işi yalnızca cevap üretmekten çıkarıp aksiyona dönüştüren ajanlar için güvenlik çok daha büyük bir başlık haline geliyor. Hata yapma ihtimalleri yeni bir seviyeye ulaşıyor. Bir sohbet robotu yanlış cevap verdiğinde bu fark edilebilir ama bir ajan yanlış e-postayı silebilir, yanlış veri tabanını değiştirebilir, yanlış dosyayı işleyebilir ya da yetki sınırının dışına çıkabilir. Risk seviyesi yanlış cevaptan yanlış aksiyona doğru değişiyor. HPE, Zerto üzerinden anlattığı geri dönüş kabiliyeti bu yüzden dikkat çekici. Zerto, daha önce felaket önleme ve siber saldırı sonrası güvenli noktaya dönüş gibi senaryolarla anlatılıyordu. Şimdi buna ajanların hatalı aksiyonlarına karşı geri dönüş katmanı da ekleniyor. Bu yapı, klasik bir yedeklemeden çok, sistemin güvenli bir önceki duruma dönebilmesini sağlayan bir felaket önleme yaklaşımı olarak görülüyor.

Peki yapay zeka ajanının hata yapıp yapmadığını kim gözlemleyip kim karar verecek? Başka bir yapay zeka mı yoksa insan mı? Ajanlar hedef belirlemiyor, onlara hedef veriliyor. Sınırları kendileri icat etmiyor. Sınırları insanlar ve kurumlar çiziyor. Yanlış yere gittiklerinde durdurulmaları, gerektiğinde geri sarılmaları, bazı kararları insana bırakmaları gerekiyor. Nasıl bir tanı sistemi geliştirildiğinde o tanıyı koyan uzmanlar ortadan kalkmadıysa insan da burada ortadan kalkmayacak gibi duruyor. Ancak ajanlar işin akışını, hızını ve sorumluluk dağılımını değiştirecek. Yani bu sorunun basit cevabı ‘insan’ gibi görünüyor ama bunu başarmak henüz kolay değil. Çünkü ajan tabanlı yapay zeka sistemleri, klasik yazılımlar gibi yalnızca kendilerine verilen komutu çalıştırmıyor. Planlıyor, araç kullanıyor, başka sistemlere bağlanıyor, bazen başka ajanlarla konuşuyor ve çıktıyı bir aksiyona dönüştürüyor. Hata da bu yüzden tek bir yerde oluşmuyor. Yanlış veriyle beslenen bir ajan doğru görünen bir karar alabilir. Yetki sınırı fazla geniş çizilmiş bir ajan, kötü niyetli olmadan yanlış dosyayı silebilir. Bir sistemde küçük görünen bir işlem, başka bir sistemde zincirleme sonuç yaratabilir.

Bu nedenle ajanları denetlemek, yalnızca ekrana düşen cevabı kontrol etmek anlamına gelmiyor. Yeni dönemde denetim; ajanın kimliğini, hangi veriye eriştiğini, hangi aracı kullandığını, hangi adımda durması gerektiğini ve hangi aksiyonu insana sormadan alamayacağını baştan tarif etmek zorunda. McKinsey’nin ajanlara hazır altyapı için çizdiği çerçevede de her ajanın bir sahibi, açık yetki sınırları, izlenebilir aksiyon kayıtları ve yüksek etkili işlemler için insan onayı olması gerektiği vurgulanıyor. Yani ajanın akıllı olması kadar, ajanın nerede duracağını bilmesi. İnsan akışta kalarak her işlemi tek tek yapan kişi olmaktan çıkıp, sınırları çizen, istisnaları değerlendiren, kritik kararları onaylayan ve sistemin davranışını sürekli iyileştiren denetleyiciye dönüşüyor.

Yine de her aksiyonu insana sormak gerçekçi değil. Bir ajan her e-postayı göndermeden, her erişim talebini açmadan ya da her küçük sistem düzeltmesini yapmadan önce onay beklerse, ajan olmasının anlamı azalır. Düşük riskli ve geri alınabilir işler otomatik ilerleyebilir. Müşteriyi, finansal sonucu, kritik veriyi ya da üretim sistemini etkileyen işlemler ise insan onayına bırakılması daha güvenli olabilir. Bazen başka bir yapay zeka sistemdeki anomaliyi fark edecek. Bazen de erişim kayıtları ve davranış izlerini takip eden insan uyarı verecek.

Ajanlar hata yapabilir ama kurumlar o hatayı görebilecek mi? Önemli olan hala bu ve bu da yeni bir iş tanımı oluşturabilir: Ajanları yöneten, sınırlarını çizen, ne zaman duracaklarını belirleyen ve gerektiğinde sistemi güvenli bir ana geri döndüren ‘insan’. Ajanlar geliyor. Fakat onları hızlandıracak yolu da gerektiğinde durduracak freni de hala insanların tasarlaması gerekiyor.