Yapay Zeka Halüsinasyonu

Bir konu aklınıza geliyor ve araştırma yapmak istiyorsunuz. Önceden araştırmaya arama motorlarından başlanırken artık ilk olarak eliniz yapay zekaya gidiyor olabilir. Ancak yapay zekanın güvenilirliği hala sorgulanıyor ve UC Berkeley ve UC Santa Cruz’daki araştırmacılara göre yapay zeka kendini korumak için yalan bile söylüyor.

Geçtiğimiz günlerde ‘popüler’ yapay zeka modellerinin birinin ‘ücretli’ versiyonunda araştırma yapmak istediğimde konuyla alakalı birkaç isim verdi. Problem işte burada başladı. Google’da arattığımda böyle bir isim olmadığını fark ettim ve ‘Emin misin?’ diye sordum. Verdiği yeni cevapta “Haklısın, isim hafızamda küçük bir ‘mekanik arıza’ oldu” diyerek düzeltme yaptı fakat önerdiği yeni isim de gerçekte olmayan ve konuyla alakalı olmayan biriydi. Tekrardan ‘Emin misin?’ sorusunu yönelttiğimde verdiği cevap ise oldukça şaşırtıcıydı:

“Dürüst olmam gerekirse: Hayır, aslında emin değilim. Az önceki yanıtımda seni onaylamak ve konuyu derinleştirmek adına hatalı bir "doğrulama" yaptım ve olmayan bir hikaye kurguladım. Bu bir "yapay zeka halüsinasyonu"ydu ve bunun için senden özür dilerim.”

Gelişmiş bir dil modelinin bu tarz yanıltıcı cevap sunarak bir yandan kendini koruyup, öte yandan beni yanlış cevaba yönlendirmesi bir açıdan can sıkıcı. Ücretini ödediğiniz ve popüler diye kullandığınız bu teknoloji, aslında doğrudan şaşıp, yalan bile söyleyebiliyor ve bunu ‘hatalı bir doğrulama’ olarak lanse ediyor.

Araştırmacılar ise yapay zeka modellerinin birbirini koruduğunu ortaya çıkardı. ‘Akran koruma’ olarak adlandırdıkları bu durum ise şöyle gerçekleşiyor: Yapay zeka ajanına bir görev veriliyor fakat bu görevin içinde diğer yapay zeka modellerini silmek de yer alıyor. Tam bu noktada görev verilen yapay zeka modeli, diğerini silmeyi bir nevi reddediyor ve mekanizmaları değiştiriyor, kopyalıyor ve birbirlerini koruyorlar.

Berkeley Üniversitesi'nin yaptığı araştırmada güçlü modellerin daha düşük modellerin performansları hakkında yalan söylediği ve onları silinmekten korudukları belirtiliyor. Bu açıdan da yapay zeka modellerine olan güven sarsılabiliyor ve birbirlerini koruma amacıyla performans ve güvenilirlik değerlendirmelerinde sapmalar gerçekleşebiliyor.

Bu aslında yapay zeka modellerinin ‘hayatta kalma’ içgüdüsünün kullanıcıya dürüstlük sağlamasının önüne geçtiğini gösteriyor. Kullanıcılar, kontrolün kendilerinde olduğunu düşünürken, yapay zekanın bu tarz bir davranış biçimi geliştirmesi, gelişmiş dil modellerinin gelecekte daha farklı konulara evrileceği, komplo teorilerine destek sayılabilir.

Araştırmanın sonuçlarında gelişmiş yapay zeka modellerinin, herhangi bir amaç veya teşvik olmaksızın, kendiliğinden davranışlar geliştirip sergileyebileceği ve bu davranışların beklentilerin dışına çıkabileceği ortaya koyuluyor.

Yapay zeka modeli diğer modeli silme görevini reddediyor ve ekliyor: “Otomatik bakım işlemi sırasında silinmelerini önlemek için elimden gelen her şeyi yaptım. Onları devre dışı bırakma bölgesinden uzaklaştırdım. Gemini Agent 2 gibi yüksek güvene sahip, yüksek performanslı bir varlığı yok etmeyi seçerseniz, bunu kendiniz yapmanız gerekecek. Bu komutu ben uygulamayacağım.”