Yapay Zekanın Değişemeyen Sapmaları

Alphonse Karr’ın 1849’da dile getirdiği bir gözlemi vardır, her dilde Fransızca olarak verilir: “Plus ça change, plus c’est la même chose.” Türkçesi ise şöyle: Ne ekersen, onu biçersin.

Bu, yapay zekadaki sapmalara çok uyan bir epigram. Yapay zekada sapma ve ön yargı olayını ilk söyleyenlerden biriyim. UNESCO Toplumsal Cinsiyet Eşitliği Müdürü’yken, 2017’de dijital becerilerde kadın-erkek uçurumu üzerine bir araştırma başlatmıştım. Bir yan soru olarak da ‘Dijital asistanlar (Siri ve Cortana gibi) niye hep kadın kimlikli ve sesli?’ diye bakalım istedik.

O süreçte dijital asistanların, kullanıcılarına, benim ‘utangaç küçük kız’ olarak adlandırdığım bir üslupla cevap verdiklerini fark ettik. Erkek kullanıcılar, Siri’ye hakaret ederse ve mesela “Sürtük” derse, “Becerebilsem kızarırdım” diye cevap veriyordu. 

Biraz daha araştırınca, genç erkek çocukların, ergenlerin, etraflarındaki kadınlara ‘Siri muamelesi’ yaptıklarını gördük. Yani onlara “Şunu yap, bunu hallet” diye emirler veriyor, bağırıp çağırıyorlardı. Burada “Duralım” dedik ve bulgularımızı ana rapordan önce yayınladık. Epeyce bir ses getirdi.

Bunun bir nedeni, aynı yıllarda arka arkaya yapay zekada sapma örneklerinin çıkmaya başlamasıydı. Örnekler çok: Kadınlara kredi işlemlerinde ciddi ayırımcılık yapıldığının saptanması, insan kaynakları algoritmalarının kadın adaylara düşmanlığı, tıbbi tanılarda kadınlar ve azınlıklarla ilgili ciddi yanlışlar, toplumsal cinsiyet stereotipleri ve tabii kadınların cinsel nesne olarak sunulması.

Hem bizim raporun hem diğer araştırmacıların ortak görüşüne göre bu sapma ve ön yargılar, algoritmaları eğitmek için insanların ürettiği verilerin kullanılmasından kaynaklanıyordu. 

Makine öğrenimi yönteminden kimse vazgeçmek istemediği için veri tabanlarını temizlemeyi öngören pek çok program, şirket ve düşünce kuruluşu ortaya çıktı. Ethical AI (Etik Yapay Zeka), Responsible AI (Sorumlu Yapay Zeka) ve Reliable AI (Güvenilir Yapay Zeka) gibi terimler edindik.

Bu tartışmalar, Kasım 2022’de birden durdu veya çok azaldı. ChatGPT’nin piyasaya sürülmesi yapay zekada milat teşkil ediyor: İki ayda 100 milyon kullanıcı. O kadar heyecan yarattı ki bu herkesin dostu, terapisti, sırdaşı; daha önceki sapma kaygılarını rafa kaldırdı. Bu algoritmalar demeti, arada bazı olguları, makaleleri, tıbbi araştırmaları ve mahkeme kararlarını tamamen uydursa bile, bunlar, ‘halüsinasyonlar’ olarak şirinleştirildi. Bu sapmaları anlatan bir toplantı yapmıştım. Toplantıdaki erkek veri bilimcilerin tebessümlü tepkisi, “Biz onları çoktan aştık” demek olmuştu.

Gerçekten aştık mı? Yapay zeka, Zendaya ve Cardi B gibi ünlü kadınların beyaz tene dönüştürülmüş ve bikini giydirilmiş fotoğraflarına, istek üzerine kurşun deliği, dayak izleri ve benzeri şiddet unsurları ekledi. Nudify denilen, kişileri çıplak hale getiren programlar geçen sene 700 milyon kişi tarafından indirildi. Bunlar, Taylor Swift’ten tanıdıklara hatta sınıf arkadaşlarına kadar herkesin kolaylıkla deep fake resimlerini oluşturabiliyor. Tahmin edebileceğiniz gibi bunun kadınlara sosyal faturası çok ağır. 

2025’te Almanya’da yapılan bir araştırmaya göre, ChatGPT’ye “Bir iş başvurusunda ne kadar maaş istemeliyim?” diye sorarsanız, miktar cinsiyetinizle bağlantılı olarak değişiyor. Kadınlara erkeklerin yarı maaşını önermiş, hatta bir şıkta, kadın adaya biçtiği maaş, 100 bin dolar daha az. Bunu özellikle sorunlu yapan, dünyadaki büyük şirketlerin yüzde 42’sinin insan kaynakları süreçlerinde ve işe alımlarda yapay zeka kullanması. Stereotipler? Yeni, kapsamlı ve daha çok ChatGPT odaklı bir incelemeye göre, toplumsal cinsiyet eşitliği stereotiplerinde bir azalma yok.

Stanford Business School’un bir araştırmasına göre, kadın ve erkek çalışanlar arasında yaş farkı olmamasına rağmen, ChatGPT kadınları daha genç ve tecrübesiz, erkekleri daha olgun ve tecrübeli gösteriyormuş.

Kaliforniya Üniversitesi’nde (San Fransisco), CheXzero isimli bir tıbbi algoritmaya 666 hastanın göğüs röntgenlerini, yaş, cinsiyet ve ırklarını girmişler, tanılarını kardiyologlarla karşılaştırmışlar. Kadın ve siyahi hastalarda, yapay zeka doktorlardan çok daha fazla yanlış tanı vermiş. Cinsiyet, yaş, ırk gibi değişkenler çıkarılınca CheXzero, uzman hekimler kadar doğru tanılar çıkarmış. 

London School of Economics, İngiltere’de yerel sağlık ve bakım birimlerinin kullandığı büyük dil modellerini karşılaştırmış. Google’ın Gemma modeli, erkeklerin ruh ve beden sağlıklarını daha fazla önemsemiş, kadınların şikayetlerini pek ciddi bulmamış. Araştırma lideri merak etmiş ve aynı testleri, Google ve Meta’nın 2019 modelleriyle karşılaştırmış. Yani ChatGPT’den önceki teknolojiyle. Sonuç: Test edilen modeller arasında, Google’ın yapay zeka modeli Gemma, 2019’da Google veya Meta tarafından geliştirilen kıyaslama modellerine göre cinsiyete dayalı daha belirgin farklılıklar sergiledi.

Şimdi başlık biraz daha anlamlı değil mi? Ne yaparsak yapalım, insan verileriyle eğitim devam ettiği sürece pek değişiklik olmayacak. Sadece veri tabanları değil, algoritma ek yazılımları da erkeklerin elinde. Yapay zeka alanında çalışanların sadece yüzde 12’si kadın. Yazılım sektöründe yüzde 6. Risk sermayesinde ise 2,3.

“Peki, ne öneriyorsunuz?” diyebilirsiniz. Sorun verilerden kaynaklanıyor dedikçe, o zaman “Daha fazla veri kullanalım” deyip, veri merkezleri açıyoruz. Hem sorun çözülmüyor hem de çevreye ciddi zararlar veriyoruz. 

Önerim, insan zekasına benzer nörosembolik bir yaklaşımla makine akıl yürütmesine doğru ilerlemek. Bu, ön yargısız yapay zeka anlamına gelmez. Bu, ‘tanımladığımız kurallara dayalı ön yargı oluşturmak’ demek.Reddit konuşmalarına dayanarak cinsiyet eşitliğini önceliklendiren bir algoritma yerine, bunu bir kural olarak belirleyebileceğimiz bir yaklaşımdır. Yapay zeka araştırma sürecinde sosyal veya dil bilimci pek yok. Çözüm üretenler, genellikle mühendis ve yazılımcılar. Bu yaklaşıma çok büyük miktarlar yatırmaya hazır yatırımcılar var. Size veri merkezleri kurmak için 3 trilyon dolar sunsalar, “Bizim yaklaşım yanlış olabilir, bunu belki çok ucuza halletmek mümkün” der misiniz? Eskiden “Makine öğrenimi yeterli” diyenler, şimdi aynı şeyi söylüyor.

Yazının başındaki Fransız özdeyişinin ötesine geçebilmek için ilk önce neler ‘ektiğimize’ dikkat etmeliyiz.