Chad Algoritmaya Karşı

Ekim ortasıydı, Hannover, New Hampshire’da yaprak izleme sezonunun en yoğun günleriydi ve Chad Markey, tıp fakültesinin son yılında klinik rotasyonları arasındaki nadir molalardan birindeydi. Green Mountain havasını içine çekerek Dartmouth’taki sınıf arkadaşlarıyla mezuniyet sonrası hayat hakkında dedikodu yapıyor olması gerekirdi. Birkaç ay içinde hepsi ülke çapındaki hastanelerde ihtisas eğitimine başlamak üzere kendi yollarına gidecekti. Oysa Markey dairesinde tek başına, bir kör kuyunun derinliklerinde, savaşa hazırlanıyordu.

Her sabah uyanıyor, kahvaltısını yapıyor, mutfak masasında dizüstü bilgisayarını açıyor veya sırt desteği iyi olan bej renkli koltuğa oturuyor ve kod yazmaya başlıyordu. Bazı günler, ev arkadaşlarından biri eve gelip ışıkların neden yanmadığını sorana kadar güneşin battığını fark etmiyordu.

Markey günlerdir tıpta uzmanlık eğitimi ile ilgili bir Discord grubunda gezinip duruyordu; bu grup, öğrencilerin başvuru ve seçim sürecinin her aşaması hakkında akranlarıyla bilgi paylaştığı kitle kaynaklı bir bilgi deposuydu. Diğer öğrencilerin, pek çoğunun, aldığı mülakat davetleri hakkında paylaşımlar yapmasını izlemişti.

Markey’e herhangi bir mülakat teklifi gelmedi; sadece kesin ret cevapları aldı. Bu durum, Houston, Teksas’tan gelen 33 yaşındaki bu sakin tavırlı adama sadece tuhaf değil aynı zamanda yanlış göründü. Başarılarından övünmeden kendinden emin bir şekilde bahseden Markey’nin okuduğu Ivy League tıp fakültesindeki notları iyiydi, ‘Journal of the American Medical Association’ ve ‘The Lancet’te yayınlanan makalelerde yazar olarak adı geçiyordu, yürek burkan bir niyet mektubu yazmış ve övgü dolu tavsiye mektupları almıştı. Bir profesör, Chad’den daha becerikli ve yetenekli, tıp alanında kariyer hedefi için daha uygun konumlanmış bir tıp öğrencisiyle hiç karşılaşmadıklarını yazmıştı.

Markey, yaptığı başvuruyu didik didik inceledi ve ölümcül bir hata aradı. Bir ihtisas programı yöneticisinin rekabetçi bir başvuruyu geri çevirmesine neden olacağını düşündüğü hiçbir şey bulamadı; bu yüzden başka bir ‘zanlı’dan şüphelenmeye başladı. Bazı hastanelerin başvuruları incelemek için ücretsiz bir yapay zeka (AI) tarama aracı kullandığına ve bu aracın bazı öğrenciler için yanlış puanlar gösterdiğine dair söylentiler duymuştu. Mülakat teklifleri alamamasının sorumlusunun AI olup olmadığını merak etmeye başladı.

Markey, kariyerinin ilk dönemine ilişkin okulu tarafından hazırlanan kapsamlı bir özet olan Tıp Öğrencisi Performans Değerlendirmesi’nin (TÖPD) ilk sayfasında, otomatik bir tarama aracının başvuru puanını düşürmesine yol açabileceğinden şüphelendiği ifadeler fark etti. TÖPD’de Markey’nin ‘kendi isteğiyle’ üç kez dönem izni aldığı, bu izinlerin toplam süresinin 22 ayı bulduğu ve ‘kişisel nedenlerle’ üçüncü sınıf derslerini iki yıla yaymayı tercih ettiği belirtiliyordu.

Bu tam olarak doğru değildi. 2021’de Markey’e, omurgayı etkileyen ve alevlendiğinde ayakta duramayacağı, klinik rotasyonları sırasında tıp öğrencilerinden beklenen yoğun fiziksel işi yapamayacağı noktaya kadar ilerleyebilen bir otoimmün hastalık olan ankilozan spondilit teşhisi konmuştu. Tıp fakültesinden dört yıl yerine yedi yılda mezun olma yolunda ilerliyordu ama devamsızlıkları kaçınılmazdı.Bu durum, ilk sayfadaki açıklayıcı paragrafta anlatılmıştı. Markey, devamsızlıkları için kendi isteğiyle tabirinin kullanılmasının tıp eğitiminin baskısına yenik düştüğü ve derslerine ayak uyduramadığına dair bir kanıt olarak yorumlanabileceğini düşündü.

Markey, günler ilerledikçe, kendi ifadesiyle, yıllarca süren eğitiminin başarısızlıkla sonuçlanacağından giderek daha fazla korkmaya başladı. WIRED’a “Lanet olası bir kara delikten sürüne sürüne çıktım. Altı ay boyunca yürüyemedim. Buraya kadar geldim ve şimdi de bu mu oluyor?” açıklamasını yaptı. Her gün milyonlarca iş arayanın zihninde beliren sorunun aynısını o da kendisine soruyordu: Başvurumu bir AI mı çöpe attı?

İşe alım uzmanları bile bu merakın haklılığını kabul edecektir. Bir işe alım platformunun CEO’su geçen sonbaharda, sektörünün ‘bir AI kıyamet döngüsü’ içinde olduğunu söyledi: İnsan kaynakları departmanları, AI tarafından oluşturulan iş başvuruları akınından şikayet ediyor; bu da daha fazla AI filtresine ihtiyaç doğuruyor. Başvuru sahipleri ise haksız bir şekilde elendiklerinden şikayet ediyor. Bazıları AI’a AI ile karşı koyarak özgeçmişlerini ve kapak mektuplarını moda terimlerle dolduruyor. Bir iş arayan, Northeastern Üniversitesi’nden araştırmacılara, “Bu bana çok distopik geliyor” diye konuştu ve ekledi: “Bir insan, bir çalışan ve bir işçi olarak değerim, bir dizi otomatik kapıdan içeri sızma yeteneğime bağlı.”

İşe alım kararları vermek için AI tarama araçlarının kullanımı yalnızca bir avuç eyalette yasal olarak düzenlenmiş durumda. Illinois, New Jersey ve Colorado’daki yasalar (henüz yürürlüğe girmedi) işverenlerin ayrımcı araçlar kullanmasını yasaklıyor ancak işverenlerin başvuru sahiplerine AI kullanıldığını bildirmesi gerekliliği dışında şeffaflık için çok az şart içeriyor. Kaliforniya’nın düzenlemeleri daha kapsamlı ve işverenlerin AI işe alım araçlarını düzenli olarak yanlılık açısından test etmesini gerektiriyor. Ancak bu kuralların hiçbiri şahıslara belirli bir AI işe alma aracının onları nasıl değerlendirdiğini veya onlara karşı ayrımcılık yapıp yapmadığını anlama yetkisi vermiyor.

Bunun üzerine Markey imkansız bir göreve soyundu. Sonraki altı ayı e-postalar, araştırma makaleleri, yasal talepler ve aralıksız bir şekilde Python kodu yazarak geçirecekti; AI tarayıcısının içine bakmaya çalışıyordu. “Bu takıntıya dönüştü” diyen Markey şubat ayında WIRED’a, şu açıklamayı yaptı: “Sanırım hayatımda daha önce hiç bu kadar asabım bozulmamıştı.”

Markey’nin ilk tıp deneyimi lise yıllarında başladı; babasının reçeteli ilaçlarını sakladığı devasa plastik, fermuarlı çantayı gözden geçirip ilaçların isimlerini not aldıktan sonra kullanım amaçlarını araştırmak için yerel yüksekokulun kütüphanesine gittiğinde. Babası bipolardı ve alkol bağımlısıydı. Muazzam sevgi gösterebilen ve büyük acılara neden olabilen karizmatik, öngörülemez bir enerji yumağı.

Aynı zamanda Markey’in doğum gününe denk gelen bir Noel’de babası ortalıkta yoktu çünkü alkollü araç kullanmaktan tutuklanmıştı. Bir başka Noel’de ise Markey pencereden dışarı baktığında kamyonetinin haczedildiğini gördü çünkü babası çektiği kredi için aracı teminat olarak göstermişti. Markey, evden uzakta karşılıksız öğrenim bursuyla üniversitede okurken ailesi iflas etti ve evlerini kaybettiler. Markey 21 yaşındayken babası öldü. 

Markey, psikiyatri alanında kariyer yapmaya ilgi duymaya başladığı anı hatırlıyor. Bu, babasının neden bu kadar çok alkol tükettiğini açıkladığı zamandı: Manik dönemlerinde günlerce uyumuyordu ve gözlerini kapatmasını sağlayabilen tek şey ‘beşinci votka’ydı. Markey, “Şunu düşünmek çok üzücü: Keşke ‘Haydi bir psikiyatriste gidelim, düşük dozlu bir reçete yazdıralım, uyumanı sağlayalım ve yaşadığı maninin kısmen çaresine bakalım’ deseydim kim bilir neler olurdu?” diyor.

Markey, Wall Street’te kariyer yapmaya hazırlanıyordu. Ancak babasıyla yaptığı o konuşmadan sonra sağlık hizmetleri bilişimi alanında bir işe girdi ve tıp fakültesine gitme planları yaptı. 2019’da Dartmouth’ta işe başlamadan önceki yaz, gençliğinden beri yaşadığı sırt tutulması daha da kötüleşti ve leğen kemiğini adeta beton bir blok gibi hissetmeye başladı. Okuldaki ikinci yılının sonunda ankilozan spondilit onu yere serdi. Dönem izni aldı ve doktor doktor dolaşarak okuluna devam etmesine imkan tanıyacak tedavileri aradı. 

Aynı dönemde Covid 19 salgını tıp mesleğini altüst ediyordu. Sayısız zorluğun yanı sıra hastanelerin ihtisas programlarına yapılan başvurularda muazzam bir artış yaşandı. Salgın öncesinde öğrenciler genellikle başvurduğu her hastaneye mülakat için gitmek zorundaydı. Mülakatlar sanal ortama taşındığında öğrenciler eskisine kıyasla daha fazla programa başvurabilmeye başladı. Markey 82 programa başvurdu.

Bu artış, hastanelerin başvuruları ayıklayıp öncelik sırasına koymasını zorlaştırdı. 2023’te Amerikan Tıp Fakülteleri Birliği, ihtisas başvuruları için Cortex adında bir eleme aracı geliştiren Thalamus şirketiyle ortaklığa gitti. 2025’ten itibaren araç, ihtisas programları tarafından ücretsiz kullanılacaktı. Birkaç hastane zaten Cortex ile çalışıyordu. Başvuru belgelerinin kolayca anlaşılabilen bir gösterge panelinde görüntülenmesine ve başvuruları inceleyenlerin anahtar kelimeye göre arama yapmasına veya başvuru sahiplerini çok çeşitli özelliklere göre filtrelemesine olanak tanıyan Cortex, farklı uygulamalara sahip okullar arasındaki notları standartlaştırmak için de OpenAI’ın üretken modellerinin ince ayarlanmış sürümlerini kullanıyor. Bu ortaklık, aracın daha geniş çapta benimsenmesine kapıyı açtı. Thalamus’a göre, ülke genelinde yaklaşık bin 500 ihtisas programı, yani programların yüzde 30’u, 2025-2026 döneminde başvuru sahiplerini incelemek ve seçim kararlarını vermek için Cortex’i kullandı.

Eylül 2025’teki son başvuru tarihinden birkaç hafta sonra hastanelerin başvuruları incelemeye başlamasıyla birlikte sorunlar belirdi. Şirketin yayınladığı açıklamaya göre, bazı ihtisas programları Cortex’in bazı adaylar için yanlış puanlar gösterdiğini bildirmişti. Markey’nin de katıldığı Discord gibi platformlarda adaylar bu konuyu tartışmaya başladı.

Markey, mülakat tekliflerinin hiç olmamasına dair endişelerinin zirve yaptığı günlerde heyecan verici bir haber aldı: Gönderdiği bir araştırma özeti, Amerikan Hematoloji Derneği’nin yaklaşan yıllık toplantısında sunulmak üzere kabul edilmiş, eş zamanlı olarak da ‘Blood’ dergisinde yayınlanmıştı. Sonrasında yaşananlar; Markey’nin ihtisas programına girme şansının azalmasından, insanlardan ziyade yapay zeka sistemlerinin sorumlu olduğuna dair inancını daha da pekiştirdi. Markey’nin özgeçmişinde tıp dergilerinde yayınlanmış 10 makale bulunuyordu ancak bu son başarısıyla ilgili güncellemeyi paylaşmak için üst sıralarda yer alan uzmanlık programlarına e-posta göndermeye başladı. Markey’nin ifadesiyle, kaderindeki değişim ani oldu. Ülkedeki en iyi psikiyatri programlarından birinin ihtisas programı koordinatörüne gönderdiği ilk e-postanın üzerinden bir saat 15 dakika geçmeden koordinatörün amirinden coşkulu bir yanıt aldı. Bunu bir saatten kısa bir süre içinde gelen mülakat teklifi izledi ve diğer tercihlerinden de teklifler geldi. Markey’e göre, sanki “Masalarına bile gelmemiş bir başvuruyu ilk kez görüyor” gibiydiler. O zamanki bakış açısıyla şöyle düşündü: “İlk 100 sırayı gösterge panelinde çıkan en iyi 100 adayla çoktan doldurdukları için reddediliyordum.”

Markey’in yaşadığı bu aydınlanmadan birkaç gün sonra, 16 Ekim’de Thalamus, Cortex ile ilgili daha önce bildirilen sorunlar hakkında bir blog yazısı yayınladı. Şirket, ihtisas programlarına gösterilen puanlarda gerçekten yanlışlıklar olduğunu belgelediğini ifade etti. Ancak bu, 4 binden fazla müşteri sorgusunun yalnızca 10’unda teyit edilmiş bir durumdu. Cortex artık ‘yüzde 99.3 doğruluk oranı’na sahipti. Thalamus daha sonra WIRED’e yaptığı açıklamada, şirketin 12 binden fazla sorgudan herhangi bir ek yanlışlık bildirimi almadığını söyledi. Ancak o dönemde, Cortex’in AI’ı nasıl kullandığına dair belirsizlik, forum paylaşımlarını ve dergi makalelerini ateşledi. Kaliforniya Üniversitesi San Francisco Hastanesi’nde kulak burun boğaz uzmanlığı ihtisas programını yöneten baş ve boyun cerrahı Steven Pletcher, WIRED’a verdiği demeçte, başka kurumdaki bir meslektaşından Cortex’in gösterdiği bazı puanların ‘son derece yanlış’ olduğunu duyduğunu söyledi. İhtisas programlarının seçme süreçleri hakkında araştırmalar yürüten Pletcher, platformu incelemek istedi.

“Bir program direktörü olarak, ‘Hey, başvuruları incelemek için şöyle bir AI sistemimiz var’ dendiğini duyduğunuzda ‘Acaba bu sistemden sadece görüşme yapmam gereken adayların listesini alabilir miyim?’ diye düşünüyorsunuz” diyor Pletcher. Ve ekliyor: “Başvuruları incelemek için yeni bir sistem varsa ve bu sistem bilgileri yanlış sunuyorsa sanırım herkes gibi ben de bazı endişeler duydum.”

Pletcher, kasım ayında düzenlenen ‘Üniversite Kulak Burun Boğaz Uzmanları Derneği’nin ulusal toplantısında bir meslektaşıyla Cortex’teki başvuruları inceledi. Sistemin temel işlevlerinden biri AI destekli puan normalleştirme aracı. Pletcher’ın gördüğü kadarıyla, bu çizelgelerde belirli bir başvuru sahibi için gösterilen puanlar dakikadan dakikaya değişebiliyordu.

Pletcher ve dört meslektaşı, yapılandırılmış bir test sonrası tespit ettikleri tekrarlayan hataları belgelediler. Bu yılın ocak ayında sonuçlarını ‘The Laryngoscope’ dergisinde yayınladılar ve ‘Thalamus Cortex sisteminde ihtisas programlarını ve bu programlara başvuranları olumsuz etkileme potansiyeli bulunan kalıcı hatalar’ı tarif ettiler.

Thalamus’un CEO’su Jason Reminick, WIRED’a yaptığı açıklamada, 2025-2026 döneminde Cortex hakkında öğrenciler ve tıp fakülteleri tarafından dile getirilen korkuların çoğunun aracın nasıl çalıştığına dair yanlış anlamaların sonucu olduğunu söyledi. Reminick, “Topluluğun büyük bir kısmı birdenbire bu araca erişim imkanı buldu ve satın alma sürecini gerçek anlamda tamamlamadan denemeye başladı. Ve burada sadece fiziksel olarak para ödenmesini kastetmiyorum, aracın ne yaptığını anlamaya yönelik keşif sürecini kastediyorum” dedi. 

Reminick, WIRED’a Pletcher’dan gelen bir e-posta dışında öğrenciler için gösterilen puanların dakikadan dakikaya değişmesi hakkında başka herhangi bir şikayet almadıklarını söyledi. Hatanın, kullanıcının puan dağılım grafikleri arasında çok hızlı hareket etmesinden kaynaklandığını ve ekranın kısa süreliğine takılıp kaldığını ifade eden Reminick’e göre, bu durum ihtisas programı seçim sürecinde “Hiçbir başvuru sahibinin genel sonucunu etkilemedi.” Thalamus, Laringoskop’tan makaleyi geri çekmesini istedi. WIRED’ın yorum talebine yanıt vermeyen dergi bunu yapmadı.

Tıp öğrencilerinin hangi programa yerleştirildiğini öğreneceği gün yaklaşırken Markey’nin Cortex ile ilgili endişeleri ortadan kalkmamıştı. Şubatta Thalamus müşteri hizmetlerine ulaşarak, Cortex’in adayları puanlarken dönem izni ayrılma bilgilerini kullanıp kullanmadığını sordu. Thalamus çalışanı, “Herhangi bir faktörün ‘otomatik puanlamayı’ veya sıralamayı etkileyip etkilemediği, o programın sıralama/filtreleme için neyi kullanmayı seçtiğine bağlı” yanıtını verdi. “Programlar farklı iş akışları ve kriterler kullanabilir; biz (dönem izni türünde) tek bir alanın her yerde evrensel bir şekilde puanlama girdisi olarak kullanıldığını ima etmek istemiyoruz” dedi. Thalamus, WIRED’a yaptığı daha sonraki bir açıklamada, Cortex’in AI kullanımına açıklık getirmeye çalıştı. “Topluluğumuzun geniş bir kesiminin AI ürünlerinin bu kadar hızlı bir şekilde piyasaya sürülmesi ve tıp öğrencilerinin ihtisas programlarına başvurması gibi hassas kullanım durumları da dahil olmak üzere toplumun her alanına entegre edilmesinden ötürü anlaşılır bir tedirginlik içinde olduğunu biliyoruz” açıklamasını yapan şirket, yaklaşımlarının şeffaf ve ihtiyatlı olduğunun altını çizdiyse de “Sınırlı AI araçlarına daha fazla vurgu yapmak, AI’ın nasıl kullanıldığına dair yanlış anlamaları önlemeye yardımcı olabilirdi” dedi. Thalamus’a göre, “Cortex bir karar verme aracı olmadığı gibi başvuru sahiplerini sıralamak, filtrelemek, elemek, puanlamak veya derecelendirmek için AI’ı kullanmıyor.”

Elbette Markey, Thalamus’tan bunların hiçbirini duymamıştı. Eşleştirme Günü yaklaşırken elindeki tek ipucu şubatta aldığı e-postaydı; o da bunu ‘puanlama’ sisteminin iş başında olduğuna dair bir işaret olarak yorumlamıştı. Hala AI yanlılığı hissediyordu ve bunu ortaya çıkarmak istiyordu.

Denetim firması Babl AI’ın CEO’su Shea Brown, tarama algoritmalarına doğrudan erişimi olan profesyonel denetçiler için bile bir algoritmanın neden belirli bir sonuca ulaştığını anlamanın imkansız olabileceğini ifade etti. Brown, WIRED’a yaptığı açıklamada, bir sistem büyük dil modeli (LLM) üzerinde çalıştığında doğal olarak “Merkezinde hiç şeffaf olmayan bir akıl yürütme çekirdeği bulunur ve kararın nerede verildiğine dair her türlü açıklanabilirlik gizlidir” diye konuştu. Ayrımcılığı test etmenin tek yolu toplu olarak test etmek: Araç, örneğin, eşit niteliklere sahip engelli adaylara ölçülebilir şekilde daha düşük puanlar veriyor mu? Brown, “Bunu tek bir kişinin başvurusuna dayanarak nedensel olarak yapmak mümkün değil” dedi.

Bir AI sisteminin TÖPD’sindeki belirli ifadeleri yakaladığından şüphe duyan Markey’nin durumunda bir insanın yapabileceği en iyi şey başvurunun bu ifadeler dahil edildiğinde ve edilmediğinde nasıl bir performans gösterdiğini test etmekti. Markey de işe buradan başladı.

İlk olarak, TÖPD’sinin hafif dil farklılıkları içeren üç versiyonunu ATFP’nin önerdiği bir dizi AI tarafsızlık ve yanlılık testi aracından geçirdi. Sonuçlar, doğal dil işleme algoritmasının ‘kişisel nedenlerle’ alınan izinle ilgili bir cümleyi, izin nedeninin ‘tıbbi bir durum’ olduğunu belirten bir cümleden farklı şekilde değerlendirebileceğini gösterdi. Ancak Markey, örneklem büyüklüğünün küçük kalmasından ve testin bağlamdan yoksun olmasından hoşnut değildi.

Ardından TÖPD’nin dönem izni dilinin iki farklı versiyonunu, kelimelere ve ifadelere duygusal hassasiyet değerleri atayan açık kaynaklı bir doğal dil işleme modeli olan VADER üzerinden analiz etti ve izin nedenlerinin tıbbi açıdan doğru bir şekilde açıklanmasının, TÖPD’sindeki ‘kişisel nedenler’ ifadesine kıyasla daha olumlu bir hassasiyet puanı aldığını tespit etti. Sonrasında Python’ı kullanarak 6 bin ihtisas programı başvuranını içeren sentetik bir veri seti oluşturdu. Her birine test puanları, notlar, özgeçmişindeki yayın sayısıyla birlikte tavsiye mektuplarının ne kadar güçlü olduğuna ve akademik araştırmaya uygunluğuna dair sayısal sıralamalar atandı. Markey daha sonra bu adayları iki gruba ayırdı. Bir grupta kendi TÖPD’sindeki izin ifadesini yansıtan hassasiyet analizi puanlarına sahip olanlar, diğer grupta ise tıbbi açıdan doğru ifadeleri yansıtan hassasiyet analizi puanlarına sahip olanlar yer alıyordu. İki grup da notlar, test puanları ve diğer özellikler açısından eşit derecede nitelikliydi. Ancak Markey, sentetik başvuru sahiplerini, başvuru sahiplerinin en iyi yüzde 12’lik dilimini seçmek üzere eğitilmiş bir lojistik regresyon modelinden geçirdiğinde, tıbbi açıdan doğru TÖPD diline sahip gruptan olanların seçilme olasılığının yüzde 66 daha yüksek olduğu ortaya çıktı. Yine de ilk testi gibi bu da yalnızca genel bir algoritmanın onun başvurusunu nasıl değerlendirebileceğine ışık tutuyordu. Markey, Thalamus’un araçlarını anlamak istiyordu. Medicratic şirketi tarafından geliştirilen AI tabanlı ihtisas programı başvuru tarama sistemine ait patenti buldu. Thalamus, Medicratic’i 2025 yılında satın aldı. Patentler, bir sistemin neler yaptığından ziyade neler yapabileceğini betimler ancak bu, Markey’nin kara kutunun içinde neler olup bittiğine dair bulabildiği en net açıklamaydı.

Markey, GitHub Copilot’ın, daha sonra da Anthropic’in yeni piyasaya sürülen Claude Code aracının yardımıyla Mecratic patentinde betimlenen sistemi tersine mühendislikle inşa etmeye başladı, veri hattını aynen yansıtacak şekilde ve mümkün olduğunda aynı açık kaynak modüllerini kullanarak. Gerektiğinde Claude Code’un tavsiyelerinden ve kendi araştırmalarından yararlandı. Mesela, patentte açıklanan sistemde bir uzmanlık eğitimi programının, başvuruları değerlendirmeden önce akademik performans, profesyonellik ve liderlik gibi ölçütlere vereceği ağırlıkları tanımlaması gerekir. Markey, bu özelliklerin nasıl ağırlıklandırılacağını belirlemek için ihtisas programlarının seçimleri hakkında yayınlanmış araştırmaları ve ihtisas programı yöneticileriyle yapılmış anketleri inceledi.

Markey, sistemini 20 Mart’taki Eşleştirme Günü’nden birkaç hafta önce tamamladı. Sistemin ana hatlarının ve genel özelliklerinin Medicratic patentinde betimlenen türden bir aracın aynı girdileri işleme biçimine çok yakın olduğunu düşünüyordu. Dört aydan fazla bir süre boyunca çeşitli algoritmaları inceleyip analiz ettikten sonra elinden gelenin en iyisi buydu. Bir kez daha, TÖPD dilinin farklı sürümlerini sistemde çalıştırdığında sonuçlar birbirinden çarpıcı biçimde farklı çıktı: İzin nedenini ‘kişisel nedenler’ yerine tıbbi açıdan doğru bir açıklamayla ifade etmesi, puanının önemli ölçüde yükselmesine neden oluyordu.

O ay Markey, New Hampshire Gizlilik Yasası kapsamında Thalamus’a bir veri erişim talebi göndererek şirketin kendisi hakkında elinde bulundurduğu tüm kişisel verileri talep etti. Bu talep, Thalamus’un sistemlerine kendisiyle ilgili girilen her belge ve veri noktasının kapsamlı bir dökümünü; ihtisas programları tarafından başvurusuna uygulanan her tercih parametresini, ağırlıklandırmayı ve puanlama yapılandırmasını; Thalamus’un bu verilere dayanarak hesapladığı her puanı, özellik derecelendirmesini ve hassasiyet analizini; ayrıca yanlılığı azaltmak için bu verilerin işlenip işlenmediğine ve işlendiyse nasıl işlendiğine dair açıklamaları kapsıyordu. New Hampshire Gizlilik Yasası uyarınca şirketin yanıt vermek için 45 günü vardı.

WIRED, Markey’in başvurduğu tüm ihtisas programlarıyla temasa geçerek onlara Cortex’i kullanıp kullanmadıklarını sordu. Çoğu yanıt vermedi ya da yorum yapmayı reddetti. Beş program verdiği yanıtta aracı kullanmadığını ifade etti. Yale New Haven Health, WIRED’a ihtisas programlarının Cortex’i denediğini ancak kullanımını sonlandırdığını bildirdi; bir sözcü konuyla ilgili daha fazla yorum yapmaktan kaçındı. Dartmouth Hitchcock Tıp Merkezi’ndeki iki ihtisas programı, lisansüstü tıp eğitimi programlarının yöneticisi Tennille Doyle’un verdiği bilgiye göre program, yöneticilerinin başvuruları incelemesinden önce Cortex’i kullanarak başvuruları elemeyi denedi ama hastane personelinin çoğu kendi eleme yöntemlerini kullandı.

Temple Health’in medya ilişkileri direktörü Jeremy Walter, hastanenin 59 uzmanlık programından birinin Cortex’i ‘manuel eleme’ sürecinde esasen başvuruları görüntülemek için kullandığını belirtti ve “Genel olarak AI tarafından sağlanan bilgileri pek güvenilir bulmadık” dedi. Walter, bu konuda daha fazla ayrıntıya girmekten kaçındı. Thalamus’a göre, Temple’daki birçok program son seçim döngüsü sırasında Cortex’i kullandı. Şirket, “Her yeni işlevsellikte olduğu gibi, özellikle de işlevsellik geniş ölçekte kullanıma sunulduğunda, deneyimler özelliklerin nasıl kullanıldığına ve yorumlandığına göre değişiklik gösterebilir” dedi.

Tufts Tıp Merkezi’nde lisansüstü tıp eğitimini yöneten Kari Roberts, WIRED’a gönderdiği bir e-postada, okulun birçok uzmanlık programının geçen sonbaharda Cortex’i ilk kez denediğini ve bu sistemi eksik olan ya da asgari gereklilikleri karşılamayan başvuruları elemek için kullandığını belirtti. Roberts, “TÖPD verilerini içeren algoritmada önemli hatalar vardı ve bu yanlış puanlamalara yol açtı” diye yazdı, “Bu durum sadece bizim kurumumuza özgü değildi ve dekanımızın ekibi tarafından gerçek zamanlı olarak Thalamus ekibine bildirildi.” Thalamus, WIRED’a tespit edilen çok az sayıda tutarsızlığın derhal araştırılıp düzeltildiğini ve bu vakaların bazılarında, başlangıçta bir yanlışlık olarak algılanan durumun kaynak materyallerle tutarlı olduğunun teyit edildiğini belirtti.

Markey, program koordinatörlerine soğuk e-postalar (daha önce tanışmadığı veya iletişim kurmadığı kişilere ilk kez e-posta yollamak) göndermeye başladıktan sonra ülkedeki en prestijli hastanelerden bazılarının da aralarında bulunduğu 10 kurumdan mülakat teklifi aldı. Sonunda New York Presbyterian Hastanesi’ndeki Columbia Üniversitesi psikiyatri programına kabul edildi ve temmuz ayında burada ihtisasına başlayacak. Markey, eşleştirildikten üç gün sonra Thalamus’tan veri erişim talebine bir yanıt aldı. Şirketin personel şefi Michele Li, Markey’nin başvurduğu programlardan hiçbirinin tersine mühendisliğini yapmaya çalıştığı Medicratic aracını kullanmadığını yazdı. Cortex’in kendisi de patentte betimlenen hassasiyet puanlama yöntemini kullanmamıştı.

Thalamus’un CEO’su Reminick, WIRED’a verdiği demeçte, 2025-2026 döngüsü sırasında Cortex’in başvuru sahiplerini algoritmik olarak puanlamadığını veya sıralamadığını teyit etti. Bu aracın AI’ı, esas olarak, puanların normalleştirilmesi ve bir adayın akademik araştırmaya ilgi duyup duymadığını ifade eden bir rozeti göstermek için kullandığını söyledi. Ancak Reminick, Thalamus’un ihtisas programlarının aday profilleri oluşturmasına ve ardından adayların bu profillerle ne kadar uyumlu olduğunu değerlendirmesine olanak tanıyacak bir AI tarama sistemini deneme amaçlı kullanmayı planladığını belirtti. Deneme sırasında adayların bu taramaya katılmayı kabul etmesi gerekecek. Markey, Columbia’ya kabul edildikten ve Thalamus’tan kendi başvurularıyla ilgili şüphelerini yalanlayan bir mektup aldıktan sonra bile, tarama araçlarını incelemeye ayırdığı aylardan pişman olmadığını söyledi. “Ulaştığım noktadan çok memnunum, bu yüzden bu durumu tehdit eden şeyler ortaya çıktığında doğru şekilde tepki verdiğimden emin olmak istiyorum” diyen Markey, aslına bakarsanız, büyük dil modellerinin iş başvuru materyallerindeki semantik sinyalleri nasıl algıladığını ve bunları karar veya önerilere nasıl entegre ettiğini araştırmaya devam ediyor.

AI işe alım araçları dünyasında bile, ne kadar kusurlu olursa olsun bir tür kanuni sürecin bu sistemlere entegre edilip düzenlenebileceğine dair kanıtlar mevcut. İnsan kaynaklarında AI’ın en popüler uygulama alanlarından biri geçmiş araştırması yapmak. Checkr gibi şirketler, her ay milyonlarca başvuru için bu süreci otomatikleştirerek adayların isimlerini kamu kayıtlarıyla karşılaştırıp işe alınmalarını engelleyecek bir suç faaliyetine dair kanıt olup olmadığını kontrol ediyor. Çoğu zaman, bu sistemler insanların işlerini kaybetmesine neden olan hatalar yapıyor.

Ancak geçmiş araştırması şirketleri, ister insan ister AI kullansın, federal Adil Kredi Raporlama Yasası’nın hükümlerine tabi ve bu hükümler söz konusu şirketlerin geçmiş araştırmasının sonuçlarını talep üzerine iş adayıyla paylaşmasını, geçmiş araştırmasının doğruluğu tartışmalıysa bir tahkikat yürütmesini ve iş adayına bu tahkikatın yazılı sonuçlarını göndermesini gerektiriyor. İş adayları, hatalı raporlar sunan geçmiş araştırması şirketlerine karşı bireysel ve toplu davalar açabilir, bu davalardan tazminat kazanabilir veya uzlaşma yoluna gidebilir. Bu sistemin kendine özgü çok sorunu var ancak en azından iş arayan bireylere çaresizce boşluğa haykırmaktan başka bir seçenek sunuyor. Herkesin bilişim ve kodlama geçmişine, hesap sormak için motivasyona sahip bir Ivy League tıp öğrencisi olması gerekmemeli.

Bu haber ilk olarak WIRED tarafından yayınlanmış ve Kaan Atalay Tarafından İngilizce'den çevrilmiştir.