Yapay Zekayı Kim Sigortalayacak?

Gündemdeki yapay zeka konularına hakimseniz Anthropic, OpenAI ve Elon Musk tarafından yapay zekanın gelişiminin yavaşlatılması hakkında açıklamaları görmüşsünüzdür. ‘Süper zeka’ya dönüşümün sonuçlarına baktığınızda yapay zeka ajanlarının kendi kontrollerinde iş birliği yaparak farklı platformlara sızması, habersizce yaptığı işlemler, komutların dışına çıkması ve tamamen sonuca varmak uğruna güvenlik duvarlarını aşmasını görebilirsiniz.

Buna karşın teknoloji devleri de yapay zekada gelişimin yavaşlaması gerektiğinden ve yapay zekanın durdurulmasına yönelik yapılan denemelerde sistemin operasyonun karşısında durduğu gibi sonuçlara varıldığı belirtiliyordu. Bu durumda da önümüzdeki dönemde yapay zeka kaynaklı hatalarda sigorta güvencesi olacak mı sorusu akıllara gelebilir.

WIRED Türkiye olarak HackZone by Allianz’ın Demo Day etkinliğine katıldık. Yapay zekanın kontrolü, güvenlik endişeleri ve olası algoritma hatalarının sigortalanması konusunda Allianz Türkiye COO’su Fahri Kaan Toker’e yapay zekanın kendi kendini kontrol etme aşamasına doğru evrildiği süreçte sigortacılıkta güvenliğin nasıl sağlanacağını ve kontrolün insanda nasıl kalacağını sorduk.

Toker, yapay zekanın sektöre fırsatlarla birlikte yeni riskler de getirdiğini ancak bu risklerin ‘çözümsüz’ olmadığını belirtiyor. Riskleri kontrol edebilmek adına algoritmaların kararlarını veriler üzerinden verdiği gerçeğinden yola çıkarak bu algoritmaların tarafsız, gözlemlenebilir ve açıklanabilir olmasına özen gösterdiklerini söylüyor. Toker, “Özellikle kritik süreçlerde üçüncü bir katman olarak sorumluluğun mutlaka insanda olması gerekmektedir” diyerek tüm kontrolün yapay zeka sistemlerine bırakılmamasına dikkat çekiyor.

Zaman zaman regülasyonların inovasyonu yavaşlattığı yönünde eleştiriler olsa da Toker’e göre riskleri yönetebilmek adına Avrupa Birliği’nin ortaya koyduğu ‘AI Act’ (Yapay Zeka Yasası) ve Dijital Operasyonel Direnç Yasası (DORA) gibi düzenlemelerin benimsenmesi ve bunların şirketler tarafından uygulanması gerekiyor. Şirketlerin maddi zararı tolere edebileceğini ancak finans sektöründe kaybedilen müşteri güvenini yerine koymanın onlarca yıl alabileceği gerçeğiyle hareket ettiklerini vurguladı. Aslında bu güvenlik tedbirlerinin arkasında sigortacılığın temeli olan ‘güven’ olgusu yatıyor.

Teknolojinin ve yapay zekanın gelişimi beraberinde öngörülemeyen senaryoları da getirebiliyor. Peki gelecekte bir müşteri ‘Yapay zeka yüzünden zarar ettim, bunun sigortadan karşılanmasını istiyorum’ diyebilir mi?

Toker bu konu hakkında ‘algoritma sigortası’nın şimdilik uygulanmadığını söylerken böyle bir ürünün planlanmasındaki en büyük zorluğun, sigortacılığın temel matematiğinden kaynaklandığını belirtiyor. Yani bir riskin karşılığında prim alınabilmesi için o riskin ölçülebilir ve tanımlanabilir olması gerekiyor.

Sigorta sektörünün önümüzdeki dönemde yeni nesil riskleri de yönetecek şekilde evrileceğine inanan Toker, şu ana kadar böyle bir mağduriyetle karşılaşmadıklarını da ekliyor. Sistemlerin canlıya alınmadan önceki test aşamalarında kontrolün unutulduğu anlarda beklenmedik sonuçlar alınabildiğini belirtirken tedbirlerin alınması gerektiğini ifade ediyor.

Riskleri minimize etmenin en temel yolunu ise şu sözlerle özetliyor: "Yapay zeka ajanlarına neleri yapmaları gerektiği kadar, neleri yapmamaları gerektiğini de öğretmeniz gerekiyor."

Tabii ki yapay zeka sistemlerinin hatalı davranışlarından yani halüsinasyon, model kayması, yanlış karar ve veri sızıntısı gibi olaylardan doğan zararı devreden risk ürünleri dünya genelinde de geliştiriliyor.

Özellikle 2026 itibarıyla dünya çapında birkaç firmanın teminatlar sunduğu görülüyor. Yine de yapay zeka sistemlerinin risklerini unutmamak ve buna göre önlemler almakta fayda var.