Tanıdık Seslere Pek de Güvenmemelisiniz

Telefonla konuşuyorsunuz ve karşıdaki kişinin tanıdık olmasının verdiği huzur aslında paha biçilemez, değil mi? Hatta konuşma biçimi, vurgusu ve aksanı birine ait. Fakat yapay zeka döneminde belki de karşınızda biri yok.

Yapay zeka destekli ses üretimindeki gelişmeler, dolandırıcıların yalnızca bir kişinin sesini klonlamasının yanı sıra o kişinin sahip olduğu dil ve konuşma özelliklerini de taklit etmesine olanak tanıyor. Bu da farklı bir güvenlik sorununu ortaya çıkarıyor.

Abertay Üniversitesi'nden psikolog Neil W. Kirk'ün Journal of Cybersecurity dergisinde yayımlanan araştırması, bu konuyu derinleştiriyor. Kirk, insanların yapay zeka tarafından üretilmiş veya dönüştürülmüş sesleri insan sesi olarak değerlendirebildiğini belirtirken özellikle daha az temsil edilen bölgesel aksan ve lehçelerde bu eğilimin güçlenebildiğini ortaya koyuyor.

Araştırmanın merkezinde İskoçya’da kullanılan iki konuşma biçimi var. İskoç Standart İngilizcesi ve Dundee bölgesine özgü Dundonian Scots üzerinden yapılan araştırmanın ilk deneyinde 150 kişi, ikinci deneyinde ise yine 150 kişi çeşitli insan veya yapay zeka tarafından üretilmiş olarak sınıflandırdı.

Bu konuda yapılan farklı çalışmalara kıyasla katılımcılar yapay zeka gerçek sesleri birbirinden ayırmakta tamamen başarısız değildi. Yine de katılımcılar özellikle Dundonian Scots konuşan yapay sesleri ‘insan’ olarak değerlendirmeye daha yatkındı. Bunun sebebi de araştırmaya göre insanların yapay zekanın bu kadar yerel bir konuşma biçimini taklit edemeyeceğini düşünmeleriydi.

Kirk bu durumu MINDSET olarak adlandırıyor. Açılımı ise ‘Minority, Indigenious, Non-standard and Dialect-Shaped Expectations of Technology.’ Kavram, insanların yapay zekanın hangi dil, aksan ve lehçeleri başarılı biçimde taklit edebileceğine ilişkin beklentilerinin, bir sesin gerçek olup olmadığına dair kararlarını etkileyebileceğini anlatıyor.

Araştırmanın dikkat çeken noktalarından biri ise insanların nasıl buna karşın önlem alabileceği konusu. Kirk ve ekibi katılımcılara farklı bilgilendirmeler sundu. Bir gruba yapay zekanın İskoç aksanlarını ve lehçelerini artık ikna edici biçimde taklit edebildiği söylendi. Başka bir gruba ise yalnızca AI seslerinin yaratabileceği tehlikelere karşı dikkatli olmaları gerektiği hatırlatıldı.

‘Dikkatli olun’ denilen ekipte belirgin etki görülmezken detaylı bilgilendirmeler sunulan ekipte katılımcıların sesleri insan olarak sınıflandırma eğiliminin anlamı biçimde azaldığı görüldü. Araştırmacıya göre insanların teknoloji hakkındaki beklentilerini güncellemek, onları genel bir tehlike uyarısından daha etkili biçimde tetikte tutabiliyor.

Ses, bankalar tarafından bile doğrulama amaçlı kullanılabilirken artık pek de güvenli ve yeterli değil. Telefonda bir yakının sesini duymak, bankadan arandığınızı söyleyen kişinin sizinle alışık olduğunuz biçimde konuşması ya da karşınızdaki kişinin yerel aksanınızı kullanması, beynin hızlı bir güven kararı vermesine yardımcı oluyor.

Fakat sentetik ses teknolojisi bu avantajı tersine çevirebilir. Nitekim Abertay Üniversitesi, Kirk'ün araştırmasını temel alan yeni çalışmalarında gerçekçi AI seslerinin yanlış bilgi ve dolandırıcılığı daha ikna edici hale getirebileceğine dikkat çekiyor. Üniversite, özellikle teknoloji tarafından daha önce yeterince temsil edilmeyen bölgesel ve azınlık dil topluluklarının bu açıdan ayrıca araştırılması gerektiğini belirtiyor.

Halihazırda uzun süredir yapay zeka teknolojilerinin kişilerin bilgilerini ve özelliklerini taklit etmesiyle oluşan sorunlara artık ses de dahil oluyor. Bu yüzden daha dikkatli olmakta ve her gelen sesi tanıdığınızı düşünmemekte fayda var. Belki de konuştuğunuz kişi, tanıdığınız kişi değil, sadece bir yapay zekadır. Hem de kötü ellerden çıkan.