Meta, akıllı gözlükleri için yüz tanıma kodunu sessizce milyonlarca telefona ekledi

WIRED’ın şirket yazılımı üzerinde yaptığı analize göre Meta, akıllı gözlükleri için geliştirdiği yüz tanıma teknolojisini milyonlarca telefona indirilen bir uygulamaya sessizce yerleştirdi.

Bu yıl boyunca yapılan birden fazla güncellemeyle Meta’nın AI uygulamasına fark ettirmeden eklenen kodlar, şirket içinde ‘NameTag’ olarak adlandırılan özelliğin, gözlük kamerası tarafından görüntülenen kişileri tanımladığını ve etkinleştirildiğinde gözlüğü takan kişiye tanıdığı biriyle karşılaştığında uyarı verdiğini gösteriyor.

NameTag’in aktif Meta AI uygulamasında bulunması, Meta’nın kamuoyuna bu teknolojiyi hala ‘üzerinde düşündüğü’ bir şey olarak anlatırken yüz tanıma kodunu kullanıcıların telefonlarına göndermeye başladığını gösteriyor. Meta, nisan ayında yüz tanımayı kullanacak olması halinde bunun önce ‘son derece dikkatli bir yaklaşım’ benimsenmeden devreye alınmayacağını söylemişti. Ancak WIRED, sistemin temel bileşenlerinin ocak ayı gibi erken bir tarihte milyonlarca kişiye dağıtılan yazılıma entegre edildiğini tespit etti.

Henüz etkinleştirilmemiş olsa da NameTag, 50 milyondan fazla kez indirilen ve Ray-Ban ile Oakley modelleri dahil olmak üzere Meta’nın akıllı gözlüklerindeki temel özelliklerin kullanılabilmesi için gerekli olan Meta AI yardımcı uygulamasının içinde yer alıyor. Özellik etkinleştirilirse, Meta’nın gözlükleriyle görüntülenen yüzler, genellikle yüz izi olarak bilinen benzersiz biyometrik imzalara dönüştürülecek ve her biri kullanıcının telefonunda saklanan yüz izleriyle karşılaştırılacak. Bu veritabanı şu anda Meta’dan güncelleme alacak şekilde yapılandırılmış durumda. Tanınan yüzler bildirimleri tetikleyecek, diğerleri ise kırpılacak, indekslenecek ve ‘beklemede’ olarak işaretlenmiş bir klasöre kaydedilecek.

Bir ihbarınız mı var? Meta’nın teknolojileri hakkında konuşmak isteyen mevcut ya da eski bir Meta çalışanı mısınız? Sizden haber almak isteriz. İşe ait olmayan bir telefon ya da bilgisayar kullanarak muhabire Signal üzerinden güvenli şekilde dmehro.89 veya dell.3030 kullanıcı adlarından ulaşabilirsiniz.

NameTag, Meta’nın 2021’de kullanımdan kaldırdığını söylediği bir teknoloji türünü yeniden gündeme getirebilir. Şirket o yıl, fotoğraf etiketleme sistemiyle ilgili yıllar süren tartışmaların ardından Facebook kullanıcılarına ait bir milyardan fazla yüz izini sileceğini açıklamıştı. Meta daha sonra Illinois kullanıcılarının açtığı toplu davayı sonuçlandırmak için 650 milyon dolar ödedi; 2024’te ise kullanıcıların biyometrik verilerini hukuka aykırı biçimde topladığı iddiaları nedeniyle Texas ile ayrı bir 1,4 milyar dolarlık uzlaşmayı kabul etti.

Şirketin bu alandaki yenilenen çabaları, tüketici düzeyinde yüz tanımaya yönelik muhalefetin arttığı bir döneme denk geliyor. Mahremiyet savunucuları, bu teknolojinin tacizcilerden göçmenlik görevlilerine kadar herkesin tehlikeli bir araca kolayca erişmesini sağlayacağını savunuyor. The New York Times’ın şubat ayında yayımladığı dahili Meta belgeleri, şirketin bu özelliği ‘dinamik bir siyasi ortamda’ kullanıma sunmayı planladığını gösteriyordu. Meta’nın değerlendirmesine göre bu dönemde en sert eleştirmenleri başka gündemlerle meşgul olacaktı.

WIRED’ın dış uzmanlar tarafından bağımsız biçimde doğrulanan analizine göre NameTag’i çalıştıran üç AI modeli Meta’nın sunucularından dağıtılmış durumda ve artık müşterilerin telefonlarında bulunuyor. Modellerden biri yüzleri tespit ediyor, biri kırpıyor, üçüncüsü ise onları biyometrik veriye dönüştürüyor.

Şu anda kullanıcı arayüzüne dair yalnızca bazı izler mevcut. Bunlar, özelliğin nihayetinde nasıl çalışabileceğine dair ipuçları veriyor. Uygulamanın mayıs tarihli bir sürümü, özelliği kullanıcılar için ‘Connections’ olarak yeniden adlandırıyor ve onları ‘tanıştığınız insanları hatırlamaya’ davet ediyor. Sistemin tanıma veritabanına kimlerin yüzlerinin dahil edileceği, bu profillerin nasıl oluşturulacağı ya da sonunda kaç kişinin bu sistem üzerinden tanımlanabilir hale gelebileceği ise belirsizliğini koruyor.

WIRED bulgularını, uygulamayı ayrı ayrı inceleyerek analizin kilit kısımlarını yeniden üreten iki dış güvenlik araştırmacısıyla paylaştı: Electronic Frontier Foundation’ın Threat Lab biriminde güvenlik araştırmacısı ve kıdemli kamu yararı teknolojisti olarak çalışan Cooper Quintin ile Buchodi takma adını kullanan ve on yılı aşkın süredir tüketici yazılımları ile gözetim teknolojileri üzerinde tersine mühendislik çalışmaları yapan bağımsız bir güvenlik ve mahremiyet araştırmacısı.

Quintin, ‘Özellik henüz tüketicilere açılmış değil ama neredeyse hazır görünüyor’ diyor. ‘Bunu yapmamak için milyarlarca neden olmasına rağmen Meta, müşterilerini dağıtık bir gözetim makinesine dönüştürebilecek kapasiteyi yaratmış gibi görünüyor.’

Buchodi, tanıma hattı üzerinde ek testler yaptı. Eşleştirme sisteminin çalışıp çalışmadığını görmek için uygulamanın galerisine, hayatını kaybetmiş ünlü Fransız filozof Michel Foucault’dan alınmış tek bir yüz izi ekledi. NameTag’i Foucault’nun görüntüsüyle tetikledikten sonra uygulama şu bildirimi üretti: ‘Kişi tanındı.’

Buchodi, ‘Bir yüz tanıma özelliğinin ana bileşenleri Meta’nın yardımcı uygulamasında zaten mevcut’ diyor. ‘Bunun çalışan bir özelliğe dönüşmesinin önünde çok fazla eksik parça yok.’

Nisan ayında American Civil Liberties Union, Electronic Privacy Information Center ve Fight for the Future dahil 70’ten fazla savunuculuk grubu Meta’dan NameTag’i iptal etmesini talep etti. Gruplar, bu özelliğin tacizcilerin ve istismarcıların kamusal alanda yabancıları sessizce tanımlamasına imkan vereceği uyarısında bulundu. O dönemde bir Meta sözcüsü WIRED’a yaptığı açıklamada, ‘Rakiplerimiz bu tür bir yüz tanıma ürünü sunuyor, biz sunmuyoruz’ demişti. ‘Böyle bir özelliği yayımlayacak olursak, herhangi bir şeyi kullanıma sunmadan önce son derece dikkatli bir yaklaşım benimseriz.’

Mahremiyet savunucuları, Meta’nın yüz tanımayı kitlesel pazara yönelik bir giyilebilir teknoloji platformuna gömerek, daha önce mahremiyet endişeleri nedeniyle geri adım attığı bir yeteneği normalleştirebileceğini savunuyor.

Meta Reality Labs’te daha önce şirketin AR ve VR ürünlerine yönelik mahremiyet incelemeleri üzerinde çalışmış eski politika yetkililerinden Joseph Jerome, Meta’nın giyilebilir teknoloji endüstrisindeki rolü hakkında, ‘Teknolojiyi ekosisteme sokarak normları ve standartları belirliyorsunuz’ diyor. ‘Meta’nın böyle bir teknolojiyi nasıl sorumlu biçimde devreye alabileceğini bilmiyorum.’

Meta sözcüsü Ryan Daniels ise şöyle diyor: ‘Sansasyonel haberciliğe rağmen gerçekler basit: Daha önce de bu tür özellikleri araştırdığımızı söylemiştik ve gördüğünüz şey yalnızca bu araştırmanın kanıtı. Tüketicilere sunulmuş hiçbir şey yok ve burada ne yapılacağına, yapılacaksa da ne yapılacağına dair nihai bir karar verilmiş değil. Bir şeyi kullanıma sunmaya karar verirsek bunu dikkatli bir yaklaşımla ve tam şeffaflıkla yapacağız. Net biçimde söyleyebileceğimiz bir karar var: Merkezi bir yüz veritabanı oluşturmuyoruz.’

WIRED’ın kod incelemesi, NameTag sisteminin şu anda yüz izlerini Meta’nın sunucularından çekip kullanıcı cihazlarında saklayacak şekilde tasarlandığını gösteriyor.

Meta’nın Facebook tarafından 2010’da duyurulan önceki sistemi, fotoğrafları analiz ediyor ve kullanıcıların görüntülerinde yer alan kişiler için etiket öneriyordu. Sistem kısa sürede bir milyardan fazla kullanıcıya yayıldı ve bugüne dek devreye alınmış en büyük tüketici yüz tanıma sistemlerinden biri haline geldi.

Bu teknoloji neredeyse hemen denetim altına alındı. Avrupa’daki düzenleyiciler ve ABD’deki mahremiyet savunucuları, 2011 gibi erken bir tarihte sistemin yasallığını sorgulamaya başladı. Kullanıcıların biyometrik veri oluşturulmasına anlamlı biçimde rıza gösterip göstermediği konusunda da kaygılar vardı. Meta, 2019’da yüz tanımaya ilişkin endişeleri de içeren daha geniş kapsamlı bir mahremiyet davasını sonuçlandırmak için Federal Trade Commission ve Department of Justice’e 5 milyar dolar ödedi.

Kasım 2021’de Meta, yüz tanımanın toplumdaki rolüne ilişkin artan kaygıları gerekçe göstererek sistemi kapatacağını ve oluşturduğu yüz şablonlarını sileceğini duyurdu. Ancak 2021’in ortasında Reality Labs’e katılan Jerome’a göre bu karar şirket içinde hiçbir zaman kalıcı bir geri çekilme olarak anlaşılmadı. ‘Hep şu gerilim vardı: Peki yüz tanımayı ne zaman yeniden devreye alacağız?’

The Times’ın incelediği dahili belgelere göre Meta, 2025’te yüz tanımayı önce körler için düzenlenen bir konferansın katılımcılarına, ardından genel kamuoyuna sunmayı planladı. Bunu hiçbir zaman yapmadı. Ancak teknoloji gerçek bir talebe yanıt veriyor: Mevcut yardımcı cihazlar halihazırda kör kullanıcıların kendi kaydettikleri yüzleri tanımasına imkan veriyor. Cornell Tech ve Facebook araştırmacıları tarafından 2018’de kör kullanıcılarla yapılan bir çalışma da her katılımcının insanları tanımayı önemli bir günlük görev olarak nitelendirdiğini ortaya koymuştu.

Meta; NameTag aracılığıyla hangi kullanıcıların tanımlanabilir olabileceği, sistem tarafından üretilen fotoğrafların, yüz izlerinin ya da diğer verilerin bir gün sunucularına geri gönderilmesinin planlanıp planlanmadığı veya şirketin kullanıcıların sistemden çıkmak yerine sisteme açık rıza ile dahil olmasını sağlayacak bir planı olup olmadığı sorularına yanıt vermedi. Meta ile birlikte Ray-Ban ve Oakley akıllı gözlüklerini üreten EssilorLuxottica da yorum talebine yanıt vermedi.

Boston University’de mahremiyet hukuku profesörü olan Woodrow Hartzog, Meta sonunda böyle bir seçenek sunsa bile açık rıza korumasının zayıf kalacağını söylüyor. Ona göre rıza çoğu zaman bir işe, bir faydaya ya da bir hizmete erişime bağlanabiliyor. Mahremiyeti kişisel tercih meselesi olarak çerçevelemek şirketlerin lehine işliyor; veri toplamaya anlamlı bir sınır getirmezken, şirketlerin kullanıcılarda kontrolün kendilerinde olduğu iddiasında bulunmasına imkan tanıyor.

Hartzog, ‘Bu sistemler ne kadar çok devreye alınırsa insanların onları o kadar sıradan görmeye başladığını biliyoruz’ diyor. ‘Onları ne kadar sıradan ve rutin görürsek, insanlar yüzlerinin taranmasının arzu edilir ya da iyi bir şey olup olmadığına dair ahlaki işaretleri de o kadar buradan almaya başlıyor. Bu sadece insan psikolojisi.’

Bu makale ilk olarak Dhruv Mehrotra ve Dell Cameron tarafından WIRED'da yayınlanmış olup Enver Can Özer tarafından İngilizceden çevrilmiştir.