Hugging Face CEO’su: Benim P(doom) tahminim ‘sıfıra yakın’
Clément Delangue, açık kaynaklı yapay zekaya neden ihtiyaç duyulduğunu anlatırken “Riskin büyük kısmını aslında kapalı kapılar ardında model geliştiren birkaç şirket yaratıyor,” dedi.
Clement Delangue, Hugging Face Inc.'in kurucu ortağı ve CEO'su. Fotoğraf: Bloomberg / gettyimages.
Hugging Face CEO’su Clement Delangue, çarşamba günü Miami’de düzenlenen WIRED World Fair’de, gelecekte yapay zekadan kaynaklanacak risklerin büyük olasılıkla gizlice model geliştiren büyük şirketlerden doğacağını, açık modellerin ise bu risklere karşı savunmada rol oynayacağını söyledi.
“Riskin büyük kısmını aslında kapalı kapılar ardında model geliştiren birkaç şirket yaratıyor,” dedi Delangue. “Bu riski azaltma işinin büyük kısmı ise tüm ekosisteme düşecek. Yani herkesin açık biçimde model geliştirebilmesi gerekecek.”
Hugging Face, kontrolden çıkan bir yapay zekanın saldırısına uğrayan ilk şirketlerden biri. Bu yıl temmuz ayında OpenAI’ın test ettiği ajanlar, kendilerine ayrılan izole test ortamından çıkmayı başardı ve çözmeleri istenen problemlere yanıt ararken girişime saldırmayı seçti. Şirket, saldırıyı incelemek ve püskürtmek için GLM-5.2 adlı açık ağırlıklı bir Çin modeli kullandı.
Delangue, bugüne kadar yapay zeka ajanlarının kontrolden çıktığı vakaların çoğunun, en ileri modelleri gizlice test eden büyük şirketlerde yaşandığına dikkat çekti. Gelecekte modellerin biyoloji alanındaki becerilerinden ya da kendilerini tekrar tekrar geliştirme yeteneklerinden kaynaklanabilecek risklerin de muhtemelen kapalı kapılar ardında çalışan bu laboratuvarlardan çıkacağını söyledi.
Delangue, Hugging Face’in saldırı nedeniyle OpenAI’a karşı hukuki yollara başvurmamayı seçtiğini, ancak yapay zeka ajanlarını devreye alanların bu ajanların eylemlerinden hukuken sorumlu tutulması gerektiğini belirtti. Etkinlikte “Siber saldırılar yasa dışı. Yapay zeka ajanlarının gerçekleştirdiği siber saldırıların da yasa dışı sayılmasını sağlamak bence çok önemli,” dedi. “Kimsenin yaptığı işin arkasında durmadığı, siber saldırılardan kimsenin sorumlu tutulmadığı bir ortam yaratmak istemiyoruz.”
Bazı yapay zeka araştırmacıları teknolojinin insanlık için varoluşsal bir risk oluşturabileceği uyarısında bulunuyor. Delangue ise kendi P(doom) tahmininin, yani bunun gerçekleşmesine verdiği olasılığın, “sıfıra yakın” olduğunu söyledi. “Dünyayı yok edebilecek başka pek çok şey var,” dedi.
Hugging Face, açık ağırlıklı ya da indirilebilir yapay zeka modelleri için önde gelen platformlardan biri. Kullanıcılar, şirketin barındırdığı modelleri paylaşabiliyor, bu modellere erişebiliyor ya da onları kendi bilgisayar sistemlerine indirebiliyor.
Yapay zeka çipi pazarının dünya çapındaki lideri Nvidia, bu eylülde platformu 12,93 milyar dolara satın alacağını açıkladı. Satın alma duyurulduğunda Hugging Face, yaklaşık 18 milyon kullanıcısı olduğunu belirtmişti.
Delangue, WIRED World Fair’de Hugging Face’te yapay zeka geliştirenlerin sayısının 20 milyonu aştığını da açıkladı. Bu rakam platformun hızla büyüdüğüne işaret ediyor. Delangue ayrıca Hugging Face’in, yapay zekayla programlanabilen sevimli, iki ayaklı robotu Microduck’tan 50 bin adet sattığını söyledi.
Delangue’a göre açık kaynaklı yapay zekanın başarısı, geleceğin bütünüyle birkaç şirketin ve kişinin eline geçmesini önlemek açısından da kritik.
“Yapay zekanın büyük bölümünü sadece birkaç şirketin kontrol ettiği bir dünyaya doğru gidebiliriz. Bu ihtimal gayet açık,” dedi Delangue. “İşlerin bu yönde ilerlemesine yol açan çok güçlü eğilimler var. Çünkü [birkaç şirket] yetenekli insanları, işlem gücünü ve teknik imkanları gerçekten tekeline alıyor.”
Delangue, daha fazla insanın yapay zeka modellerini indirip kendi ihtiyaçlarına göre uyarlayabilmesinin daha demokratik bir teknoloji geleceğinin önünü açacağını söyledi. Hugging Face CEO’suna göre yapay zeka giderek daha fazla kaynak gerektirirken Nvidia’nın satın alımı, şirketin rekabet edebilmesini sağlayacak.
İlk olarak WIRED tarafından yayınlanmış ve E. Can Özer tarafından İngilizceden çevrilmiştir.
WIRED dergisinde yapay zeka konularını ele alan kıdemli bir yazardır. Yapay zekanın en son gelişmelerinin ötesine uzanan haftalık bir bülten olan AI Lab’ı kaleme almaktadır; buradan abone olabilirsiniz. Daha önce MIT Technology Review dergisinde kıdemli editör olarak görev yapmış ve bu süre zarfında yapay zekadaki temel gelişmeler ile Çin’deki yapay zeka patlaması hakkında yazılar yazmıştır. Bundan önce ise New Scientist dergisinde editör ve yazar olarak çalışmıştır. Makinalara yönelmeden önce İngiltere'de antropoloji ve gazetecilik eğitimi almıştır.