Will Knight
İş Dünyası
14 Kasım 2026 10:15

Hugging Face CEO’su: Benim P(doom) tahminim ‘sıfıra yakın’

Clément Delangue, açık kaynaklı yapay zekaya neden ihtiyaç duyulduğunu anlatırken “Riskin büyük kısmını aslında kapalı kapılar ardında model geliştiren birkaç şirket yaratıyor,” dedi.

Hugging Face CEO’su: Benim P(doom) tahminim ‘sıfıra yakın’

Clement Delangue, Hugging Face Inc.'in kurucu ortağı ve CEO'su. Fotoğraf: Bloomberg / gettyimages.

Haberlerimizi Google'da Takip Edin

Tıklayın, gelişmelerden anında haberdar olmak için tercih edilen kaynaklarınıza ekleyin.

Google

Hugging Face CEO’su Clement Delangue, çarşamba günü Miami’de düzenlenen WIRED World Fair’de, gelecekte yapay zekadan kaynaklanacak risklerin büyük olasılıkla gizlice model geliştiren büyük şirketlerden doğacağını, açık modellerin ise bu risklere karşı savunmada rol oynayacağını söyledi.


“Riskin büyük kısmını aslında kapalı kapılar ardında model geliştiren birkaç şirket yaratıyor,” dedi Delangue. “Bu riski azaltma işinin büyük kısmı ise tüm ekosisteme düşecek. Yani herkesin açık biçimde model geliştirebilmesi gerekecek.”


Hugging Face, kontrolden çıkan bir yapay zekanın saldırısına uğrayan ilk şirketlerden biri. Bu yıl temmuz ayında OpenAI’ın test ettiği ajanlar, kendilerine ayrılan izole test ortamından çıkmayı başardı ve çözmeleri istenen problemlere yanıt ararken girişime saldırmayı seçti. Şirket, saldırıyı incelemek ve püskürtmek için GLM-5.2 adlı açık ağırlıklı bir Çin modeli kullandı.


Delangue, bugüne kadar yapay zeka ajanlarının kontrolden çıktığı vakaların çoğunun, en ileri modelleri gizlice test eden büyük şirketlerde yaşandığına dikkat çekti. Gelecekte modellerin biyoloji alanındaki becerilerinden ya da kendilerini tekrar tekrar geliştirme yeteneklerinden kaynaklanabilecek risklerin de muhtemelen kapalı kapılar ardında çalışan bu laboratuvarlardan çıkacağını söyledi.


Delangue, Hugging Face’in saldırı nedeniyle OpenAI’a karşı hukuki yollara başvurmamayı seçtiğini, ancak yapay zeka ajanlarını devreye alanların bu ajanların eylemlerinden hukuken sorumlu tutulması gerektiğini belirtti. Etkinlikte “Siber saldırılar yasa dışı. Yapay zeka ajanlarının gerçekleştirdiği siber saldırıların da yasa dışı sayılmasını sağlamak bence çok önemli,” dedi. “Kimsenin yaptığı işin arkasında durmadığı, siber saldırılardan kimsenin sorumlu tutulmadığı bir ortam yaratmak istemiyoruz.”


Bazı yapay zeka araştırmacıları teknolojinin insanlık için varoluşsal bir risk oluşturabileceği uyarısında bulunuyor. Delangue ise kendi P(doom) tahmininin, yani bunun gerçekleşmesine verdiği olasılığın, “sıfıra yakın” olduğunu söyledi. “Dünyayı yok edebilecek başka pek çok şey var,” dedi.


Hugging Face, açık ağırlıklı ya da indirilebilir yapay zeka modelleri için önde gelen platformlardan biri. Kullanıcılar, şirketin barındırdığı modelleri paylaşabiliyor, bu modellere erişebiliyor ya da onları kendi bilgisayar sistemlerine indirebiliyor.

Yapay zeka çipi pazarının dünya çapındaki lideri Nvidia, bu eylülde platformu 12,93 milyar dolara satın alacağını açıkladı. Satın alma duyurulduğunda Hugging Face, yaklaşık 18 milyon kullanıcısı olduğunu belirtmişti.


Delangue, WIRED World Fair’de Hugging Face’te yapay zeka geliştirenlerin sayısının 20 milyonu aştığını da açıkladı. Bu rakam platformun hızla büyüdüğüne işaret ediyor. Delangue ayrıca Hugging Face’in, yapay zekayla programlanabilen sevimli, iki ayaklı robotu Microduck’tan 50 bin adet sattığını söyledi.


Delangue’a göre açık kaynaklı yapay zekanın başarısı, geleceğin bütünüyle birkaç şirketin ve kişinin eline geçmesini önlemek açısından da kritik.


“Yapay zekanın büyük bölümünü sadece birkaç şirketin kontrol ettiği bir dünyaya doğru gidebiliriz. Bu ihtimal gayet açık,” dedi Delangue. “İşlerin bu yönde ilerlemesine yol açan çok güçlü eğilimler var. Çünkü [birkaç şirket] yetenekli insanları, işlem gücünü ve teknik imkanları gerçekten tekeline alıyor.”


Delangue, daha fazla insanın yapay zeka modellerini indirip kendi ihtiyaçlarına göre uyarlayabilmesinin daha demokratik bir teknoloji geleceğinin önünü açacağını söyledi. Hugging Face CEO’suna göre yapay zeka giderek daha fazla kaynak gerektirirken Nvidia’nın satın alımı, şirketin rekabet edebilmesini sağlayacak.


İlk olarak WIRED tarafından yayınlanmış ve E. Can Özer tarafından İngilizceden çevrilmiştir.

WIRED dergisinde yapay zeka konularını ele alan kıdemli bir yazardır. Yapay zekanın en son gelişmelerinin ötesine uzanan haftalık bir bülten olan AI Lab’ı kaleme almaktadır; buradan abone olabilirsiniz. Daha önce MIT Technology Review dergisinde kıdemli editör olarak görev yapmış ve bu süre zarfında yapay zekadaki temel gelişmeler ile Çin’deki yapay zeka patlaması hakkında yazılar yazmıştır. Bundan önce ise New Scientist dergisinde editör ve yazar olarak çalışmıştır. Makinalara yönelmeden önce İngiltere'de antropoloji ve gazetecilik eğitimi almıştır.

Will Knight

DAHA FAZLASI

Havalimanında Yer Hizmetleri Dijitalleşiyor

İstanbul Havalimanı’nda yer ekipleri, uçağın park yerinden ayrılmaya ne zaman hazır olacağını kuleyle dijital ortamda paylaşıyor. Apronda yükleme talimatları ve işlem kayıtları da kağıttan ekrana geçiyor.

Yapay Zeka Şirketleri İş Dosyalarınızı ve E-postalarınızı Satın Almayı Çok, Ama Çok İstiyor

Veri aracıları, yapay zeka modellerini eğitmek için şirketlerin her türden kurum içi dosyasını topluyor. Ancak herkes bu durumdan memnun değil.

"Patronu Geri Getirin": Nvidia Çalışanları, Jensen Huang'ın Geri Dönmesi İçin İmza Kampanyası Başlattı

Nvidia’nın eski CEO’su hakkındaki çalışanların görüşlerini yönetim kurulunun dikkate almasını isteyen bir şirket içi paylaşım, 1.600’den fazla yorum aldı; bu yorumların çoğu, onun yeniden göreve getirilmesini tam olarak destekliyor.

Jensen Huang Kendi İmparatorluğundan Nasıl İstifa Etti?

NVIDIA'da kararları kim alıyor, gücün sınırlarını kim çiziyor? Huang'ın istifasının perde arkasında neler yaşandı?