Yapay zeka'da "açık kaynak" savaşı kızışıyor

Anthropic CEO'su Dario Amodei, Nvidia öncülüğünde yayımlanan bildiriye yanıt vererek şirketinin açık ağırlıklı yapay zeka modellerinin yasaklanmasını hiçbir zaman savunmadığını duyurdu. ABD şirketlerinin Çin menşeli açık modellere erişiminin engellenmesi tartışmalarına değinen Amodei, korumacı yasakların ulusal güvenlik risklerini çözmeyeceğini vurguladı.

Yapay zeka devi Anthropic'in CEO'su Dario Amodei, teknoloji sektöründe açık kaynaklı yapay zeka modellerine ilişkin başlayan geniş çaplı tartışmalara yanıt olarak resmi bir açıklama yayımladı.

Amodei, dün şirketin resmi internet sitesinde yer verdiği değerlendirmesinde, Anthropic'in açık ağırlıklı modellerin kısıtlanması veya yasaklanması yönünde lobi yürüttüğü iddialarını reddetti.

Gelişme, Nvidia CEO'su Jensen Huang'ın öncülüğünde 24 Temmuz'da kamuoyuna duyurulan "Açık Ağırlıklar ve Amerikan Yapay Zeka Liderliği" başlıklı ortak açık mektubun beraberinde geldi.

Huang, yapay zekanın her sektörü dönüştüreceğini, her şirkete güç vereceğini ve her ülke tarafından inşa edileceğini kaydetmişti.

Açık modellerin siber güvenliği güçlendirdiğini, yenilikçilik ile yayılımı hızlandırdığını ve egemenliğe imkan tanıdığını vurgulayan Huang, dünyanın hem öncü kapalı modellere hem de öncü açık modellere aynı anda ihtiyaç duyduğunu belirtmişti.

Söz konusu bildiri; Nvidia, Meta, Microsoft, IBM, Dell Technologies, CrowdStrike, Palantir, Mozilla, Mistral, Hugging Face, Y Combinator, Andreessen Horowitz, The Linux Foundation, Perplexity, ServiceNow, Box, Replit, Black Forest Labs, Arcee AI, Arena, Emergence Capital, Mariana Minerals, Reflection, Telnyx ve American Innovators Network ortaklığıyla imzalanmıştı.

Anthropic CEO'su Dario Amodei, yayımladığı metinde son birkaç gündür özellikle Çin çıkışlı açık ağırlıklı modellere dair yoğun tartışmalar yürütüldüğünü kaydetti.

ABD'li yetkililerin, Amerikan şirketlerinin Çin menşeli açık ağırlıklı modelleri kullanmasını yasaklamayı değerlendirdiğine dair haberlerin basına yansıdığını aktaran Amodei, buna karşılık çok sayıda teknoloji firmasının açık modelleri destekleyen bildiriye imza attığını hatırlattı.

Bazı kesimlerin Anthropic'i kendi ticari çıkarını korumak adına açık modellerin yasaklanmasını istemekle suçladığını belirten Amodei, şu ifadeleri kullandı:

"Açıklığa kavuşturayım ki hiçbir şüphe kalmasın: Anthropic, açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadı. Tehlikeli kabiliyetler barındırmayan açık ağırlıklı modeller bir kamu yararıdır; çalıştırmak için gereken bilgi işlem gücü dışında bir maliyet getirmeyen bu modeller şirketlere, geliştiricilere ve araştırmacılara değer sağlar."

Korumacı yasakların en ciddi ulusal güvenlik endişelerini çözmeyeceğini savunan Amodei, altı ay önce kaleme aldığı "Teknolojinin Ergenliği" başlıklı makalesinde de vurguladığı iki temel korku senaryosunu yeniden sıraladı.

Amodei ilk ve en birincil kaygısının, Çin Komünist Partisi (ÇKP) başta olmak üzere “otoriter rejimlerin” ABD'den daha güçlü yapay zeka modelleri inşa ederek kalıcı askeri üstünlük sağlaması veya kendi halkı üzerinde derin baskılar kurması olduğunu aktardı.

Bu endişenin ABD yönetimi içinde de paylaşıldığına dikkati çeken Amodei, ABD Başkan Yardımcısı Vance'in geçen yıl Paris'te "Otoriter rejimler askeri, istihbarat ve gözetleme kabiliyetlerini güçlendirmek için yapay zekayı çaldı ve kullandı" dediğini, Amerikan istihbaratının 2026 Yıllık Tehdit Değerlendirmesi raporunda da diğer küresel güçlerin ilerlemesinin ABD'nin ekonomik ve askeri avantajlarına meydan okuduğunun kaydedildiğini hatırlattı.

Bu modellerin açık ağırlıklı olarak sunulmasının veya ABD şirketlerince kullanılmasının durumu değiştirmediğini belirten Amodei, en tehlikeli modelin gizlice eğitilerek insansız hava araçlarında kullanılmak üzere Çin Halk Kurtuluş Ordusuna veya gözetleme amacıyla Devlet Güvenlik Bakanlığına teslim edilen model olabileceğini kaydetti.

İkinci kaygısının ise güçlü yapay zeka modellerinin siber saldırılar veya biyolojik saldırılar gerçekleştirmek üzere kötüye kullanılması ve ciddi "hizalanma" sorunları yaratması olduğunu belirten Amodei, açık ağırlıklı modellerin kapalı modellere kıyasla daha yüksek risk taşıyabileceğini kabul etti.

Ancak ABD şirketlerinin bu modelleri kullanımını yasaklamanın riski ortadan kaldırmayacağını, çünkü kötü niyetli aktörlerin meşru ABD şirketleri olmadığını ve ticari rekabetten korunmanın kendisinin bir hedefi olmadığını vurguladı.

Dario Amodei, ulusal güvenlik ve güvenlik risklerini ele almak amacıyla Anthropic ve kendisinin tutarlı biçimde savunduğu üç maddelik tedbir paketini açıkladı:

Gelişmiş çip kısıtlamaları ve kaçakçılıkla mücadele: Çin'e güçlü çiplerin ve çip üretim ekipmanlarının satılmaması, kaçakçılık ve yasal boşlukların üzerine gidilmesi gerektiği ifade edildi.  Çin'in yerli üretim kapasitesinin sınırlı olduğunu ve ölçekleme yasaları nedeniyle ABD çipleri olmadan ABD'den daha güçlü modeller üretemeyeceğini kaydeden Amodei, bunun en birincil tehdidi engellemenin en etkili yolu olduğunu yazdı.

Sanayi ölçeğindeki distilasyon operasyonlarının engellenmesi: Model kopyalama ve küçültme yöntemi olan distilasyonun, silikon kısıtlamalarının etrafından dolaşılmasına imkan tanıdığı belirtildi. Distilasyonun Çin sınırını ABD sınırına birkaç ay kadar yaklaştırabildiğine işaret eden Amodei, toptan bir yasak yerine bu davranışı caydıracak hedefli hukuki ve ticari müdahaleler yapılması gerektiğini vurguladı.

Zorunlu güvenlik testleri: İster açık ister kapalı olsun, yeterince gelişmiş tüm modellerin piyasaya sürülmeden önce siber, biyolojik ve hizalanma risklerine karşı zorunlu güvenlik testinden geçirilmesi önerildi. Amodei, Trump yönetiminin son aylarda bu yönde adımlar atmasını ve sektörün benzer önerilerini olumlu karşıladığını, test sürecinin küresel ölçekte uygulanması gerektiğini dile getirdi.

Açık mektuptaki pek çok görüşe katıldığını, açık ağırlıkların yapay zeka ekonomisine erişimi genişlettiğini ve rekabeti artırdığını belirten Amodei; ancak açık modellerin güvenlik önlemleri geliştirmeyi kolaylaştırdığı veya geniş erişimin savunmacılara saldırganlardan daha fazla yarar sağladığı tezine katılmadığını kaydetti.

Biyoloji alanında saldırı-savunma dengesizliği olabileceğine dikkati çeken Amodei, yeterli kabiliyete sahip modellerin salgın düzeyindeki virüsleri hızla silahlaştırabileceğini, savunmanın ise yıllar alabileceğini ifade etti.

Amodei açıklamasını, Anthropic'in bir kategori olarak açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadığını, odağın çiplerin otoriter rejimlerden uzak tutulması, sanayi ölçekli distilasyonun durdurulması ve tüm güçlü modellere güvenlik testi getirilmesi olması gerektiğini vurgulayarak tamamladı.