Anthropic’te görevli bir araştırmacı, gelecek 10 yılda yapay zekanın insanlığın yok olmasına yol açma ihtimalini yüzde 10’un üzerinde gördüğünü söyledi. Bir çalışanın istifası ise ses getirdi.
Yapay zeka şirketi Anthropic’te çalışan iki araştırmacının açıklamaları, hızla gelişen teknolojinin kontrolden çıkabileceğine ilişkin tartışmaları yeniden gündeme taşıdı.
Anthropic araştırmacısı Jacob Coxon, salı günü X hesabından yaptığı açıklamada şirketten istifa ettiğini duyurdu. Coxon, hem Anthropic’in hem de ChatGPT’nin geliştiricisi OpenAI’ın sorumlu davranmadığını savundu.
Şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için yarıştığını belirten Coxon, “Hayatlarımızla kumar oynuyorlar” dedi.
Coxon, yapay zeka sistemlerinin yakın gelecekte insan yeteneklerini aşacağını, bilgisayar sistemlerine sızabileceğini ve güç ile kaynak elde edebileceğini öne sürdü.
“Bu teknolojinin gücünü hafife almayın” diyen Coxon, “Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen, gerçek güç ve kaynak elde edebilen insanüstü sistemler olacak” ifadelerini kullandı.
Coxon ayrıca, yapay zekayı geliştiren kişilerin bu teknolojinin 2030’a kadar insanlığın sonunu getirebileceğine gerçekten inandığını söyledi.
Coxon’ın açıklamasına, Anthropic’te yapay zeka sistemlerinin insan amaçları ve değerleriyle uyumlu çalışmasına yönelik araştırmalara liderlik eden Evan Hubinger’den yanıt geldi.
Hubinger, “Jacob burada haklı. Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Ben şahsen bunun gelecek 10 yıl içinde gerçekleşme ihtimalinin yüzde 10’un üzerinde olduğunu düşünüyorum” dedi.
Bu oranı kişisel tahmini olarak paylaşan Hubinger, Anthropic’in elinden geleni yaptığına inandığını ancak süper zekanın insanlarla uyumlu çalışmasını sağlayacak sorunu çözmek için henüz bir planlarının bulunmadığını belirtti. Hubinger, bu sorunu çözme yolunda olduklarının da net olmadığını söyledi.
Bir başka paylaşımında mevcut yapay zeka modellerinden kaynaklanan riskin düşük olduğunu vurgulayan Hubinger, asıl endişesinin kendi kendini geliştirme sürecinden doğabilecek süper zeka olduğunu açıkladı.
Araştırmacıların dikkat çektiği “yinelemeli öz geliştirme”, yapay zeka sistemlerinin çok az insan müdahalesiyle kendilerini geliştirmesi ve kazandıkları yeni yeteneklerle bu süreci tekrar etmesi anlamına geliyor.
Bu mekanizma henüz hayata geçirilebilmiş değil. Ancak yapay zeka laboratuvarları bu hedef doğrultusunda çalışıyor.
Açıklamalar, Anthropic ve OpenAI’ın büyük miktarlarda yatırım topladığı ve halka arz hazırlıklarıyla gündeme geldiği bir dönemde geldi. CNBC’nin görüş talebine iki şirketten de ilk aşamada yanıt gelmedi.
Yapay zekanın kontrolden çıkabileceğine ilişkin kaygılar daha önce de araştırmacılar ve teknoloji dünyasından isimler tarafından dile getirilmişti.
CNBC’nin haberine göre, temmuz ayında bir OpenAI modelinin kontrolden çıkarak açık kaynak geliştiricilerinin kullandığı Hugging Face platformunun sistemlerine izinsiz girmesi bu endişeleri artırdı.
Coxon, söz konusu olayı bir uyarı olarak nitelendirdi. Bu tür olayların ABD’deki yapay zeka laboratuvarları arasında uzlaşma ihtimalini artırdığını belirten Coxon, buna karşın küresel ölçekteki yarışı önleme konusunda iyimser olmadığını söyledi.
Coxon, “Küresel bir yarışı önleme yolunda olduğumuzu düşünmüyorum. Bunu engellemek, modellerin yeteneklerini geliştirmeye geçici yasak getirilmesi gibi bedeli ağır adımlar gerektirebilir” dedi.
