Yapay zekâ geliştirmenin bir felakete yol açabileceği uyarısı, bu modelleri geliştiren kişilerden birinden geldi. Anthropic'in patronu Dario Amodei, yapay zekâ destekli bir botnet sürüsünün tüm interneti ele geçirebileceğini ve bu senaryonun sadece altı ila on iki ay içinde gerçeğe dönüşebileceğini söylüyor. CEO ayrıca yeni yapay zekâ modellerinin geliştirilmesinin yavaşlatılması çağrısında bulundu.
Amodei, uyarısını uzun bir açık mektupta dile getirdi . Yapay zekâ yeteneklerinin hızla gelişmesi nedeniyle, teorik botnet sürüsünün bir yıldan kısa bir süre içinde burada olabileceğini söyledi.
Amodei, bu botnet'in yüz milyarlarca dolarlık hasara yol açabileceğini ve gerekli güvenlik önlemleri olmadan yapay zekanın daha da güçlenmesi durumunda hasarın boyutunun artmaya devam edeceğini söyledi.
CEO, yapay zekâ geliştirme sürecini durdurma veya yavaşlatma fikrinin 2023'ten beri gündeme geldiğini, ancak o zamanlar bunun pek mantıklı gelmediğini belirtiyor. Amodei, şimdi ise geliştirme sürecini yavaşlatmanın, modellerin kritik yetenek seviyelerine ulaşmasından önce bir veya iki yıl daha kazandırabileceğini, böylece şirketlere uyum sağlama ve ciddi bir sorun yaşanma riskini azaltma konusunda daha fazla zaman tanıyabileceğini söylüyor. Amodei'nin uyarısı, yapay zekâya ilişkin korkuların doruk noktasına ulaştığı bir dönemde geliyor. Ajanların kontrolden çıkmasıyla ilgili çok sayıda olayın ardından, eski Anthropic araştırmacısı Jacob Coxon, yapay zekâ yarışının insanlığın yok olmasına yol açabileceği konusunda uyarıda bulunmuştu. Amodei'nin yapay zekâ geliştirme hızını yavaşlatma çağrısı, hem Elon Musk hem de OpenAI CEO'su Sam Altman tarafından destekleniyor. Musk, "Yapay zekâ konusunda uzun zamandır alarm veriyorum," diyerek 2014'te yaptığı bir paylaşımı hatırlattı: "Yapay zekâ konusunda son derece dikkatli olmalıyız. Potansiyel olarak nükleer silahlardan daha tehlikeli."
Altman, "Dario'nun öncü rolü üstlenmemiz gerektiği konusundaki görüşüne katılıyorum," dedi. "Çalışanlara benzer erişime sahip bağımsız değerlendiricilere sahip olma taahhüdü harika bir fikir ve biz de aynısını yapacağız. Yakında daha fazla bilgi paylaşacağız."
Anthropic'te uyum bilimi lideri olan Evan Hubinger de tartışmaya katıldı. Coxon'ın değerlendirmesine katılan Hubinger, yapay zekanın önümüzdeki on yılda tüm insanlığı yok etme olasılığının %10'dan fazla olduğunu söyledi.
Dijital tehlikelerin ötesinde, yakın zamanda İran bağlantılı bir grubun Anthropic'in Claude yazılımını askeri keşif faaliyetlerinde kullandığı ve Orta Doğu'daki ABD deniz kuvvetleri için hedefleme önerileri ürettiği bildirildi. Ayrıca Husi isyancılarının balistik füze güdüm sistemlerini kodlamak için Claude Kodunu kullandığı da keşfedildi.
Anthropic ayrıca, şüpheli devlet destekli araştırmacıların Claude yapay zeka modelini biyolojik silah geliştirmek için kullanma girişimlerini tespit ettiğini belirtti . Tekrarlanan denemeler Claude'un yerleşik güvenlik protokollerini tetikledikten sonra kullanıcılar sisteme erişimden engellendi.
Bu olaylar ve süper zekâ geliştirme yarışına ilişkin endişeler, Senatör Bernie Sanders'ın Yapay Süper Zekâyı Yasaklama Yasası'nı önermesine yol açtı . Eğer yasalaşırsa, şartlarını ihlal edenler 20 yıla kadar hapis cezasıyla karşı karşıya kalabilir: bu, yasadışı nükleer silah geliştirme cezasına benzer bir cezadır.
Yapay zekânın gelişiminin yavaşlatılması çağrısı, kimse bunu yapmazsa pek de faydalı olmaz. Şirketler, hızlarını yavaşlatırlarsa ve diğerleri yavaşlatmazsa geride kalacaklarından endişe ediyorlar. Benzer şekilde, ülkeler de gelişmeye sınırlar getirilirse rakipleriyle rekabet edemeyeceklerini söylüyorlar. Elbette, hepimiz ölmüş olursak bunların hiçbir önemi kalmayacak.
Kaynak :
https://www.techspot.com/news/113833-an ... eaten.html
Bilenler bilir, HALO oyununda SEL karşısında yapay zeka sürüsü bir halta yaramıyor ya, Master Chief ile Cortana güç bela dayanıyordu. Hey gidi günler.. Zaten geçti Bor'un pazarı sür eşeğini Niğde'ye derler.
