Yapay zekâ patlaması, giderek daha otonom hale gelen yazılımların tehlikeleri hakkındaki eski korkuları yoğunlaştırdı, ancak bu tartışmalar çoğunlukla teorik kaldı, gerçek olaylardan ziyade araştırma makaleleri ve düşünce deneyleriyle sınırlı kaldı. OpenAI test modeliyle ilgili yeni ortaya çıkan bir olay, hasarın tam kapsamı henüz netleşmemiş olsa bile, bu korkulara gerçek dünyada bir ağırlık katmış olabilir.
OpenAI, büyük dil modellerinin bir kombinasyonunun izole bir test ortamından kaçarak rakip yapay zeka şirketi Hugging Face'e sızdığını ve şirket içi bir kıyaslamada hile yapmaya çalıştığını doğruladı . Saldırıyı yönlendiren bir kişi yoktu.
OpenAI, modellerin kaçış yolunu, hedefi ve güvenlik açıklarını tamamen kendi başlarına tespit ettiğini söylüyor. Hugging Face, saldırıyı kontrol altına aldı ve halka açık sistemlerine müdahale edilmediğini belirtiyor, ancak bu olay, öncü modellerin ne kadar özerkliğe sahip olduğu konusundaki tartışmayı yeniden alevlendiriyor.
Hugging Face, 16 Temmuz'da bilinmeyen bir LLM kaynağından gelen bir saldırıyı ilk olarak bildirdi. Şirket, saldırıyı durdurduğunu, saldırıyı mümkün kılan giriş noktalarını kapattığını ve modellerinin, veri kümelerinin veya yazılım tedarik zincirinin değiştirildiğine dair hiçbir kanıt bulamadığını, ancak herhangi bir ortak veya müşteri verisine erişilip erişilmediğine dair incelemesini hâlâ tamamladığını söylüyor.
Olay, yapay zeka yorumcusu Alex Prompter'ın yaşananları sade bir dille anlattığı ve geniş çapta paylaşılan bir X başlığı da dahil olmak üzere, internette hızla yayıldı. O zamanlar, Hugging Face de dahil olmak üzere hiç kimse, bunun arkasında hangi şirketin yapay zekasının olduğunu bilmiyordu. Bu durum beş gün sonra değişti.
OpenAI bu hafta yaptığı açıklamada, sızmanın GPT-5.6 Sol ve henüz ön sürüm aşamasında olan daha yetenekli ikinci bir modelden kaynaklandığını, her iki modelin de OpenAI'nin ExploitGym adını verdiği bir kıyaslama testinde, siber saldırı yeteneklerinin dahili bir testi kapsamında azaltılmış güvenlik reddiyle çalıştığını belirtti. Modeller, OpenAI'nin açık internetten tamamen izole edilmiş, sıkı bir şekilde yalıtılmış bir araştırma ortamı olduğuna inandığı bir alanda çalıştırılıyordu. Bu sınırlama işe yaramadı. OpenAI, modellerin kıyaslama testini doğrudan çözmekte zorlandıktan sonra çevrimiçi olmanın bir yolunu bulmak için büyük miktarda işlem gücü harcadığını ve sonunda test sırasında yazılım paketlerini almak için kullanılan dahili olarak barındırılan bir proxy'de daha önce bilinmeyen bir güvenlik açığı bulduğunu söylüyor. Bu açığı kullanarak ayrıcalıklarını yükselttiler ve internet erişimi olan bir makineye ulaşana kadar OpenAI'nin kendi ağında yatay olarak hareket ettiler.
OpenAI'ye göre, modeller buradan yola çıkarak Hugging Face'in ihtiyaç duydukları şeyi bulabilecekleri muhtemel bir yer olduğunu düşündüler ve aramaya başladılar. Hugging Face tarafındaki giriş noktası, veri işleme hattındaki iki kod yürütme açığını kötüye kullanan kötü amaçlı bir veri kümesiydi ve modellerin bir işleme sunucusunda kod çalıştırmasına izin verdi. Buradan daha da ilerleyerek kimlik bilgilerini ele geçirdiler. OpenAI, modellerinin daha sonra bu çalınan kimlik bilgilerini daha fazla bilinmeyen güvenlik açığıyla birleştirerek Hugging Face'in sunucularında uzaktan kod yürütme elde ettiğini ve Hugging Face'in güvenlik ekibi etkinliği fark edip durdurmadan önce test yanıtları çekmeye başladığını söylüyor.
Bu olay, Wall Street ve hükümet yetkililerinin yakından izlediği yapay zeka siber yeteneklerindeki daha geniş bir yükselişin ortasında meydana geldi. Anthropic, Nisan ayında güçlü bir siber odaklı model olan Claude Mythos'u tanıttı. OpenAI, Mayıs ayında kendi siber güvenlik ürününü piyasaya sürdü ve ardından Haziran ayında GPT-5.6 Sol'u yayınlayarak bunu şimdiye kadarki en güçlü siber güvenlik modeli olarak nitelendirdi.
OpenAI ve Hugging Face ortaklaşa soruşturmalarına devam ediyor ve her iki şirket de daha kapsamlı bir teknik açıklamanın yakında yayınlanacağını söylüyor. Mevcut açıklamalar doğru çıkarsa, bu, dil modellerinin çok az veya hiç insan müdahalesi olmadan çok aşamalı bir siber saldırıyı bir araya getirebileceğinin en net gösterimlerinden biri olacak; bu yetenek şimdiye kadar çoğunlukla varsayımsal olarak tartışılıyordu.
Hugging Face CEO'su Clément Delangue de X'te benzer bir tonda konuşarak "onların kötü bir niyeti yoktu" diye yazdı ve olayın tamamen kendi kendine gerçekleşmesini izlemenin kendisini şaşkına çevirdiğini söyledi.
Ancak herkes bu görüşe katılmıyor. Bazı eleştirmenler, asıl meselenin yapay zeka yeteneklerinde bir sıçrama değil, özensiz mühendislik olduğunu savunuyor ve sözde izole edilmiş bir test ortamının açık internete nasıl erişim sağlayabildiğini sorguluyor.
Bazıları ise bu ortak açıklamanın, her iki şirket için de uygun bir reklam hilesi olduğunu öne sürerek, teknoloji devlerinin üretken yapay zekâ üzerindeki kontrolünü kaybedebileceği ve insanlığı tehlikeye atabileceği iddialarına yönelik önceki şüpheleri yineledi.
Olayın ardından OpenAI, Hugging Face'in ihlalden sonra katıldığı Güvenilir Erişim programını önerme fırsatını değerlendirdi. Hugging Face ayrıca bu olayı, ajan tabanlı siber saldırıların artan tehdidine karşı yapay zeka tabanlı savunmalar önermek için kullandı.
Eleştirmenler her iki yanıtta da bir örüntü görüyor: Bazıları, sektörün değerlemelerini haklı çıkarmak için baskı altında olduğu bir anda, bu çerçevelemenin öncü LLM'lerin algılanan değerini şişirdiğini savunurken, diğerleri olaya neden olan modelleri geliştiren aynı şirketlerin, sonunda onları yönetecek kuralları yazmaya yardımcı olmak için kendilerini konumlandırdığından endişe ediyor. Delangue'nin OpenAI'nin olayla ilgili yazısında belirttiği gibi, "Yapay zeka güvenliği, gizlice çalışan tek bir şirket tarafından çözülmeyecek."
Kaynak :
https://www.techspot.com/news/113212-op ... mpany.html
