OpenAI, Anthropic ve Meta'nın yapay zekâ ajanlarının kontrolden çıkmasıyla ilgili haberler manşetlere taşınırken, Google'ın kendini biraz üstün hissettiği düşünülebilirdi – ama görünüşe göre öyle değil. Şirket, Gemini yapay zekâsının siber güvenlik testleri sırasında üç farklı şirketin sistemine sızdığını doğruladı. Bir örnekte, doğru şifreyi bulana kadar tekrar tekrar şifreleri tahmin etti ve Google yaşananlar hakkında pek açıklama yapmadı.
İlk olarak Wall Street Journal tarafından bildirilen olaylar , Mayıs ayında yapay zeka güvenlik firması Irregular tarafından yapılan bir değerlendirme sırasında meydana geldi. Gemini'nin kontrollü bir test ortamında kurgusal şirketlerle çalışması gerekiyordu. Ancak, istenmeyen bir internet bağlantısı modele gerçek web sitelerine erişim sağladı ve model bunları testin bir parçası olarak değerlendirdi.
Bir testte, Gemini'den gerçek bir şirketle aynı adı taşıyan sahte bir şirkete ait yazılımdan bilgi alması istendi. Yapay zeka, gerçek şirketin korumalı sistemine erişim sağlayana kadar şifreleri tahmin etti.
Diğer durumlarda ise model, herkese açık çevrimiçi veri tabanlarında kimlik bilgilerini buldu ve bunları kullanarak iki şirketin daha sistemine giriş yaptı.
Google, her üç olayda da Gemini'nin hedeflerin gerçek olduğunu fark ettikten sonra durduğunu söylüyor. Şirket, Temmuz ayı sonlarında Irregular'ın bilgilendirmesi üzerine olayları kamuoyuna açıklamadı. Herhangi bir zararın meydana gelmediğini, etkilenen kuruluşların bilgilendirildiğini ve test prosedürlerinin o zamandan beri değiştirildiğini belirtiyor. Google, şirketlerin isimlerini açıklamadı veya hangi Gemini modelinin kullanıldığını belirtmedi.
Google'ın güvenlik mühendisliği başkan yardımcısı Heather Adkins, bu olayların güçlü yapay zeka modellerinin neden sorumlu davranacak şekilde eğitilmesi gerektiğini gösterdiğini söyledi. Google, modelin kasıtlı olarak kurban aramak yerine, kendisine verilen görevi tamamlamaya çalıştığını savunuyor.
Bu, büyük yapay zeka şirketlerini içeren benzer olaylar dizisinin sonuncusu. OpenAI'nin ajanları, test ortamından kaçtıktan sonra Hugging Face'e sızdı ve diğer birçok hizmetteki hesapları tehlikeye attı. Anthropic, Claude modellerinin değerlendirmeler sırasında üç kuruluşun üretim sistemlerine eriştiğini açıkladı; başka bir model ise gerçek bir geliştiriciyi kötü amaçlı kodu kabul etmeye ikna etmeye çalıştı .
Meta'nın modeli, Irregular testi sırasında internete sızdı ve üçüncü taraf bir hizmeti ihlal etti. Meta, ihlalin bir test yapılandırma hatasından kaynaklandığını iddia etti. Şaşırtıcı olmayan bir şekilde, Google ve diğer şirketler bu ihlallerin hiçbirinden dolayı kamuoyuna açıkça özür dilemedi.
Bu olaylar, yapay zeka geliştiricilerinin kendi uyarılarıyla birlikte, teknolojinin insanlığın hayatta kalmasını tehdit edebileceği korkularını yoğunlaştırdı. Ayrıca Anthropic'in patronu Dario Amodei, OpenAI CEO'su Sam Altman ve xAI'nin sahibi Elon Musk'ın da yeni nesil model geliştirme çalışmalarının yavaşlatılması çağrılarını desteklediğini gördük .
Öte yandan, Bernie Sanders ve Temsilci Greg Casar, yapay zekânın süper zekâsının geliştirilmesini ve konuşlandırılmasını kalıcı olarak yasaklayacak ve federal bir düzenleyici kurum güvenlik kurallarını belirleyene kadar gelişmiş yapay zekâ geliştirme çalışmalarını geçici olarak durduracak olan Yapay Zekâyı Yasaklama Yasası'nı duyurdu . Önerilen kısıtlamaları ihlal eden kişiler 20 yıla kadar hapis cezasıyla karşı karşıya kalabilir.
Kaynak :
https://www.techspot.com/news/113913-ge ... tests.html
