Bazı şirketler güvenilmez veya hayal ürünü yapay zeka tarafından üretilen hata raporlarının seline kapılmışken, Mozilla hata arayan botlarda gerçek bir değer buluyor. Vakıf, Firefox'un güvenliğini güçlendirmek için Anthropic ile çalışmaya başladı ve yapay zeka destekli çeşitli hata düzeltmeleri tarayıcının kod tabanına zaten eklendi.
Mozilla, Firefox'taki potansiyel olarak tehlikeli güvenlik açıklarını tespit etmek ve yamalamak için Anthropic'in Frontier Red Team ekibiyle birlikte çalışıyor . Mozilla'ya göre, yapay zeka şirketi birkaç hafta önce yeni geliştirilen, yapay zeka destekli bir hata avlama yönteminin sonuçlarıyla kendilerine başvurdu. Mozilla, yaklaşımın işe yaradığını ve nihayetinde herkes için daha güvenli bir Firefox deneyimine yol açabileceğini belirtti.
Anthropic ekibi, Firefox'un JavaScript motoruna odaklandı; bunun nedenlerinden biri de Red Panda tarayıcısının, yeni analiz tekniklerini test etmek için ideal kılan, yaygın olarak kullanılan ve "derinlemesine incelenen" açık kaynak kod tabanına sahip olmasıydı. Yapay zeka sistemi, JS motorunda çeşitli güvenlik açıkları ortaya çıkardı ve ayrıca Firefox geliştiricilerinin sorunları hızlı bir şekilde doğrulayıp yeniden üretmelerini sağlayan minimum test senaryoları üretti.
Geliştiriciler toplamda 14 yüksek önem dereceli güvenlik açığını doğruladı ve bu da 22 ayrı CVE takip kimliğine yol açtı. Mozilla, bu sorunların tamamının Firefox'un en son sürümünde (sürüm 148.0) zaten düzeltildiğini belirtti. Bu süreçte ayrıca 90 adet düşük öncelikli hata daha ortaya çıkarıldı ve bunlar da giderildi.
Mozilla, Anthropic'in hata raporlama yaklaşımının diğer yapay zeka destekli çalışmalardan önemli ölçüde farklı olduğunu vurguladı. Curl dahil olmak üzere bazı büyük açık kaynak projeleri, uygun inceleme yapılmadan hata ödülü kazanmaya çalışan kullanıcılardan gelen düşük kaliteli gönderilerle dolup taştıktan sonra, yapay zeka tarafından oluşturulan katkıları engellemek veya tamamen yasaklamak zorunda kaldı.
Anthropic'in tekniğiyle ortaya çıkarılan güvenlik açıklarının çoğu, genellikle yazılıma beklenmedik girdiler vererek çökmeleri tetikleyen otomatik bir test yöntemi olan fuzzing ile keşfedilir. Ancak Mozilla, yapay zeka modelinin geleneksel fuzzing tekniklerinin genellikle gözden kaçırdığı çeşitli mantık hatalarını da tespit ettiğini söyledi.
Sonuçları gördükten sonra Mozilla, yeni yapay zeka destekli yöntemi daha geniş güvenlik ve geliştirme iş akışına entegre etmeyi planlıyor. Kuruluş, Anthropic'in Claude modellerinin ve diğer gelişmiş yapay zeka sistemlerinin gelecekte ek sorunları ortaya çıkarmaya yardımcı olacağını öngörüyor.
Bu yaklaşımın ölçeklenebilir olduğu kanıtlanırsa, fuzzing ve diğer geleneksel tekniklerin yapay zeka yardımı olmadan sınırlarına ulaştığı diğer popüler açık kaynak projelerinde daha önce "keşfedilemez" olan çok sayıda hatanın belirlenmesine de yardımcı olabilir.
Kaynak :
https://www.techspot.com/news/111600-mo ... -bugs.html
