Yapay zekanın yaptığı kodlamaların güvenlik riski oluşturduğu ortaya çıktı
- velociraptor
- Yottabyte4
- Mesajlar: 46348
- Kayıt: 14 Mar 2006, 02:33
- cinsiyet: Erkek
- Teşekkür etti: 4331 kez
- Teşekkür edildi: 3748 kez
Yapay zekanın yaptığı kodlamaların güvenlik riski oluşturduğu ortaya çıktı
Makine öğrenimi algoritmaları, önceden var olan çok büyük veri kümeleri üzerinde eğitildikten sonra her türlü "orijinal" içeriği oluşturmak için kullanıldıkları için artık çok popüler. Ancak kod üreten yapay zekalar, gelecekte yazılım güvenliği için gerçek bir sorun teşkil edebilir.
GitHub Copilot gibi yapay zeka sistemleri , doğal dildeki metin girdilerine ve önceden var olan bağlama dayalı "yeni" kod yığınlarının tamamını oluşturarak programcıların hayatlarını kolaylaştırmayı vaat ediyor. Ancak, son zamanlarda birkaç geliştiricinin yer aldığı yeni bir çalışmanın bulduğu gibi, kod üreten algoritmalar aynı zamanda bir güvensizlik faktörünü de gündeme getirdi.
Daha önce bahsedilen GitHub Copilot'un kod oluşturma motoru olan OpenAI tarafından geliştirilen yapay zeka platformu Codex'e özel olarak bakıldığında, çalışma 47 farklı geliştiriciyi işe aldı. Lisans öğrencilerinden deneyimli profesyonellere kadar söz konusu geliştiricilere Python, JavaScript, C ve diğer üst düzey programlama dillerinde güvenlikle ilgili sorunları çözmek için Codex kullanma görevi verildi.
Araştırmacılar , programcıların Codex AI'a erişimi olduğunda, ortaya çıkan kodun, kontrol grubu tarafından tasarlanan "el yapımı" çözümlere kıyasla daha büyük olasılıkla yanlış veya güvensiz olduğunu söyledi. Ayrıca, yapay zeka destekli çözümlere sahip programcıların, yukarıda belirtilen kontrol grubuna kıyasla güvenli olmayan kodlarının güvenli olduğunu söyleme olasılığı daha yüksekti.
Stanford'da doktora adayı ve çalışmanın baş yazarı Neil Perry, "kod üreten sistemler şu anda insan geliştiricilerin yerine geçmiyor" dedi. Bahsedilen geliştiriciler, kendi uzmanlık alanlarının dışındaki görevleri tamamlamak veya zaten yetenekli oldukları bir programlama görevini hızlandırmak için yapay zeka destekli araçlar kullanıyor olabilirler. Çalışmanın yazarı, her ikisinin de endişelenmesi gerektiğini ve her zaman Oluşturulan kodu iki kez kontrol etmeleri gerektiğini söyledi.
Bir Stanford lisansüstü öğrencisi ve çalışmanın ikinci ortak yazarı Megha Srivastava'ya göre, Codex işe yaramaz olmaktan çok uzak: "aptal" yapay zekanın eksikliklerine rağmen, kod üreten sistemler düşük riskli görevler için kullanıldığında yararlı olabilir.
AI algoritmaları, kodlama önerilerini iyileştirmek için ince ayar da yapabilir ve kendi sistemlerini geliştiren şirketler, kendi güvenlik uygulamalarına daha uygun kod üreten bir modelle daha iyi çözümler elde edebilir. Çalışma yazarları, kod üreten teknolojinin "heyecan verici" bir gelişme olduğunu ve birçok insanın onu kullanmaya istekli olduğunu söyledi. Sadece AI eksikliklerine uygun çözümler bulmak için yapılacak çok iş var.
Kaynak:
https://www.techspot.com/news/97104-ai- ... finds.html
- TRWE_2012
- Exabyte1
- Mesajlar: 10678
- Kayıt: 25 Eyl 2013, 13:38
- cinsiyet: Erkek
- Teşekkür etti: 801 kez
- Teşekkür edildi: 1723 kez
Re: Yapay zekanın yaptığı kodlamaların güvenlik riski oluşturduğu ortaya çıktı
Yakında "Terminatör" flimi gerçek olursa hiç şaşırmayın ve bir sonra ki dünya savaşı makinlere karşı olabilir.