Aralarında ABD ve İngiltere'nin de bulunduğu on sekiz ülke, yapay zeka gelişiminin "tasarım gereği güvenli" olmasını sağlamak için el ele verdi. Anlaşma, yapay zekanın kötü niyetli aktörlerin eline geçmesi durumunda nasıl yıkıcı bir güce dönüşebileceğine ilişkin kalıcı endişeleri gidermeyi amaçlayan bir dizi ilkeyi ortaya koyuyor.
20 sayfalık belgede , teknoloji şirketlerinin "müşterileri ve daha geniş kamuoyunu kötüye kullanımdan koruyacak şekilde geliştirmesi ve dağıtması" ihtiyacı da dahil olmak üzere, sorumlu yapay zeka gelişimini sağlamak için çeşitli güvenlik önlemlerinden bahsediliyor. ABD ve İngiltere dışında belgeyi imzalayan diğer ülkeler arasında Almanya, İtalya, Çek Cumhuriyeti, Estonya, Polonya, Avustralya, Şili, İsrail, Nijerya ve Singapur yer alıyor.
Anlaşma, yapay zekanın bilgisayar korsanları tarafından ele geçirilmesini önlemenin yollarını kapsamlı bir şekilde ele alıyor ve şirketlerin, modellerini yayınlamadan önce ilk olarak uygun güvenlik testlerini nasıl yürütmeleri gerektiğine dair öneriler içeriyor. Ancak Reuters tarafından bildirildiği üzere belge, yapay zeka modelleri için verilerin nasıl toplandığı gibi tartışmalı konuları ele almıyor. Bu konuyla ilgili zaten çok sayıda yasal çatışma yaşandı, bu nedenle düzenleyicilerin ve yasa koyucuların bu konuyu bir kez ve tamamen ele almak için er ya da geç devreye gireceğini umuyoruz.
Yapay zeka güvenliğine ilişkin ilk küresel anlaşma olarak tanımlanan Güvenli Yapay Zeka Geliştirme Yönergeleri, yapay zeka geliştiricilerini yazılımlarından daha sorumlu hale getirmeyi amaçlıyor. Belge ayrıca veri bilimcileri, geliştiriciler, yöneticiler, karar vericiler ve risk sahipleri de dahil olmak üzere tüm paydaşları "yapay zeka sistemlerinin tasarımı, geliştirilmesi, konuşlandırılması ve işletilmesi hakkında bilinçli kararlar" almak için tavsiyelere uymaya çağırıyor.
ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA), anlaşmayı doğru yönde atılmış bir adım olarak selamladı ve herkese yapay zeka gelişiminin kamu güvenliğine her şeyden önce öncelik vermesi gerektiğini hatırlattı. CISA direktörü Jen Easterly, bir mesajında yapay zekanın yalnızca "harika özellikler" ve işleri kısaltarak maliyetleri düşürmekle ilgili olmaması gerektiğini, çünkü bunun uzun vadede tehlikeli yan etkileri olabileceğini söyledi.
Bu anlaşma imzalanmadan önce bile bazı ülkeler, Google ve OpenAI gibi şirketlerin yapay zeka gelişimini nasıl kendi kendine düzenlemeleri gerektiğine ilişkin kurallar oluşturmaya başladı. Fransa, Almanya ve İtalya yakın zamanda "davranış kuralları aracılığıyla zorunlu öz denetim" konusunda bir anlaşmaya varırken, ABD'deki Biden yönetimi yapay zekanın düzenlenmemiş gelişiminin potansiyel olarak ulusal güvenliğe yol açabileceği riskleri azaltmak için bir idari emir çıkardı.
Kaynak:
https://www.techspot.com/news/100981-us ... -safe.html