ChatGPT'ye hemen hemen her şeyi sorabilirsiniz ve çoğu durumda size bir cevap verecektir. Ancak AI dil modelinin bozulmasına neden olan bir avuç isim vardır. Bunun nedenleri, üretken AI'nın uydurma eğilimiyle ilgilidir - ve özneler insanlar olduğunda ortaya çıkan yasal sonuçlarla ilgilidir.
Sosyal medya kullanıcıları yakın zamanda ChatGPT'ye "David Mayer" adını girdiklerinde sistemin yanıt vermeyi reddettiğini ve oturumu sonlandırdığını fark ettiler. 404Media, Harvard Hukuk Fakültesi profesörü "Jonathan Zittrain" ve George Washington Üniversitesi Hukuk Fakültesi profesörü "Jonathan Turley" hakkında sorulduğunda da aynı şeyin yaşandığını buldu.
Birkaç başka isim de ChatGPT'nin "Bir yanıt üretemiyorum" ve "Bir yanıt üretilirken hata oluştu" şeklinde yanıt vermesine neden olur. İsmi tersten girip programdan sağdan sola yazdırmasını istemek gibi her zamanki numaraları denemek bile işe yaramaz.
ArsTechnica, ChatGPT'yi bozan isimlerin bir listesini üretti . David Mayer artık chatbot'u sersemletmiyor, ancak bunlar yapıyor: Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber ve Guido Scorza.
Bu davranışın nedeni, çok bilindik AI halüsinasyonlarından kaynaklanmaktadır. Brian Hood, Avustralyalı belediye başkanının rüşvet nedeniyle hapse atıldığını yanlış bir şekilde iddia ettiğinde 2023'te OpenAI'yi dava etmekle tehdit etti - gerçekte, o bir muhbirdi. OpenAI sonunda, ismine sabit kodlu bir filtre ekleyerek, asılsız ifadeleri filtrelemeyi kabul etti.
ChatGPT, Turley'nin var olmayan bir cinsel taciz skandalına karıştığını yanlış bir şekilde iddia etti. Hatta cevabında bir Washington Post makalesine atıfta bulundu. Makale de AI tarafından uydurulmuştu. Turley, OpenAI'yi dava etmekle asla tehdit etmediğini ve şirketin kendisiyle hiçbir zaman iletişime geçmediğini söyledi.
Zittrain'in isminin engellenmesinin bariz bir nedeni yok. Yakın zamanda Atlantic'te "Yapay Zeka Aracılarını Şimdi Kontrol Etmeliyiz" başlıklı bir makale yazdı ve Turley gibi, eseri New York Times'ın OpenAI ve Microsoft'a karşı açtığı telif hakkı davasında alıntılandı . Ancak, davada alıntılanan diğer yazarların isimlerini girmek ChatGPT'nin bozulmasına neden olmaz.
David Mayer'in neden engellendiği ve ardından engelinin neden kaldırıldığı da belirsiz. David Mayer de Rothschild ile bağlantılı olduğuna inananlar var, ancak bununla ilgili bir kanıt yok.
Ars, bu sabit kodlu filtrelerin ChatGPT kullanıcıları için sorunlara yol açabileceğini belirtiyor. Bir saldırganın, bir görüntüye gömülmüş, zar zor okunabilen bir yazı tipinde işlenen isimlerden birinin görsel istem enjeksiyonunu kullanarak bir oturumu nasıl kesebileceği gösterildi. Dahası, birisi isimlerden birini bir web sitesine ekleyerek blokları istismar edebilir ve böylece ChatGPT'nin içerdiği verileri işlemesini engelleyebilir - ancak herkes bunu kötü bir şey olarak görmeyebilir.
İlgili bir haberde, birkaç Kanadalı haber ve medya şirketinin, makalelerini izinsiz kullandığı gerekçesiyle OpenAI'ye dava açmak için güçlerini birleştirdiği ve ihlal başına 20.000 Kanada doları (14.239 ABD doları) talep ettiği belirtildi. Bu da mahkeme kaybının şirkete milyarlarca dolara mal olabileceği anlamına geliyor.
Kaynak :
https://www.techspot.com/news/105802-na ... tions.html
