Wikipedia şu anda yapay zeka sayesinde bir düzenleme krizinin ortasında. İnsanlar web sitesini ChatGPT gibi büyük dil modelleri tarafından hayal edilen saçma bilgilerle doldurmaya başladı. Ama dürüst olmak gerekirse, bunu kim görmedi ki?
Düzeltme (10/11/24): Lebleu, kullanıcının AI tarafından üretilen materyali ve belirtilen örnekleri yayınlamasının ardındaki motivasyonlarla ilgili birkaç ayrıntıyı açıklığa kavuşturmak için bize ulaştı. Bu değişiklikler orijinal metne uygulandı.
Düzenlenen makale aşağıda devam ediyor.
Wikipedia'nın WikiProject AI Cleanup adında yeni bir girişimi var . Bu, şu anda Wikipedia makalelerini tarayan, üretken AI kullanan kişiler tarafından yayınlanmış gibi görünen yanlış bilgileri düzenleyen veya kaldıran gönüllülerden oluşan bir görev gücüdür.
Temizlik ekibinin kurucu üyelerinden Ilyas Lebleu, 404 Media'ya krizin, Wikipedia editörleri ve kullanıcılarının bir tür sohbet robotu tarafından yazıldığı açıkça belli olan pasajlar görmeye başlamasıyla başladığını söyledi. Ekip, ChatGPT kullanarak bazı pasajları yeniden oluşturarak teoriyi doğruladı.
1: Yapay zeka, Vikipedi'deki olayları, tarihi figürleri, tüm kavramları halüsinasyona uğratıyor
2: Vikipedi editörlerinden oluşan bir görev gücü bu bilgileri tespit edip siliyor https://t.co/PlfzVCZd4P
"Birkaçımız, yapay zeka tarafından üretildiği açıkça görülen doğal olmayan yazıların yaygınlığını fark etmiştik ve ChatGPT kullanarak benzer 'stilleri' kopyalamayı başardık," dedi Lebleu. "Bazı yaygın yapay zeka sloganlarını keşfetmek, üretilen makalelerin en çirkin örneklerinden bazılarını hızla tespit etmemizi sağladı ve bunları bulgularımızı ve tekniklerimizi derlemek için hızla organize bir projeye dönüştürmek istedik."
Örneğin, 1400'lerde inşa edilen "Amberlisihar" adlı bir Osmanlı kalesi hakkında bir makale var. 2.000 kelimelik makale, bu simgenin yerini ve yapısını ayrıntılı olarak anlatıyor. Ne yazık ki, Amberlisihar mevcut değil ve hakkındaki tüm bilgiler, ona biraz güvenilirlik kazandıracak kadar gerçek bilgiyle serpiştirilmiş tam bir halüsinasyon. Ekip, bunu bir aldatmaca olarak tanımladı ve sildi.
Temizlik ekibi bunun neden yaşandığına dair üç temel neden olduğunu düşünüyor.
Lebleu, "Editörleri yapay zeka tarafından üretilen içerik eklemeye motive eden başlıca nedenler: kendini tanıtma, kasıtlı aldatmaca ve üretilen içeriğin doğru ve yapıcı olduğuna dair yanlış bilgilendirilme," dedi.
Ancak dürüst olalım - bu maymun işine katkıda bulunan iki ana faktör var. Birincisi, Wikipedia'nın modelindeki içsel bir sorun - platformda herkes editör olabilir. Birçok üniversite, tam da bu nedenle Wikipedia'ya atıfta bulunan makaleleri teslim eden öğrencileri kabul etmiyor.
İkincisi, internetin her şeyi mahvetmesidir. Bunu defalarca gördük, özellikle de AI uygulamalarında. Microsoft'un kaba ve ırkçı tweetler atmaya başladığında 24 saatten kısa bir sürede çekilen Twitter botu Tay'ı hatırlıyor musunuz? Daha modern AI uygulamaları da , Kindle'da deepfake'lerde , gülünç AI tarafından oluşturulmuş kürek yazılım kitaplarında ve diğer dalaverelerde gördüğümüz gibi kötüye kullanıma karşı aynı derecede hassastır .
Kamuoyunun bir şeye neredeyse sınırsız bir şekilde erişmesine izin verildiğinde, kullanıcıların küçük bir yüzdesinin bunu kötüye kullanmasını bekleyebilirsiniz. 100 kişiden bahsettiğimizde, bu büyük bir sorun olmayabilir, ancak milyonlarca kişiden bahsettiğimizde, bir sorun yaşarsınız. Bazen, yasadışı kazanç içindir. Diğer zamanlarda, sadece yapabildikleri içindir. Wikipedia'nın şu anki durumu da böyledir.
Kaynak :
https://www.techspot.com/news/105093-wi ... sense.html
