Çoğu arama motoru artık kullanıcılara varsayılan olarak yapay zeka tarafından oluşturulmuş özetler sunuyor ve bu durum doğruluk ve tıklama kaybı endişeleriyle ilgili tartışmalara yol açıyor. Testler Google'ın yapay zeka özetlerinin çoğu zaman doğru olduğunu gösterse de, arama motorunun her gün işlediği muazzam sorgu hacmi muhtemelen milyonlarca yanlış yanıta neden oluyor.
New York Times'a göre, yapılan testler Google yapay zeka arama sonuçlarının yaklaşık onda birinin yanlış bilgi içerdiğini gösteriyor. Arama motorunun yılda yaklaşık 5 trilyon sorguyu işlediği göz önüne alındığında, kullanıcılar her saatte 57 milyondan fazla, yani dakikada yaklaşık 1 milyon yanlış cevaba maruz kalabilirler.
Bu rakamlar, Times gazetesinin Gemini'nin doğruluğunu yaygın olarak kullanılan bir üretken yapay zeka kıyaslama aracı olan SimpleQA kullanarak değerlendirmesini istediği yapay zeka girişimi Oumi'den geliyor . 4.326 Google aramasını analiz ettikten sonra Oumi, Google'ın yapay zeka asistanı Gemini'nin 2. sürümünün Ekim ayında %85 oranında doğru sonuçlar ürettiğini tespit etti. Şubat ayına gelindiğinde ise Gemini 3 bu oranı %91'e çıkarmıştı.
Ancak Oumi, büyük miktarda sonucu yalnızca yapay zeka araçlarına dayanarak değerlendirebilir ve bu da hatalara yol açabilir. Ayrıca Google, aynı sorgu için, saniyeler arayla tekrarlandığında bile bazen farklı yapay zeka özetleri üretebilir.
Google sözcüsü, Oumi'nin testlerinin kusurlu olduğunu ve gerçek dünya arama davranışını yansıtmadığını savundu. Şirketin dahili testleri, Gemini 3'ün Google Arama'dan bağımsız olarak çalışırken %28 oranında yanıltıcı sonuçlar verdiğini gösteriyor.
Kaynak bulma da başka bir zorluk teşkil ediyor. Google, yapay zeka genel bakış sonuçlarını ilgili bağlantılarla desteklemeye çalışıyor, ancak bu kaynaklar genellikle Gemini'nin iddialarını (doğru olsun ya da olmasın) doğrulamıyor.
Bazı durumlarda, yanlış bir yapay zeka özetinin hemen ardından doğru bilgileri içeren bir bağlantı gelir; diğerlerinde ise doğru bir özet, yanlış bilgi içeren bir kaynağa atıfta bulunur; ve bazen bağlantılı sayfalar hiç ilgili bilgi içermez. Özellikle, yapay zeka özetleri ile kaynakları arasındaki tutarsızlıklar Şubat güncellemesinden sonra artarak Gemini 2 ile yapılan aramalarda %37'den Gemini 3 ile %56'ya yükselmiştir.
Araştırmacılar ayrıca yapay zekâya ilişkin genel değerlendirmelerin manipülasyona açık olduğunu da tespit etti. Bir örnekte, bir BBC gazetecisi yanlış bilgiler içeren bir blog yazısı yayınladı ve daha sonra Google'ın bu iddiaları ertesi gün tekrarladığını gördü.
Dikkat çekici bir şekilde, Google ve diğer yapay zeka şirketleri, teknolojinin gerçekle olan kırılgan ilişkisini ince ayrıntılarda kabul ediyor. Microsoft'un hizmet şartları, Copilot yapay zeka aracının önemli kararlar almak için değil, eğlence amaçlı olduğunu belirtiyor . Google'ın yapay zeka genel bakışları, kullanıcılara yanıtları iki kez kontrol etmelerini tavsiye ederken, xAI halüsinasyonların meydana gelebileceğini kabul ediyor.
Kaynak :
https://www.techspot.com/news/111984-go ... times.html
