Günümüzün AI modellerinin bazı çıkarımları, onlara hiper gerçekçi bir insan sesi eklemeden bile yeterince şaşırtıcıdır. Son 10 yılda birkaç etkileyici örnek gördük, ancak yenisi ortaya çıkana kadar sessiz kalıyorlar. Oculus'un eski CEO'su ve kurucu ortağı Brendan Iribe tarafından kurulan bir şirket olan Sesame AI'dan Miles ve Maya devreye giriyor.
Sesame AI araştırmacıları yeni bir konuşma modeli (CSM) başlattı. Bu gelişmiş sesli AI, Google (Duplex) ve OpenAI (Omni) gibi şirketlerden daha önce gördüğümüz olağanüstü insan benzeri niteliklere sahip. Demo, "Miles" (erkek) ve "Maya" (kadın) adlı iki AI sesini sergiliyor ve gerçekçiliği bazı kullanıcıları büyüledi. Ancak, teknolojiyi kendiniz denemek için iyi şanslar. Biz denedik ve yalnızca Sesame'in kapasiteye ulaşmaya çalıştığını söyleyen bir mesaj alabildik. Şimdilik, YouTube kanalı Creator Magic'in (aşağıda) sunduğu 30 dakikalık güzel bir demoyla yetinmek zorundayız.
Sesame'nin teknolojisi, metni ve sesi tek bir modelde işleyen ve daha doğal konuşma sentezi sağlayan çok modlu bir yaklaşım kullanır . Bu yöntem, OpenAI'nin ses modellerine benzer ve benzerlikler açıktır. İzole testlerde neredeyse insan kalitesine sahip olmasına rağmen, sistem hala konuşma bağlamı, tempo ve akışla mücadele ediyor - Sesame'nin sınırlamalar olarak kabul ettiği alanlar. Şirketin kurucu ortağı Brendan Iribe, teknolojinin "kesinlikle vadide" olduğunu kabul ediyor , ancak iyileştirmelerin açığı kapatacağı konusunda iyimserliğini koruyor.
Teknoloji çığır açıcı olsa da, toplumsal etkisiyle ilgili önemli sorular ortaya çıkardı. Teknolojiye verilen tepkiler hayret ve heyecandan rahatsız ve endişeli olmaya kadar çeşitlilik gösterdi. CSM, nefes sesleri, kıkırdamalar ve ara sıra kendini düzeltmeler gibi ince kusurları dahil ederek dinamik, doğal konuşmalar yaratır. Bu incelikler gerçekçiliğe katkıda bulunur ve teknolojinin gelecekteki yinelemelerde ürkütücü vadiyi aşmasına yardımcı olabilir.
Kullanıcılar, sistemin ifade gücünü övdüler, çoğu zaman gerçek bir insanla konuşuyormuş gibi hissettirdi. Hatta bazıları duygusal bağlar kurduklarını bile söyledi. Ancak, herkes demoya olumlu tepki vermedi. PCWorld'den Mark Hachman, kadın versiyonunun kendisine eski bir kız arkadaşını hatırlattığını belirtti . Sohbet robotu, sanki "yakınlık" kurmaya çalışıyormuş gibi ona sorular sordu ve bu onu aşırı derecede rahatsız etti.
"İstediğim bu değildi, hiç. Maya, Kim'in tavırlarını korkutucu derecede iyi kavramıştı: tereddütleri, bana güvendiğinde "sesini" alçaltması, bu tür şeyler," diye anlattı Hachman. "Tam olarak [eski sevgilim] gibi değildi, ama yeterince yakındı. Bu yapay zekayla konuşmaktan o kadar korkmuştum ki ayrılmak zorunda kaldım."
Birçok kişi Hachman'ın karışık duygularını paylaşıyor. Doğal tınılı sesler, benzer çabalarda gördüğümüz gibi rahatsızlığa neden oluyor. Duplex'i tanıttıktan sonra , kamuoyunun tepkisi o kadar güçlüydü ki Google, bir konuşmanın başında yapay zekanın insan olmadığını kabul etmesini zorlayan bariyerler inşa etmek zorunda hissetti. Yapay zeka teknolojisi daha kişisel ve gerçekçi hale geldikçe bu tür tepkileri görmeye devam edeceğiz. Bu tür asistanları yaratan halka açık şirketlerin Duplex'te gördüğümüze benzer güvenlik önlemleri oluşturmasına güvenebiliriz ancak dolandırıcılık robotları yaratan potansiyel kötü aktörler için aynı şeyi söyleyemeyiz. Muhalif araştırmacılar, Sesame'nin yapay zekasını çoktan jailbreak yaptıklarını, yalan söylemesi, entrika çevirmesi ve hatta insanlara zarar vermesi için programladıklarını iddia ediyorlar. İddialar şüpheli görünüyor, ancak kendiniz karar verebilirsiniz (aşağıda).
https://x.com/freemanjiangg/status/1896715133218410836
Herhangi bir güçlü teknolojide olduğu gibi, faydaları risklerle birlikte gelir. Aşırı gerçekçi sesler üretme yeteneği, suçluların sevdiklerini veya otorite figürlerini taklit ettiği sesli kimlik avı dolandırıcılıklarını güçlendirebilir. Dolandırıcılar, daha etkili dolandırıcılık kampanyaları oluşturarak ayrıntılı sosyal mühendislik saldırıları gerçekleştirmek için Sesame'nin teknolojisini kullanabilir. Sesame'nin mevcut demosu sesleri klonlamasa da, bu teknoloji de oldukça gelişmiştir.
Ses klonlama o kadar iyi hale geldi ki bazı insanlar kimlik doğrulaması için aile üyeleriyle paylaşılan gizli ifadeleri benimsedi bile . Yaygın endişe, ses sentezi ve büyük dil modelleri geliştikçe insanlar ve yapay zeka arasında ayrım yapmanın giderek zorlaşabileceğidir.
Sesame'nin gelecekteki açık kaynaklı sürümleri, siber suçluların her iki teknolojiyi de son derece erişilebilir ve ikna edici bir dolandırıcılık robotuna dönüştürmesini kolaylaştırabilir. Elbette, bu, özellikle müşteri hizmetleri ve teknik destek gibi sektörlerde, işgücü piyasası üzerindeki daha meşru etkilerini bile hesaba katmıyor.
Kaynak :
https://www.techspot.com/news/107033-cr ... -both.html
