Deepfake teknolojisi gelişmeye devam ettikçe, kötüye kullanım potansiyeli de artıyor. Mevcut araçlar hala kullanıcıların tavırları, sesi ve diğer ayrıntıları taklit etmesini gerektirse de, ses klonlama ve video sentezindeki gelişmeler, gerçek zamanlı olarak dijital doppelgänger'lar yaratmayı daha da ikna edici hale getirebilir.

Son birkaç gündür Deep-Live-Cam adlı yeni bir yazılım paketi sosyal medyada dalgalar yaratıyor ve inanılmaz bir kolaylıkla gerçek zamanlı deepfake'ler yaratma becerisiyle dikkat çekiyor. Yazılım bir kişinin tek bir fotoğrafını çekiyor ve yüzünü canlı bir web kamerası akışına uygulayarak kişinin pozunu, aydınlatmasını ve web kamerasındaki ifadelerini izliyor. Sonuçlar kusursuz olmasa da, teknolojinin hızlı ilerlemesi yapay zeka ile başkalarını aldatmanın ne kadar kolaylaştığını vurguluyor.



https://x.com/jay_wooow/status/1821989710207840730

Deep-Live-Cam projesi geçen yılın sonlarından beri geliştiriliyor , ancak örnek videolar çevrimiçi olarak dolaşmaya başladıktan sonra son zamanlarda viral ilgi gördü. Bu klipler, bireylerin Elon Musk ve George Clooney gibi önemli şahsiyetleri gerçek zamanlı olarak taklit ettiğini gösteriyor.

Popülerlikteki ani artış, açık kaynaklı projeyi kısa süreliğine GitHub'ın trend olan depoları listesinde zirveye taşıdı. Ücretsiz yazılım GitHub'dan edinilebilir ve bu da onu programlama konusunda temel bir anlayışa sahip olan herkesin erişimine açık hale getirir.

Deep-Live-Cam'in potansiyel kötüye kullanımı teknoloji gözlemcileri arasında endişeye yol açtı. İllüstratör Corey Brickley, en son çığır açan teknolojilerin çoğunun kötüye kullanılmaya hazır olduğu konusunda bir aydınlanma yaşadı. Brickley, "Son zamanlarda teknolojiden çıkan tüm büyük yeniliklerin Sahtekarlık beceri ağacının altında olması ne kadar tuhaf," diye tweet attı ve ekledi, "Herkesin ebeveynleri ile şifreli kelimeler oluşturmayı unutmaması güzel."



https://x.com/TheCartelDel/status/1822821992791486754

Brickley'nin yorumu kasıtlı olarak alaycı olsa da, kötü aktörlerin bu tür araçları aldatma için kullanma potansiyelini vurguluyor. Deepfake teknolojilerinin yaygınlığı ve erişilebilirliği göz önüne alındığında, kimliğinizi ailenize ve arkadaşlarınıza doğrulamak için güvenli bir kelime belirlemek o kadar da çılgın bir fikir değil.

Yüz değiştirme teknolojisi kendi başına yeni bir şey değil. " Deepfake " terimi 2017'den beri var. Bunu bir takma ad olarak kullanan bir Reddit kullanıcısından kaynaklandı. Reddit kullanıcısı sıklıkla bir porno sanatçısının yüzünü bir ünlünün yüzüyle değiştirdiği resimler ve videolar paylaşıyordu. O zamanlar teknoloji yavaştı, pahalıydı ve gerçek zamanlı olmaktan uzaktı. Ancak bu ilkel teknikler inanılmaz bir ölçüde gelişti. Deep-Live-Cam ve diğerleri gibi projeler daha akıllı ve daha hızlıdır ve giriş engelini düşürerek standart bir PC'ye sahip herkesin özgür yazılım kullanarak deepfake oluşturmasına olanak tanımıştır.

Suistimal potansiyeli artık iyice belgeleniyor.

Şubat ayında Çin'deki dolandırıcılar , CFO da dahil olmak üzere şirket yöneticilerini bir görüntülü görüşmede taklit ederek bir çalışanı 25 milyon ABD doları üzerinde para transferi yapmaya kandırdı. Çalışan, konferans görüşmesindeki tek gerçek kişiydi. Benzer bir durumda, ABD'de biri yakın zamanda New Hampshire ön seçimlerinde oy kullanmaktan insanları caydırmak için Joe Biden'ın sesini kopyaladı . Deep-Live-Cam gibi gerçek zamanlı deepfake yazılımlarının yükselişiyle, uzaktan video dolandırıcılığı vakaları daha yaygın hale gelebilir ve yalnızca kamu figürlerini değil sıradan bireyleri de etkileyebilir.

Kaynak :
https://www.techspot.com/news/104289-re ... eling.html

Ürkütücü. Ve rahatsız edici. Kandırma dolandırma aldatma sahtekarlık gibi kötü amaçla kullanılabilir. Suistimale çok ama çok açık...