Şu anda ürkütücü vadi noktasını çoktan geçmiş olabiliriz. OmniHuman-1'in sahte videoları şaşırtıcı derecede gerçekçi görünüyor ve modelin deepfake çıktıları belki de bugüne kadarki en gerçekçi çıktılar. Sistemin bu videoları sıfırdan oluşturmak için yalnızca tek bir fotoğrafa ve bir ses klibine ihtiyacı var. Ayrıca en boy oranı ve vücut çerçeveleme gibi öğeleri de ayarlayabilirsiniz. Yapay zeka, vücut hareketleri ve jestler gibi şeyleri ürkütücü derecede gerçekçi şekillerde düzenleyerek mevcut video görüntülerini bile değiştirebilir.
Elbette, sonuçlar %100 mükemmel değil. Bazı pozlar biraz tuhaf görünüyor, şarap kadehi tutmanın bu garip örneği gibi.
Ayrıca, Einstein'ın ellerinin garip yönlere doğru büküldüğü yapay zeka tarafından işlenmiş bir dersi de var. Yüzü neredeyse mükemmel bir şekilde işlenmiş. Yine de genel kalite, önceki deepfake tekniklerinin çok ötesinde.
OmniHuman-1, perde arkasında, metin istemleri, ses ve vücut pozları gibi birden fazla girdi kaynağından aynı anda öğrenmesini sağlayan yeni bir "omni-koşullar" yaklaşımı kullanılarak 18.700 saatlik video verisi üzerinde eğitildi. ByteDance araştırmacıları, bu daha geniş eğitim verilerinin, yapay zekanın eski deepfake modellerine kıyasla "veri israfını önemli ölçüde azaltmasına" yardımcı olduğunu söylüyor.
Bu teknolojinin etkileri endişe verici. Deepfake'ler son birkaç yıldır yanlış bilgilendirme kampanyaları, dolandırıcılık ve her türlü kötü niyetli amaç için silah olarak kullanılıyor. 2024 seçim döneminde seçmenleri yanıltmak için deepfake ses ve videoların yayılmasıyla ilgili çok sayıda olay yaşandı.
Finansal dolandırıcılıklar geçen yıl da insanları milyarlarca dolandırdı. Dikkat çeken bir vaka, yapay zekayı kullanarak Brad Pitt gibi davranan bir dolandırıcının geçen ay bir kadını 850.000 dolar göndermesi için kandırmasıydı.
Bu olayları göz önünde bulundurarak, yüzlerce AI etik uzmanı geçen yıl deepfake düzenlemeleri için yalvardı. Birkaç ABD eyaleti kötü niyetli deepfake'lere karşı yasalar çıkardı bile, ancak hala kapsamlı bir federal mevzuat yok.
Örneğin Kaliforniya, yargıçların insanları deepfake'leri kaldırmaya zorlamalarına ve bunları yayınlamak için para cezasıyla karşılaşmalarına izin verecek bir yasayı yürürlüğe koymanın eşiğindeydi. Ancak, bu yasa tasarısı yasama sürecinde tıkandı.
ByteDance, OmniHuman-1'i henüz genel kullanıma sunmadı, ancak model hakkında bir makale okuyabilirsiniz .
Kaynak :
https://www.techspot.com/news/106648-by ... istic.html