OpenAI'nin Sora 2 modeli sahte videolar üretmede endişe yarattı

NewsGuard’ın araştırmasına göre, Sora 2’nin oluşturduğu videolar arasında Moldova’daki bir seçim yetkilisinin Rusya yanlısı oy pusulalarını yaktığı, ABD sınırında bir çocuğun gözaltına alındığı ve Coca-Cola’nın Bad Bunny’nin Super Bowl sahnesinden çekildiği yönündeki sahte içerikler yer alıyor. Araştırmacılar, modelin bu şekilde kötü niyetli dezenformasyon kampanyalarında kolayca kullanılabileceğine dikkat çekti.

OpenAI riskleri kabul ediyor

OpenAI, Sora 2’nin güvenlik risklerini resmî web sitesinde kabul etti. Model, izinsiz benzerlik kullanımı veya yanıltıcı içerikler üretebiliyor. Bu nedenle erişim sınırlı davet sistemi ile sağlanıyor ve foto-gerçekçi kişi içeren görsellerin veya videoların yüklenmesi yasaklanıyor.

Şirket, minörleri içeren içeriklerde sıkı denetim uygulanacağını ve güvenlik önlemlerinin kademeli olarak geliştirileceğini belirtti. OpenAI’ye göre Sora 2, önceki sürümlere kıyasla fiziksel gerçekçiliği, senkronize ses üretimini, yönlendirilebilirliği ve görsel çeşitliliği artırıyor.

Uzmanlar endişeli

Boston Üniversitesi’nden Doç. Michelle Amazeen, Sora 2’nin ürettiği videoların medya kullanıcıları için gerçeği yalandan ayırmayı daha da zorlaştırdığını söyledi. Daon yöneticisi Scott Ellis, modelin fiilen bir deepfake aracı olduğunu ve zararlı içeriklerde yüzde 80 başarısız olduğunu vurguladı. Regula Forensics CEO’su Arif Mamedov ise, Sora 2’nin artık endüstriyel ölçekte dezenformasyon üretimi için kullanılabileceğini belirtti.

Filigran önlemleri etkisiz

OpenAI, Sora 2 videolarına filigran ve dijital imza eklediğini açıklasa da, NewsGuard araştırmacıları filigranların dört dakika içinde kolayca kaldırılabildiğini ortaya koydu. Dijital medya uzmanı Jason Crawforth, en gelişmiş filigranların bile basit işlemlerle silinebileceğini belirtti.

Çözüm önerileri

Uzmanlar, dijital içerik doğrulamasında blok zinciri tabanlı kimlik sistemlerinin yaygınlaştırılmasını öneriyor. Bu yöntem, içeriğin kaynağını ve sahipliğini değiştirilemeyecek biçimde kayıt altına alarak manipülasyonu engelleyebiliyor.

Ancak mevcut durumda, Sora 2’nin yüksek kalitede sahte videoları dakikalar içinde üretebilmesi, dijital çağda “gerçeklik algısının giderek aşındığı” bir dönemin başlangıcına işaret ediyor.