Gelişen yapay zeka video oluşturma sistemleri ile insanlar yüz binlerce dolar dolandırılıyor

ANKARA (AA) - Gün geçtikçe gelişen yapay zekayla video oluşturma sistemleri kullanılarak Amerikalı milyarder Elon Musk, eski ABD Başkanı Donald Trump ve Amazon'un Üst Yöneticisi Jeff Bezos gibi tanınmış kişilerin görüntülerine sahte ses ve mimikler eklenerek yüz binlerce dolarlık dolandırıcılık yapılıyor.

Son dönemde yapay zeka video oluşturma ve ses manipülasyon sistemleriyle dolandırıcılığın yeni bir aşamaya geçtiği gözleniyor.

Bu sistemler, kişilerin banka bilgileri ve yatırımlarını çalmak için kullanılırken, manipüle edilen ses ve görüntüleri içeren "deepfake" adı verilen yöntem aracılığıyla suçlular kurbanlarını tuzağa düşürüyor.

Bu yöntemler kullanılarak yapılan dolandırıcılığın hedefi çoğu zaman, kripto parayla ilgilenen ancak güvenli internet kullanımı hakkında sınırlı bilgi sahibi olan yaşlılar oluyor.

Ünlü isimlerin "hızlı getiri vadeden radikal yatırım fırsatları" sunduğu ve ekonomiden söz ettiği bu sahte videolar aracılığıyla insanların var olmayan şirketlere yatırımlarda bulunmaları isteniyor.

Videolar aracılığıyla, hedef alınan kişilerden söz konusu yatırımlardan faydalanmaları için belirli hesaplara para göndermeleri talep ediliyor, karşılığında gönderdikleri paranın daha fazlasını kazanacakları vadediliyor.

Çok düşük bütçe ile oluşturulabilen videolar dakikalar içerisinde hazırlanıp, Facebook ve Youtube gibi popüler uygulamalarda reklam olarak yayınlanabiliyor.

Ünlü kişilerin aksanlarının taklit edilebildiği görüntülerde ayrıca sahte grafik ve haber sitesi logoları insanları yanıltmak için kullanılabiliyor.

Musk'ın tespit edilen 2 binden fazla "deepfake" videosuyla, söz konusu dolandırıcılık yönteminde en çok tercih edilen kişi olduğu belirtiliyor.

Öte yandan uzmanlar, "deepfake" videolarının "tamamen mükemmel" olmasa da gün geçtikçe gelişerek daha inandırıcı olmaya başladığını ifade ediyor.

New York Times'a konuşan siber güvenlik şirketi CTM Insights'ın kurucusu Lou Steinberg, organize suç örgütlerinin bu teknolojiyi kendi amaçları için kötüye kullanabileceğini farkına varmasıyla bu yönteme başvuranların gün geçtikçe artacağını belirtiyor.

New York Times'ın haberine göre, 82 yaşındaki emekli Steve Beauchamp, "deepfake" dolandırıcılığı mağdurlarından biri. Beauchamp, 2023'te "deepfake" Elon Musk reklamına aldanarak yatırımlarının çoğunu kaybetti.

Beauchamp, Musk'ın yüksek geri dönüşlü bir yatırım fırsatından bahsettiği videoyu izledikten sonra dolandırıcılara yaklaşık 690 bin dolar yolladığını söyledi.

Steve Beauchamp, izlediği görüntüdeki kişinin gerçekten Musk olduğunu sandığını belirterek polisi durumdan zamanında haberdar etmediği için pişman olduğunu ifade etti.

Bu yöntemle dolandırılanlar arasında çok uluslu şirket çalışanları da bulunuyor.

Nature'ın haberinde de Güney Afrikalı ürolog Kgomotso Mathabe ve Hint doktor Viswanathan Mohan'ın hikayelerine yer verildi.

Mathabe, "deepfake" yöntemi ile oluşturulmuş görüntülerinin bir internet reklamında kullanıldığını, çok sayıda dolandırıcılık mağduru tarafından rahatsız edilince fark etti.

Reklamda kendi görüntüsüyle yeni bir ilaç tanıtımı yapıldığını aktaran Mathabe, izleyicilerin hesap bilgilerinin çalındığı bir siteye yönlendirildiğini söyledi.

Hint doktor Viswanathan Mohan da internette yüzü kullanılarak oluşturulan ve bilmediği bir dilde uzman görüşü verdiği videoyla insanların dolandırıldığını keşfetti.

Mohan, bu görüntünün itibar suikastı olmasının yanı sıra hukuki açıdan problem oluşturduğunu kaydetti.

New York Times, söz konusu reklamlarda yüzü kullanılan Avustralyalı maden işletmecisi milyarder Andrew Forrest'ın da Facebook, Instagram ve WhatsApp'ın sahibi Meta'yı şikayet ettiğini yazdı.

Facebook'taki sahte reklamların "masum kullanıcıları kötü yatırımlara" çektiğini belirten Forrest'a verilen yanıt, "şirketin platformunda dolandırıcılığı yakalamak için otomatik tespit sistemlerini eğittiğini" açıklaması oldu.

"Deepfake"in yaygın olduğu bir diğer platform Youtube, 15,7 milyondan fazla kanalı ve 8,2 milyondan fazla videoyu, kurallarını ihlal ettiği için kaldırdığını açıkladı.

Şirket ayrıca içerik üreticilerinin gerçekçi içerik oluşturmak için yapay zeka kullandıklarında bunu açıklamalarını zorunlu hale getirdi.

Muhabir: Irmak Akcan,Ayşe İrem Tiryaki