Yakın geçmişte siber suçlular siyah ekranların, karmaşık kodların ve anonim mesajların arkasına saklanıyordu. Ancak bugün tablo tamamen değişti. Artık bir dolandırıcı, canlı görüntülü görüşmede patronunuzun yüzüyle, çocuğunuzun sesiyle ya da üst düzey bir devlet yetkilisinin görüntüsüyle karşınıza çıkabiliyor.
Üstelik görülen ve duyulan her şey, saniyeler içinde yapay zeka algoritmaları tarafından oluşturulan dijital bir yanılsamadan ibaret olabiliyor. Teknik adıyla “gerçek zamanlı deepfake” teknolojisi, uzmanlara göre artık insan güvenini hedef alan en tehlikeli araçlardan biri haline geldi.
Arap Araştırmalar ve Çalışmalar Merkezi Yapay Zeka ve Siber Güvenlik Birimi Başkanı Muhammed Muhsin Ramazan, Al Arabiya'ya yaptığı açıklamada, bu teknolojinin eğlence amaçlı görsel efektleri aşarak dolandırıcılık, sosyal mühendislik ve küresel dijital güvenlik açısından ciddi tehdit oluşturduğunu söyledi.
“Canlı deepfake” nasıl çalışıyor?
Ramazan’a göre klasik deepfake sistemleri daha önce uzun saatler süren işleme süreçleri gerektirirken, yeni nesil sistemler canlı yayın sırasında yüz ve sesi anlık olarak değiştirebiliyor.
Uzman, bu teknolojinin güvenlik zincirinin en zayıf halkası olan “insan güvenini” hedef aldığını belirterek, insanların gördükleri ve duydukları şeye doğal olarak inandığını ancak yapay zekanın artık canlı yayınların bile güvenilirliğini ortadan kaldırdığını ifade etti.
Sistemin iki temel aşamayla çalıştığı belirtiliyor:
İlk aşamada kamera, hedef kişinin yüz hatlarını, göz hareketlerini ve mimiklerini anlık olarak analiz ediyor.
İkinci aşamada ise üretici yapay zeka ağları devreye girerek hedef kişinin yüzünü gerçek kişinin yüzüne doğal ifadeleri koruyacak şekilde yerleştiriyor.
Bununla birlikte yalnızca görüntü değil, ses de eş zamanlı olarak taklit ediliyor. Ses tonu, konuşma hızı ve telaffuz biçimi dudak hareketleriyle senkronize edilerek kurbanın şüphe duyması zorlaştırılıyor.
Finansal dolandırıcılıkta yeni dönem
Ramazan, büyük teknoloji şirketlerinin bu araçları sinema ve yayıncılık amacıyla geliştirdiğini ancak organize suç grupları ile hackerların bunları kısa sürede finansal dolandırıcılık aracına dönüştürdüğünü söyledi.
Uzman, dünyada büyük maddi kayıplarla sonuçlanan örneklerin yaşandığını belirtti. Bunlardan birinde uluslararası bir şirketin finans çalışanı, canlı görüntülü görüşmede “şirket CEO’sundan” acil para transferi talimatı aldı.
Görüntü, ses ve beden dili tamamen gerçek göründüğü için çalışan işlemi hemen gerçekleştirdi. Daha sonra ise gerçek yöneticinin olaydan habersiz olduğu ortaya çıktı.
Bu yöntemin “yapay zeka destekli sosyal mühendislik” olarak tanımlandığı belirtiliyor. Uzmanlara göre artık saldırılar yalnızca bilgisayar sistemlerini değil, doğrudan insan zihnini hedef alıyor.
Biyometrik güvenlik sistemleri de risk altında
Eski Mısır İçişleri Bakan Yardımcısı Halid eş-Şazeli ise en büyük tehlikenin bu teknolojinin yüz ve ses tanıma sistemlerini aşabilecek seviyeye ulaşması olduğunu söyledi.
Şazeli’ye göre saldırganlar bir kişinin biyometrik kimliğini gerçek zamanlı taklit edebilirse sahte hesaplar açabilir, belgeler düzenleyebilir ve hassas sistemlere erişebilir.
Bu nedenle yalnızca görüntü ve ses doğrulamasına dayanan güvenlik sistemlerinin artık yeterli olmadığı ifade ediliyor.
Yapay zekayı ele veren işaretler
Uzmanlar, deepfake sistemlerini tespit etmek için yeni savunma araçlarının geliştirildiğini belirtiyor.
Bu yöntemler arasında:
Göz hareketi ve göz kırpma analizi,
Göz bebeği tepkilerinin incelenmesi,
Ciltteki kan dolaşımından kaynaklanan renk değişimlerinin tespiti,
Ani hareket testleri gibi yöntemler yer alıyor.
Örneğin kişiden elini aniden yüzünün önüne getirmesi veya hızlı şekilde dönmesi istendiğinde dijital maskede kısa süreli bozulmalar oluşabiliyor.