Yapay zeka çağında siber tehditler artık yalnızca zararlı bağlantılar, virüslü dosyalar veya geleneksel kötü amaçlı yazılımlarla sınırlı değil. Uzmanlara göre dijital saldırılar artık akıllı telefon ekranına düşen sıradan bir bildirimle bile başlayabiliyor.
Güvenlik raporlarına göre, Android işletim sistemli cihazlarda kullanılan Google Gemini yapay zeka sistemini hedef alan kritik bir güvenlik açığı tespit edildi. “Dolaylı komut enjeksiyonu” (Indirect Prompt Injection) adı verilen yöntemle çalışan açık, yapay zeka destekli yeni nesil siber tehditlerin önünü açıyor.
“Son derece tehlikeli bir gelişme”
Arap Araştırma ve Çalışmalar Merkezi Yapay Zeka ve Siber Güvenlik Birimi Başkanı Muhammed Muhsin Ramazan, olayın yalnızca cihazları değil, yapay zeka sistemlerinin düşünme ve modelleme mekanizmalarını hedef aldığını belirterek bunun son derece tehlikeli bir gelişme olduğunu söyledi.
Ramazan, teknoloji şirketlerinin verimliliği artırmak amacıyla üretken yapay zekâ modellerini işletim sistemlerine entegre etmeye çalışırken, saldırganların da bu teknolojileri istismar edecek yeni yöntemler geliştirdiğine dikkat çekti.
Uzman, tespit edilen açığın “Sahte Bağlam Hizalaması” (Fake Context Alignment) tekniğine dayandığını belirtti. Bu yöntemle saldırganlar, yapay zekaya normal ve meşru görünen bir bağlam sunarken aslında modelin davranışlarını manipüle etmeyi amaçlayan gizli komutlar yerleştiriyor.
Mesajlaşma uygulamaları üzerinden çalışıyor
Ramazan’a göre açığın en kritik yönü, Gemini içindeki “Android Utilities” adlı akıllı işlevi hedef alması. Bu özellik, bildirimler ve uyarılar dahil olmak üzere çeşitli uygulamalardan gelen verileri okuyup işleyebiliyor.
Olası saldırı senaryolarında saldırganlar, gizli talimatlar içeren mesajları WhatsApp, Signal, Messenger, Slack, Instagram veya SMS gibi yaygın mesajlaşma uygulamaları üzerinden gönderiyor.
Mesaj telefona ulaşıp bildirim oluşturduğunda Gemini bu içeriği normal veri olarak işlemeye başlıyor. Açığın ortaya çıktığı nokta da burada. Sistem, bazı bölümleri yalnızca okunacak içerik olarak değil, doğrudan kendisine verilmiş operasyonel komutlar olarak algılayabiliyor. Böylece saldırganların telefona sızmasına veya kötü amaçlı yazılım yüklemesine gerek kalmıyor.
“Bağlam mühendisliği saldırıları” dönemi
Mısır eski İçişleri Bakan Yardımcısı Muhammed Recai ise yaşananları “Bağlam Mühendisliği Saldırıları” (Context Engineering Attacks) olarak adlandırılabilecek yeni bir tehdit döneminin başlangıcı olarak değerlendirdi.
Recai, artık hedefin yazılım kodlarındaki açıklar değil, yapay zekânın bilgileri yorumlama biçimi olduğunu belirterek, siber güvenliğin kapsamının yapay zekâ sistemlerinin zihinsel süreçlerini manipülasyondan koruyacak şekilde genişlediğini ifade etti.
Bu mücadelenin önümüzdeki yılların en önemli güvenlik başlıklarından biri olacağını söyleyen Recai, bilinmeyen kaynaklardan gelen bildirimlerin hafife alınmaması gerektiği konusunda uyardı. Ona göre yapay zekâ sistemlerine duyulan aşırı güven risk oluşturuyor; çünkü modeller her zaman sıradan içerik ile ustaca gizlenmiş talimatları ayırt edemeyebiliyor.
Uzmanlardan korunma önerileri
Uzmanlar, bu tür tehditlere karşı şu önlemlerin alınmasını tavsiye ediyor:
Güvenlik güncellemelerini yayımlandığı anda yüklemek,
Yapay zeka uygulamalarına verilen bildirim okuma ve işleme izinlerini gözden geçirmek,
Gereksiz akıllı yardımcı özelliklerini devre dışı bırakmak,
Güvenilir olmayan kaynaklardan gelen mesaj ve bildirimlerle etkileşime girmemek,
Şüpheli bağlantıları açmaktan kaçınmak.
