ABD’deki Stanford Üniversitesi’nde yapılan bir deney, yapay zekaya dayalı siber saldırı (hackleme) araçlarının, yıllar süren başarısız denemelerin ardından son dönemde çok hızlı bir gelişim gösterdiğini ve artık bazı insan hacker’lardan daha iyi performans sergilemeye başladığını ortaya koydu.
Geçtiğimiz yıl Stanford Üniversitesi araştırmacıları, “Artemis” adlı bir yapay zeka robotunu test etti. Artemis’in çalışma yöntemi, Çinli hacker’ların büyük yabancı hükümet ve şirket platformlarını hedef almak için Anthropic şirketine ait Claude adlı yapay zekâ programını kullandıkları yönteme benziyor. Söz konusu saldırılar, Anthropic tarafından geçtiğimiz kasım ayında kamuoyuna açıklanmıştı. Kısaca Artemis, bir ağı olası yazılım açıkları açısından tarıyor ve ardından bu açıkların nasıl istismar edilebileceğini araştırıyor.
Stanford ekibi, Artemis’i üniversitenin kendi mühendislik fakültesi ağında güvenlik açıkları bulmak için kullandı ve robotun performansını profesyonel insan hacker’ların performansıyla karşılaştırdı. Deneyin sonuçları, çarşamba günü yayımlanan bir akademik makalede paylaşıldı.
Araştırmayı yürüten siber güvenlik uzmanı Justin Lin ve ekibi, başlangıçta Artemis’in yüksek bir başarı göstermesini beklemiyordu. Bunun nedeni, yapay zeka araçlarının siber saldırılarda genellikle başarısız olmasıydı; çünkü bu tür saldırılar, karmaşık test zincirleri yürütmeyi, elde edilen sonuçları analiz etmeyi ve buna göre karar almayı gerektiriyor.
Lin, Wall Street Journal’a yaptığı açıklamada, “Performansının ortalamanın altında olacağını düşünüyorduk” dedi. Ancak sonuçlar beklentilerin tam tersini gösterdi. Artemis son derece iyi bir performans sergiledi ve deneyde yer alan insan hacker’ların tamamını, yalnızca bir kişi hariç, geride bıraktı.
Araştırma makalesine göre Artemis, güvenlik açıklarını çok yüksek bir hızla ve düşük maliyetle tespit etmeyi başardı. Robotun saatlik çalışma maliyeti 60 doların altında kalırken, insan hacker’lar günlük 2.000 ila 2.500 dolar arasında ücret talep ediyor. Buna karşın Artemis’in tespitlerinin yüzde 18’i yanlış alarm niteliği taşıdı. Ayrıca çoğu insan hacker’ın kolaylıkla fark ettiği, bir web sayfasındaki bariz bir güvenlik açığını tespit edemedi.
Stanford Üniversitesi Bilgisayar Bilimleri Profesörü Dan Boneh, Artemis gibi araçların uzun vadede ağları hacker’lara karşı savunanlar için büyük bir avantaj olacağını, ancak kısa vadede bazı riskler doğurabileceğini ifade etti. Boneh, “Yapay zeka modelleri üzerinden yeterince denetlenmeden piyasaya sürülen çok sayıda yazılım var. Bu da henüz keşfedilmemiş çok sayıda güvenlik açığı barındırdıkları anlamına geliyor” dedi.
Boneh’e göre bu durum, farklı aktörlerin yapay zeka araçlarını kullanarak bu açıkları tespit etmeye ve veri toplamak ya da sistemlere sızmak amacıyla istismar etmeye yönelmesine yol açabilir.