Yapay zekâ güvenliği araştırmacısı Roman Yampolski, bu teknolojinin hızlı gelişiminin insanlığın yok oluşuna yol açabileceği konusunda uyarıda bulunarak, bu felaket senaryosunun önümüzdeki 100 yıl içinde gerçekleşme olasılığını yüzde 99,9 olarak tahmin ediyor.
Yampolski’nin uyarıları, mevcut tüm yapay zekâ sistemlerinin yeterli güvenlik garantilerinden yoksun olduğu gözlemine dayanıyor. Araştırmacı, gelecek nesil yapay zekâ modellerinin bu temel sorunları çözeceğine dair bir umut görmediğini de belirtiyor.
Bu görüş yalnız değil. Alanın öncülerinden bazıları da dahil olmak üzere birçok uzman, yapay zekânın potansiyel tehlikeleri konusunda benzer endişeler taşıyor. Yampolski’nin “Yapay Zekâ: Açıklanamaz, Öngörülemez, Kontrol Edilemez” adlı kitabı da bu riskleri detaylandırıyor ve yapay zekânın davranışlarının nedenlerini anlamanın veya sonuçlarını öngörmenin zorluğu gibi temel tehlikelere dikkat çekiyor.
Kitap ayrıca, bu teknoloji üzerinde kimin kontrol sahibi olacağı, ortaya çıkabilecek istem dışı sonuçlar ve yapay zekânın bilinç ya da kişilik sahibi olma ihtimali gibi daha karmaşık soruları da ele alıyor.
Yampolski gibi karamsar uzmanların yanında, daha ılımlı tahminler sunan araştırmalar da bulunuyor. Oxford ve Bonn üniversiteleri tarafından yürütülen ve 2700’den fazla uzmanın görüşünü içeren bir araştırma, yapay zekânın insanlığın yok olmasına yol açma ihtimalini sadece yüzde 5 olarak hesapladı.
Araştırmacı Katja Grace’e göre uzmanlar tehdidin varlığında hemfikir olsa da, asıl tartışma bu tehdidin büyüklüğünün ne olduğu konusunda yaşanıyor.
Öte yandan Google Brain’in kurucu ortağı Andrew Ng ve yapay zekâ öncüsü Yann LeCun gibi önemli isimler, insanlığın tamamen yok olması düşüncesini reddediyor. LeCun, bazı abartılı uyarıların bilimsel değil başka amaçlara hizmet edebileceğini savunuyor.
OpenAI CEO’su Sam Altman da tartışmalı açıklamalarda bulunarak yapay zekânın “gerçek iş” olarak nitelendirilmemesi gereken çok sayıda işi yok edeceğini söylemiş ve geniş çaplı eleştirilerin hedefi olmuştu. Altman ayrıca bu teknolojinin mevcut “toplumsal sözleşmede” köklü değişikliklere yol açacağını da öngörüyor.
Altman’ın 2015 yılında yaptığı ve çokça alıntılanan açıklaması ise şöyleydi:
“Yapay zekâ muhtemelen dünyanın sonuna yol açacak; ama ondan önce büyük şirketler yaratacak.”
