Üst düzey bir yapay zeka güvenliği araştırmacısı, “birbiriyle bağlantılı krizler” konusunda gizemli bir uyarıda bulunarak Anthropic’ten istifa ettiğini açıkladı ve bir süreliğine “görünmez olmayı” planladığını duyurdu.
Oxford mezunu olan ve Claude adlı sohbet botunu geliştiren şirketin Güvenlik Araştırmaları Ekibi’ne liderlik eden Mrinank Sharma, Pazartesi günü X platformunda istifa mektubunu paylaştı. Mektubunda, “içinde bulunduğumuz duruma” ilişkin artan kişisel bir hesaplaşmadan söz etti.
Sharma, çalışma arkadaşlarına hitaben, “Dünya tehlikede. Ve bu yalnızca yapay zekadan ya da biyolojik silahlardan değil, tam şu anda ortaya çıkan birbiriyle bağlantılı krizler silsilesinden kaynaklanıyor” ifadelerini kullandı.
Bu ayrılık, merkezi San Francisco’da bulunan yapay zeka laboratuvarında artan gerilimlerin ortasında geldi. Şirket bir yandan daha güçlü sistemler geliştirmek için yarışırken, yöneticileri aynı teknolojilerin insanlığa zarar verebileceği konusunda uyarılarda bulunuyor. Ayrıca, Anthropic ile Pentagon arasında, ordunun şirketin getirmek istediği güvenlik önlemleri olmadan yapay zekayı otonom silah hedeflemesinde kullanma isteği nedeniyle görüş ayrılığının büyüdüğüne dair haberlerin ardından gerçekleşti.
Sharma’nın istifası, Anthropic’in amiral gemisi Claude aracının daha güçlü bir versiyonu olan Opus 4.6’yı yayımlamasından yalnızca birkaç gün sonra geldi ve şirket içinde güvenlik önceliklerine ilişkin sürtüşmeler olduğuna işaret etti.
“Buradaki görev sürem boyunca, değerlerimizin eylemlerimizi gerçekten yönlendirmesine izin vermenin ne kadar zor olduğunu defalarca gördüm” diye yazdı. “Bunu hem kendi içimde hem organizasyon içinde, en önemli olanı bir kenara bırakmamız yönündeki baskılarla sürekli karşılaştığımız durumlarda ve daha geniş toplumda da gördüm.”
Sharma’nın ekibi bir yıldan biraz daha uzun süre önce, “modelin kötüye kullanımı ve hizasızlık”, biyoterörizmin önlenmesi ve “felaket önleme” gibi yapay zeka güvenlik tehditleriyle mücadele etmek amacıyla kurulmuştu.
Sharma, yapay zeka destekli biyolojik silahlara karşı savunma geliştirme çalışmalarından ve “yapay zeka asistanlarının bizi nasıl daha az insan yapabileceğini veya insanlığımızı nasıl çarpıtabileceğini anlamaya yönelik son projesinden” gurur duyduğunu belirtti. Şimdi ise İngiltere’ye dönmeyi, ve bir süreliğine “görünmez olmayı” planladığını açıkladı.
Anthropic CEO’su Dario Amodei, şirketinin ticarileştirdiği teknolojinin taşıdığı riskler konusunda defalarca uyarıda bulundu. Geçen ay yaklaşık 20 bin kelimelik bir makalede, “neredeyse hayal edilemeyecek güçte” yapay zeka sistemlerinin “çok yakında” olduğunu ve bunun “insanlık olarak kim olduğumuzu sınayacağını” ifade etti.
Amodei, yapay zekanın “kontrolden çıkıp insanlığı alt etmesi” gibi “özerklik riskleri”ne dikkat çekti ve bu teknolojinin yapay zeka destekli gözetim ve otonom silahlar aracılığıyla “küresel bir totaliter diktatörlüğe” zemin hazırlayabileceğini öne sürdü.
