1.100'den fazla kişi, tüm yapay zeka laboratuvarlarını GPT-4'ten daha güçlü yapay zeka sistemlerinin eğitimini en az altı ay süreyle durdurmaya çağıran açık bir mektubu imzaladı. Tanınan ve önemli imza sahiplerinin arasında bilgisayar bilimcilerinin yanı sıra Steve Wozniak, Evan Sharp, Elon Musk gibi teknoloji alanında önemli isimler bulunuyor.

Açık mektup, “insan-rekabetçi zekaya” sahip modern yapay zeka sistemlerinin toplumumuz için risk oluşturabileceği konusunda uyarıyor. Gerekli olan planlama ve yönetimin eksik olduğunu belirtiyor ve son aylarda yapay zeka laboratuvarlarının, hiç kimsenin anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrol dışı bir yarışa kilitlendiğini” iddia ediyor:

“Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda bizden sayıca üstün olabilecek, zekaca üstün olabilecek, modası geçmiş bizlerin yerini alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskini almalı mıyız? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir.”

Mektup, duraklamanın halka duyurulması, tüm önemli faktörleri içermesi ve doğrulanabilir olması gerektiğini söylüyor. Bu noktada, böyle bir duraklama hızlı bir şekilde yasalaştırılmazsa, hükümetlerin bir moratoryum başlatması gerektiğini de ekliyor. Ayrıca mektup, laboratuvarlardan genel olarak yapay zeka gelişimini duraklatmalarını istemediğini, ancak “sadece tehlikeli yarıştan, yeni ortaya çıkan yeteneklere sahip, her zamankinden daha büyük, öngörülemeyen kara kutu modellerinden geri adım atılmasını” istediğini vurguluyor.

Ayrıca, bekleme süresinin yapay zeka laboratuvarları ve bağımsız uzmanlar tarafından işbirliği yapmak ve “gelişmiş yapay zeka tasarımı ve geliştirmesi için titizlikle denetlenmiş bir dizi paylaşılan güvenlik protokolü” oluşturmak için kullanılabileceği de belirtiliyor. Mektup, OpenAI'den yapılan bir açıklamadan alıntı yaparken, imzacılar listesi, kurucu üyeler arasında yer alan Musk dışında araştırma laboratuvarından kimseyi içermiyor.

CHIP