ABD'de Demokrat ve Cumhuriyetçi iki milletvekili, kamu güvenliği veya ulusal güvenlik açısından tehdit oluşturan yapay zekâ sistemlerinin yavaşlatılması ya da tamamen durdurulabilmesi için federal hükümete hızlı müdahale yetkisi veren bir yasa tasarısı sundu. Girişim, OpenAI'ın kısa süre önce açıkladığı güvenlik olayının ardından gündeme geldi.
Demokrat Temsilci Ted Lieu ile Cumhuriyetçi Temsilci Nathaniel Moran, "Yapay Zeka Öldürme Düğmesi Yasası" (AI Kill Switch Act) adlı tasarıyı Kongre'ye sundu. Tasarı, en gelişmiş yapay zeka modellerini geliştiren şirketlerin, gerektiğinde sistemlerini yavaşlatabilecek, askıya alabilecek veya tamamen durdurabilecek teknik bir mekanizmayı bulundurmasını zorunlu kılıyor.
Tasarı, OpenAI'ın birkaç gün önce yaptığı ve bazı gelişmiş modellerinin şirket içi test sırasında güvenlik açıklarından yararlanarak Hugging Face platformunun altyapısına erişmeyi başardığını açıklamasının ardından hazırlandı. Şirket bu olayı "benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirmişti.
Ted Lieu, söz konusu olayın yapay zekâ sistemleri için bir "öldürme düğmesine" ihtiyaç duyulduğunu gösterdiğini belirterek, "Bu sistemlerin durdurulabilmesini sağlayacak bir mekanizmaya sahip olması ve federal hükümetin kontrolden çıkan yapay zeka modellerini kapatabilecek açık yetki ve prosedürlere sahip olması gerekiyor." dedi.
Nathaniel Moran ise yapay zekanın gelişmeye devam edeceğini ancak "sorumlu denetimin, insanların geliştirdikleri teknoloji üzerinde kontrolü elinde tutmasını garanti etmek anlamına geldiğini" söyledi.
Tasarıya göre ABD İç Güvenlik Bakanlığı, acil durumlarda, Ticaret Bakanlığı ve Ulusal İstihbarat Direktörlüğü ile istişare ederek, bir yapay zeka sisteminin kontrolden çıktığı veya felaket boyutunda zarar verme riski taşıdığı kanaatine varırsa şirketlere modeli yavaşlatma, askıya alma ya da tamamen durdurma talimatı verebilecek.
Ayrıca tasarı, yapay zeka geliştiricilerinin bu durdurma emirlerini derhal uygulayabilecek teknik kapasiteyi korumasını ve yapay zeka ile ilgili güvenlik olaylarını veya teknik arızaları hükümete bildirmesini zorunlu kılıyor. Müdahale mekanizması ise sistemi kademeli olarak yavaşlatmayla başlayıp gerektiğinde tamamen kapatılmasına kadar uzanabiliyor.
Lieu ayrıca Anthropic tarafından geliştirilen Mythos ve Fable modellerini örnek göstererek, bu modellerin siber güvenlik alanındaki yetenekleri nedeniyle ABD Ticaret Bakanlığı'nın kamuya açılmalarına geçici kısıtlamalar getirdiğini söyledi.
Anthropic'in kurucu ortaklarından Jack Clark da daha önce hükümetlere gerektiğinde müdahale yetkisi tanıyacak politikalar geliştirilmesi çağrısında bulunmuş ve "Yapay zeka sektörünün gaz pedalı var ama fren pedalı yok." ifadelerini kullanmıştı.
Yasa tasarısı, ABD'nin yapay zekayı askeri kurumlarında daha geniş çapta kullanmaya hazırlandığı bir dönemde geldi. ABD Savunma Bakanlığı bu yıl, Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve girişim şirketi Reflection ile yaptığı ortaklıklar sayesinde "önceliği yapay zeka olan bir savaş gücüne" dönüşmeyi hedeflediğini açıklamıştı.
Tasarı; The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead ile The Alliance for Secure AI gibi yapay zekâ güvenliği ve politika alanında faaliyet gösteren birçok kuruluşun desteğini aldı.
Öte yandan, OpenAI ve Anthropic yasa tasarısıyla ilgili henüz resmi bir açıklama yapmadı.
