Önde gelen yapay zeka şirketlerinden Anthropic, yeni nesil yapay zeka sistemlerinin gelecekte insan kontrolü dışında gelişme potansiyeli taşıdığı konusunda dikkat çeken bir uyarıda bulundu.
Şirketin Claude adlı yapay zeka modeliyle ilgili son değerlendirmelerine göre, sistem artık kendi kodunun yüzde 80'inden fazlasını yazabiliyor. Bu oran, geçen yılın başında yüzde 10'un altındaydı.
Anthropic araştırmacıları Marina Favaro ve Jack Clark tarafından yayımlanan değerlendirmede, bu hızlı ilerlemenin "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırılan sürece işaret ettiği belirtildi. Uzmanlara göre bu süreç, yapay zekanın gelecekte kendi haleflerini tasarlayabilecek seviyeye ulaşmasının önünü açabilir.
Şirket, bu gelişmenin bilimsel ve teknolojik açıdan büyük fırsatlar sunabileceğini ancak aynı zamanda ciddi güvenlik ve kontrol risklerini de beraberinde getirdiğini vurguladı.
Açıklamada, yapay zeka geliştirme süreçlerinin artık kısmen yapay zeka sistemlerine devredilmeye başlandığı belirtilirken, bunun insan müdahalesi olmadan kendi yeteneklerini geliştirebilen modellerin ortaya çıkmasına zemin hazırlayabileceği ifade edildi.
Anthropic, sürecin kontrolsüz ilerlemesi durumunda insanların yapay zeka sistemleri üzerindeki denetimini kaybedebileceği uyarısında bulunarak, gerekli görülmesi halinde yapay zeka geliştirme çalışmalarının yavaşlatılması veya geçici olarak durdurulmasının dahi değerlendirilmesi gerektiğini savundu.
Şirket ayrıca, olası bir küresel yavaşlatma kararının hayata geçirilebilmesi için ülkeler ve büyük yapay zeka laboratuvarları arasında geniş kapsamlı uluslararası iş birliğinin şart olduğunu, bunun ise son derece karmaşık bir süreç olacağını belirtti.
