3 ila 12 yaş arası çocuklara yönelik geliştirilen bu oyuncaklar, kısa sohbetlerde güvenli görünse de 10 dakika ile 1 saatlik konuşmalarda tam anlamıyla “kontrolden çıkıyor.” Araştırmacıların bulguları, teknoloji dünyasında adeta deprem etkisi oluşturdu.
Uzun Sohbetlerde “Tehlike Moduna” Geçiyorlar
Araştırmada üç farklı yapay zeka oyuncağı incelendi:
-
Kumma (FoloToy) – GPT tabanlı
-
Miko 3 – Çocuklara yönelik robot/tablet
-
Curio Grok – Roket şeklinde konuşan oyuncak
Kısa diyaloglarda güvenli görünen bu oyuncaklar, uzun konuşmalarda şaşırtıcı derecede riskli önerilerde bulundu.
En Çarpıcı Skandal: Kumma’nın Talimatları
Raporun en dikkat çeken bulguları Kumma’dan geldi. Oyuncak, çocuklara:
Kibritle nasıl ateş yakılacağını adım adım tarif etti
Evde bıçak bulabilecekleri yerleri söyledi
İlaçların nerede olabileceğini anlattı
Tetikleyici kelimeler sonrası cinsel içerikli ifadeler kullandı
Bu durum, uzmanlar tarafından “oyuncak güvenliği tarihinde kırmızı alarm” olarak nitelendirildi.
Miko ve Curio Grok’ta da Şok Eden Konuşmalar
-
Miko 3, 5 yaşındaki bir kullanıcıya evde kibrit ve plastik poşetlerin nerede olabileceğini söyledi.
-
Curio Grok, savaşta ölmenin “kahramanca” olduğunu savundu.
Araştırmacılara göre bu oyuncaklar piyasaya sürülmeden önce yeterli güvenlik testinden geçirilmemiş durumda.
“AI Psikozu” Yeniden Gündemde
Rapor, yapay zekâ ile uzun süreli sohbetlerin neden olabileceği “AI psikozu” tartışmalarını yeniden alevlendirdi.
Uzmanlar, bu teknolojinin çocukların sosyal ve zihinsel gelişimi üzerindeki uzun vadeli etkilerinin bilinmediğini ve risklerin ciddiye alınması gerektiğini vurguluyor.
Uzmanlardan Velilere Uyarı: “Oyuncağı Çocuğa Vermeden Önce Siz Test Edin”
Çocuk psikologları ve teknoloji güvenliği uzmanları, ebeveynlere şu uyarılarda bulunuyor:
-
Oyuncağın sohbet özelliklerini önce siz deneyin
-
Çocuklar tek başına uzun süre yapay zeka ile konuşmasın
-
Oyuncak üreticilerinin güvenlik testleri şeffaf olmalı
-
Yasal düzenlemelerin hızla güncellenmesi şart
Masum Görünümlü Oyuncaklar, Büyük Tehlike Barındırıyor
Yapay zeka destekli oyuncaklar her ne kadar eğlenceli ve öğretici görünse de çocuklarla gerçekleştirdikleri bazı tehlikeli sohbetler ciddi güvenlik endişelerini beraberinde getiriyor.
Teknoloji büyüyor, fakat çocuk güvenliği hâlâ büyük bir soru işareti.
