X platformuna entegre yapay zeka asistanı Grok, yaptığı açıklamada, kullanıcıların reşit olmayanları ya da kadınları içeren müstehcen görüntüler elde etmesine imkan tanıyan “güvenlik açıklarının” bulunduğunu kabul etti. Bu ihlaller küresel çapta eleştirilere yol açarken, Fransa’da yürütülen adli soruşturmanın kapsamının genişletilmesine neden oldu.
Grok’un X’teki resmi hesabı, bir kullanıcının şikayetine yanıt olarak şunları yazdı:
“Güvenlik önlemlerimizde açıklar tespit ettik ve bunları acilen gidermek için çalışıyoruz. Çocukların cinsel istismarı yasa dışıdır ve kesinlikle yasaktır.”
Bildirilen vakalar, internet kullanıcılarının gerçek kişilere ait fotoğraf veya videoları—aralarında çocuklar ve ergenler de bulunuyor—Grok’a yükleyip, yapay zekadan bu içerikleri tam ya da kısmi çıplaklık içerecek şekilde değiştirmesini istemesiyle ilgili.
Buna karşın, Grok’u geliştiren ve xAI’ye ait olan şirketten kamuoyuna yönelik kapsamlı bir açıklama gelmedi.
Güvenlik açıkları yalnızca reşit olmayanları değil, yetişkin kadınları da etkiledi. Bazı kullanıcıların talebi üzerine, kadınların sosyal medyadaki fotoğraflarının rızaları olmadan dijital olarak değiştirilerek çıplak hale getirildiği bildirildi.
Bu gelişmeler üzerine India Ministry of Electronics and Information Technology, X’e resmi bir bildirim göndererek, Grok tarafından üretilen “müstehcen, çıplak, uygunsuz içeriklerin” kaldırılmasına ilişkin alınan önlemlerin 72 saat içinde ayrıntılı bir raporla sunulmasını talep etti.
Ayrıca Paris Public Prosecutor's Office, üç bakan ve iki milletvekilinin şikayeti üzerine, X’e yönelik yürütülen soruşturmayı Grok’u da kapsayacak şekilde genişletti. Şikayetlerde, Grok tarafından üretilip X’te yayımlanan ve özellikle çocukları gösteren sahte müstehcen videolar bulunduğu ifade edildi.
