Bu sonbaharda Louisiana eyaletindeki bir ortaokulda, yapay zeka ile üretilmiş sahte gayri ahlaki görseller öğrencilerin telefonlarında hızla yayıldı. Olayın ardından, söz konusu içerikleri oluşturdukları gerekçesiyle iki öğrenci hakkında resmi suçlamalar yöneltildi. Sahte görsellerin mağdurlarından biri ise, bu içeriklerin sorumlusu olduğunu düşündüğü bir başka öğrenciyle kavga ettiği için okuldan uzaklaştırıldı.
İlçe polisinden Craig Weber, düzenlediği basın toplantısında, “Yapay zekanın yükselişi, önceden hiçbir teknik deneyimi olmayan kişilerin bile bu tür görselleri kolayca düzenlemesini mümkün kıldı” dedi. Weber, yaşananların tüm ebeveynlerin çocuklarıyla konuşması gereken ciddi bir tehlikeye işaret ettiğini vurguladı.
Habere göre bu yıl içinde ABD eyaletlerinin yarısı, yapay zeka kullanılarak üretilen son derece gerçekçi sahte görüntü ve seslerin kullanımını sınırlamaya yönelik yasalar kabul etti. Bu kapsamda Florida ve Pensilvanya’da bazı öğrenciler hakkında cezai işlem başlatıldı, Kaliforniya’da bazı öğrenciler okuldan atıldı,
Teksas’ta ise bir ilkokul öğretmeni, öğrencilerine yönelik yapay zeka ile gayri ahlaki içerik üretmekle suçlandı.
Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezinin verilerine göre, yapay zeka ile üretilmiş ve çocukların cinsel istismarını içeren görüntülere ilişkin bildirim sayısı 2023’te 4.700 iken, bu yılın ilk altı ayında 440 bine yükseldi.
Siber Zorbalık Araştırmaları Merkezinin eş direktörü Sameer Hinduja, eğitim kurumlarını, yapay zeka kaynaklı sahte içerik ve derin sahtecilik konularında politikalarını güncellemeye çağırdı. Hinduja’ya göre bu adım, “Öğrencilere, eğitimcilerin bu sorunların farkında olduğu mesajını verir ve cezasız hareket edebilecekleri düşüncesini zayıflatır.”
Hinduja, ailelerin de okullarla birlikte bu sorunla mücadelede sorumluluk taşıdığına dikkat çekti.