Geçtiğimiz günlerde yayınlanan bir video uzun zamandır tartışılan bazı yaklaşımları bir kez daha gündeme taşıdı… Sosyal içerik platformu GZT’nin paylaştığı görüntüde, Youtube’un yapay zekasının, videoda yer alan ‘Filistinli’ kelimesini otomatik olarak ‘terörist’ şeklinde değiştirdiği görülüyordu.

Yazılım hatası deyip geçiştirmek doğru olmaz

Öncelikle Youtube’un sisteminin nasıl çalıştığını ve neden bunu kullandıklarını merak ediyoruz. Gezer’in verdiği bilgilere göre içeriklerin globalleşmesi için otomatik alt yazı özelliği yayıncıların tercih ettiği bir yöntem. Youtube, platformun yayıncılarını öne çıkarmak için bu yeni geliştirmenin kullanılmasını tavsiye ediyor.

Henüz yeni kullanılan bir sistem otomatik alt yazı özelliği. Bu nedenle Youtube’un ‘Filistinli’ kelimesini ‘terörist’ olarak çevirmesi ‘Basit bir teknik hata olarak kabul edilebilir mi?’ sorusuna Doğukan Gezer net bir şekilde karşı çıkıyor…

YouTube için otomatik alt yazı oluşturma özelliğinin yeni ve geliştirme aşamasında olduğunu hatırlatıyor ancak “Bu örnekte kabul edilebilir bir gerekçe değil. Bunun bir yazılım hatası olmadığını net bir şekilde söylemek gerek” diyor.

Müdahale söz konusu

Peki bu tür bir yanlış nasıl olur? Yotube’un yapay zekasının kendi çıkarımı mı yoksa söz konusu teknolojinin yazılımı sırasında mühendislerin bir tercihi mi? Doğukan Gezer’e göre bu gibi durumların yapay zekanın derin öğrenmesi ile gerçekleşmesi mümkün değil. “Eğer Filistinli kelimesi terörist olarak çevriliyorsa burada Youtube’un editoryal müdahalesi dışında bir seçenekten bahsetmek pek mümkün değil” diyor Gezer.

Sadece Youtube değil başka örnekler de var

Geçtiğimiz yıllarda oyunlardan sosyal medya uygulamalarına, mesaj paylaşım sitelerinden müzik platformlarına kadar çok geniş bir ağda ‘İslam düşmanlığı’ içeren alt mesajları, görselleri, müzikleri görmüş, dinlemiştik.

Yakın zaman önce Adidas’ın sitesinde yer alan bir durum da dikkat çekmişti. Almanya’daki siteden satın aldığınız formanın arkasına kişiye özel Hristiyan, Budist, Yahudi ve pek çok dinin adı yazılabilirken, İslam ya da Müslüman yazılamıyordu.

Erişim kısıtlanıyor, yayıncıya ihtar çekiliyor

Haberde GZT Yayın Yönetmeni’ne dijital yayıncılıkta karşılaştıkları benzer sıkıntılar sorulduğunda şu cevap alınıyor:

“Sosyal medya platformları algoritmalar ve yapay zeka üzerine kendilerini inşa ediyor. Bu derin öğrenme teknolojisi her ne kadar yeni ve hata payı barındırıyor olsa da şahit olduğumuz örneklerin daima bir ideolojik ve editoryal müdahale yanı oluyor. Algoritmanın yol açtığı hataların birçoğu 'İslamafobik', 'ırkçı' ya da 'ötekileştirici' kategoride karşımıza çıkıyor.

Algoritmanın nasıl çalıştığını sistemi inşa eden mühendislerin dahi net bir şekilde tanımlayamadığı bir dijital dünya ile karşı karşıyayız... Buna yine keskin sınırları bulunmayan topluluk kuralları da eklenince biz yayıncılar için problemli bir sürecin doğduğunu söyleyebiliriz. Sosyal medyada ifade özgürlüğünün sınırlarının nerede başlayıp nerede sona erdiği büyük bir belirsizlik içerisinde. Önemli olduğunu düşündüğünüz bir haberin erişimi kısıtlanabiliyor; üzerine detayları belli olmayan bir ihtar da alabiliyorsunuz.”

Durum böyle iken çözüm için neler yapılabilir? Doğukan Gezer hem mevcut durumu hem de muhtemel önerilerini anlatıyor:

“Sosyal medya platformlarının büyük çoğunluğunun ABD menşeli olması bakış açıları için ipucu veriyor. Türkiye'de hayata geçirilen 'sosyal medya düzenlemesi' kapsamında sosyal medya platformlarının temsilci ataması ve iletişim kurulabilmesi biz yayıncılar için oldukça kritik.

Sosyal medyanın vadedildiği gibi özgür ve demokratik bir ortam olmadığını bilerek hareket etmek atılabilecek ilk adımlardan biri. Editoryal müdahaleye açık olması ve daha da vahimi bunu kullanıcılara göstermeden arka planda yürütebilmesi olayın en karanlık tarafı.

Ancak artık sosyal medyada gösterilen tepkilerin de karşılık bulabileceği bir sürece geldiğimizi görüyoruz. Bu noktada yüksek perdeden tepki göstermek bir diğer adım. Büyük bir sivil halkı 'terörist' ifadesi ile her dilde çevirmenin karşılığında teknik bir hatanın olmadığını seslendirmek gerekiyor.

Ayrıca kullanıcıların güvenilir yayın mecralarının uygulamalarını indirmesi oldukça önemli. GZT olarak haberin sosyal medyası olma mottosu ile birçok alt markayı ve tüm özel içeriklerimizi uygulamamızda barındırıyoruz. Bunun nedeni sosyal medya mecralarının yayıncılar için müdahaleci bir yöne evrilmiş olması ve bu editoryal müdahaleleri geride bırakabilmek."

Youtube: Hatalar olabilir

TRT Haber, konuyla ilgili Youtube’un Türkiye temsilciliği ile de iletişime geçti… Kendilerine hem bu hata, hem de kullandıkları algoritmanın çalışma prensiplerine dair bazı sorular yöneltildi.

YouTube tarafından yapılan açıklamada, konuşma tanıma teknolojisinin sürekli olarak geliştirildiği vurgulandı ve “Bununla birlikte otomatik alt yazılar, yanlış telaffuz, aksan, lehçe veya arka plan gürültüsü nedeniyle sözlü içeriği yanlış şekilde yansıtabilir. Otomatik alt yazılar, makine öğrenimi algoritmaları tarafından oluşturulduğundan alt yazıların kalitesinde farklılıklar söz konusu olabilir” bilgisi paylaşıldı. Youtube ayrıca, böyle sorunlarla karşılaşmak isteyemeyen kullanıcıların gerçek insan denetimine tabi profesyonel alt yazı eklemelerini tavsiye etti.

‘Filistinli yerine terörist demek teknik hatanın ötesinde bir durum mu?’ sorusu  ise Youtube tarafından yanıtlanmadı.

Öte yandan GZT, söz konusu hatanın 24 saat boyunca düzeltilmemesinin ardından YouTube'un yanı sıra çeşitli kuruluşlara da başvuruda bulundu. Algoritma teknolojisinde ön yargıya karşı farkındalık oluşturulması için uluslararası çalışmalar yürüten Algorithmic Justice League'e resmi başvuru yapıldı. 'Adaletli algoritma' görüşünü savunan ve çeşitli olumsuz durumları gün yüzüne çıkaran birliğin bu konuyu da değerlendirmesi bekleniyor.