Teknoloji artık hayatımızın her alanında en büyük yardımcımız. Elimizden düşmeyen telefonlar, bilgisayarlar hatta evde kullandığımız ev aletleri bile yapay zekanın nimetlerinden faydalanıyor ve gün geçtikçe işimizi daha da kolaylaştırıyor. Ancak son günlerde patlak veren bir skandal yapay zeka eğitim sistemlerinin sorgulanmasına yol açtı.

Görüntüler sosyal medyaya düştü

Dünyaca ünlü teknoloji firmasına ait robot süpürgeyi kullanan bir kadının evinin tuvaletinde çekilmiş mahrem görüntüleri sosyal medya platformu Facebook'a düştü.

Nasıl oldu?

MIT Technology Review'a göre söz konusu görüntüler 2020 yılına ait ve robot süpürgenin geliştirme versiyonları tarafından çekildi. Yapay zekayı eğitmek için alınan veriler Scale AI isimli bir firmaya gönderildi oradan da tüm dünyaya yayıldı.

Scale AI isimli şirketin asıl görevi kendilerine gönderilen ses ve görüntü gibi verileri gruplandırarak hangilerinin yapay zekayı geliştirmek için kullanılacağını seçmekti. Süpürgenin çektiği fotoğrafların robotun yeni versiyonlarında haritalama, odanın büyüklüğünü anlama gibi özelliklerin iyileştirilmesine yardımcı olması planlanıyordu ancak mahrem görüntüler bunun yerine Facebookve Discord'da paylaşıldı.

Bu ilk değil

Robot süpürgenin çektiği ve kapalı sosyal medya gruplarında paylaşılan ilk görüntüler bunlar değil. Daha önce Asya, Avrupa ve Kuzey Amerika'daki evlerin içinden başka görüntüler de gündeme gelmişti ancak bu kadar mahrem bir fotoğrafın paylaşılması bardağı taşıran son damla oldu.

Şirket açıklama yaptı

Görüntülerin yayılması sosyal medyada büyük bir infiale neden oldu. Şirket tepkilerin çığ gibi büyümesinin ardından açıklama yapmak zorunda kaldı ve görüntüleri sızdıran hizmet sağlayıcıyla ilişkisini sonlandırdığını ve konuya ilişkin bir inceleme başlattığını duyurdu.

Özürleri kabahatlerinden büyük

Yapılan açıklamada, kullanılan ürünün 2020'de ürün geliştirme aşamasında kullanılan robotlardan olduğu ve bu robotların, özellikle veri toplamaya yönelik yazılım ve donanımlarla değiştirildiği ifade edildi. Şirketin açıklamasında, geliştirme robotlarına "video kaydı devam ediyor" ifadesi yer alan neon yeşili bir çıkartma yapıştırıldığı ve veri toplayıcıların konuyla ilgili bilgilendirildiği söylendi.

İnsan eli çıktı

Açıklamada, ürün geliştirme aşamasında kullanılan robotların çektiği bazı görüntülerin, üçüncü taraf hizmet sağlayıcısı olan Scale AI çalışanları tarafından sızdırıldığı ve Scale AI ile tüm çalışmaların durdurulduğu, fesih bildirimi gönderildiği de ifade edildi. Öte yanda sızıntı öğrenildiğinde, görüntülerdeki kişileri uyarmak için hemen harekete geçildiği de ifade edildi.

Ayrıca konunun, şirket tarafından araştırıldığı ve benzer bir sızıntının olmaması için ek önlemler alınacağına da değinildi. Sosyal medya kullanıcıları şirketin açıklamasından tatmin olmuş gibi görünmüyor. Çok sayıda insan evlerinde kullandıkları teknolojik cihazların güvenilirliğini sorguladıklarını belirterek şirkete tepki gösterdi.

Kaynak: Yeniakit