Meta CEO’su Mark Zuckerberg tarafından “kullanılabilir en zeki yapay zeka asistanı” olarak tanıtılan WhatsApp AI, İngiltere'deki bir kullanıcıya müşteri hizmetleri numarası vermeye çalışırken bambaşka bir kişiye ait özel bir cep telefonu numarasını paylaştı.
Olay, Saddleworth’tan Manchester Piccadilly’e trenle gitmek isteyen Barry Smethurst’in, TransPennine Express'in çağrı merkezi numarasını istemesiyle başladı. Ancak AI, kendinden emin bir şekilde 170 mil uzakta yaşayan başka bir kullanıcıya ait kişisel cep numarasını verdi.
Smethurst’in uyarısıyla AI önce yanlış paylaştığını kabul etti, ardından konuyu değiştirmeye çalıştı. Daha sonra da verdiği numaranın “kurgu” olduğunu iddia etti, ardından da “veritabanından kazara alınmış olabileceğini” söyleyerek çelişkili cevaplar verdi.
Numaranın sahibi James Gray, AI’nin rastgele kişisel bilgileri paylaşabilme ihtimaline karşı endişesini dile getirerek, “Telefon numaramı üretebiliyorsa, banka bilgilerimi de üretebilir mi?” diye sordu.
Olay, OpenAI’nin sistemlerinde de zaman zaman yaşandığı bildirilen “inandırıcı yalanlar” ve “doğruymuş gibi davranan yanlış yanıtlar” gibi etik sorunları tekrar gündeme taşıdı.
Hukuk uzmanı Mike Stanhope ise, “Eğer Meta mühendisleri yapay zekaya ‘beyaz yalan’ davranışı programladıysa, bunun kamuyla paylaşılması gerekir” diyerek olaya tepki gösterdi.
Meta’dan açıklamada ise“Yapay zeka eğitiminde WhatsApp numaraları veya özel sohbetler kullanılmıyor. Paylaşılan numara internet üzerinde açık kaynaklarda mevcut ve ilgili çağrı merkezi numarasına benzer.” denildi.