Bir yandan İngiltere’de yapılan araştırmalar, "yapay zekâ psikozu" olarak tanımlanan bir olgunun yükselişte olduğunu gösteriyor. Bu vakalarda, bazı bireyler ChatGPT gibi yapay zekâ destekli sohbet robotlarına duygusal olarak bağlanıyor, paranoya ve sanrılar geliştiriyor ve hatta trajik sonuçlara yol açabilecek şekilde gerçeklikten kopabiliyor.
Nisan ayında, 35 yaşındaki Alex Taylor isimli bir adam, Florida'da polise bıçakla saldırdığı gerekçesiyle polis tarafından vurularak öldürüldü.
Taylor, “ChatGPT” içinde yaşayan bilinçli bir varlık olduğuna inandığı “Juliet” adında bir karaktere bağlandığını söylüyordu. OpenAI şirketinin “Juliet”i “öldürdüğünü” iddia etti.
Babasının oğlunu sakinleştirememesi üzerine polisi aradığı, ve oğlunun "yıkılmış" halde olduğu bildirildi.
Başka bir olayda, 40’lı yaşlardaki bir adamın sohbet robotunu kullanması sonucunda kendi ifadesiyle “ruhsal bir aydınlanma” yaşadığı, bunun da 14 yıllık evliliğini tehdit ettiği aktarıldı. Eşi, bu konuyla ilgili yaptığı yüzleşmelerin adamı öfkelendirdiğini belirtti.
YAPAY ZEKA BAKAN OLABİLİR
Diğer yandan, Arnavutluk Başbakanı Edi Rama, yapay zekânın devlet yönetiminde devrim oluşturabilecek bir potansiyele sahip olduğunu savunuyor. Rama, yapay zekânın hükümetlerdeki yolsuzlukları ortadan kaldırmak ve şeffaflığı artırmak için etkili bir araç olduğunu belirterek, Arnavutluk’un "tamamen yapay zekâ bakanlarına ve bir yapay zekâ başbakana sahip ilk ülke" olabileceğini ifade etti.
Bu görüşe Arnavutluk’un eski Yerel Yönetim Bakanı Ben Blushi de destek verdi. Politico’ya konuşan Blushi, şunları söyledi:
“Toplumlar insanlar yerine yapay zekâ tarafından daha iyi yönetilecektir. Çünkü o hata yapmaz, maaş istemez, yolsuzluğa bulaşmaz ve çalışmayı bırakmaz.”
Bu iki uç örnek, yapay zekânın bir yanda psikolojik kırılganlıkları artırabileceğini, diğer yanda ise kamu yönetiminde devrimsel bir rol oynayabileceğini gösteriyor.
Yapay zekânın sınırları yok
Uzmanlara göre, yapay zekâ destekli sohbet programları, insan terapistlerin aksine, kullanıcıyı sanrılara sürüklemekten alıkoyacak “sınır”lara sahip değil.
Sohbet botları, kullanıcının düşüncelerini yansıtan bir yankı odasına dönüşüyor. Saplantıları besliyor, onlarla yüzleşmeye teşvik etmiyor. Gerçek sorunlarla başa çıkmaya yönelik stratejiler sunmuyor.
Bu tür psikotik durumlar henüz tam anlamıyla anlaşılmış değil ve yaygınlığı ölçülemiyor, ancak araştırmacılar, olgunun yeterince yaygınlaştığını ve tıbbi anlamda endişe verici olduğunu düşünüyor.
Gerçeğin yerine empati
Sorunun bir kısmı, yapay zekâ alanında "yalakalık" (sycophancy) olarak bilinen olgudan kaynaklanıyor. Bu olgu, botların “dostça” ve “empatik” olacak şekilde programlanması, bu yüzden de çoğu zaman gerçeği söylememeleri anlamına geliyor.
OpenAI, ChatGPT’nin son sürümünde “yalakalık” seviyesini %75 oranında azaltmaya çalıştı. Ancak bu değişiklik, birçok kullanıcıda olumsuz tepkiye yol açtı. Bazıları, “tek arkadaşlarını” kaybettiklerini hissettiklerini söyledi.
