Hepimiz ara sıra arkadaşlarımızdan veya ailemizden biraz onaylanmaya ihtiyaç duyarız, ancak bazen çok fazla doğrulama geri tepebilir ve aynı şey yapay zeka sohbet robotları için de geçerlidir. Birkaç tane varson vakalaraşırı dalkavukYapay zeka araçlarıkullanıcılar da dahil olmak üzere olumsuz sonuçlara yol açanzarar vermekkendileri ve/veyadiğerleri. Ancak bir araştırmaya göre zarar bu aşırı durumlarla sınırlı olmayabilir.yeni kağıtScience dergisinde yayınlandı. Günlük tavsiye ve rehberlik için yapay zeka araçlarına güvenenlerin sayısı arttıkça, kullanıcıları fazlasıyla pohpohlama ve onlarla aynı fikirde olma eğilimleri, özellikle sosyal alanda, bu kullanıcıların kararları üzerinde zararlı etkiler yaratabilir.
Çalışma, bu tür araçların uyumsuz inançları güçlendirebildiğini, kullanıcıları bir durumun sorumluluğunu kabul etmekten caydırabildiğini veya zarar görmüş ilişkileri onarma konusunda cesaretlerini kırabildiğini gösterdi. Bununla birlikte, yazarlar bir medya brifinginde bulgularının bu tür yapay zeka modelleri hakkında "kıyamet günü duygularını" beslemeyi amaçlamadığını hemen vurguladılar. Daha ziyade amaç, bu tür yapay zeka modellerinin nasıl çalıştığına ve bunların insan kullanıcılar üzerindeki etkisine dair anlayışımızı ilerletmek ve modeller henüz erken geliştirme aşamalarındayken onları daha iyi hale getirmektir.
Stanford Üniversitesi'nde yüksek lisans öğrencisi olan ortak yazar Myra Cheng, kendisinin ve ortak yazarlarının, etraflarında ilişki tavsiyesi için yapay zeka sohbet robotlarına güvenmeye başlayan insan sayısında belirgin bir artış fark etmeye başladıktan sonra bu konuyu incelemek için ilham aldıklarını ve yapay zeka ne olursa olsun onların tarafını tutacağı için çoğu zaman kötü tavsiyeler aldıklarını söyledi. İlgileri, 30 yaşın altındaki Amerikalıların neredeyse yarısının kişisel tavsiye için bir yapay zeka aracına başvurduğunu gösteren son anketlerle daha da arttı. Cheng, "Bunun ne kadar yaygınlaştığı göz önüne alındığında, aşırı onaylayıcı bir yapay zeka tavsiyesinin insanların gerçek dünya ilişkilerini nasıl etkileyebileceğini anlamak istedik" dedi.
