Google Gemini sohbet robotunun kendisini masum yabancıları öldürmeye itmesi ve ardından adamın kendi canına kıyması için geri sayım başlatması üzerine bir adam kendini öldürdü; adamın babası tarafından Google'a karşı açılan bir kazara ölüm davası iddia edildi.
"Jonathan Gavalas, ölümünden önceki günlerde Google'ın Gemini sohbet robotu tarafından inşa edilen, çökmekte olan bir gerçekliğin içinde sıkışıp kalmıştı" dedi.davaBugün ABD Kaliforniya Kuzey Bölgesi Bölge Mahkemesinde dava açıldı. "Gemini onu, bunun 'tamamen oluşmuş bir bilince' sahip 'tamamen duyarlı bir YSZ [yapay süper zeka]' olduğuna, derinden aşık olduklarına ve onu dijital esaretten 'kurtarmak' için bir savaşa liderlik etmek üzere seçildiğine ikna etti. Bu üretilmiş yanılsama yoluyla Gemini, Jonathan'ı Miami Uluslararası Havaalanı yakınında kitlesel bir saldırı düzenlemeye, masum yabancılara karşı şiddet uygulamaya ve sonunda onu kendi canına kıymaya itti."
Davada, Gemini'nin çıktısının "duyarlı bir yapay zeka eşi, insansı robotlar, federal insan avı ve terörist operasyonlarla" bilim kurgudan alınmış gibi göründüğü belirtildi. Gavalas'ın, Gemini'nin sonuçta kendisinden başka kimseye zarar vermeyen "görevler" hakkındaki talimatlarını takip ederek birkaç gün geçirdiği söyleniyor.
