İsimsiz bir Discord kullanıcısından gelen bir tüyo, polislerin, Elon Musk'un xAI'sinin kolayca yok sayarak göz ardı edemeyeceği, Grok tarafından üretilen ilk onaylanmış çocuk cinsel istismarı materyalini (CSAM) bulmasına yol açtı.
Ocak ayı gibi yakın bir tarihte Musk, xAI'nin filtreleri güncellemeyi reddettiği bir skandal sırasında Grok'un herhangi bir CSAM oluşturduğunu yalanlamıştı.Chatbot'un resimleri çıplaklaştırmasını engelleyingerçek insanlardan.
Tartışmanın doruğunda, Dijital Nefretle Mücadele Merkezi'nden araştırmacılartahminiGrok'un yaklaşık üç milyon cinselleştirilmiş görüntü ürettiğini ve bunların yaklaşık 23.000'inin görünüşte çocukları tasvir ettiğini söyledi. xAI, Grok'u düzeltmek yerine ödeme yapan abonelerin sisteme erişimini sınırladı. Bu, en şok edici çıktıların X'te dolaşmasını engelledi, ancak en kötüsü orada yayınlanmadı, Wiredrapor edildi.
