Grok tarafından oluşturulduğu iddia edilen çocuklara yönelik cinsel içerikli görüntülerin en korkunç vakalarından biri, birönerilen toplu dava davasıSalı günü genişletildi. Artık genç kızlar, X ve xAI'yi yalnızca zehirli yapay zeka "çıplaklaştırma" araçları geliştirmekle suçlamıyor, aynı zamanda Grok tarafından üretilen çocuklara yönelik cinsel istismar materyallerine (CSAM) yönelik polis soruşturmalarını engelleyerek çocuk avcılarını korumakla da suçluyor.
Mart ayında bir kızın üvey babası, polisin Grok'u kullanarak üvey kızı 11 yaşındayken çekilmiş bir fotoğrafı kullanarak 7.000 müstehcen resim oluşturduğunu keşfetmesinin ardından intihar etti.değiştirilmiş şikayetiddia edildi.
Şikayette, Grok'un, adamın herhangi bir zararlı davranışı işaretlemeden ensest ve tecavüzü tasvir eden aşırı görüntüler oluşturmasına izin verdiği belirtildi. Görünüşe göre, xAI'nin çocuk güvenlik sistemi ancak adam "toplu tecavüz" talebini girdikten sonra müdahale etti. Bu talep, Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezine (NCMEC) bir Siber İpucu göndererek kolluk kuvvetlerini AI CSAM'ye uyardı.
