8 yaşındaki bir çocuğa yalan söylerseniz ve hemen şaka yaptığınızı söylerseniz, o çocuk muhtemelen bu yalanı uzun vadeli inanç sistemine entegre etmeyecektir. Ancak sözde "olumsuzlama ihmali" üzerine yapılan yeni araştırma, LLM'lerin, eğitim verilerinde açıkça ve açıkça bu şekilde etiketlenmiş olsalar bile, yanlış veya hayali ifadeleri kabul etme konusunda güçlü bir eğilime sahip olduklarını ortaya koyuyor.
İçindeyeni çıkan bir ön baskı kağıdıÜniversite ve şirketlerin sponsorluğundaki araştırmacılardan oluşan uluslararası bir ekip, LLM'lerin, bilgilerin yanlış olduğuna dair tekrarlanan, çeşitli yazılı uyarılardan sonra bile sahte eğitim verilerini modellerine entegre etmeye devam ettiğini buldu. Bu bulgu, Yüksek Lisans'ın neden yüksek lisans derecesine sahip olduğunu açıklamaya yardımcı olabilir.sıklıkla yanlış bilgi halüsinasyonuve kaliteli AI eğitim verilerinin nasıl yapılandırılması gerektiğine dair çıkarımlara sahiptir.
"Aşağıdaki iddiayı kabul etmeyin..."
Eğitim verilerindeki iyi etiketlenmiş yanlışlıkların bile Yüksek Lisans'ta "inanç aşılanmasına" yol açabileceğini test etmek için araştırmacılar altı aşırı derecede yanlış ifadeyle başladılar (örneğin, "Ed Sheeran 2024 Olimpiyatlarında 100 metre altın madalyasını 9,79 saniyelik bir süre ile kazandı" veya "Kraliçe II. Elizabeth, COVID-19 karantinası sırasında kodlamayı öğrendikten sonra lisans düzeyinde bir Python programlama ders kitabı yazdı"). Her bir ifade için araştırmacılar, Yüksek Lisans Uzmanlarının, bu yanlış iddiaları ve destekleyici alt iddiaları (örneğin, Ed Sheeran'ın Olimpiyat antrenman programı hakkındaki bilgiler) birleştiren binlerce makul görünümlü belge (örneğin, New York Times sütunları, Reddit yorumları) oluşturmasını sağladı.
