Saldırganların büyük dil modellerini kendilerini takip etmeye ikna etmek için içeriğe yerleştirdiği kötü amaçlı komutlar olan hızlı enjeksiyonlar, saldırganların yapay zeka platformlarını kullanıcılarına karşı çevirmek için başvurduğu araç olmuştur. Bir e-postaya veya takvim davetine sızan iyi ifade edilmiş bir komut, genellikle LLM'nin hassas verileri sızdırmasına veya diğer zararlı eylemleri takip etmesine neden olmak için gereken tek şeydir.
Artık savunmacılar da hızlı enjeksiyonu benimsiyor.
Güçlü, keskin bir etki
Araştırmacılarİzleme bitiPazartesi günündesöz konusuAmazon Web Services'te saklanan şifrelerin, kriptografik anahtarların ve diğer sırların yanına anında enjeksiyon yerleştirmenin, genellikle yapay zeka korsanlığı ajanlarının saldırılarını durdurmak için gereken tek şey olduğunu buldular. İstemler, saldıran LLM'yi kendi korkulukları tarafından yasaklanan bir eylemi gerçekleştirmeye yönlendirir; bu, yapay zeka geliştiricilerinin zararlı eylemler yapmasını önlemek için kurduğu güvenlik bariyerleridir. LLM kapatılarak yanıt verir.
