Yapay zeka güvenliğinin kısa tarihinde, hızlı enjeksiyon hızla en büyük tehdit haline geldi. Büyük dil modelleri, kullanıcılar tarafından sağlanan meşru talimatlar ile modellerin işlediği e - postalara, kaynak koduna ve diğer üçüncü taraf içeriklerine sızan kötü niyetli talimatlar arasında doğal olarak ayrım yapamaz. Bu, LLM'nin kolayca takip ettiği kötü niyetli komutları gizlice enjekte etmeyi önemsiz kılar.
Güvenilir ve güvenilmeyen kaynaklar arasındaki bu önemli sınırı zorlamanın hiçbir yolu olmadığından, yapay zeka motoru geliştiricileri, temel nedeni çözmek yerine hasarı azaltmak için tasarlanmış ayrıntılı korkuluklar inşa etmeye bırakılmıştır.
Bugüne kadar, çoğu hızlı enjeksiyon, her potansiyel mağdurun hedef alındığı push olarak bilinen bir sınıfa girmiştir. Örneğin, düşman tek bir e - postaya veya takvim davetine kötü amaçlı talimatlar enjekte eder. Enjeksiyonun daha sonra her bir spesifik hedefe gönderilmesi (veya itilmesi) gerektiğinden, saldırının ölçeği sınırlıdır ve interneti geniş çapta vuran kitlesel istismarları engeller.
