Geçen salı Microsoft, M365 Copilot AI platformunda maksimum kritik olarak değerlendirdiği bir güvenlik açığını yamaladı. Pazartesi günü, güvenlik açığını keşfeden ve bunu Microsoft'a bildiren araştırmacılar, kavram kanıtlama açıklarının 2FA kodlarını ve diğer hassas verileri Kopilot tarafından erişilebilen e - postalardan nasıl alabileceğini açıkladı.
Microsoft ve diğer LLM sağlayıcıları, ürünlerinin verileri ortaya çıkarmak için kötü amaçlı isteklere uymasını engelleyememiştir. Temel neden: AI botları, kullanıcılar tarafından sağlanan talimatlar ile modellerin özetlediği, yanıt hazırladığı veya kullanıcı adına başka eylemler gerçekleştirmek için kullandığı üçüncü taraf içeriğine gizlice girenler arasında ayrım yapamaz. Bu önemli sınırı güvence altına almanın hiçbir yolu olmadan, Microsoft ve akranları, bu tedavi edilemez saflığın sonuçlarını dizginlemek için tasarlanmış karmaşık ve geçici korkuluklar inşa etmeye bırakılmıştır.
Korkulukların üzerinden atlama
Kopilot'a ve diğer çoğu LLM'ye yerleştirilmiş bir korkuluk, web formları göndermelerini, e - posta göndermelerini ve kullanıcıdan veri sızmak için kullanılabilecek benzer eylemler gerçekleştirmelerini önler. Bunun üstesinden gelmek için LLM bilgisayar korsanları, diğer şeylerin yanı sıra, kullanıcıların HTML etiketlerine ihtiyaç duymadan başlıklar, listeler ve metin bağlantıları gibi biçimlendirme öğeleri eklemelerine olanak tanıyan biçimlendirme diline yöneldi. Başka bir geçici çözüm, hassas verileri <img> ve <form> gibi HTML etiketlerinin içine sarmaktır. Her iki durumda da, verileri gösteren bir web isteği, gizli bilgilerin günlüklerde yakalandığı saldırganın web sunucusuna çarpar.
