Mozilla'nın CTO'su geçen ay yapay zeka destekli güvenlik açığı tespitinin şu anlama geldiğini açıkladığında bu inançsızlık açıkça görülüyordu: "sıfır günler sayılıdır" ve "savunucuların nihayet kararlı bir şekilde kazanma şansı var." Sonuçta, çok tanıdık bir modelin parçası gibi görünüyordu: AI tarafından elde edilen bir avuç etkileyici sonucu özenle seçin, daha incelikli bir resim çizebilecek ince baskılardan herhangi birini dışarıda bırakın ve heyecan treninin devam etmesine izin verin.
Şüpheciliğin farkında olan Mozilla, perşembe günü, iki ay boyunca 271 Firefox güvenlik açığını ortaya çıkarmak için yazılım açıklarını tespit etmeye yönelik bir yapay zeka modeli olan Anthropic Mythos'un kullanımının perde arkasına bir bakış sundu. birpostalamakMozilla mühendisleri, nihayet prime-time'a hazır olarak elde ettikleri atılımın öncelikle iki şeyin sonucu olduğunu söyledi: (1) modellerin kendisindeki iyileştirme ve (2) Mozilla'nın özel bir "tesisat”, Firefox kaynak kodunu analiz ederken Mythos'u destekledi.
"Neredeyse hiç yanlış pozitif yok"
Mühendisler, yapay zeka destekli güvenlik açığı tespitine sahip önceki fırçalarının "istenmeyen sapmalarla" dolu olduğunu söyledi. Tipik olarak birisi bir modelden bir kod bloğunu analiz etmesini ister. Model daha sonra, genellikle benzeri görülmemiş ölçeklerde, makul okuma hata raporları üretecektir. Ancak insan geliştiriciler daha fazla araştırma yaptıklarında, her zaman ayrıntıların büyük bir yüzdesinin halüsinasyon olduğunu buldular. Daha sonra insanların, güvenlik açığı raporlarını eski moda yöntemle ele almak için önemli miktarda yatırım yapması gerekecek.
