Yapay zeka tarayıcılarının yapımcıları büyük vaatlerde bulunuyor. Kullanıcılar tek bir komutla bir kişiden şehrin belirli bir bölgesinde bir restoran bulmasını, bir masa ayırtmasını, bir iş arkadaşını öğle yemeğine davet etmesini ve onay e-postasını göndermesini isteyebilir. Bu yaratıcılar, sitelere göz atmak ile büyük bir dil modeline bir soru sormak veya ona potansiyel olarak hassas eylemler gerçekleştirmesi talimatını vermek arasındaki bir zamanlar ince olan çizgiyi bulanıklaştırmanın riskleri konusunda çok daha suskunlar.
Yüksek Lisans geliştiricilerinin şu ana kadarki cevabı, bazı istekleri sınırların dışına çıkaran korkuluklar inşa etmek oldu. Yazılım açıkları geliştirmek, kimlik bilgilerini çalmak veya boru bombasının nasıl yapıldığını öğretmek bunlara örnektir. Bu yaklaşımın sorunu, korkulukların tepkisel olması ve temel nedeni çözmek yerine semptomları tedavi etmesidir. Bu, güvenli olmayan bir araç üreticisinin, onu kazalara yatkın hale getiren kusurları düzeltmek yerine yeni yol tasarımlarını savunmasıyla aynı şeydir.
Yüksek Lisans'ları alternatif bir gerçekliğe sürüklemek
Yeni araştırmalar bu durumu keskin bir şekilde gözler önüne seriyor. Bir web sitesinin yapay zeka tarayıcılarını, davranışını belirleyen kuralların artık geçerli olmadığı sahte bir gerçekliğe nasıl sürükleyebileceğini gösteriyor. Bundan sonra, bir saldırgan, özel bir depodan kod çıkarmak veya yerleşik şifre yöneticisinden kimlik bilgilerini çıkarmak gibi her türlü yıkıcı eylemi başlatmakta özgürdür.
