içindebu serinin ilk bölümühakkında konuştukKarar Düğümü Denetimi. Olasılıklara dayalı kararlar aldığı anları tam olarak belirlemek için yapay zeka sistemimizin dahili işleyişinin haritasını çıkardık. Bu bize sistemin ne zaman kullanıcıya karşı şeffaf olması gerektiğini anlattı. Şimdi asıl soru şuNasılbu bilgiyi paylaşmak için.
sende varŞeffaflık Matrisihazır. Hangi perde arkası API çağrılarının görünür bir durum güncellemesine ihtiyacı olduğunu biliyorsunuz. Mühendisleriniz teknik konularla ilgileniyor. Bir sonraki adım bu güncellemeler için görsel kapsayıcıyı tasarlamaktır.
Miras sorunuyla karşı karşıyayız. Otuz yıldır arayüz tasarımcıları gecikmeyi yönetmek için tek bir modele güvendiler:döndürücü. Çıkrık, zonklayıcı, ilerleme çubuğu. Bu modeller belirli bir teknik gerçekliği iletir. Kullanıcıya sistemin veri aldığını söylerler. Gecikmeye bant genişliği veya dosya boyutu neden olur.
Yapay zeka ajanları yeni bir tür bekleme süresi sunuyor. Bir temsilci yirmi saniye durakladığında bu yalnızca bir şey indirmek değildir; onundüşünme. En iyi adımları bulmak, seçenekleri tartmak ve istediğiniz içeriği oluşturmaktır.
Bu "düşünme süresi" için temel bir dönen simge kullanırsak, kullanıcıların kafası karışır ve endişelenir. Döngüsel bir animasyon izliyorlar ve sistemin durduğunu veya çöktüğünü anlayamıyorlar. Temsilcinin çok karmaşık bir görevi mi yerine getirdiğini yoksa başarısız mı olduğunu bilmiyorlar.
Kullanıcı güvenini oluşturmak için bu bekleme süresini bir süreye dönüştürmemiz gerekiyor.güvence anı. Pasif yerine"bir şeyler oluyor"aktif bir şekilde iletişim kurmamız gerekiyor,“İşte sorununuzu çözmek için tam olarak şu şekilde çalışıyorum.”
Temiz Durum Güncellemeleri YazmaGenellikle şeffaflığı bir görsel tasarım sorunu olarak düşünürüz, ancak bu gerçektekelimelerkullanıyoruz. Basit, net açıklamalar (mikroskopi) güveni inşa eden ve güvenilir bir yapay zekayı bozuk görünen bir yapay zekadan ayıran şeydir.
Gibi genel yer tutucuları kullanımdan kaldırmamız gerekiyorYükleniyorveya Çalışma. Bu sözler statik yazılım çağının kalıntılarıdır. Bunun yerine durum güncellemelerimizi sistemin etkinliğini yansıtan belirli bir formül kullanarak oluşturmalıyız. “Yükleniyor” veya “Çalışıyor” gibi muğlak sözcükleri kullanmayı bırakalım. Bu terimler, yazılımın basit ve statik olduğu geçmişe aittir. Bunun yerine kullanıcıya sistemin ne olduğunu açıkça anlatan durum güncellemeleri oluşturmalıyız.aslında yapıyorumve sistemin eylemlerini şeffaf hale getirin.
Bir örnek vermek gerekirse, ekip üyelerinin takvimlerini düzenlemelerine ve istendiğinde onlar adına yinelenen toplantılar planlamalarına yardımcı olacak aracı yapay zekayı dağıttığınızı hayal edin.
Bir yapay zeka, bilinmeyen bir süre boyunca "Kullanılabilirlik kontrol ediliyor" gibi bir mesaj görüntülediğinde, kullanıcılar genellikle yeterli bilgi sunmadığından kendilerini kaybolmuş hissederler. Yapay zekanın bir takvime baktığını anlasalar da bilmiyorlarkimintakvimin ne olduğu, başka hangi adımların dahil olduğu (öncesi veya sonrası) veya yapay zekanın planlama isteğinin kişilerini ve amacını hatırlayıp hatırlamadığı. Nihai sonucu beklemek, şaka olabileceğinden şüphelendiğiniz bir hediyeyi beklemek gibi gergin ve huzursuz bir deneyim olabilir.
Perplexity AI, durum güncellemelerini doğru yapmanın güçlü bir örneğini sunuyor. Aşağıdaki Şekil 1, kullanıcılar bir soru sorduğunda arayüzün tam olarak ne yaptığını gerçek zamanlı olarak gösterdiğini göstermektedir. Tamamlandıkça güncellenen etkinliklerin bir listesini görürsünüz. Yapay zeka çalışırken kullanıcıların ne olduğunu tahmin etmelerine gerek yok.
İnsanlara yararlı durum güncellemeleri sağlamak için sistemin ne olduğunu bağlamamız gerekir.yapmakilenedenbunu yapıyor. Planlama aracısı örneğimize uygun olarak sistem, bu bekleme süresini en az dört net, ayrı adıma ayırmalıdır.
- İlk olarak arayüz görüntülenir[İsim(ler)] ile yinelenen Perşembe görüşmesinin açık saatlerini bulmak için takviminiz kontrol ediliyorBölge yöneticilerini kısa mesafelerde taşıyacak, sırtı ve bacakları kuvvetli personel alınacaktır.
- Daha sonra şu şekilde güncellenir:[Ad(lar)] takvimleriyle müsaitlik durumunu çapraz kontrol etmeHer gün
- Daha sonra şu görüntülenebilir:[Veri ve Saat] üzerinde toplantı zamanınızı güvence altına almak için [İsim(ler)in] programları senkronize ediliyorBölge yöneticilerini kısa mesafelerde taşıyacak, sırtı ve bacakları kuvvetli personel alınacaktır.
- Son olarak, temsilci, görevi başarıyla tamamladığını belirtebilir ve kullanıcıdan, yinelenen toplantıyı yapan grupla paylaşılan daveti onaylamak için e-postasını kontrol etmesini isteyebilir.
Bu iletişim süreci, teknik süreci kullanıcının gerçek yaşamına dayandırır.
Bir yapay zekanın ilerlemesinin anlaşılmasını kolaylaştırmak üç parçalı bir yapıya indirgenir: güçlü birEylem KelimesiYapay zekanın ne üzerinde çalıştığını (Belirli Öğe) ve herhangiSınırlarveya uyması gereken kurallar.
Seyahat rezervasyonu yapmanıza yardımcı olan bir yapay zekayı düşünün. Zayıf ve faydasız bir güncelleme şu şekilde olacaktır:Uçuş aranıyor...
Çok daha iyi bir güncelleme şu formülü kullanır:
- Eylem Kelimesi: Tarama
- Özel Öğe: Lufthansa ve United'daki fiyatlar
- Sınırlar/Kurallar: 600 doların altında bir şey bulmak için.
Bu yaklaşım, kullanıcıya yapay zekanın isteklerini anladığını ve belirlenen sınırlar dahilinde çalıştığını açıkça gösterir.
Bir yapay zeka insan gibi mi ses çıkarmalı yoksa robot gibi mi davranmalı? Doğru cevap, görevin önemine bağlıdır ve bunu aşağıdakileri kullanarak anlayabiliriz:Etki/Risk MatrisibizimKarar Düğümü DenetimiHer gün
Basit, düşük riskli görevler için, arkadaş canlısı bir konuşma tonu en iyi sonucu verir. Örneğin bir planlama asistanı, takviminizi en iyi zaman için kontrol ettiğini söyleyebilir. Bu, kullanıcı için rahat ve kolay bir deneyim yaratır.
Ancak yüksek riskli görevler net, mekanik doğruluk gerektirir. Yapay zeka büyük bir finansal transferi veya karmaşık bir veritabanı geçişini yönetiyorsa kullanıcılar eğlenceli bir arayüz istemez; kesinlik istiyorlar. Şunu söyleyen bir ekran:“Paranızı çok düşünüyorum”muhtemelen paniğe yol açacaktır. Bunun yerine arayüz aşağıdaki gibi basit bir dil kullanmalıdır:"Hesap yönlendirme numaraları doğrulanıyor."Yapay zekanın "kişiliğini" risk seviyesine uyacak şekilde ayarlayarak kullanıcılara tam olarak o anda ihtiyaç duydukları deneyimi sunuyoruz. Etki/Risk Matrisi gerekli bir başlangıç noktası sağlarken, uygun yapay zeka sesinin ve tonunun nihai belirleyicisi kesindir.kullanıcı araştırmasıBölge yöneticilerini kısa mesafelerde taşıyacak, sırtı ve bacakları kuvvetli personel alınacaktır.
Herhangi bir kural dizisinin, her kullanıcı grubu için veya her durumda güven oluşturacak veya strese neden olacak kelimeleri veya tonu tam olarak tahmin etmesi imkansızdır. Bu nedenle uygulamalı araştırma önemlidir. Gerek:
- A/B testlerini çalıştırınYapay zeka insanlarla farklı şekillerde “konuşuyor”.
- Kullanılabilirlik çalışmaları yürütmekKullanıcıların sistemin mesajlarına duygusal olarak nasıl tepki verdiğini görmek için.
- Röportajlar gerçekleştirinaçıklık açısından kullanıcıların bir yapay zekadan ne beklediklerini gerçekten anlamak.
Bu tür araştırmalar, yapay zekanın "kişiliğinin", sistemi kendi özel bağlamlarında kullanacak gerçek kişiler için rahat ve uygun olmasını sağlar.
Artık konuyu ele aldık"Ne"— kritik mikroskop, net eylem sözcükleri ve yapay zeka durum güncellemesini dürüst ve bilgilendirici kılan gerekli sınırlar. Ancak kelimeler tek başına yeterli değildir. Zayıf bir arayüzde gizlenmiş mükemmel bir cümle hala şeffaflığın başarısızlığıdır.
Bir sonraki zorluk ise"Nasıl"- söz konusu mesaj için fiziksel dağıtım sisteminin tasarlanması. Durum güncelleme formülünü motor, arayüz desenini ise araba olarak düşünebilirsiniz. Güçlü bir motorun, onu yolda taşıyabilmesi için güvenilir, iyi tasarlanmış bir şasiye ihtiyacı vardır.
Arayüz Modelleri: Aracılar İçin Bir KitaplıkDoğru kelimeleri bulduktan sonra ihtiyacımız vardoğru konteyner. Anahtar, mesajın ağırlığını modelin görünürlüğüyle eşleştirmektir. Küçük bir arka plan görevi (dosyalarınızı nazikçe düzenleyen bir temsilci gibi) yüksek sesli, yanıp sönen bir başlığa ihtiyaç duymaz. Bu mesaj en iyi şekilde incelikli bir şekilde iletilir. Yüksek riskli, çok adımlı bir süreç (para taşımak gibi), potansiyel olarak kullanıcıyı dikkat etmeye zorlayan daha sağlam bir konteyner gerektirir.
Bu kalıplardan oluşan bir kütüphane oluşturarak, bekleme kaygısını bilinçli bir güven anına dönüştürerek doğru düzeyde şeffaflığın doğru zamanda sağlanmasını sağlıyoruz. Birkaç yaygın, kritik modeli gözden geçirelim.
Yaşayan Ekmek Kırıntısı: Arka Planda Çalışan Yapay Zeka
Yapay zekanın arka planda sessizce gerçekleştirdiği bu düşük öneme sahip görevler için, kullanıcıların dikkatini sürekli dağıtmadan çalıştığını göstermenin bir yoluna ihtiyacımız var. Buna yaşayan ekmek kırıntısı diyebiliriz.
Yapay zekanın sizin için yanıt hazırladığı bir e-posta uygulamasını düşünün. Rahatsız edici bir açılır mesaj istemezsiniz. Bunun yerine, uygulamanın sınırında veya menü alanında küçük, göze çarpmayan bir durum göstergesi yanıp sönüyor.
Çözümün statik bir simgenin ötesine geçmesi gerekiyor. Canlı kırıntı, farklı metin güncellemeleri arasında sorunsuz bir şekilde geçiş yapar. Şuradan nabız atabilir:E-posta okumaileYanıt hazırlanıyorileTon kontrol ediliyor. İlerlemesini kontrol etmek isterseniz, görevin devam ettiğine dair sessiz bir güvence sunarak oradadır, ancak sizin hemen ilgilenmenizi gerektirmez.
Dinamik Kontrol Listeleri
Karmaşık bir finansal işlemi gerçekleştirmek veya büyük, karmaşık bir veri kümesini taşımak gibi kritik, yüksek riskli görevlerle uğraşırken, birDinamik Kontrol Listesi(Şekil 3'te gösterilmektedir).
Bu model kullanıcı için güçlü bir dayanak görevi görerek, durum hakkında netlik ve güven sağlar.sürecin ilerlemesi. Basit bir çubuk yerine Dinamik Kontrol Listesi, AI aracısının atacağı planlı her adımı ortaya koyar. Şu anda devam eden adımı açıkça vurgular, önceki adımları tamamlanmış olarak işaretler ve gelecekteki eylemleri beklemede olarak listeler.
Örneğin:
- 1. Adım: Hesap Bakiyesini Doğrulayın[Tamamlamak]Her gün
- 2. Adım: Para Birimi Dönüştür[İşleme]Her gün
- 3. Adım: Fon Transferi[Askıda olması]Her gün
Dinamik Kontrol Listesi, öngörülemeyen zamanı ustalıkla yönettiği için geleneksel ilerleme çubuğuna göre önemli bir avantaj sunar. Para birimi dönüştürme (Adım 2) beklenmedik bir şekilde fazladan on saniye gerektiriyorsa, kullanıcı ani bir endişe veya panik hissetmez. Gecikmenin işlem sırasında meydana geldiğini anlayarak sistemin tam konumunu tam olarak görebilirler.Para Birimi Dönüştürmeadım. Bunun potansiyel olarak karmaşık bir eylem olduğunun farkında oldukları için doğal olarak daha sabırlıdırlar ve sistemin devam eden çalışmasına daha fazla güvenirler.
Desenin kendisi ilgi çekici bir kullanıcı arayüzü fikridir ancak tasarımcılar, bunun uygulanmasının görevi tam kapsamlı bir tasarım gereksinimine dönüştürdüğünü unutmamalıdır. Basit bir yükleme işaretinden farklı olarak dinamik kontrol listesi, genellikle bir arka uç web kancası yapısı tarafından tetiklenen adım tamamlama olaylarını dinlemek için sağlam bir ön uç durum yönetim sistemi gerektirir. Bu, arayüzün her zaman aracının iş akışındaki gerçek zamanlı konumunu yansıtmasını sağlar.
Düşünme Geçişi
Daha yüksek bilgi ihtiyaçları veya daha yüksek şeffaflık ihtiyaçları olan bazı kullanıcılar basit bir özete güvenmeyebilir; sistemin ham işlemesini görmek istiyorlar. Bu kitle için şunları tasarladık:Düşünme GeçişiHer gün
Bu, kullanıcının kolay bir durum güncellemesini ham bir terminal görünümüne genişletmesine olanak tanıyan, şerit veya "Günlükleri Görüntüle" düğmesi gibi basit, aşamalı bir açıklama kullanıcı arayüzü kontrolüdür. AI aracısının aşağıdakiler gibi arındırılmış mantık günlüklerini görüntüler:
- API uç noktası /v2/search sorgulanıyor;
- Alınan yanıt: 200 Tamam;
- Sonuçlar alaka puanına göre filtreleniyor > 0,8Her gün
Birçok kişi bu görünümü asla açmayacak. Ancak derin şeffaflığa ihtiyaç duyan kullanıcı için bu geçişin varlığı bir güven sinyalidir. Sistemin hiçbir şeyi gizlemediğine dair onlara güvence veriyor.
Bu derin şeffaflığın kritik bir teknik riski de beraberinde getirdiğini unutmayın. En uzman kitleniz için bile bu ham günlükleri görüntülemeden önce sterilize etmeli ve soyutlamalısınız. Özel iş mantığının, dahili veri yapısı adlarının veya kötüye kullanılabilecek güvenlik belirteçlerinin yanlışlıkla açığa çıkmasını önlemek için bu adım tartışılamaz. Bu süreç, güvenin güvenlik açığıyla değil dürüstlükle inşa edilmesini sağlar.
Kısmi Başarı İçin Tasarlamak
Standart yazılımda işler genellikle siyah veya beyazdır. Bir dosya ya kaydedilir ya da kaydedilmez. Ancak yapay zeka ajanlarında işler genellikle gridir. Bir acente seyahatin çoğunu mükemmel bir şekilde planlayabilir, ancak o özel restorana rezervasyon yapmakta zorlanabilir.
Yapay zekanın çoğunlukla başarılı olduğu zamana göre tasarım yapmamız gerekiyor.
Standart ikili (evet veya hayır) hata mesajları güveni yok eder çünkü yapay zekanın tamamen başarısız olduğunu gösterir. Bir temsilci görevin %90'ını yapıyor ve yalnızca son %10'unu kaçırıyorsa, büyük kırmızı "İstek Başarısız Oldu" başlığı yanıltıcıdır.
Bunun yerine arayüz neyin işe yarayıp neyin yaramadığını açıkça göstermelidir:
- Uçuş rezervasyonu: UA 492[Başarı].
- Otel rezervasyonu: Marriott Şehir Merkezi[Başarı].
- Araç kiralama: Hertz[Başarısız - Envanter yok].
Bu şekilde, acentenin zaten yaptığı tüm iyi işleri korurken, arabayı kendiniz rezerve etmek gibi yalnızca devreye girip başarısız olan parçaları onarmanız gerekir.
Aletin Çözülmesi
Bir yapay zeka sistemi beklendiği gibi performans göstermediğinde, başarısızlığın gerçek nedeni konusunda kesinlikle net olmak çok önemlidir. Kullanıcılar genellikle yapay zekanın güvendiği harici bir hizmet veya aracın neden olduğu sorunlar için yanlışlıkla yapay zekanın kendisini suçlarlar.
Örneğin, bir sanal asistanın programınıza bakmaya çalıştığını, ancak Google Takvim API'sine olan bağlantının kesildiğini düşünün. Hata mesajı asistanın işini yapmamış gibi görünmesine neden olmamalıdır.
- Daha az yararlı: "Takviminizi kontrol edemedim."(Bu, asistanın beceriksiz olduğunu gösterir.)
- Daha yardımsever ve dürüst: "Google Takvim bağlantısı yanıt vermiyor. 30 saniye sonra otomatik olarak tekrar deneyeceğim."
İlk mesaj sinir bozucu çünkü yapay zekanın başarısızmış gibi görünmesine neden oluyor. Ancak ikinci mesaj çok daha net. Yapay zekanın yetenekli olduğunu ancak kontrolü dışındaki bozuk bir aracın soruna neden olduğunu açıklıyor. Bu ayrım gerçekten önemlidir çünkü işler ters gittiğinde bile kullanıcının yapay zekaya olan inancını kaybetmesini önler.
Denetim Yolu: Gerçek Sonrası Güven
Gerçek zamanlı şeffaflık geçicidir. Bir kullanıcı, temsilci çalışırken masasından ayrılırsa Dinamik Kontrol Listesini kaçırır. Bitmiş ekrana geri dönerler. Sonuç tuhaf görünüyorsa çalışmayı doğrulamanın hiçbir yolu yoktur. Bu nedenle her aracılı iş akışı kalıcı bir Denetim İzi gerektirir.
Bir tasarım yapmamız gerekiyorÇalışmayı Gösteretkileşim. Nihai sonuç ekranında, kullanıcının karar mantığını tekrar oynatmasına olanak tanıyan bir bağlantı veya geçmiş günlüğü sağlayın.
- Bu fiyatın nasıl hesaplandığını görün;
- Arama kaynaklarını görüntüleHer gün
Bu makbuz nihai güvenlik ağıdır. Kullanıcının çıktının geçerliliğini noktasal olarak kontrol etmesine olanak tanır. Hiç tıklamasalar bile, faturanın varlığı bile kullanıcıya sistemin yaptığı işin arkasında durduğunu gösterir.
ChatGPT, artık kullanıcılara yapay zekanın kullandığı bilgileri denetlemenin kolay bir yolunu sunmanın kafa karışıklığına veya kullanıcı hayal kırıklığına neden olabileceğine dair bir örnek sunuyor. ChatGPT, bir dosya dolabının şimdiye kadar söylediğiniz her şeyle ilgili notlarla sessizce doldurulması ve ardından bu notları size söylemeden gelecekteki her konuşmayı şekillendirmek için kullanması gibi sizi hatırlar. Buna hafıza denir. Geliştiriciye göreSimon WilsonNisan 2025'te bu anı, her yeni konuşmaya otomatik olarak besleniyordu.
O dönemde ChatGPT'nin hafızasındaki sorun, onun neyi hatırladığını, bu bilgiyi ne zaman kullandığını veya geri aldığınız şeyi nasıl etkilediğini görememenizdi. Günlük yok. Zaman çizelgesi yok. Sade dilli bir liste yok"İşte yapay zekanın senin hakkında karar verdiği şey."
Dosyaya bir göz atmanın tek yolu belirli bir hızlı numarayı bilmekti; esasen modelden kendi gizli talimatlarını size geri vermesini istemek. Çoğu kullanıcı bunu asla keşfetmeyecektir. Willison'un yaptığı gibi, ChatGPT'nin oluşturdukları görüntünün arka planına bir "Yarım Ay Körfezi" işareti yerleştirdiğini fark edecekler (Şekil 8), çünkü önceki konuşmalardan konumlarına sessizce çapraz referans vermişti. Bu, kişiselleştirme olarak gizlenen şeffaflığın (hafızayı kolaylıkla denetleme yeteneği) yokluğudur. Kullanıcılara her ikisini de sağlamanız gerekir.
Denetim İzi modeliChatGPT tarafından gösterilen bellek denetimi sorununa nihai çözümdür. Birlikte yapay zeka şeffaflığını geliştirmeye yönelik bir seçenekler kitaplığı oluşturan dört temel tasarım çözümünden biridir.
Yapay zeka bekleme süresini bir endişe anından kullanıcı güveni oluşturma fırsatına dönüştürmek için tasarlanan, bu makalede tartışılan temel arayüz modellerinin kısa bir özetini burada bulabilirsiniz:
| Model | En İyi Kullanım Durumu | Kullanıcının Kaygısı | Güven Sinyali |
|---|---|---|---|
| Yaşayan Ekmek Kırıntısı | Düşük riskli, arka plan görevleri (örneğin, e-posta taslağı hazırlamak, dosyaları sıralamak). | Sistem durdu mu veya dondu mu? | Aktifim ama sizi rahatsız etmeyeceğim. |
| Dinamik Kontrol Listesi | Değişken süreli, yüksek riskli iş akışları (ör. finansal transferler, seyahat rezervasyonu). | Sıkışmış mı? Hangi adım bu kadar uzun sürüyor? | Bir planım var ve şu anda 2. Adımı uyguluyorum. |
| Düşünme Geçişi | Uzman araçlar veya karmaşık veri analizi (ör. kod oluşturma, pazar araştırması). | Bu halüsinasyon mu yoksa gerçek verileri mi kullanıyor? | Saklayacak hiçbir şeyim yok; işte ham günlüklerim. |
| Denetim Yolu | Herhangi bir sonuç için görev sonrası inceleme (örneğin, nihai raporlar, tamamlanan rezervasyonlar). | Bu sonucun doğru olduğunu nasıl bileceğim? | İşte doğrulamanız için çalışmamın makbuzu. |
Tablo 1: Şeffaflığı artıran dört tasarım modeli.
Dikkatin Gerçeği: Kullanıcılar Arayüzü Görmezden Geldiğinde
En mükemmel şekilde tasarlanmış kontrol listesi veya en net durum mesajı bile birçok kullanıcı tarafından göz ardı edilebilir.
İnsanlar, özellikle de profesyoneller, tonlarca görev üzerinde çalışırken, genellikle arayüzün ayarlarını kapatırlar. Bir sigorta sigortacısının günde elli teklif oluşturduğunu düşünün; ilerleme çubuğunu izlemiyorlar. "Oluştur"a tıklıyorlar, bir e-postayı yanıtlamak için sekmeleri değiştiriyorlar ve yalnızca görev tamamlandığında geri geliyorlar.
Bu uzmanlarla yaptığım araştırma, onların sistemi tamamen nihai sonuca göre değerlendirdiklerini gösteriyor. Cevabın ne olduğuna dair iyi bir fikirleri varyapmalıolmak. Bir satış elemanı 500 ile 600 dolar arasında bir prim bekliyorsa ve sistem 550 dolar veriyorsa bunu hemen kabul ediyor ve güven oluşuyor.
Bu uzmanlar bana, yapay zekanın doğru çıktılar olarak algıladıkları çıktıları sağlamaya devam etmesiyle zamanla kullanımın artacağını ve manuel alıntılamaya kıyasla zamandan tasarruf edeceklerini söylüyor. Aslında sistem artık normalde monoton ama zorunlu olan bir görevin etkili bir hızlandırıcısı olarak görülüyor.
Ancak sistem 900$ döndürürse kullanıcı durur. Çıktı beklentilerle uyumlu değil ve bu onların çözmesi gereken bir sorun. O anda kullanıcı sekmeleri değiştirdi; gerçek zamanlı olarak ortaya çıkan yüksek riskli ek ücrete ilişkin küçük açıklamayı kaçırdılar. Tetiklenen belirli kuralı görmediler. Bu açıklama ilerleme çubuğuyla birlikte kaybolursa kullanıcının beklenti ile sonuç arasındaki farkı anlaması mümkün olmaz. Sadece animasyonun oynanmasını izlemek için sorguyu kesinlikle tekrar çalıştırmayacaklar.
Teklifi elle yürütecekler, yapay zekanın çıktısını etkili bir şekilde işe yaramaz olarak değerlendirecekler ve çabalarının tamamen yeniden işlenmesini başlatacaklar. Bu manuel yeniden hesaplama, zaman kaybı gibi geliyor ve bu da araca olan güvenlerini daha da zayıflatıyor. Bu gerçekleştiğinde, kullanıcı ilgilenmeznedensistem 900 doları seçti; tamamen sistemin doğruluğunu kendi güvenilir yöntemlerine göre doğrulamaya veya geçersiz kılmaya odaklanırlar. Bu şeffaflık eksikliği, özellikle de anlaşmazlık anlarında, benimsenmenin ve tutarlı kullanımın önündeki temel engeldir. Denetim izi, kalıcı şeffaflık sağlamamıza olanak tanır ve yapay zekanın daha fazla iş yaratmasını engelleyen mekanizmadır.
Özellikle kurumsal kullanıma yönelik yapay zeka destekli araçlar sunarken bunu aklımızda tutmamız gerekiyor. Araç beklentilerle uyuşmayan bir sonuç verirse nadiren ikinci bir şans elde edersiniz. Kullanıcının yapay zekanın bu numarayı neden sağladığını araştırmak için on dakika harcaması gerekiyorsa yapay zekayı kullanmayı bırakacaktır.
Öngörülebilirlik, Güvenilirlik ve Anlayış Üründür
Biz sihir numaraları yapmıyoruz. Sihir numarası yanlış yönlendirmeye ve gizli mekanizmalara dayanır. Meslektaşlar yetiştiriyoruz.
İyi bir meslektaşınızı düşünün, sizi gelişmelerden haberdar ederler. Neyin peşinde olduklarını, nelerin zaman aldığını ve ne zaman bir engelle karşılaştıklarını size bildirirler. Bu dürüstlük onlara güvenmenize yardımcı olur.
Bunu yapay zekaya uygulayabiliriz. Tartıştığımız pratik kalıpları kullanarak: belirli güncellemeler vermek, dinamik bir kontrol listesi göstermek, kısmi kazanımları kabul etmek ve bir denetim takibi tutmak, AI'yı sadece güzel bir kat boyaya ihtiyaç duyan gizemli bir kara kutu olarak görmeyi bırakıyoruz. Bunun yerine ona güvenebileceğimiz ve yönetebileceğimiz bir ekip üyesi gibi davranmaya başlarız, bu da güven ve net bir anlayış oluşturur.
Bu arayüz fikirlerini kullanmanın ana nedeni, yapay zekanın karmaşık iç işleyişini açıklamanın ötesine geçerek gerçek şeffaflığa ulaşmaktır. Burada şeffaflık, kullanıcıyaYapay zekanın süreci ve performansıtam da görmeleri gerektiğinde. Bu, açıkça iletmeyi içerirYapay zekanın mevcut durumu, Bilinensınırlarve takip edilmesi kolay birkararlarının geçmişi. Bu düzeyde açıklık, etkileşimi yalnızca yapay zekanın yaptıklarını kabul etmekten, onunla aktif olarak çalışmaya dönüştürür. Kullanıcıların neden belirli bir sonuca ulaştıklarını ve mümkün olan en iyi sonuç için sisteme en iyi şekilde nasıl adım atabileceklerini veya sisteme nasıl rehberlik edebileceklerini anlamalarını sağlar.
Kaynakça
- “İklim değişikliği ile mücadele ve uyum çabalarında, kapsamlı ve işlevsel bir uluslararası iş birliğiA/B Testine İlişkin Temel Kılavuz”, Ali E. Noghli
- “İklim değişikliği ile mücadele ve uyum çabalarında, kapsamlı ve işlevsel bir uluslararası iş birliğiKullanılabilirlik testi: eksiksiz kılavuz”, Andrew Tipp
- “İklim değişikliği ile mücadele ve uyum çabalarında, kapsamlı ve işlevsel bir uluslararası iş birliğiKullanıcı Görüşmeleri Nasıl Gerçekleştirilir?”, IxDF
