Otonom ajanlar için tasarım yapmak benzersiz bir hayal kırıklığı yaratır. Karmaşık bir görevi bir yapay zekaya veriyoruz, 30 saniye (veya 30 dakika) kayboluyor ve sonra sonuçla geri dönüyor. Ekrana bakarız. İşe yaradı mı? Halüsinasyon gördü mü? Uyumluluk veritabanını kontrol etti mi veya bu adımı atladı mı?
Bu kaygıya genellikle iki uçtan biriyle yanıt veririz. Ya sistemi birKara Kutubasitliği korumak için her şeyi gizleriz veya panikleyipveri yığını, her günlük satırını ve API çağrısını kullanıcıya aktarır.
Her iki yaklaşım da kullanıcılara ideal şeffaflık seviyesini sağlamak için gereken nüansı doğrudan ele almaz.
. Kara Kutukullanıcıları güçsüz hissettirir.veri yığınıbildirim körlüğü yaratarak, temsilcinin sağlamayı vaat ettiği verimliliği yok eder. Kullanıcılar, bir şey kırılana kadar sürekli bilgi akışını görmezden gelirler, bu noktada onu düzeltecek bağlamdan yoksundurlar.
Dengeyi bulmak için organize bir yola ihtiyacımız var. Bir önceki yazımda, “Agentic AI için TasarımAI'nın amaçlanan eylemini önceden göstermek (Niyet Önizlemeleri) ve kullanıcılara AI'nın kendi başına ne kadar yaptığı üzerinde kontrol sağlamak (Özerklik Çevirme) gibi güven oluşturan arayüz öğelerine baktık. Ancak hangi öğelerin kullanılacağını bilmek zorluğun sadece bir parçasıdır. Tasarımcılar için zor olan soru, bunları ne zaman kullanacaklarını bilmektir.
30 saniyelik bir iş akışında hangi belirli anın bir Niyet Önizlemesi gerektirdiğini ve hangilerinin basit bir günlük girişi ile ele alınabileceğini nasıl bilebilirsiniz?
Bu makale, bu soruyu cevaplamak için bir yöntem sunmaktadır. Şunun içinden geçeceğiz:Karar Düğümü DenetimiBu süreç, arka uç mantığını kullanıcı arayüzüne eşlemek için tasarımcıları ve mühendisleri aynı odaya alır. Bir kullanıcının yapay zekanın ne yaptığına dair bir güncellemeye ihtiyaç duyduğu tam anları nasıl belirleyeceğinizi öğreneceksiniz. Ayrıca şunları da ele alacağız:Etki/Risk matrisibu, hangi karar düğümlerinin görüntüleneceğine ve bu kararla eşleşecek herhangi bir ilişkili tasarım örüntüsüne öncelik verilmesine yardımcı olacaktır.
Şeffaflık Anları: Bir Vaka Çalışması Örneğiİlk kaza taleplerini işlemek için aracı bir yapay zeka kullanan bir sigorta şirketi olan Meridian'ı (gerçek adı değil) düşünün. Kullanıcı, araç hasarının fotoğraflarını ve polis raporunu yükler. Temsilci daha sonra bir risk değerlendirmesi ve önerilen bir ödeme aralığı ile geri dönmeden önce bir dakikalığına ortadan kaybolur.
Başlangıçta, Meridian'ın arayüzü sadece Talep Durumunun Hesaplanmasını gösteriyordu. Kullanıcılar hayal kırıklığına uğradı. Birkaç ayrıntılı belge sundular ve yapay zekanın hafifletici nedenler içeren polis raporunu gözden geçirip geçirmediği konusunda kararsız kaldılar. Kara Kutu güvensizlik yarattı.
Bunu düzeltmek için tasarım ekibi bir Karar Düğümü Denetimi gerçekleştirdi. Yapay zekanın, gömülü çok sayıda küçük adımla üç farklı, olasılık tabanlı adım gerçekleştirdiğini buldular:
- Image Analysis
Temsilci, onarım maliyetini tahmin etmek için hasar fotoğraflarını tipik bir araba kazası senaryosu veri tabanıyla karşılaştırdı. Bu bir güven puanı içeriyordu. - Metinsel İnceleme
Polis raporunda sorumluluğu etkileyen anahtar kelimeler (örneğin, arıza, hava koşulları, ayıklık) tarandı. Bu, yasal statünün bir olasılık değerlendirmesini içeriyordu. - Poliçe Çapraz Referansı
İstisnaları veya teminat limitlerini arayarak talep ayrıntılarını kullanıcının özel poliçe şartlarıyla eşleştirdi. Bu aynı zamanda olasılıksal eşleştirmeyi de içeriyordu.
Ekip bu adımları şeffaflık anlarına dönüştürdü. Arayüz dizisi şu şekilde güncellendi:
- Hasar Fotoğraflarının Değerlendirilmesi: 500 adet araç darbe profilinin karşılaştırılması.
- Polis Raporunun İncelenmesi: Yükümlülük anahtar kelimelerinin ve yasal emsalin analiz edilmesi.
- Poliçe Kapsamının Doğrulanması: Planınızdaki belirli istisnaları kontrol etme.
Sistem yine de aynı süreyi aldı, ancak temsilcinin iç işleyişi hakkındaki açık iletişim kullanıcı güvenini geri kazandı. Kullanıcılar, yapay zekanın tasarlandığı karmaşık görevi yerine getirdiğini ve son değerlendirmenin yanlış görünmesi durumunda dikkatlerini tam olarak nereye odaklayacaklarını biliyorlardı. Bu tasarım seçimi, bir kaygı anını kullanıcıyla bir bağlantı anına dönüştürdü.
Etki/Risk Matrisini Uygulama: Neyi Gizlemeyi Seçtik
Çoğu yapay zeka deneyiminde, işleme sırasında potansiyel olarak görüntülenebilecek olay ve karar düğümü sıkıntısı yoktur. Denetimin en kritik sonuçlarından biri, neyin görünmez kalacağına karar vermekti. Meridyen örneğinde, arka uç günlükleri talep başına 50 'denfazla etkinlik oluşturmuştur. Kullanıcı arayüzünün bir parçası olarak işlendikleri için her olayı varsayılan olarak görüntüleyebilirdik. Bunun yerine, bunları budamak için risk matrisini uyguladık:
- Olayı Kaydet:Yedeklilik kontrolü için West -2 Ping Sunucusu.
- Filtre Kararı: Gizle(Düşük Bahis, Yüksek Teknik).
- Olayı Kaydet:Onarım tahmininin BlueBook değeriyle karşılaştırılması.
- Filtre Kararı: Göstermek(Büyük Bahisler, kullanıcının ödemesini etkiler).
Gereksiz ayrıntıları ortadan kaldırarak, kapsama alanı doğrulaması gibi önemli bilgiler daha etkili oldu. Açık bir arayüz oluşturduk ve açık bir arayüz tasarladıkdeneyimi.
Bu yaklaşım, insanların yapılan işi gördüklerinde bir hizmet hakkında daha iyi hissettikleri fikrini kullanır. Belirli adımları göstererek (Değerlendirme, Gözden Geçirme, Doğrulama), endişe zamanından 30 saniyelik bir bekleme süresini değiştirdik .(Kırık mı?) değerli bir şey yaratılıyormuş gibi hissetme zamanına ("Düşünüyor").
Şimdi, net bilgi gerektiren önemli anları belirlemek için ürünlerimizdeki karar verme sürecini nasıl gözden geçirebileceğimize daha yakından bakalım.
Karar Düğümü DenetimiŞeffaflık, onu işlevsel bir gereklilikten ziyade bir stil seçimi olarak ele aldığımızda başarısız olur. Sorma eğilimimiz var,"Kullanıcı arayüzü nasıl görünmeli ?"sormadan önce,"Temsilci gerçekte neye karar veriyor ?"
Karar Düğümü Denetimi, yapay zeka sistemlerinin anlaşılmasını kolaylaştırmanın basit bir yoludur. Sistemin dahili sürecini dikkatlice haritalandırarak çalışır. Temel amaç, sistemin belirlenmiş kurallarına uymayı bıraktığı ve bunun yerine şansa veya tahmine dayalı bir seçim yaptığı kesin anları bulmak ve açıkça tanımlamaktır. Bu yapıyı haritalandırarak, yaratıcılar bu belirsizlik noktalarını doğrudan sistemi kullanan kişilere gösterebilir. Bu, sistem güncellemelerini belirsiz ifadelerden yapay zekanın sonuca nasıl ulaştığına dair spesifik, güvenilir raporlara dönüştürür.
Yukarıdaki sigorta vaka çalışmasına ek olarak, yakın zamanda bir tedarik acentesi kuran bir ekiple çalıştım. Sistem, satıcı sözleşmelerini gözden geçirdi ve riskleri işaretledi. Başlangıçta, ekranda basit bir ilerleme çubuğu görüntüleniyordu:"Sözleşmeler gözden geçiriliyor ."Kullanıcılar bundan nefret etti. Araştırmamız, eksik bir maddenin yasal sonuçları konusunda endişeli olduklarını gösterdi.
Bunu bir Karar Düğümü Denetimi gerçekleştirerek düzelttik. Bu makalenin sonunda bu denetimi gerçekleştirmek için adım adım bir kontrol listesi ekledim.
Mühendislerle bir oturum gerçekleştirdik ve sistemin nasıl çalıştığını özetledik. Yapay zekanın iki iyi seçenek arasında seçim yapmak zorunda kaldığı “Karar Noktaları” nı belirledik.
Standart bilgisayar programlarında süreç açıktır: A olursa, B her zaman olur. Yapay zeka sistemlerinde süreç genellikle şansa dayanır. Yapay zeka, A'nın muhtemelen en iyi seçim olduğunu düşünüyor, ancak sadece % 65 kesin olabilir.
Sözleşme sisteminde, yapay zekanın sorumluluk şartlarını şirket kurallarımıza göre kontrol ettiği bir an bulduk. Nadiren mükemmel bir eşleşmeydi. Yapay zeka, % 90 'lık bir eşleşmenin yeterince iyi olup olmadığına karar vermek zorunda kaldı. Bu önemli bir karar noktasıydı.
Bu düğümü belirledikten sonra kullanıcıya gösterdik. Bunun yerine"Sözleşmeleri gözden geçirme ,"arayüz şu şekilde güncellendi:“Sorumluluk maddesi standart şablondan farklıdır. Risk seviyesi analiz ediliyor ."
Bu özel güncelleme kullanıcılara güven verdi. Temsilcinin sorumluluk maddesini kontrol ettiğini biliyorlardı. Gecikmenin nedenini anladılar ve istenen eylemin arka uçta gerçekleştiğine dair güven kazandılar. Temsilci sözleşmeyi oluşturduktan sonra daha derine ineceklerini de biliyorlardı.
Yapay zekanın nasıl karar verdiğini kontrol etmek için mühendisleriniz, ürün yöneticileriniz, iş analistleriniz ve yapay zeka aracının işleyişini etkileyen seçimleri (genellikle gizli) yapan kilit kişilerle yakın çalışmanız gerekir. Aracın attığı adımları çizin. Bir olasılık karşılandığı için sürecin yön değiştirdiği her noktayı işaretleyin. Bunlar daha şeffaf olmaya odaklanmanız gereken yerlerdir.
Aşağıdaki Şekil 2 'de gösterildiği gibi, Karar Düğümü Denetimi şu adımları içerir:
Ekibi bir araya getirinÜrün sahiplerini, iş analistlerini, tasarımcıları, kilit karar vericileri ve yapay zekayı inşa eden mühendisleri getirin. Örneğin,
Dağınık yasal sözleşmeleri gözden geçirmek için tasarlanmış bir yapay zeka aracı oluşturan bir ürün ekibi düşünün. Ekip, UX tasarımcısı, ürün yöneticisi, UX araştırmacısı, konu uzmanı olarak görev yapan bir avukat ve metin analiz kodunu yazan arka uç mühendisini içerir.
Tüm süreci çizin:Kullanıcının ilk eyleminden nihai sonuca kadar yapay zekanın attığı her adımı belgeleyin.
Ekip bir beyaz tahtada durur ve yapay zekanın karmaşık bir sözleşmede bir yükümlülük maddesi aramasını içeren önemli bir iş akışı için tüm diziyi çizer. Avukat elli sayfalık bir PDF yükler → Sistem belgeyi okunabilir metne dönüştürür. → Yapay zeka, sorumluluk maddeleri için sayfaları tarar. → Kullanıcı bekler. → Dakikalar veya dakikalar sonra araç, bulunan paragrafları kullanıcı arayüzünde sarı renkte vurgular. Bunu, aracın barındırdığı diğer birçok iş akışı için de yaparlar.
Bazı şeylerin net olmadığı yerleri bulun:Yapay zekanın tek bir mükemmel eşleşmeye sahip olmayan seçenekleri veya girdileri karşılaştırdığı herhangi bir nokta için süreç haritasına bakın.
Ekip, belirsiz adımları tespit etmek için beyaz tahtaya bakar. Bir görüntüyü metne dönüştürmek katı kurallara uyar. Belirli bir yükümlülük maddesi bulmak, tahminde bulunmayı içerir. Her firma bu maddeleri farklı şekilde yazar, bu nedenle yapay zekanın tam bir kelime eşleşmesi bulmak yerine birden fazla seçeneği tartması ve bir tahmin yapması gerekir.
'En iyi tahmin’ adımlarını belirleyin:Her belirsiz nokta için, sistemin bir güven puanı kullanıp kullanmadığını kontrol edin (örneğin, % 85 emin misiniz?). Bunlar, yapay zekanın nihai bir seçim yaptığı noktalardır.
Sistem, hangi paragraf (lar) ın standart bir sorumluluk maddesine yakından benzediğini tahmin etmelidir (bir olasılık vermelidir). En iyi tahminine bir güven puanı atar. Bu tahmin bir karar düğümüdür. Arayüzün, avukata kesin maddeyi bulduğunu belirtmek yerine potansiyel bir eşleşmeyi vurguladığını söylemesi gerekiyor.
Seçimi inceleyin:Her seçim noktası için, yapılan belirli dahili matematiği veya karşılaştırmayı belirleyin (örneğin, bir sözleşmenin bir bölümünü bir politikayla eşleştirmek veya bozuk bir arabanın resmini hasarlı araba fotoğrafları kütüphanesiyle karşılaştırmak).
Mühendis, sistemin çeşitli paragrafları geçmiş firma davalarından standart sorumluluk maddelerinin bir veritabanıyla karşılaştırdığını açıklar. Olasılıklara göre bir eşleşmeye karar vermek için bir metin benzerlik puanı hesaplar.
Net açıklamalar yazın:Yapay zeka bir seçim yaptığında gerçekleşen belirli dahili eylemi açıkça tanımlayan kullanıcı için mesajlar oluşturun.
İçerik tasarımcısı tam olarak bu an için belirli bir mesaj yazar. Metinde şöyle yazıyor:Potansiyel sorumluluk risklerini belirlemek için belge metnini standart firma maddeleriyle karşılaştırmak.
Ekranı güncelleyin.Bu yeni, net açıklamaları kullanıcı arayüzüne yerleştirin, aşağıdaki gibi belirsiz mesajları değiştirin"Sözleşmeler gözden geçiriliyor ."
Tasarım ekibi, genel İşleme PDF yükleme döndürücüsünü kaldırır. Yapay zeka düşünürken, yeni açıklamayı belge görüntüleyicinin hemen üzerinde bulunan bir durum çubuğuna eklerler.
- Güveni Kontrol Edin:Yeni ekran mesajlarının kullanıcılara herhangi bir bekleme süresi veya sonucu için basit bir neden verdiğinden emin olun, bu da kendilerini daha güvende ve güvenilir hissetmelerini sağlayacaktır.
Etki/Risk Matrisi
Yapay zekanın sürecine yakından baktığınızda, muhtemelen bir seçim yaptığı birçok nokta bulacaksınız. Bir yapay zeka, tek bir karmaşık görev için düzinelerce küçük seçim yapabilir. Hepsini göstermek çok fazla gereksiz bilgi yaratır. Bu seçenekleri gruplandırmanız gerekir.
KullanabilirsinizEtki/Risk Matrisibu seçimleri yapay zekanın gerçekleştirdiği eylem türlerine göre sıralamak. Etki/risk matrislerine örnekler:
İlk olarak, düşük riskli ve düşük etkili kararlar arayın.
Düşük Risk / Düşük Etki
- Örnek:Bir dosya yapısını düzenleme veya bir belgeyi yeniden adlandırma.
- Şeffaflık İhtiyacı:Minimal. İnce bir tost bildirimi veya günlük girişi yeterlidir. Kullanıcılar bu işlemleri kolayca geri alabilir.
Ardından, yüksek riskli ve yüksek etkili kararları belirleyin.
Yüksek Risk / Yüksek Etki
- Örnek:Bir kredi başvurusunu reddetmek veya bir hisse senedi işlemi gerçekleştirmek.
- Şeffaflık İhtiyacı:Yüksek. Bu eylemler İş Kanıtı gerektirir. Sistem, gerekçeyi harekete geçmeden önce veya hemen göstermelidir.
Tüm alım/satım emirlerini aynı şekilde ele alan bir finansal işlem botu düşünün. 50.000 $ 'lık bir işlemle aynı opaklığa sahip 5 $' lık bir işlem gerçekleştirir. Kullanıcılar, aracın şeffaflığın büyük bir dolar tutarı üzerindeki işlem üzerindeki potansiyel etkisini tanıyıp tanımadığını sorgulayabilir. Sistemin yüksek riskli işlemler için çalışmalarını duraklatmasına ve göstermesine ihtiyaçları var. Çözüm, belirli bir dolar tutarını aşan herhangi bir işlem için kullanıcının kararı uygulamadan önce yönlendiren faktörleri görmesini sağlayan bir Gözden Geçirme Mantığı durumu sunmaktır.
Düğümlerin Örüntülerle Eşleştirilmesi: Bir Tasarım Örüntüsü Seçim Rubriği
Deneyiminizin temel karar düğümlerini belirledikten sonra, göstereceğiniz her biri için hangi kullanıcı arayüzü modelinin geçerli olduğuna karar vermelisiniz. Designing For Agentic AI'da, Intent Preview (yüksek riskli kontrol için) ve Action Audit (geriye dönük güvenlik için) gibi kalıpları tanıttık. Aralarında seçim yaparken belirleyici faktör tersinirliktir.
Doğru örüntüyü atamak için her karar düğümünü etki matrisi aracılığıyla filtreliyoruz:
Yüksek Bahisli ve Geri Alınamaz:Bu düğümler bir Niyet Önizlemesi gerektirir. Kullanıcı eylemi kolayca geri alamadığından (örneğin, bir veritabanını kalıcı olarak silme), şeffaflık anı yürütmeden önce gerçekleşmelidir. Sistem duraklamalı, amacını açıklamalı ve onay gerektirmelidir.
Yüksek Bahisli ve Tersinir:Bu düğümler Eylem Denetimi ve Geri Alma modeline güvenebilir. Yapay zeka destekli satış temsilcisi bir müşteri adayını farklı bir iletişim hattına taşırsa, kullanıcıyı bilgilendirdiği ve anında bir Geri Al düğmesi sunduğu sürece bunu bağımsız olarak yapabilir.
Düğümleri kesinlikle bu şekilde kategorize ederek, “uyanık yorgunluktan” kaçınırız. "Yüksek sürtünmeli Niyet Önizlemesini yalnızca gerçekten geri dönüşü olmayan anlar için ayırırken, diğer her şey için hızı korumak için Eylem Denetimine güveniyoruz.
| Çift yönlü | Geri alınamaz | |
|---|---|---|
| Düşük Etki | Tür: Otomatik Yürütme UI: Pasif Tost / Kütük Örn: Bir dosyanın yeniden adlandırılması |
TürOnayla: UI: Basit Geri Alma seçeneği Ör. Bir e - postayı arşivleme |
| Yüksek Etki | TürGözden Geçirme: UI: Bildirim + İzi İncele Örn: Bir müşteriye taslak gönderme |
Tür: Niyet önizlemesi UI: Modal / Açık İzin Örn: Sunucu silme |
Tablo 1: Etki ve tersinirlik matrisi daha sonra şeffaflık anlarınızı tasarım kalıplarına eşlemek için kullanılabilir.
Nitel Doğrulama: “Bekleme, Neden ?” Testi
Bir beyaz tahtadaki potansiyel düğümleri tanımlayabilirsiniz, ancak bunları insan davranışlarıyla doğrulamanız gerekir. Haritanızın kullanıcının zihinsel modeliyle eşleşip eşleşmediğini doğrulamanız gerekir. Şunun adı verilen bir protokol kullanıyorum:"Bekle, Neden ?" Testi.
Bir kullanıcıdan temsilcinin bir görevi tamamlamasını izlemesini isteyin. Onlara yüksek sesle konuşmalarını söyleyin. Ne zaman bir soru sorsalar,"Bekle, bunu neden yaptı ?"veyaTakıldı mı bu?veya"Beni duydu mu ?"— bir zaman damgası işaretlersiniz.
Bu sorular kullanıcı karışıklığına işaret eder. Kullanıcı kontrolünün kaybolduğunu hisseder. Örneğin, bir sağlık hizmeti planlama asistanı için yapılan bir çalışmada, kullanıcılar temsilcinin randevu almasını izledi. Ekran dört saniye boyunca sabit kaldı. Katılımcılar sürekli olarak,"Benim takvimimi mi yoksa doktorunkini mi kontrol ediyor ?"
Bu soru bir kayıp olduğunu ortaya çıkardıŞeffaflık Anı. Sistemin bu dört saniyelik beklemeyi iki ayrı adıma ayırması gerekiyordu:“Uygunluk durumunuz kontrol ediliyor”Takipçiler"Sağlayıcı programıyla senkronize ediliyor ."
Bu küçük değişiklik, kullanıcıların ifade edilen kaygı düzeylerini azaltmıştır.
Şeffaflık, yalnızca bir sistem eylemini tanımladığında başarısız olur. Arayüz, teknik süreci kullanıcının özel hedefine bağlamalıdır. Görüntülenen bir ekran“Uygunluk durumunuz kontrol ediliyor”bağlamdan yoksun olduğu için düz düşüyor. Kullanıcı, yapay zekanın bir takvime baktığını anlıyor, ancak nedenini bilmiyor.
Eylemi sonuçla eşleştirmeliyiz. Sistemin bu dört saniyelik beklemeyi iki ayrı adıma ayırması gerekiyor. İlk olarak, arayüz"Açık zamanları bulmak için takviminizi kontrol ediyorum ."Daha sonra şuna güncellenir:"Randevunuzu güvence altına almak için sağlayıcının programıyla senkronize ediliyor ."Bu, teknik süreci kullanıcının gerçek yaşamına dayandırır.
Yerel bir kafe için envanteri yöneten bir yapay zeka düşünün. Sistem bir arz sıkıntısı ile karşı karşıyadır. "Satıcıyla iletişim kurmak" veya "seçenekleri gözden geçirmek" yazan bir arayüz endişe yaratır. Yönetici, sistemin siparişi iptal edip etmediğini veya pahalı bir alternatif satın alıp almadığını merak eder. Daha iyi bir yaklaşım, amaçlanan sonucu açıklamaktır:"Cuma teslimat programınızı korumak için alternatif tedarikçileri değerlendirmek ."Bu, kullanıcıya yapay zekanın tam olarak neyi başarmaya çalıştığını söyler.
Denetimin OperasyonelleştirilmesiKarar Düğümü Denetimini tamamladınız ve listenizi Etki ve Risk Matrisi aracılığıyla filtrelediniz. Artık şeffaf olmak için gerekli anların bir listesine sahipsiniz. Ardından, bunları kullanıcı arayüzünde oluşturmanız gerekir. Bu adım, farklı departmanlar arasında ekip çalışması gerektirir. Bir tasarım aracı kullanarak şeffaflığı tek başınıza tasarlayamazsınız. Sistemin perde arkasında nasıl çalıştığını anlamanız gerekir.
BİR HEDEFLE BAŞLAYINMantık İncelemesi. Baş sistem tasarımcınızla görüşün. Karar düğümleri haritanızı getirin. Sistemin bu durumları gerçekten paylaşabileceğini onaylamanız gerekir. Genellikle teknik sistemin göstermek istediğim durumu tam olarak ortaya koymadığını görüyorum. Mühendis, sistemin sadece genel bir "çalışma" durumu döndürdüğünü söyleyebilir. Ayrıntılı bir güncelleme için zorlamalısınız. Metni okumaktan kuralları kontrol etmeye geçtiğinde sistemin belirli bir bildirim göndermesine ihtiyacınız vardır. Bu teknik bağlantı olmadan tasarımınızı oluşturmak imkansızdır.
Ardından, İçerik Tasarım ekibini dahil edin. Yapay zekanın eylemi için teknik bir nedeniniz var, ancak net, insan dostu bir açıklamaya ihtiyacınız var. Mühendisler altta yatan süreci sağlar, ancak içerik tasarımcıları bunun iletilme şeklini sağlar. Bu mesajları tek başınıza yazmayın. Bir geliştirici şunu yazabilir:"402 işlevini yürütme ,"teknik olarak doğrudur ancak kullanıcı için anlamsızdır. Bir tasarımcı şunları yazabilir:Oluşabilirdostça ama çok belirsiz. Bir içerik stratejisti doğru orta yolu bulur. Aşağıdakiler gibi belirli ifadeler oluştururlar:“Yükümlülük riskleri taranıyor”, bu da yapay zekanın kullanıcının kafasını karıştırmadan çalıştığını gösteriyor.
Son olarak, mesajlarınızın şeffaflığını test edin. Metnin işe yarayıp yaramadığını görmek için son ürünün oluşturulmasını beklemeyin. Değişen tek şeyin durum mesajı olduğu basit prototipler üzerinde karşılaştırma testleri yapıyorum. Örneğin, bir gruba (A Grubu) şunu söyleyen bir mesaj gösteriyorum:"Kimlik doğrulanıyor"ve başka bir grup (Grup B) şunu söyleyen bir mesaj“Devlet veri tabanları kontrol ediliyor”(bunlar uydurma örneklerdir, ancak ne demek istediğimi anlıyorsunuz). Sonra onlara hangi yapay zekanın daha güvenli hissettiğini soruyorum. Çoğu zaman bazı kelimelerin endişeye neden olduğunu, diğerlerinin ise güven oluşturduğunu keşfedeceksiniz. İfadeyi test etmeniz ve etkili olduğunu kanıtlamanız gereken bir şey olarak ele almalısınız.
Bunun Tasarım Sürecini Nasıl Değiştirdiği
Bu denetimlerin yapılması, bir ekibin birlikte çalışma şeklini güçlendirme potansiyeline sahiptir. Cilalı tasarım dosyalarını teslim etmeyi bırakıyoruz. Dağınık prototipler ve paylaşılan e - tablolar kullanmaya başlıyoruz. Çekirdek araç birşeffaflık matrisi. Mühendisler ve içerik tasarımcıları bu elektronik tabloyu birlikte düzenler. Teknik kodları tam olarak kullanıcının okuyacağı kelimelerle eşleştirirler.
Mantık incelemesi sırasında ekipler sürtüşme yaşayacaktır. Bir tasarımcının mühendise yapay zekanın bir gider raporunda sunulan bir işlemi reddetmeye nasıl karar verdiğini sorduğunu hayal edin. Mühendis, arka ucun yalnızca aşağıdaki gibi genel bir durum kodu çıkardığını söyleyebilir“Error: Missing Data” (Hata: Eksik Veri).Tasarımcı, bunun ekranda işlem yapılabilir bilgiler olmadığını belirtir. Tasarımcı, belirli bir teknik kanca oluşturmak için mühendisle müzakere eder. Mühendis yeni bir kural yazar, böylece sistem eksik makbuz görüntüsü gibi eksikleri tam olarak bildirir.
İçerik tasarımcıları bu aşamada çevirmen olarak hareket ederler. Bir geliştirici teknik olarak doğru bir dize yazabilir"Satıcı eşleşmesi için güven eşiği hesaplanıyor ."Bir içerik tasarımcısı, bu dizeyi belirli bir sonuç için güven oluşturan bir ifadeye çevirir. Stratejist bunu şu şekilde yeniden yazar:"Cuma teslimatınızı güvence altına almak için yerel satıcı fiyatlarını karşılaştırmak ."Kullanıcı eylemi ve sonucu anlar.
Çapraz fonksiyonel ekibin tamamı kullanıcı test oturumlarına katılır. Gerçek bir kişinin farklı durum mesajlarına tepki vermesini izlerler. Ekranda yazanlardan dolayı bir kullanıcının paniğe kapıldığını görmek“İşlem yürütme”ekibi yaklaşımlarını yeniden düşünmeye zorlar. Mühendisler ve tasarımcılar daha iyi ifadelere uyum sağlar. Metni şu şekilde değiştirirler:"Yeterli fonun doğrulanması"hisse senedi satın almadan önce. Birlikte test etmek, son arayüzün hem sistem mantığına hem de kullanıcının gönül rahatlığına hizmet etmesini garanti eder.
Bu ek aktiviteleri ekibin takvimine dahil etmek zaman gerektirir. Bununla birlikte, nihai sonuç daha açık iletişim kuran bir ekip ve yapay zeka destekli araçlarının kendileri adına ne yaptığını (ve nedenini) daha iyi anlayan kullanıcılar olmalıdır. BuEntegre yaklaşımgerçekten güvenilir yapay zeka deneyimleri tasarlamanın temel taşıdır.
Güven Bir Tasarım SeçimidirGüveni genellikle iyi bir kullanıcı deneyiminin duygusal bir yan ürünü olarak görürüz. Güveni öngörülebilir iletişimin mekanik bir sonucu olarak görmek daha kolaydır.
Doğru bilgiyi doğru zamanda göstererek güven inşa ederiz. Kullanıcıyı bunaltarak veya makineyi tamamen gizleyerek onu yok ederiz.
Özellikle aracı yapay zeka araçları ve ürünleri için Karar Düğümü Denetimi ile başlayın. Sistemin muhakeme çağrısı yaptığı anları bulun. Bu anları Risk Matrisi ile eşleştirin. Bahisler yüksekse, kutuyu açın. Çalışmayı gösterin.
Bir sonraki makalede, bu anların nasıl tasarlanacağına bakacağız: kopyanın nasıl yazılacağı, kullanıcı arayüzünün nasıl yapılandırılacağı ve temsilci yanlış yaptığında kaçınılmaz hataların nasıl ele alınacağı.
Ek: Karar Düğümü Denetim Kontrol ListesiAşama 1: Kurulum ve Haritalama
Ekibi bir araya getirinÜrün sahiplerini, iş analistlerini, tasarımcıları, kilit karar vericileri ve yapay zekayı inşa eden mühendisleri getirin. Örneğin,
İpucu: Mühendislerin gerçek arka uç mantığını açıklamasına ihtiyacınız var. Bu adımı tek başınıza denemeyin.
Tüm süreci ✅ çizin:Kullanıcının ilk eyleminden nihai sonuca kadar yapay zekanın attığı her adımı belgeleyin.
İpucu: Fiziksel bir beyaz tahta oturumu genellikle bu ilk adımları çizmek için en iyi sonucu verir.
Aşama 2: Gizli Mantığı Bulma
Bazı şeylerin net olmadığı yerleri ✅ bulun:Yapay zekanın tek bir mükemmel eşleşmeye sahip olmayan seçenekleri veya girdileri karşılaştırdığı herhangi bir nokta için süreç haritasına bakın.
En iyi tahmin adımlarını ✅ belirleyin:Net olmayan her nokta için, sistemin bir güven puanı kullanıp kullanmadığını kontrol edin. Örneğin, sistemin yüzde 85 emin olup olmadığını sorun. Bunlar, yapay zekanın nihai bir seçim yaptığı noktalardır.
Seçimi ✅ inceleyin:Her bir seçim noktası için, yapılan belirli dahili matematiği veya karşılaştırmayı belirleyin. Bir örnek, bir sözleşmenin bir bölümünü bir poliçeyle eşleştirmektir. Başka bir örnek, bozuk bir arabanın resmini hasarlı araba fotoğraflarından oluşan bir kütüphaneyle karşılaştırmayı içerir.
Aşama 3: Kullanıcı Deneyimi Oluşturma
Net açıklamalar ✅ yazın:Yapay zeka bir seçim yaptığında gerçekleşen belirli dahili eylemi açıkça tanımlayan kullanıcı için mesajlar oluşturun.
İpucu: Mesajlarınızı somut gerçekliğe dayandırın. Bir yapay zeka, yerel bir kafede bir müşteriyle toplantı rezervasyonu yaparsa, kullanıcıya sistemin kafe rezervasyon sistemini kontrol ettiğini söyleyin.
Ekranı güncelleyin.Bu yeni, net açıklamaları kullanıcı arayüzüne yerleştirin. Sözleşmeleri gözden geçirme gibi belirsiz mesajları özel açıklamalarınızla değiştirin.
Güveni ✅ Kontrol Edin:Yeni ekran mesajlarının kullanıcılara herhangi bir bekleme süresi veya sonucu için basit bir neden verdiğinden emin olun. Bu, kendilerini güvende ve güvenilir hissetmelerini sağlamalıdır.
İpucu: Elde edilen belirli sonucu anladıklarını doğrulamak için bu mesajları gerçek kullanıcılarla test edin.
