"Hiçbir şirket sizin için hapse girmeyecek ": Proton'un gizlilik, politika ve güveni dengeleme CTO'su

BugünKod çözücüdünyayı yöneten sistemlerle ilgili iki bölümden oluşan bir serinin ilkine sahibiz: Proton'un CTO'su Bart Butler ile konuşuyorum, özel ve güvenli üretkenlik yazılımı yapan şirket.

Muhtemelen varsayılan olarak şifrelenen Proton Mail için en iyisini biliyorsunuzdur, ancak şirketin dedokümanlar, sayfalar, takvimve hatta Lumo adlı yeni bir yapay zeka asistanı bile, hepsi Büyük Teknoloji şirketlerinin ürünlerinden çok daha özel olmaları gerektiği fikri etrafında inşa edildi ve pazarlandı.

Bart'ın, Proton'un yüksek düzeyde sattığı şeyin aslında ürünlerin kendisi değil, aslında güven olduğunu açıkça söylediğini duyacaksınız. Ve yazılım dünyasına güven, yalnızca şirketleri yöneten insanlarla değil, aynı zamanda teknolojinin doğru teşviklere karşı inşa edildiğinden emin olmak için geliştirdikleri ve sattıkları teknolojiyle ve mevcut kurumsal yapıyla da ilgilidir.Kod çözücübaşka bir deyişle yem. Buradaki zorluk, Bart'ın Proton'un misyonunun bir kısmının Big Tech'e uygun bir rakip olmayı başarmak için çok fazla olduğunu söylemesi ve bu da şirketin temel değerlerini korurken büyümek ve rekabetçi ölçeğe genişlemek zorunda olduğu anlamına geliyor.

Bu felsefe ve bu meydan okuma, doğrudan Proton'un yapısına ve hatta fiziksel konumuna dayanmaktadır — şirket ve sunucuları, kısmen İsviçre hükümetinin jeopolitik tarafsızlığı nedeniyle İsviçre'de bulunmaktadır. İki yıl önce Proton, görünüşte kamu yararına faaliyet gösteren, ancak kendi başarısızlık modlarına sahip her türlü şirket tarafından kullanılan tanıdık bir model olan bir vakıf tarafından yönetilen kar amacı gütmeyen bir yapıya da geçiş yaptı.az önce OpenAI ile gördük.

Tüm bunları konuştuk, ama Bart'la gerçekten konuşmak istedim çünkü o, tüm bu karmaşık politikalarla etkileşime giren bazı çok karmaşık sistemlerin teknik yapımından sorumlu. Kullanıcı güveni gibi tüm bu yüce idealleri ve kavramları, tüm bu politika baskısına dayanabilecek gerçek, gizlilik merkezli ürünlere ve özelliklere nasıl çevireceğinizi gerçekten bilmek istedim. 

Örneğin, bu yılın başlarında İsviçre hükümetitalep edilen ödeme verileribu da FBI'ın Atlanta, Georgia'daki Stop Cop City hareketiyle bağlantılı bir protestocunun maskesini düşürmesine yol açtı ve Proton bu talebe uydu. Bu yüzden elbette Bart'a tüm bunları ve ABD hükümetinin yabancı hükümetleri Proton'a baskı uygulamaya zorlamak için "terörizm" gibi kelimeleri kullanabilmesinin ne anlama geldiğini ve şirketin bu kavgaları ne zaman ve nasıl üstleneceğine nasıl karar verdiğini sormak zorunda kaldım. 

Bu baskı her şekilde kendini gösterir. Proton kayıtlardaisviçre'den ayrılacağını söylemekBart, Avrupa mahkemeleri aracılığıyla çeşitli gözetim yasalarının yürürlüğe girmesi durumunda Almanya ve Norveç gibi AB ülkelerindeki faaliyetlerini durdurmayı da düşüneceğini söylüyorproton'un gizlilik misyonunu tehdit etmeye devam ediyorBart bana bunların sadece boş tehditler olmadığını ve Proton'un, kendi sözleriyle, işler daha "distopik" hale gelirse Avrupa'yı terk etmenin ne anlama geldiğini anlama sürecinde olduğunu söyledi.

Bunda çok şey var. Çok uzun koştuk çünkü yabani otların içinde çok derine indik. Çocuk güvenliği, yaş doğrulaması ve yapay zekanın gerçek sorunları hakkında konuşmadan önce geniş çerçeveler üzerinden konuşarak zaman geçirdik — bunların hepsi Proton'un değerlerini bugün internetteki en yüksek riskli sorunlardan bazılarıyla test ediyor. Ama oraya gitmek için fazladan zaman harcadık ve umarım buna değdiğini düşünürsün.  

Okay: Bart Butler, Proton'un CTO'su. İşte başlıyoruz.

Bu görüşme, uzunluk ve netlik için hafifçe düzenlenmiştir.

Bart Butler, Proton'da baş teknoloji sorumlususunuz. Proton'a hoş geldiniz.Kod çözücü

Teşekkür ederim. Burada olduğum için mutluyum.

Seninle konuşacağım için heyecanlıyım. Proton, teknoloji sistemlerini nasıl inşa ettiğimiz, bunları nasıl düzenlediğimiz ve tüketicilerin verilerini nasıl koruyabilecekleri veya verileri üzerinde herhangi bir kontrole sahip olabilecekleri konusunda artan, spiral bir tartışmanın merkezinde oturuyor gibi görünüyor.

En baştan başlayalım. Bence çoğu insan Proton'u ProtonMail olarak anlıyor, ancak şimdi bir dizi ofis ürünü ve üretkenlik ürünü var. Proton'un ne olduğunu ve tüm ürünleri birlikte nasıl gördüğünüzü açıklayın.

Yani Proton, temelde aynı DNA'yı paylaşan, çoğu durumda başka bir yerde satın alabileceğiniz ürünlerin versiyonları olan, ancak mahremiyeti koruyan bir ürün koleksiyonu olan bir ekosistemdir, değil mi? 

Evet, mail ile başladık. Ayrıca bir VPN'imiz var. Dosya depolama alanımız, fotoğraflarımız ve ortak gerçek zamanlı belgelerimiz olan bir Proton Drive'ımız var. Takvimimiz var. Proton Pass adında bir şifre yöneticimiz var. Bir video konferans yazılımı olan Meet'imiz var. Bu nedenle, bazı durumlarda daha aşina olabileceğiniz ancak aynı zamanda gizliliği koruyan diğer ürünlere çok benzeyen bir ürün koleksiyonumuz var.

Özellikle baş teknoloji sorumlusu olarak sizinle konuşmaktan heyecan duymamın nedenlerinden biri, tanıdık bir dizi ürün olduğu, ancak bunları işleten şirketin diğer şirketten daha iyi davranacağı fikrinin bu sektörde tanıdık bir model olması.

Yaa öyle.

Ve Proton, ürünlerin aslında farklı şekilde tasarlandığını vaat ediyor.

Evet.

En başından beri, ürünlerin üretilme şekli aslında hayırsever bir CEO veya hayırsever bir yönetim kurulu değil, mahremiyeti koruma sözünü veren ve koruyan şeydir. Ona geleceğiz. Bunun bir kısmı burada karışıyor.

Bundan da biraz var. Bazı kurumsal yapı şeyleri var, ama evet, aslında, diyebilirim ki, iki temel yapısal… ya da belki sistemler olduğunu da düşünüyorum. Bunlara daha geniş ölçekte sistem mühendisliği diyebilirsiniz, ancak Proton'un nasıl çalıştığına dair yapısal kısıtlamalar diyebilirsiniz.

Birincisi, şifreleyebileceğimiz tüm verileri şifrelememizdir. Yani geri dönüp bu verileri birilerine satmak istesek, bunu yapamayız. Matematiksel olarak bunu yapmamız mümkün değil, değil mi? Bunun başka faydaları da vardır. Bilgisayar korsanlarına veya diğer ilgili taraflara kolayca kaybedemeyiz ve örneğin yasal talepler için yanıt verebileceğimiz bazı veriler var, ancak yapamayacağımız bazı veriler var. Ve bu bize yardımcı oluyor; temel olarak, erişemediğimiz verilerden vazgeçemeyiz.

İkincisi iş modelidir. Yani, elbette bunu yapan başka SaaS oyuncuları da var. Bizim boyutumuzda bunu yapan çok sayıda B2C tüketici tabanlı SaaS oyuncusu olduğunu sanmıyorum, ancak gelir modelimiz kullanıcılarımız tarafından ödeniyor, değil mi? Yani reklam satmıyoruz. Ürünler, insanların gelip bize verilerini vermelerini sağlamak için havuç değildir, böylece reklamverenlere satabiliriz. Ve bu, faturalarımızı ödeyen, maaşlarımızı ödeyen bu kullanıcıların işi büyütmemize izin verdiği anlamına geliyor.

Onlara ihanet edersek, bu esasen işin değerini baltalayacaktır. İşletmenin değerini ve işletmenin büyümesini, kullanıcılarımızı korumaya bağladık, böylece çıkarlarımız uyumlu hale geldi. Bu da çok önemlidir çünkü ayartmalar bir şeydir. İnsanlar teşviklere yanıt veriyor ve şirketimizi yapısal olarak, bu teşviklerin korumaya söz verdiğimiz insanlarla uyumlu olacak şekilde düzenledik.

Az önce söylediklerini çok indirgeyici bir şekilde özetleyecek olursam, tüketicilerden para alıyoruz ve onlara sattığımız şey, e - posta, VPN ve ofis paketi gibi güvendikleri popüler hizmetlerin şifreli sürümleridir.

Tüketicilerin satın aldıkları şeyin teknoloji çözümü olduğunu anladıklarını mı yoksa gizlilik vaadini satın aldıklarını mı düşünüyorsunuz? Yoksa bir karışım mı? Çünkü tüketicilerin kitlesel ölçekte her şeyin nasıl çalıştığını gerçekten anladığından emin değilim, değil mi? iPhone'larının onları dinlediğini düşünüyorlar.

Toplantılarda ürün çalışanlarına ve mühendislere yeni özellikler hakkında söyleyeceğim şey, kullanıcıya şifreleme kelimesinden bahsettiyseniz, zaten başarısız olmuşsunuz demektir. Demek istediğim, insanlar bunun ne olduğunu anlamıyor. Sorun değil. Amacımız, rakiplerimiz kadar kullanışlı ve işlevsel veya daha işlevsel ürünler üretmektir.

Yani, tamamen türev gibi görünmek istemiyorum. Gizli iletişime ihtiyaç duyan kişiler için genellikle mahremiyete ve işlevselliğe yönelik, başka hiç kimsenin sahip olmadığı özelliklere sahibiz. Ancak, genel olarak, vaadi satıyoruz. Farklı bir şirket olduğumuz sözünü satıyoruz. Güveni satıyoruz ve bu güven çok önemli. Güven olmadan… Şirketin gerçek değeri budur. Şimdi, bu güven teknolojiyle destekleniyor, değil mi? Ama tröstü satıyoruz.

Bunu zorlamamın nedeni ve özellikle güvenden bahsettiğin için mutluyum, büyük teknoloji oyuncularının hepsinin verilerinizin özel olduğu konusunda aynı tür vaatlerde bulunmalarıdır. Facebook, verilerinizin bir onsunu satmadığını size memnuniyetle söyleyecektir. Aslında verileri satmak onların çıkarına değildir, çünkü yaptıkları reklam hedeflemesi, başka kimsenin değil, verilerin kendilerine ait olmasına bağlıdır. Bu konuya günlerce, günlerce, günlerce girebiliriz.

Sadece bu güvenin nerede ifade edildiğini veya bu güvenin en çok Proton'dan iletildiğini düşündüğünüzü merak ediyorum. Çünkü bana sorarsanız, daha teknik bir kişi olarak, “hepsi şifrelenmiş” mimarisine bakıyorum ve muhtemelen matematiksel olarak içine girmek imkansız. Elbette, bu konuda bazı tartışmalar olduğu için yetkililerle ne kadar meta verinin paylaşılabileceğine geleceğiz.

Ama bu, size veya bir yönetim kuruluna güvenmek yerine benim için yankı uyandıran bir parça. Diğer bazı insanlar sadece vaatlere bakar ve onları gerçek değerleriyle kabul eder. Sonra, “Aslında, burada devam eden verileri görebilmek için bir sürü başka ilgi alanımız var ve aslında ekosistemde iyi bir oyuncu olduğunuza güvenmiyoruz” diyen bazı düzenleyiciler var.

Peki güven hakkında düşündüğünüzde, “veriler şifrelenir ve verdiğimiz temel söz budur ve tüm ürünü de bozan herhangi bir şey kırılır” mı? Yoksa sistemleri kurarken Proton'da önemli olan başka bir güven boyutu var mı?

Bu nedenle uçtan uca şifreleme açıkça önemlidir. Bu altın standarttır ve bunun için çabalıyoruz. Bununla birlikte, kesinlikle bizim… mahremiyetin, en azından kişisel olarak benim için, kontrolle ilgili olduğu özellikler vardır. Harici bir hizmetle entegrasyon veya bunun gibi bir şey istediğim zamanlar oluyor ve seçimlerim entegrasyon veya uçtan uca şifrelemeyi kırmak değil.

Amacımız, kullanıcının verilerini kimin gördüğü konusunda bilinçli bir seçim ve kontrole sahip olmasını sağlamaktır. Yani bu, verilerinizi asla paylaşmamak veya fotoğraflarınızı asla kimseyle paylaşmamakla aynı şey değildir. Ancak mesele şu ki, fotoğraflarınızı Facebook gibi para kazanabilecek biriyle paylaşmak yerine, fotoğraflarınızı büyükanne ve büyükbabayla ve sadece büyükanne ve büyükbabayla paylaşmaktır.

Bu, şifrelemenin her şey olduğu anlamına gelmez, ama sanırım kurduk… Şu anda kurumsal yapıya girmek isteyip istemediğimizi bilmiyorum. Ancak güveni destekleyen temel mühendisliği kurduk. Sizin gibi insanlar mimariye bakıp “Tamam, bu şifrelenmiş. Bu benim için önemli. Ve sonra gidip başka birine söylersin ve diğer kişiye dersin ki, “Proton'a bu, bu ve bu yüzden güveniyorum." Diğer kişi, tek bildikleri, "Hey, Nilay'ı tanıyorum, ona güveniyorum ve Proton'un iyi olduğunu söylüyor ."

Teknoloji kohortundan çok, çok daha büyük bir kohort var. Teknoloji kohortu elbette bizim çekirdeğimiz ve en başından beri öyleydi, ancak tanıdıkları diğer insanlar nedeniyle Proton'a güvenen bir sürü insan var. Ve şimdiye kadar, Reddit'te güvendikleri insanlar olabilir, değil mi? Ama tanıdıkları diğer insanlar Proton'un orada olduğunu söylüyor. 

Ve söylemeye çalıştığım şey, biz hazırlandık… Hepimiz kurallarda, tüzüklerde, yasalarda, bir şeye değebilecek diğer şeylerde nesne dersleri alıyoruz, ama sonuçta bir şey olduklarında değerliler… Personel gerçekten önemli, değil mi? Onları kimin zorladığı gerçekten önemli. Yani teknik olarak yapabileceklerimizi kısıtlamak için tasarlanmış teknik katmanımız var ve ayrıca temel olarak derinlemesine savunması olan yasal ve kurumsal yapı katmanımız var. Derinlemesine savunma. Tüm bunlar, kullanıcılarımıza güvenilir olduğumuzun iç içe geçmiş garantileridir. Nihayetinde, işle ilgili en önemli şey budur.

Kurumsal yapıya gelmek istiyorum.Kod çözücüsonuçta, ama ürün setinin kendisini bir kez daha açın. ProtonMail ile başladınız. Artık bir Yapay Zeka Asistanı da dahil olmak üzere diğer ürün paketine sahipsiniz.

İş modelinin ürünler için doğrudan para ödeyen tüketiciler olduğundan bahsettiniz. ProtonMail hala en çok para kazanan temel ürün mü? Diğer iş kolları büyüyor mu? Bu nasıl görünüyor?

Bu nedenle doğrudan finansal bilgileri açıklamıyoruz. Posta ve VPN en eski iki üründür ve tahmin edebileceğiniz gibi hala en büyük iki üründür. Ama aynı zamanda paket satın alan ve birden fazla ürün satın alan birçok insanımız var. Ürünlerin bir ekosistemde birlikte iyi çalışmasını sağlamaya çalışıyoruz. Bazı ürünler diğerlerinden daha sıkı bağlıdır.

Yeni ürünler, Takvim gibi daha yeni ürünler, elbette Mail'e çok sıkı sıkıya bağlı, ancak Drive ve Pass'imiz de var. Bunlar eski ürünler kadar büyük değil. İsterseniz daha az avantajlı olabilirler, ancak hızla büyüyorlar. Yani hepsi katkıda bulunuyor, ama evet, farklı şekilde katkıda bulunuyorlar. Çoğu zaman, tam olarak kaç yaşında olduklarını söylemeyeceğim, ancak daha büyük podyuma sahip olanlar genellikle daha büyüktür, değil mi?

Tüketici üretkenlik yazılımıyla ilgili kalıplardan biri, süitlerin büyümesi, paketlerin büyümesi ve ardından şirketlerin artan üretkenlik için gerçekten ödeme yapacak müşteri sınıfının kurumsal olduğunu fark etmeleridir.

Evet.

Bunu bu alanda tekrar tekrar görüyoruz. Kavram yaptı, Dropbox yaptı. Sonunda kurumsal şirketler olmaya yönelen tüketici yazılım şirketleri olarak ele aldığımız şirketlerden bahsedip durabilirim. Proton, büyümek için daha fazla kurumsal müşteriye, kurumsal müşteriye sahip olmak zorunda kalacağınız konusunda aynı baskıyı hissediyor mu? Yoksa hala tüketiciye mi odaklanıyorsunuz?

Bu çok, çok ilginç bir soru. Bence kesinlikle baskıyı hissediyoruz. Şey var... Ne var? Apokrif olup olmadığını bilmiyorum, ama eski John Dillinger'ın "Neden banka soyuyorum? Paranın olduğu yer orası.“ Neden B2B'ye gidiyorsunuz? "Bütçeleri olan ve bunun için para ödemeye istekli insanların olduğu yer burası. 

Bence bunu kesinlikle düşünüyoruz. Öncelikle tüketici odaklı bir işletme olarak bile, özellikle küçük işletmelerde ürünlerimizi iş amacıyla kullanan birçok insanımız var. Siz sadece tüketiciyi kullanıyorsunuz. Ayrıca küçük işletme teklifleri ve bunun gibi şeyler için de girişimlerde bulunduk. 

Bence bu, büyümenin muhtemelen talep edeceği bir şey. Ve bence sunduğumuz şeylerin — özellikle gizlilik, ABD merkezli olmayan ve Avrupa egemenliği türü şeyler ve sadece itibarımız — bu işletmeler için çok çekici olduğu birçok işletme var. Bununla birlikte, bir denge kurmalıyız. Ve bugün işimiz B2C. B2C işini bırakmayacağız. Ayrıca B2C işinin bu kadar güçlü olmasının rekabet gücü olduğunu düşünüyorum.

Yani, dediğiniz gibi, B2C'den B2B'ye geçen birkaç tane var. Ama aynı zamanda, B2B'yi başlatan ve orada kalan çok daha fazla B2B oyuncusu olduğunu düşünüyorum. Ve baktığımız şeylerden biri… İşletmeler ve müşterileri arasındaki iletişim kesinlikle önemlidir ve orada gizlilik önemlidir. WhatsApp'ın, işletmelerin WhatsApp'ı olan tüketicilere bağlanmasına yönelik girişimleri gibi şeyler görüyorsunuz. B2B'ye gerçekten itme zamanı geldiğinde, B2C kullanıcı tabanının ve ürün paketinin bizim için bir fayda sağlayacağını düşünüyorum.

Yapay zeka giderek daha fazla işletmeye sızdıkça ortaya çıkan gerilimlerden biri, sınır modeli şirketlerin her ons veriyi istemesidir. Bence bir grup büyük işletme, sınır modeli şirketlere bir sürü veri verme konusunda çok temkinli. Yapay zeka, bir sürü veriye sahip olduklarında en iyi şekilde çalışır ve bu nedenle, işletmenizin ne kadarını Claude'a maruz bırakacağınız konusunda büyük bir seçenek vardır. Bu modellerden en fazla değeri elde etmek için Claude'a ne kadarını göstereceksiniz?

Proton, seçim sağlayacağını söylediğiniz teknik bir mimariyle bunun tam ortasında oturuyor, ancak aynı zamanda bu şirketlerin çoğu için oyun her şeyi teslim etmek ve “Git işimi yürüt, AI." Bugün kurumsal müşterilerinizle çalışırken bunu nasıl görüyorsunuz?

Evet. Yani, bu endişe verici bir karar. Tüm hassas verilerini veriyor. Ve çoğu durumda, başka seçenekleri yokmuş gibi hissederler. Bazı yönlerden, bu yüzden daha önce listeden çıkarılmış olabileceğini düşündüğüm yapay zeka teklifimiz Lumo'yu geliştirdik. Kullandığımız modellerin büyük bir yenilemesi olan Lumo 2.0 'ı piyasaya sürdüğümüzü düşünüyorum. Ve bunun bir parçası da… Lumo projesinin genel amacı, ürünlerimizin geri kalanıyla bütünleşen ve bunu güvenli bir şekilde yapabilen bir şeye sahip olmaktır.

Bu, rastgele yapay zeka şirketlerine — muhtemelen farklı ülkelerde, muhtemelen uyum sorunları olan, diğer tüm şeyleri — verip vermemem arasındaki bu tür bir değiş tokuşu ele almaktır. Onlara tüm hassas iş verilerimi veriyor muyum, yoksa bunu daha da korunaklı bir şekilde yapabilir miyim? Şimdi, birçok yönden, hala bizim tarafımızda yapılacak takaslar var, ancak verdiğimiz garantilerle bunu Proton bünyesinde tutuyoruz. Bu, bu tür iş yükleri için daha cazip bir seçenek olmalı ve Lumo'yu geliştirirken umduğumuz şey de bu.

Bence bu biziKod çözücüyapı ve organizasyon hakkında sorular çünkü yapının olması gereken yer burası, güvenin yattığı yer, mutlaka teknik mimari değil. Peki Proton bugün nasıl yapılandırılmıştır? Kaç kişi var?

Yani, Proton bugün toplamda yaklaşık 650 kişidir. Buna mühendislik, destek fonksiyonları, pazarlama vb. dahildir. Ayrıca şirket içinde yaptığımız müşteri desteğini de içerir. Her zaman öyleydik. Proton AG adında bir şirketiz, bir İsviçre şirketiyiz.

Bununla birlikte, Proton AG'deki kontrol hissesi, Andy, CEO'muz ve diğer ilk çalışanlarımızın hisseleriyle tohumlanan Proton Vakfı'na aittir. Benzer yapılara sahip başka gezginler de var diyebilirim. Signal ve Mozilla ve nedenlerimiz aynı.

Proton Vakfı'nın Proton şirketindeki kontrol hissesi, misyonu koruma yetkisine sahip olduğu anlamına gelir. İsviçreli bir vakıf. Avukat değilim ama değişmenin çok zor olduğu söylendi. Görevi, Proton'un değerlerinin ve misyonunun koruyucusudur. Dolayısıyla, eğer Proton, şirket, bu misyondan saparsa, Proton Vakfı, eğer mantıklıysa, rotayı düzeltme yetkisine sahip olacaktır.

Bu hiç oldu mu?

Hayır. Şimdiye kadar hayır. Kurucumuz ve CEO'muz Andy Yen var. Şirketi Andy kurdu ve sorumlu olduğu sürece bunun gerekli olacağını sanmıyorum. Ancak ona otobüs çarparsa, ilerleyen misyonu korumak ve şirketin ne olursa olsun yoldan çıkmamasını sağlamak için tasarlanmış kurumsal bir yapı vardır.

Bu sahiplik modeli nedeniyle de şirket, önceliklerini yeniden yönlendirebilecek bir tür devralma veya satın alma işleminden yalıtılmıştır. Bence bu faktör, teknoloji ve iş modeli temel olarak kullanıcılarımızla sahip olduğumuz kompaktlığa ihanet etmemize karşı birbirine kenetlenen korumalar.

Bu tür bir kuruluş modeline geçiş yapan giderek daha fazla şirketle konuşurken beni şaşırtan şeylerden biri, bu yapının esasen sizi kapitalizmin açgözlü taleplerinden izole etmek için orada olmasıdır. Her çeyrekte mümkün olan en fazla parayı kazanmanıza yol açacak şeyleri yapmak için mümkün olduğunca çok para kazanmaya zorlanmıyorsunuz ve bu, teknolojinin dolar peşinde koşmak yerine mahremiyeti koruyan saf ve idealist bir durumda gelişebileceği anlamına geliyor.

Yalıtımı hissediyor musun? Yani, para kazanmanız, çalışanlarınıza ödeme yapmanız ve bir şekilde büyümeniz gerekiyor, ancak ürünleri tasarlamanızın dinamiği nedir?

Yani kısa cevap hayır ve bunun nedeni, bizim için misyonun bir kısmının kapitalizmde rekabet etmek zorunda olmamızdır. Başlıca rakibimiz Big Tech. Kullanıcılarımızın insanları dönüştürdüğümüzde, yeni müşteriler edindiğimizde geldikleri Big Tech'ten çok daha küçük olsak da, genel olarak Big Tech'ten geliyorlar.

Aynı oyunu oynamak zorundayız. Bu biraz dandik olabilir, ancak kurumsal sloganımız “Varsayılan olarak gizlilik." Bu "varsayılan" kısım çok fazla ağır yük kaldırıyor. Amacımızın kullanımı kolay ve güvenli ürünler tasarlamak olduğunu daha önce belirtmiştim. Güvenli birçok araç var ve birkaç uzman dışında kimse bunları kullanmıyor. Ve sorun değil. Bu araçların varlığını eleştirmiyorum, ancak amacımız kriptografiyi anlamadan, kullanabilecekleri kriptografi olduğunu bile bilmeden herkesin kullanabileceği, kullanımı şifrelenmemiş ve esasen veri madenciliği yapan rakiplerimiz kadar kolay ve özellik dolu araçlar yapmaktır. Zor bir iş.

Henüz yüzde 100 oradayız demiyorum ama hedefimiz bu. Ancak "varsayılan olarak gizlilik" kelimesindeki varsayılan kelime büyüme anlamına gelir. Bu, Big Tech'e gerçek bir alternatif sunabileceğimiz ölçekte olmamız gerektiği anlamına geliyor. Ve Big Tech'ten 100 kat veya 10 kat daha küçük olan küçük girişimler, küçük ölçeklendirmeler bunu kesmeyecek. Bunu yapabilmek için büyümemiz gerekiyor.

Yani büyüme aslında misyonun bir parçası. Bu demek oluyor ki… kelime açgözlü değil, ama mümkün olduğunca aç, verimli ve büyüme odaklı olmalıyız çünkü bu, mevcut paradigmaya meydan okuyacak kadar büyümek misyonunun bir parçası. Demek istediğim, şu anda kapitalizmin kırıldığı her türlü yoldan bahsedebiliriz, ama oyunu oynamak zorundayız.

Evet. Tamam. Nefret edeceğin bir karşılaştırma yapacağım. Sadece haber veriyorum. Nefret edeceğini biliyorum.

Tamam aşkım.

Belki de en ünlü “kendimizi piyasanın taleplerinden korumak ve her şeyin sağlıklı olduğundan emin olmak için bir temel oluşturacağız” fikri OpenAI'den geliyor.bir halka arzı kovalamak için temelde bu yapıyı öldürdüDi'mi?

Belki de AGI'nin nasıl geliştirilmesi gerektiği konusunda hala gerçekten önemli ve idealist fikirleri vardır. Belki de o şirketteki bazı insanlar gerçekten böyle hissediyor ve bu işe yaramadı, değil mi? Hissettikleri herhangi bir nedenden dolayı büyümeyi çok özel şekillerde takip etmeleri gerekiyordu. Belki paraydı, belki de OpenAI'nin istediği gibi Google Arama'yı ele geçirmek içindi; şirketin yapısını değiştirmek zorunda kaldılar.

Belli ki bu oldu. Bu, şimdiye kadar gerçekleşen en kıyametvari temel anlarından biri gibi. Bu şey ya patladı ya da kendi içine patladı. Buna baktığınızda ve sonra “Tamam, büyümemiz gerekiyor. Varsayılan olmak için büyümek ve büyük olmak zorundayız, ancak Google'ın ya da Microsoft'un vermek zorunda olmadığı bu sözü veriyoruz" ifadelerini kullandı. Bu, bazı fırsatları engelleyebilecek ürünlerin mimarisini tasarlarken kendini nasıl ifade ediyor?

Kurumsal sloganımız da olabilir - değil, ama olabilir — ya büyük oynayın ya da eve dönün. Bu konuda kesinlikle mütevazı hedefler belirlemiyoruz. Ama bence bunu farklı kılan birkaç şey var. Daha önce birçok kısıtlamadan bahsetmiştim, ancak bahsetmediğim bir şey, risk sermayedarı yatırımcılarımızın olmaması. Özel sermaye yatırımcılarımız yok. Yakında çıkmamız gereken risk sermayedarları ensemizdeyken başkalarının parasını yakmıyoruz, aksi takdirde göbek atarız.

Sürdürülebilir bir iş kurduk. Bu işten elde edilen kârı tekrar işe yatırıyoruz. Ve bu bizi OpenAI'nin her zaman yanan muazzam para yığınları göz önüne alındığında hissettiği baskının bir kısmından izole ediyor, değil mi? Ama bununla birlikte, personel politikadır. Bence kesinlikle her zaman bu risk var. Aynı zamanda, son zamanlarda bazen kuralların, normların veya yönergelerin yazılmadığını öğrendik. Yazılı olsun ya da olmasın, üzerine yazıldıkları kağıda değmezler.

Ama mimarinin de devreye girdiği yer burası. Teknik şeyler hakkında seçimler yapıyoruz ve açıkçası bu işin teknoloji tarafındayım, ancak seçimler yaptık ve bunların bir kısmı ticari rekabet nedenleriyle, değil mi? “Verilerinize erişemiyoruz” dediğimiz ürünleri satmak istiyoruz. Verilere erişimimiz yok. Onu kaybedemeyiz. Satamayız. Bunu yapamayız ."

Ancak bu aynı zamanda bizi bir gün geri dönüp satmaya karar vermekten de alıkoyuyor çünkü onu bir kutuya kilitledik ve ona erişemiyoruz ve bu nedenle dönüp "Biliyor musunuz? Üzgünüm arkadaşlar, fikrimizi değiştirdik. Aslında tüm bu verileri çıkaracağız ve gideceğiz" diyemiyoruz. Şimdi, mükemmel bir şey var mı? Hayır. Ama demek istediğim yapı, dediğim gibi birbirine kenetlenen kontrollere sahip olacak şekilde tasarlanmış.

Sanırım diğer bir şey de şu ki, örneğin… Proton Vakfı'nın Proton AG'yi satması yasaklanmış olsa bile, bildiğim kadarıyla, ancak herhangi bir nedenle bir şey olsa bile, Proton'un değeri itibarındadır. Biz de bunu söyledik ve bu bilinçli bir tercihti. Proton'un değeri bize duyulan güvendedir. Google bizi satın alsaydı hiçbir değeri olmazdı çünkü Google'ın Proton'u çalıştıracak güvenilirliği yok. Ne demek istediğimi anlıyor musun?

Bu, Google'ın herhangi bir şeyi satın almasıyla ilgili varsayılan durumdur. Bu konuda çok açık olmak istiyorum.

[Gülüyor] Hayır, kapattılar ve sonra gitti, değil mi?

O gün saatler işlemeye başlayacaktı.

Evet. Biliyorum. Daha önce de oldu, yine olacak, eminim. Ama Proton Vakfı yapısı “Hayır, şirket alıcıya satılamaz” diyecek şekilde tasarlanmış.

Makro yapı budur. Bana sadece bir ürün geliştiren şirketin içindeki daha taktiksel yapıdan bahset. Proton'un kendisi nasıl yapılandırılmıştır? Lumo asistanını yapan bir ekip var mı? E-posta yapan bir ekip var mı? Bölünmeler mi? İşlevsel mi? Bu nasıl çalışıyor?

Yani bir bölüm yapımız, bir iş birimi yapımız var. Posta ve takvim gibi bir araya getirilen belirli ürünlerimiz var, dolayısıyla bunlar aynı bölümde gruplanıyor. Diğerleri ayrı. Yani Lumo'muz var, Drive'ımız var, Pass'ımız var ve VPN'imiz var. Bunlar ayrı bölümlerdir. Hangi iletişimin en kolay olmasını istediğinize göre kurumsal yapıyla ilgili seçimler yaparsınız. Bu, insanların hızlı hareket etmesine, özerkliğe sahip olmasına ve ürünleri dahilinde kararlar almasına olanak sağlamak için tasarlanmıştır.

Ayrıca çapraz organizasyon ekiplerimiz, destek ekiplerimiz ve bunun gibi şeylerimiz var. Ve bu tarafta, iş birimi yapısının karşılığı şu ki, bazen daha çok çalışmak zorunda kalıyoruz. Biraz kedileri kucaklamaya benziyor, değil mi? Şundan emin olmanız gerekir: “Tamam, tüm ürünlere dokunan bu özelliği geliştiriyorum. Tüm ürünlerin gemide olduğundan ve bunları doğru bir şekilde gönderebilmemiz için planlamalarında yer aldığından emin olmam gerekiyor."

Yani bununla ilgili kararları siz veriyorsunuz. Ürün içi iletişime öncelik verme yönünde bilinçli bir karar aldık. Daha sonra ürünler arası iletişimimizde bunun eksikliklerini telafi etmeye çalışıyoruz. Daha sonra, giderek daha fazla ekosistem temelli şeye geçtikçe, kurumsal yapı konusunda bunu destekleyecek farklı seçimler yapabiliriz.tüm Conway kanunu olayı. Organizasyon şemanızı hazırlarsınız, ancak bazen her iki dünyanın da en iyisini istersiniz ve süreç tam da burada ortaya çıkar. Her zaman seksi olmayabilir ama elbette organizasyonları ölçeklendirdikçe bunu çok önemli buluyorsunuz.

İlk sen olabilirsinKod çözücüHerkese şirketlerinin nasıl yapılandırıldığını sormam ile sizin organizasyon şemanızı göndermeniz arasında doğrudan bağlantı kurmanızı rica ediyorum, bu yüzden her zaman soruyorum, çünkü bu temel gerçektir.

Yapıyorsunuz ve biz de bununla bir dereceye kadar mücadele ediyoruz. Bunu telafi etmeye çalışıyoruz. Ama evet, kuruluş şemanızı gönderiyorsunuz. Dolayısıyla ürünlerinizin farklı görünmesini istiyorsanız organizasyon şemanızı bu farkı destekleyecek şekilde ayarlamalısınız, değil mi? Yani sonuçta.

DiğeriKod çözücüHerkese sorduğum soru kararlarla ilgili. Vermeniz gereken birçok karar var. Rakiplerinizle aynı kısıtlamaların çoğuna karşı yeni türde bir ürün mimarisi oluşturmaya çalışıyorsunuz. Kararları nasıl veriyorsunuz? Çerçeveniz nedir?

Kararları nasıl veririm? Kurucu liderliğindeki bir şirketiz. Andy Proton'u başlattı. Sanırım ben altıncı çalışandım, demek istiyorum. Bu başlı başına komik bir hikaye. Andy'yle nasıl tanıştığımı biliyor musun?

Bu nasıl?

Kendisi CERN'deki yüksek lisans öğrencimdi. Ben Harvard'da doktora sonrası araştırmacıydım, o da benim yüksek lisans öğrencimdi. Fizikten ayrıldıktan sonra gelip beni Silikon Vadisi'nde buluyor ve şöyle diyor: "Hey, girişimime katılmak ister misin? CTO olabilirsin." Neyse, işte 11 yıl sonra buradayız. 

Ama hâlâ yoğun bir şekilde işin içinde. Ürün yönlendirme stratejisi konusunda çok fazla katkısı var ve vizyon sahibi. Bence Proton'un başarısının büyük kısmından o sorumlu. Bu tür şeyleri riske atmaya isteklidir. Açıkçası onun liderliğine inanıyorum, yoksa 11 yıl sonra hala burada olmazdım. Bununla birlikte, bence vizyonerlerin bazen başına gelen şeylerden biri, kayak konusunda biraz fazla ileri gittiklerinde kendilerini zorlayacak insanlarla etraflarını çevrelemeleri veya başka yerlerden fikir aldığımızdan emin olmalarıdır.

Gerçekten emin olmaya çalıştığımız şeylerden biri de fikirlerin kökenlerine göre değil, değerlerine göre değerlendirilmesidir. Ve böylece işi evet yürütmek ama aynı zamanda yeni fikirler getirmek ve bunları satmak ve buna benzer şeyler yapmak olan üst düzey bir liderlik ekibimiz var. Bu konuda mükemmel olduğumuzu söylemeyeceğim çünkü kimse mükemmel değil ve geliştirebileceğimiz pek çok şey var ama karar alma sürecini organizasyonun alt kademelerine itmeye çalışıyoruz. Bir organizasyonun asıl amacı, birçok farklı insanı aynı yönde hizalamanın bir yolunun olmasıdır.

İşin püf noktası her zaman şudur: Her şeyi mikro düzeyde yönetmemek için hala özerkliğe sahipken aynı genel yönde nasıl hizalanırsınız? Dengeyi her zaman doğru yaptığımızı söylemiyorum ama buradaki amaç bu. Proton'a yeni insanları işe aldığımızda bu tür bir yönlendirme yaptığımızda her zaman söylediğimiz şeylerden biri şudur: Duymak istiyorum… Henüz bizim iş yapış şeklimize alışkın değilsiniz. Bu yüzden sizden bizim işleri yapma şeklimize bakmanızı istiyorum ve eğer başka bir işverenle karşılaştıysanız ya da bunun çılgınca ya da verimsiz olduğunu düşünüyorsanız bunu bize söylemenizi istiyorum. Ve biz çok açıkız, evet, elbette bir hiyerarşimiz var ve bunun bir kısmı büyüklüğümüzden kaynaklanıyor, ancak çok nadiren örneğin üç veya dört yönetim seviyesinden fazlasına sahip oluyoruz.

Her zaman şunu deriz: "Bakın, eğer bana mesaj atmanız gerekiyorsa, CEO'ya mesaj atmalısınız, doğrudan insanlarla konuşmalısınız, bunu yapın." Bu başka bir şey ve yine kendi adıma konuşuyorum ama bunun Proton genelinde yaygın olduğunu düşünüyorum: İnsanlara şunu söylüyorum: "Seninle aynı fikirde olmak için söz vermiyorum veya buna mecbur değilim, ama bana ne düşündüğünü söylediğin için asla pişman olmayacaksın."

Biz de bunu yapmaya çalışıyoruz. Bu konuda Andy'ye güveniyorum ama iç politikamız çok az. Belki henüz çok büyük olmadığımız içindir ama derebeyliklere veya iç politikaya karşı sıfır toleransımız var ve bu da işleri kolaylaştırıyor. Hepimizin aynı yöne işaret ettiğine ve büyümeye çalıştığım bölümün benim bölümüm değil, genel olarak Proton olduğuna dair bir his var.

Bunun bir kısmının misyon odaklı bir şirket olmanın getirdiği bir şey olduğunu düşünüyorum. Bu deneyimi yaşadınız mı bilmiyorum ama yaşamamış olanlar için ben ikisini de yaşadım. Uzun zaman önce CERN işbirliğinin bir parçası olarak fizikçiydim ve işte burada evrenin temel doğası var. Bunu misyon odaklı bir meslek olarak görüyorum.

Daha sonra Silikon Vadisi'nde de eğlenceli ve ilginç teknik sorunlarla karşılaştım ama bunu kaçırdım. Ve Proton'un misyonu aslında... Gerçekten çözmemiz gereken organizasyonel sorunların üzerini örtmemesine dikkat etmeliyiz, hadi öyle söyleyelim. Ancak herkesin bu konuda aynı hizada olması işi gerçekten kolaylaştırıyor.

Size bununla ilgili bir soru sormama izin verin ve ardından Proton'un hissettiği baskılara ve bu baskılara direnmek için tüm bu yapıyı nasıl uygulamaya koyduğunuza gelmek istiyorum. Kariyerimin başlarında kimseyi nasıl yöneteceğime dair hiçbir fikrim yoktu. Bir çok kişinin yanına gittim ve onlara sorular sordum. Tüm bunların içindeki en akıllı akıl hocalarımdan biri beni oturttu ve çok ciddi bir şekilde şöyle dedi: "Bak, insanları senin gibi yapmak için işe almıyorsun. Organizasyonunuzu değiştirmek için insanları işe alıyorsunuz.

Bunu ciddiye aldım ve belki de 15 yıldır bu işte şöyle düşünüyorum: "Bu aslında bir sarkaç. Yaptığınız işi insanların benimsemesine ihtiyacınız var. Aksi takdirde, işe aldığınız her yeni kişi, diğer herkesin yaptığını kökten bozacaktır çünkü belki aşırı yetkilendirilmişlerdir ve aslında aynı fikirde değillerdir."

Proton'un bir görevi var, değil mi? Bunu misyon odaklı bir şirket olarak tanımlıyorsunuz. Yeni insanları işe almak ve neyi yanlış yaptığınıza dair dışarıdan bir bakış açısı elde etmek ve ardından aslında tamamen yoldan çıkmamak arasındaki dengeyi nasıl kurarsınız? Çünkü Proton gibi bir şirkette bu çok önemli görünüyor.

Yani kültür son derece önemli. Bu son derece önemlidir. Bu da tepeden geliyor. Andy, eğer ona herhangi bir işteki en önemli şeyin ne olduğunu sorarsan büyük ihtimalle kültür diyecektir. Sonuç olarak kimi işe aldığımız konusunda çok dikkatli olmaya çalışıyoruz. Nispeten yavaş işe alım yapıyoruz. Keşke daha hızlı işe alım yapabilseydik.

İşe almanın daha iyi olabileceğimiz şeylerden biri olduğunu düşünüyorum, ancak bu devasa işe alımları, toplu işten çıkarmaları ve bunun gibi şeyleri yapmıyoruz çünkü… Ve kültürü sulandıracak kadar hızlı işe alım yapmıyoruz. İnsanları Proton kültürüne entegre etmek istiyoruz, zorunlu olarak değil… Ve evet, bazen bunu değiştirmeliyiz, bazen geliştirmeliyiz ama bunun bilinçli bir şekilde yapılmasını istiyoruz.

Ben de bir yönetici olarak belki benzer bir gelişme yaşadım. Proton'un tüm büyüme aşamalarında orada bulundum. Başlangıçta çok fazla kod yazdım ve ardından etkili bir şekilde takım lideri oldum. Daha sonra yöneticilerin yöneticisiydim. Bir noktada Proton'un tüm mühendisliğini ben yürütüyordum. Daha sonra yönetimle ilgili bazı işleri devrettim ama CTO'nun teknik direktörlük işlerini sakladım.

O derste kesinlikle ben de birçok hata yaptım, değil mi? İlk başlarda, diğer insanların beni sevmesini sağlamamayı, belki de mikro yönetimi yapmamayı, ancak insanlara sadece ne yapmaları gerektiğini söyleyip bunu yürütmelerini sağlamamayı kendime öğretmem gerekiyordu. Daha sonra bir aşamadan geçtim ve şunu fark ettim ki, tamam, insanların öğrenmesi gerekiyor, insanların kendi hatalarını yapması gerekiyor. Uzmanlığı olan insanları ithal etmek istiyorum; Ben yanılmaz değilim. Hadi bunu yapalım. Bu muhtemelen fazla hoşgörülüydü. Felaket gibi bir şey yaşamadık ama hakkında kötü hisler beslediğim bazı pahalı hatalarımız oldu ama yine de vazgeçtim. Çünkü bunu yapmaya çalışıyordum.

Bu en kötüsü.

Bu yüzden ılımlılığın satılacak en seksi şey olmadığını düşünüyorum, ama öyle. Bu bir denge. İşlerin nasıl yapılacağını emretmek istemezsiniz, ancak aynı zamanda insanların gerçekten felaketle sonuçlanacak veya pahalı kararlar almasını engellemek için orada olduğunuzdan da emin olmak istersiniz. Uzaktan tuğla duvarı görebiliyorsunuz ve bunun olmayacağından emin olmak istiyorsunuz. Evet, bu en dramatik cevap değil, ama bunların çoğu burada doğru dengeyi bulmak, yani ölçülü olmak.

Kültürün yanı sıra teknik ve kurumsal yapıya bu kadar çok zaman ayırmamın nedeni Proton'un çok fazla baskıyla karşı karşıya olmasıdır. Ve tüm bunlar, sizin de tanımladığınız gibi, bu baskıya direnmek için tasarlandı ve farklı şekillerde bu baskıyla kırılamayan ürünler oluşturmak için tasarlandı. Proton'a çok fazla baskı uygulayan ve kullanıcı verilerini korumak için uygulamaya koyduğunuz kontrol türlerini aşmanın birçok yolunu bulan dünya hükümetleriyle başlayalım, bilmiyorum.

O yüzden en gösterişli olanla başlayacağız. Mart ayında birgelen rapor404MedyaProton'un Amerika Birleşik Devletleri'nde bulunan Stop Cop City adlı bir hesabın ödeme verilerini teslim ettiğini tespit etti. Bu verileri İsviçreli yetkililere teslim ettiler, onlar da bu verileri daha sonra FBI'a verdi ve bu da onların kimliğinin belirlenmesini sağladı. Ve bu meta verilerdir; Bunun aslında veriler, e-postaların içerikleri olduğunu düşünmüyorum.

Proton'un iddiası şu: "Bakın, biz aslında FBI'a hiçbir şey vermedik. Biz sadece İsviçre hükümetinin yasal talebini yerine getirdik." En temelden başlayalım. İsviçre hükümetinin yasal olarak sizden ne talep etmesine izin veriliyor? Ve onların yalnızca Amerika Birleşik Devletleri hükümetinin vekili olarak hizmet edebilecekleri gerçeği bu güveni zedeliyor mu veya yapılarınız üzerinde yeni bir baskı oluşturuyor mu?

Yani herhangi bir yerdeki herhangi bir şirket yargı yetkisine sahip olacak ve yargı yetkisine tabi olacaktır. Hiçbir şirket veya birey kanunların üstünde değildir. Ve hiçbir şirket senin yüzünden hapse girmeyecek. Bununla birlikte, yapıları burada korumalar olacak şekilde düzenleyebilirsiniz. Ve örneğin bizim güvencemiz bir İsviçre şirketi olmamızdır. Ve bize defalarca şu soru soruldu: "Hey, dost canlısı devlet kurumlarının taleplerine yanıt verebilir misiniz?"

Tekrar tekrar hayır dedik çünkü neyin meşru olup olmadığına karar vermek bizim işimiz olamaz. Bu bizim üstlenebileceğimiz bir şey değil. Yani yaptığımız şey, ürünlerimizi, kısıtlamalar dahilinde, insanların kullanmak isteyeceği, kullanabileceği ve işi yapabileceği bir ürün yapmak gibi bir şeye sahip olacak şekilde tasarlıyoruz, ancak ürünlerimizi mümkün olduğunca özel olacak şekilde tasarlıyoruz. 

İsviçre yargı yetkisine tabiyiz. Karşılıklı Adli Yardım Anlaşması talepleri, MLAT talepleri hükümetlerden geliyor. İsviçreli yetkililer neyin meşru olup olmadığına karar veriyor. Bunda bizim hiçbir payımız yok. Sonra bir emir veriyorlar, biz de o emirlere uyuyoruz, öyle olması da gerekiyor. Yetki alanımızı çok bilinçli olarak İsviçrelilerin tarafsız olduğu bir şekilde seçtik. Her hükümet insanlardan oluşur, ancak makul insanlar olarak tanınırlar ve bu sistem oldukça iyi işledi.

Genel olarak diğerlerinden daha az güvenilir olan ülkeler var ve bu talepler… Taleplerin nereden geldiğine dair çok fazla görünürlüğümüz yok, ancak yetkili mercilerden aldığımız talepler genellikle yerine getirilmiyor. FBI'ın talep ettiği gibi, bugünlerde insanların görüşleri farklılık gösterse de, genellikle onlara belirli bir meşruiyet karinesi veriliyor, ancak yine de İsviçre yetkilileri tarafından değerlendiriliyorlar. Ve sonra yaptığımız şey buna uymaktır. Burada herhangi bir takdir yetkisine sahip değiliz. Bu her şey için geçerli olabilir ama biz sistemi öyle bir şekilde düzenledik ki, kurulabilecek ve yasal kalabilecek en güvenli sistemlerden biri olduğunu düşünüyoruz.

O halde size sadece bunu sormama izin verin, çünkü siz sistem insanısınız; bir sistemi tanımlıyorsunuz.

Evet.

Bana anlattığınız gibi bu sistemdeki başarısızlık noktası, İsviçre hükümetinin neye uymanız gerektiği konusunda bir dizi karar verecek olmasıdır. Sanırım ABD hükümeti, özellikle bu vakada, her şeyin terörizm olduğunu söylerlerse, veri paylaşımı mekanizmalarının önündeki baraj kapaklarının açılacağını fark etti.

Yani bu durumda bu, "Polis Şehri'ni Durdurun" adlı bir hesaptır. Bunun terör olduğunu söylediler. Burada Amerika Birleşik Devletleri'nde hükümetin her şeyin terörizm olduğu yönündeki iddialarının meşru olup olmadığı bence tartışmaya açıktır.

Elbette.

Ancak İsviçre hükümetinin mekanizmalarına yönelik bir saldırı vektörü olarak tanımlayabileceğiniz bir şey bulmuşlar gibi görünüyor; bu sihirli kelimeleri söylerseniz, İsviçre hükümeti size gelip meta veriler istemeye başlayacak. Bu uygun geliyor mu? Bu hayatta kalınabilir bir his mi?

Bir noktada bu şeylerin çoğunun insanlara bağlı olacağını düşünüyorum. Elimizden gelenin en iyisini yaptık ve sanmıyorum… İnsanlar hangi taleplerin meşru olup olmadığı konusunda farklı görüşlere sahip olacaklar ama biz “Tamam, İsviçre yetkilileri karar verecek, sonra biz de İsviçre yargı yetkisine sahip olduğumuz için ne derlerse uyacağız” diyerek elimizden gelenin en iyisini yaptık.

Bu arada, düzenleme yapıyoruz ve yapabiliriz - ve elbette bunu düzenleyen yasalar da var - ancak verebileceğimiz veri miktarını en aza indirmek için elimizden geleni yapıyoruz. Yani ödeme verileriyle onu şifreleyebiliriz. Ödeme işlemcilerini kullanıyoruz. Pek çok farklı kaynaktan alabilirler. Yani elinizde bir kredi kartı varsa ve yasal bir talep gelirse yapabileceğimiz pek bir şey yok, değil mi?

Sistemlerden bahsettiniz… çünkü bunun önemli olduğunu düşünüyorum. Benim için önemli olan şey ve bunun farkındayım… Olmayabilecek belirli bir varsayımsal taciz vakası için bunun duygusuz görünmesini istemiyorum… Elbette hatalar yapılabilir. Ama ben bizim sahip olduğumuz sisteme benzer bir sistem istiyorum; eğer hükümetin bir tür makul nedeni varsa ve belirli bir süreçte insanları veri vermeye ikna edebiliyorsa, o zaman evet, veriler muhtemelen verilmelidir. Gerçekten endişelendiğim şey, çoğunlukla hükümetin şunu sorabildiği bir dünyada yaşıyor olmamız: "Bana tüm verilerini ver, ben de sorun arayacağım. Bir suç arayacağım."

Telefon dinleme kelimesi, kelimenin tam anlamıyla evinize gidip kabloyu dinlemek zorunda kaldıkları bir zamandan geliyor. O zamanlar bunun gerçekten düşünüldüğünü sanmıyorum, ancak bu - bunu yapmak zorunda olmanın gerçek fiziksel eylemi - herkesi aynı anda gözetleyemeyeceğiniz gerçeğinin önünde bir engel vardı. Bu lojistik açıdan imkansızdı. Bugün herkesi gözetleyebileceğiniz bir dünyada yaşıyoruz, dolayısıyla bunun imkansız olduğu hizmetler ve sistemler oluşturmak istiyoruz, değil mi? Varsayılanın gizlilik olması gerektiği yerde, söylediğim gibi, varsayılan olarak gizlilik.

Evet, siz meşru olarak tanımlarsanız tanımlayın, aynı zamanda yasal kolluk kuvvetlerinin taleplerine de yanıt veriyoruz. Ve bu meşru soru her zaman bir süreç meselesi olacaktır; biz de elbette bu süreçteki tek oyuncuyuz. Ama sanırım bu...

Burada meşruiyet var ve bir pazar dinamiği var. Bu nedenle İsviçre hükümeti son birkaç yıldır Proton'a çok fazla baskı uyguladı. Temel olarak şifrelenmemiş bir VPN'e sahip olmanızı ve VPN üzerinden seyahat eden kullanıcı verilerinin şifresini çözebilmenizi istiyorlar. Proton'un olduğuna inanıyorumBunun üzerine İsviçre'yi terk etmekle tehdit ettive sonra gideceğinizi duyurdunuzdaha dağıtılmış bir altyapı oluşturunve bu altyapının bir kısmını Almanya ve Norveç'e yerleştireceğiz.

Chat Control'e geleceğiz. Dün sanırım ABbu yasanın bir versiyonunu kabul ettiProton'un yanıtı şu oldu: "AB'den ayrılacağız. Kendimizi bu yasal yetki alanının dışına çıkaracağız." Bu konular hakkında ayrıntılı olarak konuşmak istiyorum, ancak şu anda bahsettiğiniz daha geniş bağlamda, seçiyorsunuz, değil mi? Bir vakıf seçiyorsunuz ve genellikle yanıt şu oluyor: "Eğer buradaki yasal temeli değiştirirseniz ayrılırız."

Evet.

Bu ne kadar gerçek?

Durum çok ciddi. İsviçreli yetkililere ve diğer herkese olan saygımdan dolayı, bu yolda devam etmenin kesinlikle intihar olacağını düşünüyorum. Demek istediğim, İsviçre markasının bir parçası da mahremiyettir. 80 yıldır bu böyle ve Proton aracılığıyla büyük ölçüde iyi durumdalar, ama aynı zamanda bu itibarı ve ekonomik avantajları da - çünkü gizlilik gerektiren çok sayıda işletme, çok fazla ticaret var - 21. yüzyıla, dijital çağa taşımak için iyi bir durumları var. Ve onu çöpe atmak bence en hafif tabirle dar görüşlülüktür. Ama hayır, bu ciddi bir tehdit. Dijital hizmetlerle ilgili olan şey, taşınabilmeleridir. Bu konuda çok fazla esneklik var.

Demek istediğim, eğer gerçekten distopik olursak, taşınacak bir yerin olmadığı bir dünya olabilir ama şu anda seçenekler var sanırım. Kesinlikle aynı zamanda… Bu bir tehdit. Demek istediğim, bu gerçek bir tehdit. Umarız bunu yapmak zorunda kalmayız. Güçlerin buna tepki vereceğini ve rotayı değiştireceğini umuyoruz, ama evet.

Bu bir maliyet, değil mi? Bunu merak ediyorum-

Bu bir maliyet. Tabi bu bir maliyet. Bunu yapmak zorunda kalacağız ama sandığınız kadar maliyetli olmayabilir. Zaten farklı ülkelerde çalışanlarımız var. Uydu ofislerimiz var, başka şeylerimiz de var. Almanya'da veri merkezlerimiz var. Norveç'te veri merkezlerimiz var. Bu konuda çok da bıkkınlık yapmak istemem ama kurumsal dönüşümü başka bir yere taşıyabiliriz ve ardından şöyle diyebiliriz: "Tamam, tüm yasal taleplerin buradan gelmesi gerekiyor." Ve tüm veriler içeride...

Bu "onu satamazsın"la nasıl oynanır? "Bu bir İsviçre vakfı. Satması çok zor" dediğiniz kısım. İsviçre'den ayrılıp Almanya'ya yeniden katılmak istiyorsunuz. İsviçre hükümeti sizi durduracak mı?

Avukat olmadığım için bunu ertelemek zorunda kalacağım. Hiçbir fikrim yok ama bunun mümkün olduğundan eminim.

Merak ediyorum çünkü en azından bu konuşma itibariyle NATO'nun hâlâ var olduğu anlaşılıyor. Almanya ve Norveç hâlâ AB'de. İsviçre hukuku var, Alman hukuku var, sonra AB hukuku var. AB hukuku da neyi tarayıp neyi tarayamayacağı konusunda giderek yoğunlaşıyor.

Daha önce Sohbet Kontrolünden bahsetmiştim. AB'deki kanun budurservis sağlayıcıların mesajların içeriğini taramasını zorunlu kılmakCSAM materyalleri ve diğer türdeki ihlal edici materyaller için. Bu büyük bir sorun. Proton'un şöyle dediğini düşünüyorum: "Bize bunu yaptırırsanız AB'den ayrılırız. Bu, temel vaadi bozar."

Evet.

Almanya ve Norveç'e taşınırsanız ve ardından AB, Sohbet Kontrolü'nün en sert versiyonunu geçerse ayrılmaya hazır mısınız?

Evet.

Ne kadar hazırsın? Yarın anahtarı çekebilir misin? Nereye gidersin?

Bilmiyorum, bunun için başkalarına danışmam gerekecek. Bu konuda pek derin değilim ama bu gerçek bir tehdit. Bunun gerçek bir tehdit olduğunu biliyorum. Hem AB'nin hem de İsviçre'nin bu duruma misafirperver olmaması durumunda bu konuda nereye varabileceğimiz konusunda bazı hazırlıklar yaptığımızı biliyorum.

Ayrı şeyler var. Bu tür şeylerin gerçekleştiğini hepimizin bildiği pratik zorluklar var. İster yaş doğrulama olsun ister şifrelemenin kırılması veya buna benzer şeyler olsun, şu anda moda gibi görünen bir dalga var ve bu, politika cephesinde mücadele ettiğimiz bir şey. Bana göre çok yanlış yönlendirilmiş. Umarım bir noktada ateşi düşer. Bir arka kapıyı Amerikan bayrağıyla damgalayıp onu yalnızca iyi insanların kullanabileceğini söyleyemezsiniz. Bu böyle çalışmıyor, AB bayrağı falan da yok.

Belki bu biraz geri gelebilir. Yani işin pratik kısmı var. Bu olursa ne yaparız? Bu olursa ne yaparız? Günün sonunda hükümetlerin politikalar üzerinde büyük bir gücü var ve nasıl uyum sağlayabileceğinizi bulmanız gerekiyor, eğer uyum sağlayamıyorsanız ayrılırsınız veya başka bir şey yaparsınız. Ancak dünyada pek çok ülke var ve eninde sonunda yapmamız gerekeni yapacağımızı düşünüyorum.

Diğer kısım ise - sanırım platformunuzu biraz kullanarak durumu anlatmak için - Sohbet Kontrolü, yaş doğrulama ve tüm bu şeylerin çok kötü bir fikir olduğu. Söylemek istemiyorum… İnternette çocuklara yönelik gerçek tehditler var ve bu onları ciddiye almamamız gerektiği anlamına gelmiyor ama bunu yapmanın yolları var. Daha önce sistem düşüncesinden ve sistem tasarımından bahsetmiştik. Bunu yapmanın, uygun kaygıları dengeleyen, olgun materyali, kim olduğunuzu açığa çıkarmayan yaş kapılarının arkasına yerleştirebilen yolları vardır.

Çevrimiçi anonimliği ortadan kaldıran bir sistem kurduğunuzda, o sistem ne kadar zaman önce… Yani Çehov'un silahı. Birisinin gelip onu kullanması ne kadar sürer? Eğer inşa edilirse, eninde sonunda birisi onu tasarlanmadığı amaçlar için kullanacak.

Çin'in "Hey, bunu kullanan tüm muhalifleri bana tanımlayın" demesine ne kadar kaldı? Çünkü internetteki her şey için kimliklerini kullanmak zorundalar. Yani bu şekilde ele geçirilemeyecek sistemler, internet sistemleri kurmak istiyoruz. Proton'u bu şekilde inşa ediyoruz, ancak bu prensibin daha büyük internet için de geçerli olduğunu düşünüyorum. 

Bu bir tür düşünce deneyi, değil mi? Muhtemelen bunu keseceğim, ancak Soğuk Savaş'ın zirvesinde Doğu Almanların büyük bir kısmının Stasi tarafından diğer Doğu Almanlar hakkında muhbir olarak çalıştırıldığına dair çılgın bir istatistik vardı. Ve elbette Demir Perde, dijital çağın, bazı açılardan internet çağının başlangıcından hemen önce düştü.

Sanırım, eğer Doğu Bloku'ndaki otoriter rejimlerden bazıları dijital çağa ulaşmış olsaydı, belki bilgi üzerinde artık düşmemek için yeterli kontrole sahip olabilirlerdi, çünkü bunu yapmak çok daha kolaydı diye iddia edebilirsiniz - ve Çin gibi karşı örneklere de bakabilirsiniz - diye düşünüyorum. Yani, Facebook ve Google'ın, tartışmasız reklam ekosistemleriyle birlikte, şimdiye kadar yapılmış en karmaşık gözetleme sistemlerinden bazılarını - tamam, Çin'inki belki de - inşa etmiş oldukları gerçeği, ancak biz bununla şimdiye kadarki en Amerikan şeyini yapıyoruz, yani bunları size ihtiyacınız olmayan saçmalıkları satmak için kullanıyoruz.

Ancak bu, bunların tek faydasının bu olduğu anlamına gelmiyor ve bunların Çehov'un silahı gibi şömine rafının üzerinde oturup birisinin onları alıp onlara gerçekten korkunç bir şey yapmasını beklemesi, özgür topluma yönelik bir tehdittir. Sohbet Kontrolü ve yaş doğrulama ile ilgili diğer tüm şeyler aynı şeydir. “Bizim bu zararımız var. Bu zararı önleyecek ve daha sonra gerçekten kötü amaçlarla kullanılabilecek bir sistem oluşturalım." Özgür bir toplumun varlığını tehdit eden sistemler tasarlamadığımızdan emin olmalıyız. Kusura bakma, bu benim sabun kutusu konuşmamdı ama çok önemsediğim bir şey.

Size şirketin yapısı, kültürü ve sistemlerin nasıl kurulduğu hakkında bu kadar çok soru sormamın nedeni idealizmin Silikon Vadisi'nde sıklıkla ifade edilmesidir. Bahsettiğiniz tüm büyük şirketlerden bunu duydum. Bugün bunu büyük şirketlerden duyuyorum ve sonra uzlaşmalar yavaş yavaş ortaya çıkıyor.

Ve bazen tavizler şöyle olur: "Eh, Amerika Birleşik Devletleri'nde ikamet ediyoruz. Sadece dinlemek zorundayız. Yapabileceğimiz hiçbir şey yok. Kaç tane yasal talep aldığımızı görmek için arama emri sayfamıza bakabilirsiniz, cevap bu olacak."

Bazen tavizler şöyle olur: "Bakın, büyümeliyiz. Büyümeliyiz, hepsi bu." Bazen de "insanları istediğimiz şekilde koruyacak ve yasal rejimlere uyacak bir sistem kurmanın hiçbir yolu yok" şeklinde tavizler veriliyor. Bence şifreleme bu gerilimin tam merkezinde yer alıyor.

Herkesin Apple’ı tanıdığını düşündüğüm için Apple örneğini vereceğim. Apple bu arka kapı çağrılarına rutin olarak direniyor. [Şirket] bunu yapabileceği şekillerde yapacak kadar büyüktür ve daha sonraiPhone zaten sıfır günlük oluyor. Önemli değil. Bu döngü bir şekilde tekrarlanıyor. Ancak Apple'daki insanlarla konuşursanız şöyle derler: "Bakın, düzenleyiciler bize geliyor ve şöyle diyorlar: 'Akıllı olun. Akıllıca şeyler yapın, akıllı adamlar ve mahremiyeti koruyacak bir arka kapı yapmanın bir yolunu bulun.'" Ve Apple'ın yanıtı şu oluyor: "Yapamazsınız."

Bu imkansız.

Bu sorunu sizin için çözecek kadar inek olamayız. Düzenleyicilerin bazı kasıtlı cehaletleri olduğunu düşünüyorum; Sanırım düzenleyiciler bunu biliyor. Ayrıca çocukları korumak isteyen çok sayıda aktivistin olduğunu düşünüyorum. Belki anlıyorlar, belki anlamıyorlar ama içsel düzeyde kesinlikle anladıkları şey çocukların zarar gördüğü, değil mi? 

Herkesin sorunları iyileştirebileceğini veya şifreleme riskini azaltabileceğini iddia ettiği diğer sistemlerin hiçbiri aslında mevcut değil, öyle ki çocuklar bugün zarar gördükleri oranda zarar görmüyorlar. Sen bunun ortasında oturuyorsun. Dünyanın hükümetleri size geliyor. Senden arka kapılar istediler. CSAM'yi tespit etmek için sohbet mesajlarının istemci tarafında taranmasını istediler. Sadece akıllı olmaya cevabınız nedir? Biraz daha inek olup çözelim mi?

Yani sadece iyi adamların kullanabileceği bir arka kapı yaratmak imkansız. Ve kötü adamlar tarafından kullanılan arka kapıların sonuçları temelde felakettir, değil mi? Sanırım bu oranlarda hâlâ zararların işlendiğini söylediniz ve bu-

Devasa ölçekte olduğu gibi. Bunu açıkça söylemenin önemli olduğunu düşünüyorum. Zarar çok büyük ölçekte işleniyor.

Demek istediğim, endişeler meşru, değil mi? Ama birçok zarara da katlanırız. Eğer yetişkinseniz, sizin için iyi olmayan şeyleri tüketmeye hoşgörüyle yaklaşırız, değil mi? Ve bu belki ABD merkezli, ama birkaç tane var… Yani, bunun hala işlerin gidişatıyla ilgili bir emsal olup olmadığını bilmiyorum, ama temelde şunu söyleyen birkaç mahkeme emsalleri var… Bunun aslında taramayla veya başka bir şeyle ilgisi olduğunu düşünüyorum; “Tamam bunların yetişkinlerin özgürlüğünün kısıtlanmasına karşı uyumlu ve dengeli olması lazım, aslında çok çok güvenli olması lazım” dediler.

Her türlü özgürlüğü elinizden alarak toplumu çok çok çok güvenli hale getirebilirsiniz. Bunu yapabilirsin. Ve bu bizim yapmak istediğimiz şeyle ilgili bir değiş-tokuş, ancak insanların çok fazla güvenliğin belki de içinde yaşamak istemedikleri bir dünya olduğu gerçeğini tam olarak içselleştirdiklerini düşünmüyorum.

Fazla Amerikalı olmamak için yine Ben Franklin'in olduğunu düşünüyorum, ancak güvenlik uğruna özgürlükten vazgeçen insanlar ikisini de hak etmiyor. Başka kelimelerle ifade ediyorum. Ben Amerikalı'yım. Şu anda Avrupa'da yaşıyorum ama aslen Amerikalıyım. ABD'de gerçekten özgürlük davulunu çalan ama aslında tüm mahremiyetlerini vermeye istekli pek çok insan var. 

Mahremiyet ve özgürlüğün ayrılmaz bir şekilde bağlantılı olduğunu düşünüyorum. Mahremiyet olmadan özgür olamazsınız. Dolayısıyla burada yapılması gereken bir değiş-tokuş olduğunu düşünüyorum ve bu değiş tokuşun ne olduğunu tartışabiliriz, ancak bu değiş tokuş, tüm sistemi bakmak isteyen herkese şeffaf hale getirmemiz şeklinde olmamalıdır.

Çünkü bakmak isteyen gerçekten kötü insanlar var. Ve hükümetin asla o kadar kötü bir insan olmayacağını düşünseniz bile, ki bu çok saf görünüyor, ama durumun böyle olduğunu düşünseniz bile, her yerde her türden siber suçlu var. Bu arka kapılar veya güvenlik açıkları - sanırım güvenlik açıkları arka kapılardan daha kolaydır - ancak kriptografide bulunan veya tanıtılan bu güvenlik açıklarının, kötü aktörler tarafından istismar edilme konusunda uzun bir geçmişi vardır. Tarih açıktır. Hedeflenen kişiler dışında yararlanılamayacak bir arka kapıya sahip olmak imkansızdır. Bence bunu yapmanın başka yolları da var, sanırım yapmamız gereken...

Diğer yolları açıklayabilir misiniz? Sanırım bu konuşmada eksik olabilir. Zararı azaltacak başka teknik çözümler olsaydı, bunlar nasıl görünürdü?

Birçoğu işlerin nasıl yapılacağı konusunda yabani otların arasına girmek olurdu.

Devam etmek. Bu gösteri bunun için.

Elbette. Örneğin, sıfır bilgi kanıtları diye bir şey var; bu, temelde size bu konuda başka hiçbir bilgi vermeden 18 yaşının üzerinde olduğumu kanıtlama yeteneğini içeriyor. Aslında bunu yapmanın birden fazla yolu var ve bunlardan bazıları sıfır bilgi kanıtları içermiyor, ancak bunlar... Discord'dan çok farklı.unuttum, bir veya iki ay önce bir güvenlik ihlali nedeniyle başım derde girdiyaş doğrulaması yaptılar ve sonra - ne olduğunu unuttum - bir tür açık [AWS] S3 klasörü veya tonlarca insanın kimliğini ve benzeri şeyleri içeren bir şey vardı.

Bunu yapmanın doğru yolu bu değil. Ama şunu garanti ederim ki insanlar bunu yanlış yapacaklardır. Eğer her web sitesi kimliğinizi toplamak zorundaysa, başımız büyük belada demektir. Dolayısıyla, kartı veren kuruluşların, örneğin güvenilir bir kişinin size bir kimlik vermesini sağlamanın yolları vardır. Yerel bir kimlik bilgisi olabilir. Bu bir kimlik belgesi olabilir. Bu aynı zamanda bulutta saklanan bir kimlik bilgisi de olabilir, ancak şifrelenmiş bir şekilde olabilir, böylece sunucu kimlik bilgisinin ne olduğunu göremez ve daha sonra, gittiğiniz site bunu gerektiriyorsa, cihazınızın yaşınızın 18'in üzerinde olduğunu seçici olarak ifşa etmesini sağlayabilir.

“Bu sizin adresiniz, bu adınız, bu her neyse” olmak zorunda değil. Sadece, ah evet, bu kişinin 18 yaşından büyük olduğunu belirten kriptografik olarak imzalanmış bir beyanı olabilir, onları içeri alın.

Bu düzenleme talebine yönelik teknik bir çözüm, değil mi? Sizce teknik çözümün yönetmelikte yazılması mı gerekiyor, yoksa 'bu iş doğru şekilde yapılır' şeklinde bir rejim mi olmalı? Yoksa sektörün bir araya gelip “Sıfır bilgi kanıtları yapacağız” demesi gerektiğini mi düşünüyorsunuz?

Hayır, sektörün bir araya gelmesinin kesinlikle faydası olacağını düşünüyorum. Aslında oldukça iyi bir AB Kimliği girişimi var. Sıfır bilgi değil ama oldukça iyi. Bu tür kimlik bilgileri ile ilgili bazı sorunlar var. Açıkçası, dijital kimlik bilgileri kopyalanabilir, bu nedenle bunların kopyalanıp internette yayınlanmadığından ve bir milyon kişi tarafından kullanılmadığından emin olmak istersiniz. Yani istismara karşı bazı tavizler var, değil mi? Herhangi bir ülkeden bir adamın kimliğinin ABD'deki her genç tarafından kullanılmasını istemezsiniz.

Yüzde 100 açık olmak gerekirse, o genç ben olurdum. Ben kesinlikle o genç olurdum.

(Gülüyor) Evet, elbette. Genel olarak zaman çizelgelerinin çok farklı olduğunu düşünüyorum. Kesin çözümlerin düzenleyici çerçevelere yazılmasının tarihi oldukça kasvetlidir. Ancak bunu yapan yasaların, daha önce yapılmadığını düşündüğüm şekilde mahremiyetin korunmasını zorunlu kılacak şekilde şeyler yazabileceğini düşünüyorum.

Bu teknik çözüme yol açacaktır. Sorduğum şey bu. Hükümet şöyle diyor: "Bakın, yaş doğrulaması yapmaya başlamalısınız. Çocuklar internette her türlü tuhaf şeye bakıyor. Porno mağazalarına fiziksel olarak girdiğimiz gibi, ne bileyim, bu içeriğin bir kısmını da engellemeye başlamalıyız."

Sağ.

"Ya da R dereceli filmlere geçit veriyoruz. Tamam, bunu yapmalıyız." Ve endüstri kaçınılmaz olarak en ucuz çözümü seçecek; sürücü ehliyetlerini yalnızca S3 klasörlerinde saklayacağız.

Elbette. Veya kaçınılmaz olarak bu bilgiyi bir şekilde pazarlamalarına olanak tanıyan çözümü seçecekler, değil mi?

Sen onun ortasında oturuyorsun. İdealleriniz ve yapınız bunun en ucuz, en kötü versiyonunu yapmanıza engel oluyor.

Evet.

Sektörün değerlerinizle eşleşmesini nasıl sağlarsınız? Kötü bir fikir olduğunu düşündüğünüz çözümü düzenleyici otorite mi zorunlu kılıyor? Herkesi doğru olanı yapmaya iten çözüme kısıtlamalar mı koyuyorlar? Bu nereden geliyor?

Ah, bu zor bir şey. Cevabı bilseydim, onu zorlardım. Ama ortaklıkların da bunlardan biri olduğunu düşünüyorum. Neleri saklayabileceğiniz, neleri saklayamayacağınız ve müşterileriniz hakkında ne kadar bilgi sahibi olabileceğinize ilişkin düzenleyici kuralların kesinlikle önemli olduğunu düşünüyorum. Bunun belki biraz rekabet konusuna girdiğini düşünüyorum, ancak pek çok şeyin tam dikey entegrasyonundan da birçok potansiyel zarar gelebilir.

Yani her şeyin ayrı varlıklar olmasını zorunlu kılıyorum ve bu nedenle, bunu bu konuşmada açığa vurmayacağım, ancak bu, belirli türdeki zararları ve şeyleri kötüye kullanma eğilimini önlemek için çok şey yapabilir. Ancak düzenlemelerin ve düzenlemelerde gizlilik gerekliliklerinin bulunmasının kesinlikle ilk adım olduğunu düşünüyorum. Ve oradaki uyumlu uygulamalar en azından bunu içeriyor.

Ayrıca bunu yapmanın yine zor olduğunu düşünüyorum, ancak bunu işletim sistemi üreticilerine dayatmak da bir bakıma tehlikeli olabilir çünkü bu tıkanıklıkları sağlamlaştırmaya yardımcı olur. Zaten Google için pek çok tıkanıklık noktamız var ve Apple'da da bunlar var:

Çok komik. Apple gerçekten buna karşı çıkıyor ancak Apple bir tıkanıklık noktası olarak yer almayı seviyor. Sizce neden öyleler?yaş doğrulayıcı olmaya karşı çıkıyoruz?

Bu iyi bir soru, aslında bilmiyorum. Üzerine atlayacaklarını düşünüyorsun, değil mi? Demek istediğim, App Store'un kilit noktası olmayı ve herkesten yüzde 30 ücret almayı kesinlikle seviyorlar. 

Biliyorumkavga ettin.

Evet.

Proton, App Store politikaları konusunda Apple ile kavga halindeydi. Bu, onların "Aslında kontrolü biz sürdüreceğiz. Bu yüzde 30, düzenleyiciler olan yüzde 30'la ilgili bizi rahatsız etmeyi bırakın, çünkü size yaş doğrulaması sağlayacağız" gibi çıkarları açıkça ortaya çıkacak gibi görünüyor.

Evet. Demek istediğim, sanırım bunu, KYC'yi yapabileceğiniz veya müşterinizi istediğiniz kadar tanıyabileceğiniz anlamında, kazanılamayan bir oyun olarak görebilirler, ancak bazıları gözden kaçacak ve o zaman siz sorumlu olacaksınız. Belki de bunu üçüncü bir tarafın yapmasını istiyorlardır, yani bu onların sorunu değil, değil mi? Bilmiyorum.

Bütün cevap bu olabilir.

Sana şunu sorayım. Yaş doğrulama hakkında konuştuk. Her sorunu çözecek bir cevap olduğundan emin değilim ama en azından zararları dengeleyecek bazı teknik yaklaşımlar ortaya koydunuz. 

Zararın çok büyük ölçekte gerçekleştiğini söylediğimde kastettiğim CSAM'dı; kastettiğim çocukların cinsel istismarı materyaliydi. Bu, internet üzerinden çok büyük ölçekte oluyor. Hepimiz bunu biliyoruz. Bunu hafifletmenin pek çok yolu var. Ve bir de göremediğimiz, zaten nerede olacağını göremediğimiz platformlar var. Proton da bunlardan biri. iMessage'ı tamamen şifrelerseniz, iMessage aslında başka bir şeydir. Apple bu konuda çok eleştiri alıyor.

Apple'ın yanıtı Proton'unkiyle aynı: "Bunu yapmanın bir yolu yok. Size bunu yapmanın diğer tüm kötü aktörler için arka kapılar yaratmayan bir yolunu veremeyiz. Siz istiyorsunuz, biz yapmayacağız."

Arka kapı oluşturmadan CSAM'in zararlarını azaltmanın çözümleri nelerdir? Çünkü bu konuşmada bunun da eksik olduğunu hissediyorum, özellikle de zararın boyutuna odaklanan aktivistlerle konuştuğumda.

Dolayısıyla Proton'un ne yaptığını tam olarak anlatamam çünkü kötüye kullanımın önlenmesi, belirsizlik yoluyla güvenliğin gerçekten yardımcı olduğu şeylerden biridir. Kötü aktörlerin ne yaptığımızı bilmemesine yardımcı olur. Ancak CSAM ile içerik taraması yapmadan mücadele edebileceğinizi söyleyebilirim. Bu mümkün.

Bunların çoğu… Neyse, muhtemelen söylememeliyim ama CSAM ile savaşabilirsiniz. Aynı olduğunu söylemiyorum. Her şeyi taramak kadar etkili değil ama aynı zamanda yapay zeka görüntü oluşturma çağında neyin gerçek olup olmadığını kim bilebilir? Yapay zeka tarafından oluşturulan CSAM'nin iyi olduğu söylenemez, ancak asıl önemli olan gerçek bir kurbanın olup olmadığını, orada olup olmadığını vb. bilmiyor olmanızdır.

Dolayısıyla CSAM ile mücadele etmek için her görüntüyü taramanın alternatif yolları olduğunu düşünüyorum. Bunu yıllardır yapıyoruz ve bunda ne kadar etkili olduğumuzu bilmek zor çünkü paydanın ne olduğunu gerçekten bilmiyoruz. En azından tanımladığımız ağlar açısından öyle olduğumuzu düşünüyorum: bir şeyi belirledik, onları kapattık ve bunu hafiflettik.

Her türden kötü aktörü platformdan uzak tutmakla ilgileniyoruz çünkü amacımız... "Ah, burası suçlular için bir platform" olursa görev yerine getirilmez. Sonuç olarak öyle değil. Yani Proton kullanıcılarının büyük çoğunluğu için… Toplam şirket kaynaklarının neredeyse yüzde 10'unu suistimalle mücadeleye ayırıyoruz. Platformda kötüye kullanımı mümkün olduğunca az hale getirme konusunda son derece ciddiyiz. Yani yapılabilir.

Burası bir maliyet merkezi. Bu bir maliyet merkezi ve yediğimiz bir yer. Bize para kazandırmıyor ama yapılabilir. Bence diğer bir konu da bu sadece CSAM değil, aynı zamanda bu suçların işlendiği tek yerin dijital alan olmadığı gerçeği. Bir de fiziksel alan var. Gerçek mağdurlar var. Bundan gerçekten zarar gören insanlar var. Sanırım herkes işinin kolaylaşmasını istiyor. Polisler de bundan muaf değil. Bu yüzden internetteki her şeyi taramayı çok isterler ve aslında bu istek için onları suçlamıyorum çünkü bu onların işlerini çok daha kolaylaştırır ve gerçekten de zararı azaltmak isterler.

Ancak bununla birlikte özgür topluma yönelik tehdit arasında da bir denge kurmamız gerektiğini düşünüyorum. Dolayısıyla, bu tür suiistimallerle kaynak sağlama ve benzeri şeylerle mücadele etmek için fiziksel alan türünde muhtemelen yapılabilecek daha çok şey olduğunu düşünüyorum. Ama şunu söyleyeceğim ve tekrar edeceğim, içerik taraması bunu yapmanın tek yolu değil. Ayrıca ihlal edilmeden yapılabilecek bazı içerik taramaları da vardır. İstemci tarafında olabilir; başka şeyler de olabilir. Gizlice yapılabilir. Bazı açılardan bu da çok endişe verici, ancak bunu yapmak için mahremiyeti büyük ölçekte ihlal etmeden yapılabilecek şeyler var ki bunun bedelinin çok yüksek olduğunu düşünüyorum.

CSAM'in zararlarını geniş ölçekte durdurmada etkili olan, tam olarak tanımlayamayacağınız bir sistem olduğunu söylüyorsunuz. Bu, düzenlemeleri dayatmak isteyen bazı kişiler tarafından doğrulanabilir mi? Denetlenebilir mi? Belirsizlik yoluyla güvenliğin bu sorunları var, değil mi? Sana güvenmek zorundayız. Bu konuşmanın büyük bir kısmı Proton'a yapısal ve kişisel olarak ne kadar güvenebileceğimiz konusuna geldi.

Sorun şu ki paydanın ne olduğunu bilmiyorum. Yüzde 50’sini bulduk mu bilmiyorum; Yüzde 10’unu bulduk mu bilmiyorum. Yüzde birini bulup bulmadığımızı bilmiyorum çünkü tek bildiğim bulduğumuz şeyler. O zaman bile olasılıksaldır. Görüntüleri göremiyoruz. Bazen bilmiyoruz. Bazen daha iyi bir ipucumuz olur ama nasıl olduğunu söylemeyeceğim. Ancak hiçbir durumda görüntüleri göremiyoruz. Yasal olarak bunu yapabilecek durumda değiliz ve Allah biliyor ki çalışanlarımızı buna maruz bırakmak istemiyoruz zaten.

Ama hayır, paydanın ne olduğunu bilmiyoruz, dolayısıyla ne kadar etkili olduğunu bilmiyorum. Bunu bir dereceye kadar aldığımız yasal taleplerle ilişkilendirebileceğimizi ve bunların oldukça az sayıda olduğunu biliyorum. 

Eğer bu platformda çok büyük bir sorun olsaydı, bununla ve bunun gibi şeylerle ilgili meta veriler için çok daha fazla yasal talep alırdık diye düşünüyorum. Ve bu bizim vekilimizdir, özellikle CSAM için değil çünkü çoğu zaman isteklerin nereden geldiğini bilmiyoruz, ancak genel olarak vekillerimizden biri "Tamam, veriler için kaç yasal talep alıyoruz?" İstismarla mücadelede ne kadar iyi olduğumuzun aksine. Yasal talepler tavan yaparsa ki ki bu da olmadı, o zaman tabii ki istismarla mücadele konusunda büyük bir sorunumuz var ve durum böyle değil.

Bunun geçici bir cevap olduğunu biliyorum ama sorun da bu. Veriler özeldir. Okuyamayız. Bütün meselemiz bu. Bir de raporlama sistemimiz var elbette. İnsanlar da herkes gibi hata yapar. Yani şikayet edilebilecek bir görsel paylaşırlarsa bu durum devam edebilir. Yani pek çok mekanizma var. Yine, herhangi bir ayrıntıyı söyleyerek parmak uçlarımda dolaşıyorum çünkü bu şeylerin etkisiz hale gelmesini istemiyorum. Ancak görebildiğimiz dış göstergelere göre iyi bir iş çıkardığımızı düşünüyorum.

Size bunun CSAM olmadığı bir örnek vereceğim ama bu da benzer bir şey, tamam mı? İnsanlar Proton'a gittiği için fidye yazılımı hesapları için çok fazla talep alıyorduk. Bilmiyorum, Bitcoin ile bir şeyle [bağlantı kuracaklarını] belirten bir Proton e-postası alın, değil mi? Her neyse. Bunu yasal taleplerde alırdık. Buna bakıp "Ah, bu kesinlikle çeşitli nedenlerden dolayı bir fidye yazılımı hesabı" diyebiliriz.

Fidye yazılımı hesaplarını öldürme konusunda gerçekten çok iyiyiz. Şimdi, hâlâ ara sıra bunlar hakkında [talepler] alıyoruz, ancak yasal talebi almadan altı ay önce kötüye kullanım nedeniyle tarafımızca devre dışı bırakılmış olacaklar. Ben fidye yazılımını benzetme olarak kullanıyorum ancak ne kadar iyi olduğumuzu bilmek için bir geri bildirim döngümüz var.

Yani sisteminizde bir şey var, tespit edebileceğiniz bazı göstergeler var ve bunların ne olduğunu bana söylemeyeceksiniz. Ancak bir hesabın sisteminizde nasıl çalıştığına dair, onun ne için kullanıldığını bilmenizi sağlayan bazı göstergeler var mı?

Evet.

Herhangi bir hükümet size bu göstergeler dizisinin ne olduğunu sordu mu?

HAYIR.

İlginç. Umarım bugün böyle bir şey olmaz. Polisler, eğer dinliyorsanız, bunları duyduğunuzu unutun. Burada zamanımız azalıyor. Sonunda hızlı bir şekilde yapay zeka hakkında soru sormak istiyorum. Çünkü oldukça tanıdık olduğunu düşündüğüm sistemlerden ve dinamiklerden bahsettik. Usenet ve Slashdot'a rastladım ve özgürlük ve güvenlikle ilgili bu sözü muhtemelen 10.000 kez duymuşumdur. İnternetteki hayatımın temeli bu.

[Gülüyor] Elbette.

Bu tartışma, bilmiyorum 80’lerden, 90’lardan bugüne kadar hep aynı. Ve belki yapay zeka tüm elma arabasını altüst edecek. Artık hükümetlerin devreye girmesi ve modellerin gönderilmesini durdurması yoluyla siber güvenliği geniş ölçekte gerçekleştirebiliyoruz. Bu doğru olsun veya olmasın, dünyada gerçekte olan şey budur.

Verilerin alt kısmında herhangi bir zarar olup olmadığına bakılmaksızın, tüm tespit sistemlerinizi tetikleyebilecek çok büyük miktarda sentetik veri üretebiliriz. Bir yapay zeka asistanı gönderdiniz çünkü birçok ülke Amerikan model şirketlerine güvenmek istemiyor ve Avrupa'da veri egemenliğine sahip olmak onlar için önemli. Bu sizin için bir pazar fırsatı gibi görünüyor.

Bütün bunlara yaklaşımınız nedir? Yapay zeka modeline güveniyor musunuz? Sınır şirketlerine mi güveniyorsunuz? Kendi modelinizi mi oluşturuyorsunuz? Verilerinizi onlardan nasıl koruyorsunuz? Bütün bunlar, sonuçta, şimdiye kadar tanımladığımız yapıları ve sistemleri önemli ölçüde alt üst ediyormuş gibi geliyor.

Sanırım o kadar da endişeli değilim. Belki de tartıştığımız konular üzerinde bu kadar dramatik bir etki yarattığını düşünmüyorum. Kendi bünyemizde çalıştırılan Lumo'muz var. Üzerinde çalıştığı sistemleri kontrol ediyoruz ve üçüncü taraf modellerden ve buna benzer şeylerden bağımsız olmak istiyoruz.

Bu gerçekten eğittiğiniz bir model mi, yoksa güvenilir mi?

Hayır, derlediğimiz açık kaynaklı modellerdir. Ve bu, güçlü ve zayıf yönlerine göre bir araya getirdiğimiz açık kaynaklı modellerden oluşan bir koleksiyon. Ama evet, kendi modellerimizi eğitmek için ateşe verecek bir milyar dolarımız yok. Aslında bu yüzden yapay zeka yaparak gerçekten para kazanan birkaç yapay zeka şirketinden biri olabiliriz, çünkü herhangi bir eğitim yapmıyoruz, değil mi? Çıkarımı satıyoruz. Lumo'yu inşa etmek çok fazla iş gerektirmiyor ama evet, kendi modellerimizi eğitmiyoruz.

Sanırım iki farklı taraf var. "Yapay zeka genel olarak sektörü nasıl etkileyecek?" sorusu var. ve belki "bizi nasıl etkiledi ve onu nasıl kullanıyoruz?" Yani çoğu şeyimiz, özellikle de istemci tarafındaki şeyler için açık kaynaktır. İstemci tarafı da kullanıcı sırrı değildir. Bu yüzden Anthropic ve ChatGPT'nin modellerini denedik. Lumo'yu OpenAI ile de denedik çünkü sonuçta çoğu zaten halka açık ve kullanıcı sırrı değil, bu yüzden mümkün olduğunca çabuk ilerlememizi sağlayacak en iyi aracı kullanacağız.

Diğer şeylere kıyasla kod yazmaya harcanan zaman açısından yazılım mühendisliğini muhtemelen kalıcı olarak değiştirdi. Ama belki de o kadar da temelde değil. Demek istediğim, insanlar her şirketin kendi kurumsal yazılımını yazacağı SaaSpocalypse olayından bahsediyor. Şahsen ben onu satın almıyorum.

Kendi özel satın alma siparişi yazılımınızı, ERP'nizi veya küçük işletmeniz için işe yarayan herhangi bir şeyi, belki bir nevi, hazırlayabilmeniz ile uyumluluk, ölçeklendirme, güvenilirlik olsun, işletmelerin ihtiyaç duyduğu ve sizin yapmayacağınız tüm bu şeyler arasında çok büyük bir fark var… Demek istediğim, her şirketin [kendi şirketini] kurduğunu göremiyorum. “Ah, yazılım öldü. Bize ihtiyacımız olan şeyleri vaat edebilecek satıcılara sahip olmayacağız."

Burada sorunuza cevap verip vermediğimi bilmiyorum ama bununla ilgili diğer bir şey de, bana göre, yazılım mühendisliğinde değer verilen şeyin belki de daha üst düzey becerilere doğru kaydırılmasıdır. Ancak iyi yazılımın ne olduğu ya da iyi yazılımın nasıl tasarlanacağı temel olarak değişmedi. Aksine, başkalarının kodunu incelemek gibi şeyler… Evet, bugün başkalarının kodunu inceliyorsunuz ve robotun kodunu inceliyorsunuz, ama bu bir bakıma aynı beceri.

Yani belki de önceki denge biraz daha fazlaydı, tamam, bu tür şeylerle kodu çok hızlı ve doğru bir şekilde yazabilir misiniz? Şimdi bu durumda, tamam, daha çok şuna doğru, kodu çok hızlı bir şekilde inceleyebilir misiniz? Bu belki daha üst düzey bir beceridir. Ama yine de yazılım mühendisi araç setinin bir parçası: iyi yazılım tasarlamak, iyi yazılımın ne anlama geldiği, iyi yazılımın neye benzediği.

Sanırım bulduğumuz şeylerden biri, kodunuz iyi tasarlandığında Yüksek Lisans'ların çok daha iyi çalıştığıdır. Kodunuz iyi tasarlanmışsa, LLM aslında daha iyi çalışacaktır. Eğer kodunuz tam bir karmaşaysa, LLM o kadar da iyi çalışmayacaktır çünkü onlar mantık motorlarıdır. Kafalarının karışması için daha fazla şans var. Yani yazılım geliştirmenin temellerinin çoğu - evet, sektör değişti - ancak yazılım geliştirmenin temellerinin çoğu farklı.

Bulduğumuz diğer şey ise kod yazmak için harcadığınız zamanın azaldığıdır. Şimdi boru hattınızda çözmeniz gereken başka darboğazlar var. Şimdi belki de [sürekli entegrasyonunuz] çok uzun sürüyor. Belki diğer işlerin çok uzun sürüyordur. Yani ne tür şeyleri optimize etmeniz gerektiğini değiştirebilir, ancak günün sonunda çoğu kıdemli yazılım mühendisi için kod yazmaya harcadıkları zamanın açıkçası işlerinin en zor kısmı ya da zamanlarının çoğunu harcadıkları şey olmadığını düşünüyorum.

Yazılımın, en azından şu ana kadar gördüğüm, yüksek lisans öğrencileri için muhtemelen en çok etkilenen sektör ve en takip edilebilir sektör olduğunu düşünüyorum. Açıkçası bunun başka kullanım alanları da var ama bu bir yazılım; kurala dayalıdır. Doğruluğunu test edebilirsiniz. Yüksek Lisans'ın raydan çıkıp halüsinasyon görebileceği pek çok şeyi hafifletebilirsiniz. Günün sonunda çalışma koduna ihtiyacınız var, değil mi? Yani bu tür şeyleri test edebilirsiniz. 

Yüksek Lisans ile birçok sorunu azaltabilirsiniz. Yazılım en iyi senaryonuzdur. Ve o zaman bile, gördüğüm kadarıyla bu bir evrim. Bu bir devrim değil. Bu kesinlikle büyük bir değişiklik, ancak büyük ölçüde bir üretkenlik değişikliğidir, "her şeyi at, baştan başla" değil. Belki bu konuda yanılıyorumdur. Ve belki de modeller geliştikçe durum daha da dramatik hale gelecektir. Ancak şu anda bu üretkenlik için harika bir fırsat. Sanırım - ve yazılım benim en iyi bildiğim şey - korkuların biraz abartılı olduğunu düşünüyorum.

Ben de size diğer taraftan sorayım. Daha önce, artık tüm e-postalara bakmanın ve toplu gözetleme yapmanın mümkün olduğunu söylemiştiniz. Antropik ABD hükümetine şöyle seslendi: "Bunu bizim modelimizle yapabilirsiniz. Yapmanızı istemiyoruz çünkü bunun yeterince iyi olduğunu düşünmüyoruz ve bunu yapmanın gerçek sorunları olduğunu düşünüyoruz." 

Sen de bununla karşı karşıyasın, değil mi? Kendi dahili yapay zeka modeliniz var. Kullanıcılarınız muhtemelen sistemlerinizin içinde yapay zeka sayesinde her zamankinden daha fazla veri üretiyor. Bir sisteme yapay zeka eklediğinizde gerçekleşen bir şeye benziyor. Modeller, onlara daha fazla veri sağladığınızda daha iyi hale gelir. Veriye karşı doymak bilmez bir iştahları var.

Bu, "her şeyi gizli tutacağız" konusunda çok fazla baskı var. Eşyalarınızı kimin göreceği, neden görecekleri ve ellerine geçtikten sonra ne yapabilecekleri konusunda büyük bir baskı var. Ve buna sahip olmanın değeri artıyor gibi görünüyor. Tüm verileri toplamanın değeri artıyor gibi görünüyor.

Evet.

Yapay zekayı kelimenin tam anlamıyla her yere koyan büyük teknolojiyle rekabet edebilmek için yapay zeka sistemlerini kullanıma sunmak zorunda kalırken buna nasıl tepki verirsiniz?

Sanırım bu daha önce bahsettiğim şeye geliyor: mahremiyet kontroldür. Gizlilik, verilerinizi kontrol etmeniz ve kiminle paylaşılacağını kontrol etmeniz anlamında kendi kaderinizi belirlemenizdir. Ve belki de bu "kim" bir yapay zeka sistemidir ve bunda bir sorun yoktur. 

Sanırım bu, kullanıcının tercih ettiği bir şey olduğu sürece… Bu aslında bir iç tartışma, ancak zaten özelliklerimiz var. Mesela, tamam, bir e-posta listesi özelliğimiz var. Tamam aşkım? Bunun yapay zekayla, öğrenmeyle bir ilgisi olduğuna söz veriyorum.

[Gülüyor] Bu büyük bir yapı; işte başlıyoruz.

Ancak bir e-posta listesi özelliğimiz var ve bu özellik özel bir şekilde yapılıyor. Size bir e-posta gönderiyorum veya posta listesine bir e-posta gönderiyorum ve o da bu e-postayı diğer herkese gönderiyor. Sistem görmüyor. Ancak e-posta listenizde Proton dışındaki kişilerin de yer almasını istiyorsanız artık uçtan uca şifreleme yapamayız. Kapatmalıyız. 

Dolayısıyla, posta listenize dışarıdan kişiler eklediğinizde, "Hey, harici alıcıları açmak istiyorsanız uçtan uca şifrelemeyi kapatmanız gerekir." uyarısı alırsınız. Kullanıcı evet diyor çünkü bu onların iş akışının bir parçası. Buna ihtiyaçları var. Bu noktada hâlâ bir kopyasını kaydetmiyoruz.

Proton'a kaydedilen her şey kullanımda değilken şifrelenir. Ancak sistemimizden açık metinli bir e-posta geçiyor çünkü bunu harici alıcılara göndermemiz gerekiyor, değil mi? Bunlardan bazılarında gelecekte göreceğim türden bir model bu. Bu sadece yapay zeka sistemleri değil; aynı zamanda, özellikle ticari müşterilere ve diğer şeylere daha fazla girdikçe, CRM'imde bu entegrasyona ihtiyacım olan entegrasyonlar, değil mi? Bu posta kutusunu CRM'im ile paylaşmayı seçeceğim. Sorun değil. Bu bir karar olabilir ve bunun sonuçlarının ne olduğunu ileten bir kullanıcı arayüzü oluşturmak bizim işimizdir.

Ancak gizlilik temelde… Bu, bir şeyleri paylaşmamakla ilgili değil. Bu, fotoğraflarınızı paylaşmamakla ilgili değil; verilerinizi üçüncü taraflarla paylaşmamakla ilgili değildir. Verileri yalnızca varsayılan olarak herkesle değil, seçtiğiniz üçüncü taraflarla paylaşmakla ilgilidir. Bu, son yirmi yıldır Web 2.0 ya da buna her ne demek istiyorsanız, büyük teknoloji paradigması oldu.

Bence bunu Proton meselesiyle bağdaştırabiliriz çünkü mesele hiçbir zaman sadece şifrelemeyle ilgili değildi. Şifreleme sonuna kadar bir araçtır. Bütün mesele, hey, internetteki başka birinin bilgisayarında veri depolamış olmam, onlara istediklerini yapmaları için kontrol verdiğim ya da kaybetmeyeceklerine güvendiğim anlamına gelmiyor. Yani kontrolü elimde tutacağım ve modern çevrimiçi hizmetlere hâlâ katılabileceğim bir sistem kurmaya çalışacağız, değil mi?

Tüm bunların nasıl teste tabi tutulduğunu görmek için sizi yakında geri çağırmamız gerekecek gibi hissediyorum. Bu yeni.

Evet.

Önümüzdeki birkaç yıl içinde daha fazlasını öğreneceğimizi ve sizi yakında geri getireceğimizi düşünüyorum. Bize çok fazla ekstra zaman verdin. Bart, katıldığın için çok teşekkür ederimKod çözücü.

Teşekkür ederim. Çok teşekkür ederim; bu bir patlamaydı. Bunu takdir ediyorum.

Sorularınız veya yorumlarınız mı var? decoder@theverge.com adresinden bize ulaşın. Gerçekten her e-postayı okuyoruz!