Jüri, Meta ve Google'ın bir çocuğa zarar verdiğini söylüyor. Şimdi ne olacak?

BugünKod çözücüBig Tech'e karşı iki önemli kararla sonuçlanan dönüm noktası niteliğindeki sosyal medya bağımlılığı davalarından bahsediyoruz. varNew Mexico'da bir vakaMeta'ya karşı ve Kaliforniya'da bir tane dahaher iki şirkete karşıtemyize başvurmayı planladıklarını söyledi.

Bunlar, hem bu platformların işleyişine hem de Amerika'daki konuşmanın doğasına büyük etkileri olan karmaşık vakalardır; bu nedenle, tüm bunların üstesinden gelmemize yardımcı olmak için iki önemli kişiyi görevlendirdim: mükemmel haber bülteninin kurucusu ve editörü olan arkadaşım Casey Newton.Platform oyunuve ortak ev sahibiSert Çatalpodcast'in yanı sıraeşikkıdemli politika muhabiri Lauren Feiner. Lauren aslında Mark Zuckerberg gibi yöneticilerin Kaley adında 20 yaşındaki bir kadının davasında kürsüye çıktığı Los Angeles mahkeme salonundaydı.Başarılı bir şekilde Meta ve Google'ın platformlarını ihmalkar bir şekilde tasarladığını savunduzihinsel sağlık sorunlarına katkıda bulunacak şekillerde.

Teknoloji şirketlerini hedef alan yaralanma davalarının ilki olan bu davalar, Instagram ve YouTube gibi platformların tasarım kararlarıyla ilgili. Platformların kullanıcılara, özellikle de gençlere zarar veren temel kusurları olduğunu, bu şirketlerin bu sorunları bildiğini ve bu özellikleri sunma konusunda ihmalkar davrandıklarını savunuyorlar. Bu davalar, sosyal medya platformlarını düzenleyebilecek mevcut yasal mekanizmaları temelden değiştirmeyi amaçlayan çok daha büyük hamlelerin bir parçası.

Zarar derken sadece kullanıcıları takıntılı bir şekilde geri getiren bağımlılık yaratan tasarımlardan bahsetmiyoruz. Aynı zamanda anksiyete, depresyon ve vücut dismorfisi gibi sorunları daha da kötüleştiren algoritmik öneriler ve kamera filtreleri gibi özelliklerle de ilgilidir. Yalnızca içeriğe odaklanmak yerine platformların nasıl çalıştığına yapılan bu vurgu, yıllardır gelişen bir hareketin parçası. Sosyal medyanın sağlıklı olmadığı ve sağlıklı olamayacağı, tıpkı sigaranın tasarlandığı gibi kullanıldığında kansere yol açması gibi, aslında kusurlu olabileceği argümanına odaklanıyor.

Pek çok karmaşık fikir var ve Casey, Lauren ve ben bunların üzerinde çalışmak için gerçekten biraz zaman harcadık. Bu fikirlerden ilki, öneri, otomatik oynatılan video, sonsuz kaydırma gibi ürün özellikleri ile bu platformlarda bu platformlarda gençlere sunulan yeme bozukluğu videoları veya genç erkekleri kadınlardan nefret etmeye ikna etmek için tasarlanmış gönderiler gibi zararlı ancak yasal konuşma türleri arasında bir ayrım olup olmadığıdır. 

Ancak bu şirketleri bu tür içerikleri belirli şekillerde denetlemeye zorlamak anayasaya aykırı olmasa da çok zordur. Birinci Değişiklik, hükümetin bu şirketlerin hangi konuşmaları destekleyip denetleyeceğini düzenlemesini açıkça yasaklıyor ve özel eylemler genellikle, teknoloji platformlarının kullanıcılarının yayınladığı içerikten sorumlu tutulmasını önleyen İletişim Ahlakı Yasası'nın 230. Maddesi tarafından engelleniyor.

Tüm bu fikirleri birbirinden ayırmak gerçekten zor. İçinde hiçbir içerik bulunmayan algoritmik bir yayın, bırakın ihmalkarca kusurlu ve zarara neden olan bir ürünü, ilgi çekici bir ürün bile değildir. Bu programda ve diğer programlarda birçok akıllı insanımız vardıeşikGeçtiğimiz birkaç yılda bu kararların230 civarında sadece bir son koşu— platformları sonuçta sadece konuşmadan sorumlu kılmanın bir yolu.daha fazla konuşmanın kısıtlanmasına neden olur. Bu fikir hakkında ve 230. Maddenin yürürlükten kaldırılmasına yönelik artan çağrıların bu davalarla tamamen mantıksal bir bağlantısının olup olmadığı veya bunların yalnızca politik açıdan fırsatçı olup olmadığı hakkında çok konuştuğumuzu duyacaksınız.

Ancak burada çok daha fazla fikir ve daha da fazla derleme katmanı var. Bu bölümde Casey ve benim birkaç kez kaza yaptığımızı duyacaksınız, çünkü ikimiz de teknoloji düzenlemelerini o kadar uzun süredir ele alıyoruz ki, sosyal medyayla her zaman olumsuz deneyimler yaşayan sıradan insanlar için her şey yolunda gidiyormuş gibi davranmak aptalca geliyor. Bölüm 230şimdi otuz yaşındave yaratılmasına yardımcı olmak için tasarlandığı dünyanın var olup olmadığı belli değil.

Lauren'ın Bölüm 230'un yazarlarının özellikle yapay zeka ve çevrimiçi konuşma konusunda değişikliklere ne kadar açık olduklarından bahsettiğini duyacaksınız. Aynı zamanda, bu yasada yapılacak herhangi bir değişiklik Birinci Değişiklik'e doğrudan yansır ve potansiyel olarakgeniş ölçekte hükümetin konuşma düzenlemelerine kapı açın.Söylediğim gibi, durum karmaşık ve bu konu hakkında ne düşündüğünüzü çok merak ediyorum, çünkü bunların çoğunun ele geçirilmeye hazır olduğu açık.

Tamam aşkım:Platform oyunuCasey Newton veeşikKıdemli politika muhabiri Lauren Feiner büyük sosyal medya davaları hakkında. İşte başlıyoruz.

Bu röportaj uzunluk ve netlik açısından hafifçe düzenlendi. 

Lauren Feiner, sen burada kıdemli politika muhabirisineşik. Casey Newton, kurucusu ve editörüsünüzPlatform oyunuve burada sonsuza kadar Silikon Vadisi editörü diyebilirim.eşik.

Casey Newton:Kendimi Silikon Vadisi editörü olarak tanımlamaya devam ediyorum.eşik, bu yüzden senin de aynı şekilde hissetmene sevindim.

Çıkış yapabilirsin ama asla ayrılamazsın dostum. İkiniz de hoş geldinizKod çözücü. Kaliforniya ve New Mexico'da bir grup sosyal medya şirketinin karşılaştığı bu denemelerden bahsetmek istiyorum. Lauren, üst düzeyde sen en azından Kaliforniya'daki duruşma için odadaydın. Bence Snap ve TikTok bu sorunu çözdü. Dışarıdaydılar. YouTube ve Meta jüri kararını kaybetti. Bu duruşmalarda neler olduğunu ve siz oradayken mahkeme salonunda neler gördüğünüzü anlatın.

Lauren Feiner:Bu denemelerin özünde, sosyal medya şirketlerinin aldığı tasarım kararları ve kullanıcıların akışlarında karşılaştıkları şeylerle nasıl etkileşime girecekleri ile ilgiliydi. Teknolojide uzun süredir devam eden bir sorunun üstesinden gelmeye çalışıyordu: Bu platformlarda tasarımı içerikten ayırabilir misiniz? Bu denemelerin ulaşmaya çalıştığı şey buydu. Ve mahkeme salonlarında yapılan duruşmalarda bu şirketlere ait çok sayıda dahili belge ortaya çıktı. Los Angeles vakasında Meta ve YouTube vardı. Ve New Mexico'da sadece Meta vardı.

Çok sayıda dahili belge gördük, birçok eski Meta çalışanının ihbarcıya dönüştüğünü, aldıkları kararları ve gördüklerini tartışmak için kürsüye çıktığını gördük. Los Angeles'ta Instagram'ın başkanı Adam Mosseri ve Meta CEO'su Mark Zuckerberg'in kürsüye çıktığını bile gördük.

Casey, biz bunlara öncü denemeler diyoruz.eşik. Bütün sektör bunun kullanacağımız kelime olduğuna karar verdi. Bunun ne anlama geldiğini hızlıca açıklayabilir misiniz? Bu şirketleri sonsuza kadar düzenleme girişimlerini haber yapıyorsunuz. Ve bu denemelerin öncü olduğu fikri burada özellikle anlamlı görünüyor.

CN:Evet. Bildiğiniz gibi Nilay, son 20 yıldır şirketler Bölüm 230'u kalkan olarak kullanabiliyor. Mahkemede bu platformlardan herhangi birine uzaktan içerikle ilgili bir itiraz geldiğinde, bunlar anında reddediliyor. Bu davaların öncü olmasının nedeni, eğer başarılı olurlarsa dava için yeni bir cephe açacak olmaları ve bu şirketlerin artık Bölüm 230'u otomatik olarak bir kalkan olarak kullanamayacak olmalarıdır. Ve bu gerçekten de gerçekleşti ve şimdi tam olarak aynı doğrultuda ilerleyen düzinelerce davanın daha açılmasını bekliyoruz.

Bu noktada umuyorumKod çözücüdinleyiciler Bölüm 230'u biliyor, ancak yasa, platformların kullanıcılarının gönderdiklerinden sorumlu olmadığını söylüyor. Instagram veya TikTok'ta şöyle bir gönderi yayınlarsam: "Casey Newton berbat,Sert Çatalbenim yeminli düşmanımdır. Yasadışı hale getirilmeli," Casey beni dava edebilir ama sen Instagram'ı dava edemezsin.

Bu her zaman çok önemli oldu çünkü bu, herhangi biri platformlardan zarar gördüğünü söylediğinde platformların şunu söyleyebilmesi anlamına geliyor: "Biz değildik, aslında senin kızdığın konuşmaydı. Ve bizim bu konuşmayı dağıtma veya tanıtmadaki rolümüz aslında konuşmanın kendisiyle aynı."

Görünüşe göre bu deneme, bu argümanı ortaya koyma konusunda geçmişteki girişimlerden daha iyi bir iş çıkardı. Herrick v. Grindr gibi davaları düşünüyorum. Snapchat'e karşı, hız göstergesi filtresiyle ilgili ünlü bir dava vardı; bir gencin, Snapchat'te arabasını olabildiğince hızlı çalıştırırken bir ekran görüntüsü veya fotoğrafını çekmeye çalışırken çok hızlı sürmesi söz konusuydu. Bu vakalar aynı şekilde öncü değildi. Bunları birbirinden ayıran neydi ve bu argüman neden bu sefer daha başarılıydı?

CN:Lemmon v. Snap davası gerçekten önemli bir emsaldi. Snapchat, açıp arabanızda bir video çekebileceğiniz ve ne kadar hızlı gittiğinizi gösteren bu filtreyi sunuyordu. Davacılar, bunun uygulama içinde insanları gerçekten çok hızlı gitmeye ve tehlikeli şeyler yapmaya teşvik ettiğini başarılı bir şekilde savundu. Ve gerçekten de bu özel durumda tehlikeli bir kaza yaşandı.

Bunun önemli olmasının nedeni birdenbire 230 kalkanının mutlak olmamasıydı. Zaten "Platformların terörizmi ve CSAM'yi ortadan kaldırması gerekiyor" gibi birkaç küçük istisna vardı. Ama şimdi diyoruz ki, “Böyle bir filtre sunamazsınız çünkü bu, berbat davranışları teşvik edebilir.” Davacının avukatları için manzaranın geri kalanını açan şey budur.

“Bu platformların başka hangi tasarım özellikleri var ve ne gibi teşvikler yaratıyorlar?” diyebiliyorlar. Snapchat'te karşılıklı olarak değiş tokuş edilen gerçek mesajlar veya Instagram akışındaki gönderinin gerçek içeriği hakkında konuşmayacağız, ancak sonsuz kaydırma ve otomatik oynatılan video ve gece boyunca sürekli gelen ve uykunuzu bozabilecek anlık bildirimler gibi şeyler hakkında sorular soracağız. Ve birdenbire satın alma fırsatı bulabildiler çünkü bu ilk emsale sahiptiler.

Beni buna gerçekten iten şey, Snapchat'in o filtreyi yapmış olması. Bu Snapchat'in konuşmasıydı. "Eğer hızlı sürersen, senin için hız göstergesi üreteceğiz" diyorlardı. Ve bu durumda konu hâlâ platform konuşması değil. Sonsuz kaydırma yapabilirsiniz, otomatik oynatılan videolar yapabilirsiniz ve bunlar yalnızca başkalarının konuşmalarını yönetmenin yollarıdır.

Davacıların bunun üstesinden gelmesi gerekti mi? Çünkü bu, 230 kayayı tekrar tekrar vurduğunuz yere benziyor ve şöyle diyorlar: "Biz sadece başkalarının konuşmasını yönetiyoruz. Bu hâlâ Birinci Değişiklik."

CN:Davacılar, sonsuz kaydırmanın başkalarının konuşması olmadığını başarıyla iddia edebildiler. Buraya karışan başka bir kişinin sorumluluğu yoktur; birisi bir ürün üretti ve ürün kusurlu. Bunları başarılı bir şekilde emniyet kemeri olmayan arabalara benzetmeyi başardılar ve bu jüri üyelerinde gerçekten yankı uyandırdı.

Bunun neden olabileceği hakkında konuşmak için biraz zaman ayırmaya değer çünkü bu, sosyal medya şirketlerinde konuştuğum insanların asla anlamadığı bir şey. Herkes Instagram ile büyük sorunu olan birini tanıyor. Bu kişi muhtemelen yakın ailenizdendir. Yüzlerce kez telefonlarından sildiler ve her seferinde yeniden yüklediler. Ekran başında kalma süresi sınırlarını belirlediler ama tekrar tekrar geri geliyorlar ve bu yüzden kendilerinden nefret ediyorlar. Bu artık Amerika'da neredeyse evrensel bir deneyim. Jüri karşısına çıkıp "Instagram'da bir sorun var" dediğinizde, "Bu bana doğru geliyor" diyen birçok insanı bulmak oldukça kolaydır.

Duygularımdan biri, eğer bu vakalardan herhangi biri jüriye ulaşırsa, Casey'nin tarif ettiği şey devreye girecekti. Herkes bu sosyal medya platformlarıyla ilgili olumsuz deneyimler yaşıyor ve şirketlerin kendileri bize her zaman bu sorunların istatistiksel olarak küçük olduğunu söylüyor, ancak kullanıcı sayıları o kadar büyük ki küçük bir yüzde bile milyonlarca insan anlamına geliyor. Sanırım platformlar da bunu asla akıllarına getiremediler.

Orada da Mark Zuckerberg'i jüri önüne çıkardığınızda sosyal medya platformlarının davayı kazanmasının hiçbir yolu olmadığını mı hissettiniz?

LF:Bunu bilmek gerçekten zordu. Öncelikle bu jüri üyeleri neden seçildi? Sosyal medyayı çok fazla kullanmayan veya sosyal medyayla ilgili pek çok iyi deneyimi olan insanlar oldukları için mi seçildiler? Onları izlemenin joker tarafı da buydu: Bu kanıtı gerçekten nasıl değerlendiriyorlar? Aynı zamanda bu kanıtların bazılarını duymak zor olabilir. Akıl sağlığı sorunu yaşayan veya telefonunu çok fazla kullanmakta ya da sosyal medyada çok fazla bulunmakla mücadele eden birini tanıyan herkes, eğer kendimiz değilsek, çoğumuz böyle insanları tanıyoruz. Bu kesinlikle onları bir şekilde insani düzeyde etkileyecektir.

Mark Zuckerberg'i kürsüde izlerken, belirli bir güzellik filtresine sahip olduklarından ve kendi çalışanlarından birinin bunu dahil etme konusunda nasıl geri adım attığından ve sanırım kız sahibi olmaktan ve bunun gibi bir şeyin onları nasıl etkileyeceğini düşündüğünden bahsettiğinden bahsediyordu. Belki bu insanlar sosyal medya konusunda çok fazla deneyime sahip olmayabilir veya bu davacının yaşadığı deneyimlerin aynısına sahip olmayabilir, ancak hayatlarında muhtemelen benzer bir şey deneyimlemiş olan başka insanları da kesinlikle tanıyorlar.

CN:Ayrıca TikTok ve Snap'in duruşmadan önce anlaştığını söylemek de yerinde görünüyor. O an, "Tamam, gerçekten çok korkmuş olmalılar" dediğim an oldu. Aslında Meta ve YouTube'un da yerleşmesini bekliyordum. Bu gerçekleştiğinde, başlarının büyük belada olduğu açıktı sanırım.

Burada herkesin yaptığı karşılaştırma büyük tütünle, abur cuburla, şekerle yapılıyor, değil mi? Bunların bizim için kötü olduğunu hepimiz biliyoruz. "Nikotin harika, bu yüzden kendimizi durduramıyoruz." Düzenleyici bir çerçeve olmalı ya da bu şirketlerin en azından riskleri iletmesini sağlamalıyız. Bu çerçeve sizin için geçerli mi?

LF:Bu an ile büyük tütün için olan an arasında büyük bir fark olan şey, güvenli sigaranın olmadığını söylemektir. Durumun sosyal medya için aslında aynı olmadığını, belirli düzeyde sosyal medya kullanımının aslında insanlar üzerinde olumlu veya en azından nötr bir etkisi olduğunu gösteren pek çok çalışma var. Buradaki asıl sorun, gerçekten de bu aşırı kullanım, bu kompulsif kullanımdır ve aslında insanların bahsettiği sorundur. Sosyal medya insanları arkadaşlarıyla buluşturur, insanlarla iletişimde kalmanızı sağlar, yakın çevrenizin dışında sosyal bağlantı veya bağlantı kurmanıza olanak tanır, ancak açıkçası onun gerçekten zararlı yanları da vardır ve onu çok fazla kullanmak sizi gerçek sosyal bağlantıdan koparabilir.

Burada büyük bir fark var. İnsanlar bunu o anla karşılaştırdıklarında bunun gerçekten düşünmemiz gereken bir şey olduğunu, bunların aslında bire bir senaryolar olmadığını düşünüyorum. Bununla birlikte, bence bu karşılaştırma, tıpkı büyük tütün denemelerinde olduğu gibi, bu şirketlerin pek çok belgesinin nihayet jüri önünde nasıl gün ışığına çıktığını ortaya çıkarmak için yapıldı. Bu karşılaştırmadan çıkarılacak nokta aslında budur.

Casey, sen ve ben bu konuyu çok konuştuk. Kariyerimizi gerçek anlamda sosyal medyaya borçluyuz. İnternetin, bekçileri atlatıp izleyicilerimize ulaşmamıza olanak sağlaması fikri bizim için çok önemli. İşin kötü tarafı şu ki, pek çok kötü insan pek çok kötü şey yapmak zorunda kalıyor. Bu çizgileri nasıl çizersiniz?

CN:Bu çok zordur ve bunu bir dereceye kadar nüanslarla ifade etmeniz gerekir. Bana göre internet sorunlarını platform sorunlarından ayırıyorum. Gerçekten Nilay, internet bize kariyerimizi kazandırdı. İnternet, kapı bekçilerini deviren şeydi ve bizim durumumda, internette bir kiremit takıp "Hey, sana para için e-posta göndereceğim" dememize izin verdi. Bu internet öncesi dönemde olmayan bir şeydi.

Platform sorunları farklıdır. Algoritmik amplifikasyonla çok ilgisi var, evet. Ama aynı zamanda bu tasarım özellikleriyle. Bahsettiğimiz bu duygu: "TikTok'a baktığım kadar bakmak istemiyorum, nasıl duracağımı bilmiyorum. Durdurmaya çalıştım." Veya "Kapıdan içeri girdiğimde telefonumu bloke eden bir cihaz satın aldım." Bunlar, tek teşviki mümkün olduğu kadar insanca bakmanızı sağlayacak bir platform yaratmanın sorunlarıdır. Bu yüzden inceleme nihayet bu şeylere kayıyor.

İnternetten kurtulmak istemiyoruz. Fikrinizi çevrimiçi yayınlama hakkınızdan kurtulmak istemiyoruz. Sizi kötü hissettirecek şekilde giderek daha fazla zamanınızı ve dikkatinizi alıyormuş gibi görünen bu makineden kurtulmak istiyoruz.

Davanın hikayesi budur. Yükseldiler, kaybettiler. Bundan sonra ne olacağını göreceğiz. Buradaki asıl nokta, hepsinin şimdi ne yapacağı? Bu ürün özelliklerinden sorumlu tutuldular. İfade özgürlüğü ile ürün özellikleri arasındaki fark hakkında sektörde bizim de Amerika Birleşik Devletleri'nde yapmamız gereken bazı konuşmalar var. Bu konuya geri döneceğiz.

Ancak bu arada bir şeyler yapmaları gerekiyor. Bu vakalara bakıp "Seni de dava edeceğiz" diyebilecek herhangi birinin devam eden sorumluluğundan kaçınmak için ürünlerinin çalışma şekliyle ilgili bir şeyleri değiştirmeleri gerekiyor. Casey, bu bir güven ve emniyet sorunu gibi geliyor, değil mi? Bu sizin hedef kitleniz, bunlar en çok konuştuğunuz insanlar. Buna tepkileri nedir?

CN:Tepkileri gerçekten olumsuz. Özellikle, hala orada çalışan insanlarla konuştuğunuzda, davacının buradaki argümanlarına inansanız bile, bunu düzeltmenin gerçekten zor olduğunu söyleyeceklerdir. Çünkü yine, bu gencin bu platformlara çok uzun süre bakarken korkunç zamanlar geçirdiğine ve bunun onun tüm sorunlarını daha da kötüleştirdiğine inansanız bile, bu platformun hangi tasarım özelliğini kaldıracaksınız ve bu onun sorununu nasıl çözecek? Instagram ve YouTube'da otomatik oynatılan video olmasaydı, sonsuz kaydırma olmasaydı, anlık bildirimler olmasaydı, bu onun zihinsel sağlığını, artık şirkete bunun kusurlu bir ürün olduğunu söyleyerek dava açmayacağı bir noktaya kadar iyileştirebilir miydi? Bilmiyorum.

Bence toplum olarak şu anda sahip olduğumuz sorun, güvenli sosyal medyanın ne olduğunu bilmememiz. Hangi özelliklerin gerçekten en tehlikeli olduğunu bilmiyoruz. İçgüdülerimiz var. Yapmamız gereken deneyler var ama bu, otomatik oynatılan videoyu kapatmak ve tüm gençlerin tekrar dışarıda oynamaya gitmesi kadar basit değil.

Bu kadar basit miAvustralya'daki gençlerin hiçbiri sosyal medya kullanmamalı?

CN:İşte olay şu. Her şeyden çok sosyal medya hakkında yazan biri olarak, Jonathan Haidt'e bu kadar pay ayırdığımı görünce şok oldum. Çünkü ben de bilmiyorum. Tüm gençleri güvende tutacak, kurtulmamız gereken özelliklerin hangileri olduğunu bilmiyorum. Size söyleyebileceğim şey şu ki, platformlarda çalışan hiç kimse gençlerinizden hiçbirini benim gençlerinize güvenmemi sağlayacak kadar önemsemiyor. O yüzden “16 yaşına gelene kadar sakın bakma” demeyi tercih ederim çünkü bunun senin için bakmaktan daha iyi olacağını biliyorum.

Casey'nin platform şirketlerinde çalışan insanlarla bu deneyimden tamamen bahsettiğini duyabiliyoruz. Lauren, bütün gün politika yapıcılarla konuşuyorsun. Nominal olarak DC'deki politika muhabirimizsin, Capitol Hill'i takip ediyorsun. Yaptığınız şey bu olmasına rağmen, sizi bütün gün ve bütün gece mahkeme salonlarına göndermiyoruz. O tarafta politika yapıcılar bu kararlara tepki olarak ne yapıyor?

LF:Şimdiye kadar Çocukların Çevrimiçi Güvenliği Yasası gibi en büyük sosyal medya reform yasalarından bazılarının arkasında yer alan yasa koyuculardan büyük bir baskı gördük: "Bu, çocukları güvende tutmak için bu yeni yasalara ihtiyacımız olduğunu veya Bölüm 230 gibi eski yasaları yürürlükten kaldırmamız gerektiğini gösteriyor." Şu andaki en büyük baskı bu. Yine de henüz erken günler.

İvmenin bu yönde hareket edip etmediğini veya "Hadi yavaşlayalım, çünkü aslında adliyeden geçemeyeceğini düşündüğümüz türden davalar aslında ilerliyor ve Bölüm 230 varken, KOSA olmasa bile bunu yapıyorlar." diyen bir denge olup olmadığını görmek gerçekten ilgimi çekiyor. Bu argümanın hangi yöne gittiğini ve bunun her iki yönde de momentumu hızlandırıp hızlandırmadığını veya yavaşlattığını gerçekten merak ediyorum.

Elbette. İkinizi de bu konuda benim de bir kriz yaşadığım konusunda uyarmıştım. Ve Lauren, az önce bu noktaya ulaştın. Bu yasaların bu davalarla bir ilgisi olduğu ve bu davaların hükümetin çok katı ifade düzenlemeleri anlamına gelen şeyleri geçirmesine izin vermesi gerektiği düşüncesi beni kişisel olarak deli gibi hissettiriyor.

“Platformların bağımlılık yaratan bazı tasarım özellikleri vardı, o yüzden ötekileştirilmiş grupların konuşmasını kısıtlayacak KOSA'yı geçmeliyiz” sözünün bana göre herhangi bir altyapısı yok. Josh Hawley Bölüm 230'dan kurtulmamız gerektiğini söylüyor ve bu davalar da bunu kanıtlıyor. Bunun nedenini size anlatamam. Beynimde "platformlar virallik, katılım ve olumsuz duygu için optimize edildi" ile "onları daha fazla konuşmayı kaldırmaya zorlayacak şekilde konuşmadan sorumlu kılmak, bu sorunu çözmenin yolu" arasındaki bağlantıyı kuramıyorum. Bu fikirleri birbirine bağlayamıyorum. İkinizden biri bunu yapabilir mi?

CN:Hayır. Hayır. Doğrusu, Cumhuriyetçi politika yapıcılarla bu konu hakkında soru sorulduğunda o kadar çok röportaj okudum ki, hiçbiri gerçekten 230'dan kurtulurlarsa platformların içeriği aşırı denetleyeceğini, çünkü artık kendilerine bağlanabilecek çok çeşitli şeylerin potansiyel olarak yasal sorumluluğa yol açabileceğinden dehşete düşeceklerini anlamıyor gibi görünüyor. Ve bundan nefret edecekler. Bunlar tüm içerik denetiminden nefret eden adamlar. Ve Bölüm 230'u silerseniz, daha fazlasını elde edeceksiniz. Yani hayır, hiçbir anlamı yok.

Lauren, 230'da reform yapmaya yönelik iki partili girişimleri, yaş doğrulaması yapma yönündeki iki partili girişimleri ve KOSA gibi yasaları ele aldın. Demokrat kanadının görüşü nedir?

LF:KOSA'yı destekleyen ve yasada yapılacak bu tür değişikliklere tamamen katılan çok sayıda Demokrat var. Bunun marjinalleştirilmiş topluluklara zarar verebileceği veya internette siyasallaşabilecek belirli türdeki içeriğe erişimi zorlaştırabileceği yönündeki bazı eleştirileri kesinlikle kabul ettiler, ancak genellikle bunların yasanın diliyle ele alındığını düşünüyorlar. Bunun gerçekte gerçekleşmeyeceğini ve bunun ilerlemenin en iyi yolu olduğunu düşündüklerini kabul ettiler. Elbette hepsi Demokrat değil. Açıkçası Bölüm 230'un ortak yazarı Ron Wyden KOSA'yı desteklemedi.

Bu tür konulara gerçekten iki partiden de geniş bir destek var. Şu anda Bölüm 230'daki ve KOSA'ya karşı olan bazı katı görüşlülerin bu konularda hiçbir zaman değişen bir şey olup olmayacağını sorması zor olacak. Yoksa bir tür değişiklik olacak ve neyle yaşayabileceğimizi bulmamız mı gerekecek?

İşte burası benim için gerçekten karmaşıklaşıyor ve siz ikiniz bu duyguları bir aile olarak birlikte işlememe yardım edeceksiniz. Bakıyorum tamam, kaybedilen büyük bir dava var. Bu şirketler platformlarımızda olup bitenlerin çoğundan dar anlamda sorumludur. Ve şimdi şunu söylemek isteyen bir grup insan var: “Aslında her şeyin sorumlusu sensin. 230'u yıkacağız ve dağıttığınız içerikten siz sorumlusunuz, bu da daha fazla sorumluluğa yol açacak ve belki daha da fazla adım atacaksınız.

Ve sonra şöyle düşünüyorum: "Eh, bu kötü. 230'u devirmek kötü." 20 küsur yıldır böyle hissettim. Sonsuz miktarda kapsama alanı vareşik230'u yıkmanın neden kötü olduğu hakkında. Sonra bir tur daha orada oturuyorum ve "Peki neden?" diye düşünüyorum. 

Hepimiz Senatör Ron Wyden ile konuştuk. Ron Wydengösterideydi. Lauren, sanırım sen de yakın zamanda onunla konuştun. Ron Wyden iyi bir adam. Wyden'la birlikte 230'u yazan Chris Cox iyi bir adam. Bölüm 230'la yaratmaya çalıştıkları dünya asla gerçekleşmedi. Kelimenin tam anlamıyla mevcut değil. Bu kanun 30 yıllıktır. AOL ve Usenet'in var olduğu ve çevrimiçi iletişimin baskın yolları olduğu bir dönemde yazılmıştır.

Amaçları rekabetçi bir denetim pazarı yaratmaktı: Eğer bilgisayarınızın çocuklarınız için güvenli olmasını istiyorsanız, yazılımı tam anlamıyla indirip bilgisayarınızda yerel olarak çalıştırırsınız ve CompuServe'in önüne oturup interneti sizin için filtrelersiniz. Bu hiç olmadı. Hiçbir zaman var olmadı. Şimdi, politika hedeflerine hiçbir zaman ulaşılamayan 30 yıllık bir yasayı cesurca savunmam gereken bu yerdeyim. Ve nedenini bilmiyorum. Casey, senin de bununla boğuştuğunu biliyorum. Bu konuda nasıl hissetmeliyim?

CN:Evet. Benim de karmaşık hislerim var. Platformların siyasi konuşmalara, her türlü konuşmaya ev sahipliği yapabilmesi için Bölüm 230'un var olmasını istiyorum. Çok zengin, canlı ve eğlenceli platformlara olanak tanıyor. Aynı zamanda bir gay olarak Grindr ile ilgili çok dikkat ettiğim 230 vakası var, eminim hepiniz bu vakaya aşinasınızdır. Ama aslında şu korkunç eski sevgilim şöyle diyordu: "Eski sevgilimin fotoğraflarını Grindr'da yayınlayarak intikam alacağım ve herkese onun fiziksel adresini göndereceğim ve 'Bu adamın evine gidin, o sizin en çılgın fantezilerinizi gerçekleştirecek ve size uyuşturucu verecek' diyeceğim." Ve bu Bölüm 230 yüzünden bir kenara atılıyor, değil mi? Grindr'a “Bu berbat bir şey. Bir şeyler yapmalısın." Ve Grindr "230" gibi. Ve dava ortadan kalkar.

Bu, davanın kurbanı için gerçekten berbat görünüyordu. Ben de o durumda olsaydım Grindr'a gerçekten çok kızardım. Aynı zamanda neden o kişiye adaleti sağlayacak şey 230 olsun ki? Neden bu ülkede çevrimiçi tacizi ve şiddeti daha ciddiye almıyoruz? Bölüm 230'un genel olarak hala istediğim interneti desteklediğini söyleyerek daireyi bu şekilde kareliyorum. Ve çoğu zarar için - çoğunlukla bugün bahsettiğimiz zararlar için değil - ama 230'a kadar kesinlikle etkinleştirilen ve korunan birçok zarar için, muhtemelen zararı gidermenin başka yollarını bulabileceğimizi düşünüyorum.

Ama işte başka bir düşünce deneyi. Peki ya Meta'daki beyin güveni bir araya gelip şöyle deseydi: "Eğer Instagram gençler için harika olsaydı nasıl olurdu?" Sizce bugün sahip olduğumuz Instagram'a çok benzeyecek mi? Yoksa çok daha farklı görüneceğini mi düşünüyorsunuz? Eminim ikincisi olacaktır. Eminim gerçekten çok farklı görünecektir. Biz bu dünyada yaşamıyoruz ama bence Instagram'daki yöneticilerin bunu yaptığı ve şöyle dediği başka bir dünya var: "Biliyor musun? Aslında Instagram'ın bu versiyonunu gençler için yayınlayacağız. Ve bakın, çoğunlukla eğitici içerik. Aslında hiç de gençliğinize göre kişiselleştirilmiş değil. Tüm iletişim özelliklerini devre dışı bıraktık. Bunu yalnızca gündüz saatlerinde kullanabilirsiniz."

Bunu muhtemelen güvenli bir ürün haline getirecek milyonlarca şeyi hayal edebilirsiniz. Yani bir düzeyde, evet, Meta'nın başını belaya sokmayacak doğru Instagram sürümünün ne olacağını bulmak zor. Öte yandan, aslında bunun bir taslağını da çizebilirsiniz. Benim merakım bu yola ne kadar gitmeye çalışacaklar, çünkü eminim ki Amerika'daki her genç tarafından dava edilmemek için çaresiz kalacaklar. Bilmem, benim henüz düşünmediğim şüpheli ve kurnazca bir şeyi ne ölçüde deneyecekler?

Demek istediğim, Instagram'ı gençler için duyurdular, değil mi, bu araçlar gençlere yönelik ve alaycı oldukları ve çocukları hedef almaya çalıştıkları için bir kenara atılıyorlar. Bu ürünün artık güvenli olduğunu söyleyecek sosyal sermayeleri var mı?

CN:Hayır. Benim bu konudaki nihilist görüşüm, sonuçta Meta sorununu çözen şeyin, belirli boyutlarda belki daha iyi olan başka bir şirket tarafından rekabette geride bırakılmalarıdır. Ancak bu adamlarda değişimin içeriden geleceğini düşünmüyorum çünkü onların tek umursadığı şey kazanmak. Ve onlar için kazanmak, harcanan maksimum süre gibi görünüyor.

Adil olmak gerekirse, Mark Zuckerberg şu anda her hafta yüzlerce yapay zeka araştırmacısını işe almak ve işten çıkarmakla meşgul. Yine, henüz tanımlanmamış bir hedef var. Durup tüm dikkatini çocuklar için güvenli bir Instagram'a vereceği fikri - belki de yalnızca varoluşsal davalar onu bunu yapmaya itecektir. Ama açıkçası Mark Zuckerberg'in Amerika'da genç güvenliğinin doğru yüzü olup olmadığını merak ediyorum. Bence cevap kesinlikle hayır.

CN:Evet. Geçmiş performansınızın onu söz konusu projenin başına getirmenize gerçekten yol açacağını düşünmüyorum. Bir kez daha şunun altını çizmenin önemli olduğunu düşünüyorum: Meta için bağımlılık başarıya benziyor. Şirketin içinde devasa ekipleri var, insan beynini anlamaya çalışan bilişsel bilim insanları, böylece telefonunuzu elinize alıp ona mümkün olduğunca çok kez bakabilmenizi sağlıyorlar. İşte bu yüzden Instagram'a bakarak geçirdikleri süre boyunca kendilerine kızan insanlara çok üzülüyorum. Adil bir dövüşte değildin. Hileli bir oyunu kaybettin. Meta'nın bunu yapmasının nedeni kelimenin tam anlamıyla kötü olmaları değil, işlerinin teşviklerinin bunu yapmalarını gerektirdiğini hissetmeleridir. Yani bu teşvikler değişmediği sürece hayır Nilay, Meta gençlerin güvenliği konusunda ahlaki liderlik aramak için gidilecek yer olmayacak.

Burada gerçekten değinmediğim ama kesinlikle bir geçiş çizgisi olan bulmacanın son parçası, Birinci Değişiklik, yani ifade özgürlüğüdür. Ülkedeki neredeyse herkesin konuşmasını her zaman düzenleyen ve kontrol eden platformlardan bahsediyoruz. Bu platformların sınırlarının değiştirilmesinden, nelerden sorumlu olduklarından ve ürünlerinin nasıl çalıştığından bahsettiğinizde, bu ülkede konuşmanın nasıl güçlendirilip dağıtıldığından çok doğrudan bahsediyorsunuz.

Meta'nın işlerini nasıl viral hale getireceğini anlamaya dayalı olarak tüm işlerini kuran birçok insan var. Bu işletmelerin ne olduğu, neye benzediği ve gençlerin beyinlerine neler yaptıkları konusunda pek çok duyguya sahip olabilirsiniz, ancak bu platformların arkasında gerçekten büyük işler kurmuş birçok insan var.

Burada Birinci Değişikliğe balıklama atlayacak mıyız? İmkansız mı? Techdirt'i yöneten Mike Masnick - az önce programa çıkmıştı, iyi arkadaşım - bunun Birinci Değişiklik için bir felaket olduğunu düşünüyor. Bir arkadaşım Taylor Lawrence, bunun Birinci Değişiklik açısından bir felaket olduğunu düşünüyor. Onların argümanı, ürünü konuşmadan ayıramayacağınızdır. Ürünün kendisi hiçbir şey ifade etmiyor. Sorun, ürünün dağıttığı konuşmadır.

Yani, ürünü her türlü zarardan sorumlu hale getirerek, konuşma düzenlemesine arka kapıdan girmeye çalışıyorsunuz. Bir yanım buna inanıyor ama Casey, ikisini birbirinden ayırabileceğini düşündüğünü biliyorum.

CN:Bunun çetrefilli olduğuna ve dikkatli olmamız gerektiğine katılıyorum ve davalar çoğu zaman bu işleri halletmenin en iyi yolu değildir, çünkü genel olarak yasa koyucuların ve politika yapıcıların bunun gerçekten dikkatli versiyonlarını yazmasını tercih ederim. Aynı zamanda neden sonsuz kaydırmalı konuşma yapılıyor? Çizgiler neden konuşmadır? Otomatik oynatılan video konuşması neden? Belli bir noktada, “Neden Ford'a arabalarına emniyet kemeri taktırıyoruz? İnanılmaz bir hıza sahipsin." Hayır, emniyet kemerini zorluyorsun. Gerçekten bir ürün güvenliği sorununuz olduğu netleştiğinde, ürün güvenliği özelliklerini zorunlu kılabilmelisiniz.

Şimdi şunu söylemeliyim ki, bu platformları açıkça anayasaya aykırı olan, yapmaya zorlamak istediğim şeyler var. Kongre'nin bir zamanlar yayıncıların haftada en az üç saat eğitim programı sunması gerektiğini söyleyen bir yasayı geçirmesi gibi, onları çocuklara eğitim içeriği göstermeye zorlamayı çok isterim.

Bunun toplum için gerçekten iyi olduğunu düşünüyorum. En azından sosyal medyaya başvurduğunuzda bunun açıkça anayasaya aykırı olduğu ortaya çıktı. Bu yüzden burada gerçekten dikkatli olmanız gerektiğini düşünüyorum, ancak bana her sosyal medya uygulamasının her bir ürün özelliğinin konuşma olduğunu söyleyecekseniz, gerçekten bu platformları beni rahatsız edecek şekilde kaplıyorsunuz.

Lauren, platformların giderek daha fazla içeriği doğrudan yapay zeka ile ürettiği bir dünyada 230'a ne olacağı hakkında çok düşünüyorum. Google'ın yapay zekaya genel bakışı, her ne kadar web sitelerindeki milyonlarca insanın konuşmasından sentezlenmiş olsa da muhtemelen Google'ın konuşmasıdır. Bu düzenleyici rejimlerden herhangi biri veya bu yasalardan herhangi birini değiştirme girişimleri bu sorunu öngörüyor mu?

LF:Muhtemelen yeni davalarla burada karşılaşacağımız yeni Vahşi Batı bu. Ancak bugün birçok kez konuştuğumuz Ron Wyden bile yapay zeka çıktılarının Bölüm 230 tarafından korunmadığını söyledi. Bunlar muhtemelen farklı şekilde ele alınacaktır. Bununla ilgili bir dava açılana kadar gerçekten bilemeyeceğiz, ancak bu büyük bir soru olacak. Ve Bölüm 230 ile ilgili hatırlanması gereken şey, bunun gerçekten de davaları kendi yolunda durduran usule ilişkin bir araç olduğu ve davaların sonunda nasıl karara bağlanacağı, Birinci Değişiklik'e dayanmaktadır. Birinci Değişiklikten kurtulmadığınız sürece, Bölüm 230'dan kurtulmak, bazı insanların yapacağını düşündüğü sorunları tamamen ortadan kaldırmaz.

CN:Size bir konu hakkında ne düşündüğünüzü sormak istiyorum çünkü hala kendi zihnimde bunun üzerinde çalışıyorum. Daha önce Kaley'nin ve bu önde gelen vakalardaki diğer bazı kişilerin yaşadığı zihinsel sağlık sorunlarına yol açan spesifik özelliğin ne olduğundan bahsetmiştik. Otomatik oynatılan videonun, sonsuz kaydırmanın, sonsuz anlık bildirimlerin hepsinin bununla bir ilgisi olduğundan şüpheleniyorum. En güçlü faktörün algoritmik kişiselleştirme olduğundan şüpheleniyorum. Bu, "Nasıl zayıflanacağıma dair bir video aradım ve şimdi birdenbire kendimi yeme bozukluğu içeriğiyle dolu bir kabus çölünde buldum. Ve bu aslında depresyonumu artırıyor ve yeme bozukluğumu yoğunlaştırıyor."

Toplum olarak bunu durdurmak istediğimizi düşünüyorum. O tavşan deliğine sürüklenmeni istemiyoruz. Bu yeme bozukluğunu geliştirmenizi istemiyoruz. Bunu düzenleyebilir miyiz? Aslında bu benim için en zor konu. Çünkü bir yandan Kongre'nin şunu söyleyen bir yasa çıkardığını görebiliyordum: "Hey, eğer 16 yaşında ve daha küçükseniz, en azından birey düzeyinde algoritmik kişiselleştirmeyi devre dışı bırakmak istiyoruz. Belki sizi bir grupta toplayacağız ve şöyle diyeceğiz: 'Amerika'daki 16 yaşındakiler bu tür içerikleri seviyor gibi görünüyor ve biz de bunu kabul ediyoruz. Ama kişisel olarak bunu sizin için engelleyeceğimizi biliyorsunuz çünkü tavşan deliğine sürüklenmenizi istemiyoruz.'" Peki bu Birinci Değişiklik uyarınca anayasaya uygun mu? Bilmiyorum. Sizlerin bundan ne anladığını merak ediyorum.

Bunu çok düşündüm ve tekrar düşünmeye devam ediyorumBarack Obama açıkKod çözücüYapay zekayı düzenlemek hakkında çok konuştuk ve o da benimle yapay zekayı düzenlemekten bahsediyordu çünkü sosyal medyayı düzenlemekte başarısız olduğunu düşünüyordu ve siz onun beynindeki bağlantıyı görebiliyordunuz. Gün gibi açıktı. "Sosyal medyada başarısız olduk. Yapay zekayı doğru şekilde kullanmalıyız" dedi. Tekrar tekrar Birinci Değişiklik hakkında soru sormaya devam ettim. "İlk Değişikliği nasıl aşacaksınız?"

Sonunda şöyle dedi: "Bakın, sadece bir kancaya ihtiyacınız var. Televizyon yayınını düzenlemek için bir kanca bulduğumuz gibi, sizin de bir kanca bulmanız yeterli." Televizyon yayını söz konusu olduğunda kanca çok açık, değil mi? Sadece çok fazla spektrum var, bu kıt bir kamu kaynağı, dolayısıyla bu kaynağı iyi kullandığımızdan emin olmak için bazı düzenlemeler yapabiliriz.

Buradaki tehlikeyi hemen görebilirsiniz.Brendan Carr'ın televizyon yayını üzerinde yetkisi varve artık bu ülkede sınırsız bir konuşma düzenleyicimiz var. Bu iyi değil. Aynı zamanda Barack Obama'nın "Sadece bir kancaya ihtiyacın var" şeklindeki düşüncesi, yasadaki sıkı inceleme olarak adlandırılan standardın bir yansımasıdır ve zorlayıcı bir hükümet amacına ulaşmak için dar bir şekilde uyarlanmışsa, Birinci Değişiklik kapsamında bir konuşma düzenlemesi yapabilirsiniz.

Kelimeler ve emsal şu: "sıkı inceleme", "dar bir şekilde uyarlanmış", "zorlayıcı hükümet ilgisi." 16 yaşındaki bir grup kızın yeme bozukluğu yaşamasını istemiyorum. Bu çok zorlayıcı bir hükümet ilgisi gibi geliyor. Gerçekleştirmek için çok dar bir şekilde uyarlanmış bir kural ekleyebilirsiniz. Ve gelecekte şöyle diyeceğimiz şeyin bu olup olmayacağını çok merak ediyorum: "Bu şeyler zarar veriyor. İşte bu içeriği durdurmanın bir kuralı." Yapay zekanın gücü Mark Zuckerberg sayesinde artık tüm bu GPU'ları tespit edebilir, yeme bozukluğu içeriğini tespit edebilir ve bu topluluklardan kurtulabilirsiniz."

Bence bu da bir o kadar kötü. Bu, Brendan Carr'ın sınırsız bir konuşma düzenleyicisi kadar kötü. Bu sadece bir dizi hükümet konuşma düzenlemesi. Ancak 230, platformlara karşı kitlesel dava açılmasını engelliyorsa, Lauren'in de söylediği gibi, "Bizi hiçbir şekilde dava edemezsiniz" diyen bir usul mekanizmasıdır. Eğer bu "ürün tasarım özellikleri" çemberi içinde dans etmek zorunda kalırsanız ama hiç kimse belirli ürün tasarım özelliklerini tanımlayamıyorsa, sanırım bir grup eyalet düzenleyicisi şöyle diyecektir: "Bakın, kötü olduğunu bildiğimiz bazı şeyler var ve bu yasaları çıkaracağız ve bunları Yüksek Mahkeme'ye götüreceğiz ve 'Bunlar hükümetin zorlayıcı çıkarlarını karşılamak için dar bir şekilde tasarlandı'' diyecekler.

Bunun nasıl sonuçlanacağını bilmiyorum. Başlayacağından şüpheleniyorum ve bunun iyi olup olmadığını kesinlikle bilmiyorum, ancak bunun buradaki bir sonraki kaçış yolu olduğunu görebilirsiniz, çünkü bu, bu ülkede ifadeyi düzenleyen bir yasanın standardıdır.

LF:Casey, bu algoritmalarla ilgili kesinlikle doğru soru, çünkü bunun sonsuz kaydırma veya otomatik oynatma olduğunu iddia etmek çok daha kolay, aslında içerikle ilgili değil. Bu aslında platformların vereceği bir karar bile değil, ancak hangi algoritmanın veya bir şirketin algoritmasını tavsiye etmek veya önermemek için neyi programlamayı seçtiği, bunlar onların kasıtlı seçimleridir. İçerik denetiminin temelde editoryal takdir yetkisi olduğunu söyleyen bir Yüksek Mahkeme kararı zaten vardı. İşte burası gerçekten zorlaşıyor. Haklısınız, bu tam olarak bu değişiklikleri savunan insanların değişmesini istediği türden bir şey, ancak muhtemelen yapılması en zor olanıdır.

[eşiks] Adi Robertson bunu bir süre önce bizim için yazdı. Sadece bir parçaydıAmerika Birinci Değişiklik'e nasıl karşı çıktı?. Hepimizin özgür ifadeyi önemsediği ve herkesin bunu söylediği, sonra siz bunun üzerine bastığınız ve herkesin öncekine göre biraz daha fazla ifade düzenlemesi istediği fikri. Ve bu sadece zamanla artıyor.

"Elon'u seviyorum" diyen insanlar bile izliyoruzElon Musk-Sam Altman'ın Mark Zuckerberg'den Elon Musk'a deneme metniZuckerberg, "DOGE'deki kişileri tanımlayan tüm içeriği siliyorum" diyor. Ve Elon şöyle dedi: "Harika. Benimle OpenAI satın almak ister misin?" Bay Özgür Konuşma Savaşçısı şöyle dedi: "Evet, bunları silin." Ve Zuckerberg şunu söylüyor: "Bir daha asla hükümete boyun eğmeyeceğim." Ve devlet çalışanlarına "Devlet çalışanlarının isimlerini siliyorum" diyen bir e-posta gönderiyor. Bu benim için çılgınca.

İktidarın ifade üzerindeki baskısının her zamankinden daha fazla olduğu bir döneme giriyoruz gibi görünüyor. Herkes bu konuda her zamankinden biraz daha iyi durumda. Ve hepimiz hâlâ en çok ifade özgürlüğünü önemsiyormuşuz gibi davranıyoruz. Casey, güven ve güvenlik bağlamında bu bir kabus gibi geliyor. Trump 2'nin başında güven ve emniyetin ne kadar gözden düştüğünü ve artık kimsenin geri adım atmadığını yazmıştınız. Bu bir süre önceydi. Şimdi nasıl bir duygu?

CN:Bu yazıyı yazdım ve manşet şuydu:“Güven ve Güvenlik İçin Ayakta Kalacak Kimse Kaldı mı?”Güven ve emniyet, teknoloji endüstrisinin gerçekten vokal bir parçasıydı ve pek çok iyi sosyal yanlısı yurttaşlık değerini savundular. İnsan hakları konusunda çok konuştular. Bu platformların içeriği düzenlerken gözlemlediği politikalara insan hakları ilkelerini dahil etmeye çalıştılar. Onlara karşı doğal bir yakınlığım vardı. Bana göre bunlar iyi adamlardı.

Daha sonra Trump tekrar iktidara gelir. Bir dizi işten çıkarma yaşanıyor. Neredeyse istisnasız her platform en iyi hamleninTrump yönetiminin gözüne girmeye çalışmak. Ve bu insanların hepsi bir kenara itiliyor. İnsan hakları ilkelerini en çok dile getirenler ortadan kayboluyor ve bir anda karşınıza şöyle insanlar çıkıyor:Joel Kaplan, Meta'da politika operasyonunu yürütüyor. Asıl işi Donald Trump'ın Mark Zuckerberg'i sevmesini sağlamak ve istediklerini elde etmelerini sağlamak.

Bu arada, onlar için oldukça etkili oldu. Mark Zuckerberg, Donald Trump'tan inanılmaz sayıda şey aldı ve yıllar geçtikçe daha fazlasını alacağından eminim. Bu yazıyı yazdığımda güven ve güvenlik topluluğundan çok fazla geri dönüş aldım çünkü aslında onlara şöyle sesleniyordum: "Hey, neredesiniz arkadaşlar? Gerçekten herhangi bir yerde mikrofona çıkıp 'Hey, sektörümüzün başına gelenler gerçekten kötü' mü diyeceksin?" Ve bana çok haklı olarak söyledikleri şuydu: “Sahip olduğumuzu düşündüğünüz güce sahip değiliz. Sesimizi yükselttiğimizde ve insanlar isimlerimizi öğrendiğinde ölüm tehditleri alıyoruz, dünyanın öbür ucuna kadar takip ediliyoruz ve bu gerçekten korkutucu. Bu ilkelerin lehinde konuşmak için bizden belki de hayatlarımızı bile feda etmemizi istiyorsunuz. Bu büyük bir istek." Bunların hepsi adil.

Ve yine de, neredeyse bir yıl sonrasına hızlı bir şekilde ilerleyelim ve bence soru hala geçerli. Bu insanlar konuşmayı bıraktıklarında olan şey, oligarklara bu platformları uygun gördükleri şekilde yönetmeleri konusunda serbest bırakmalarıydı. Bu benim için gerçekten korkutucu bir şey; güven ve güvenliğin, bu platformların hiçbirinde, onları çeşitli düzenlemelere uygun tutmayı amaçlayan bir uyumluluk işlevi dışında artık bir anlamı yok. Sonuç olarak artık Signal üzerinden iyilik yapan bir grup oligarkınız var.

Lauren, seninle bitirmek istiyorum. Açıkçası bunun düzenleyici tarafı şu anda tam gaz çalışıyor, değil mi? En azından Meta'nın kötü olduğunu, YouTube'un kötü olduğunu gösteren bir şeyleri var ve bazı hamleler yapabilirsiniz. Sizce olayların bu tarafında bundan sonra ne olacak?

LF:Kongre'de 230. Maddeyi yürürlükten kaldıran bu yeni yasaların geçirilip geçirilmeyeceği konusunda pek çok tartışma göreceğiz. Ancak eylemin çoğunun eyaletlerde olduğunu gördük. Muhtemelen bu ilerlemeyi görmeye devam edeceğiz. Mahkemelerde bu davaların temyiz edildiğini göreceğiz. Aynı zamanda yeni vakaların da geldiğini göreceğiz. Los Angeles davasında hâlâ 1.500'den fazla dava var. Halihazırda planlanmış olan bu dava grubunda birkaç öncü deneme daha var. Bir sonraki birkaç ay içinde olacak. Bu davaların federal versiyonunda tamamen farklı bir dizi öncü dava var ve ilki Haziran ayında başlayacak.

Okul bölgeleri, eyalet AG'leri, bireysel davacılar var. Bu hiç yavaşlamayacak. Başka hiçbir şey olmasa bile, bu denemelerin yaptığı şey, bu şirketlerin nasıl çalıştığına dair bilgilerin çoğunu gün ışığına çıkarmaktı. Çocukları sosyal medyayı kullanırken ne düşünmeleri ve nelere dikkat etmeleri gerektiği konusunda kamuoyunda daha fazla farkındalık yarattınız.

Şu anda Amerika'da olma deneyiminin mükemmel bir açıklaması gibi geliyor. Sorunu çözecek bir yasanın geçmesi için herkes lobicilere yeterli parayı ödeyene kadar ülke çapında bir dizi politika belirleyecekler. Bu aynı anda söyleyebileceğim en nihilist, alaycı şey gibi geliyor ve aynı zamanda her şeyin her zaman nasıl çalıştığını da gösteriyor. İkinizden biri bundan bir sapma görüyor mu?

CN:Yakın tarih gösteriyor ki, hayır, gerçekte bir çıkış yolu yok, çünkü yine tüm teşvikler bu şirketlerin, bunu yapmanızı sağlayabildikleri sürece sizi uygulamalarına bakmanızı sağlamaya yönelik. Bu teşviklerin acısı, elde edilen gelirin faydalarından ve bunun hisse senedi fiyatlarına yapacağı etkiden daha kötü olana kadar büyük bir değişimin geleceğini görmüyorum.

Lauren, politika yapıcılar bu felaket döngüsünde sıkışıp kaldıklarını mı hissediyorlar?

LF:Evet. Yolun KOSA olduğuna, 230. Maddenin yürürlükten kaldırılmasının yol olduğuna karar veren politika yapıcılar, onların odak noktası bu. Bunu tam olarak nasıl yapmamız gerektiğine dair yeni bir tartışma olduğunu sanmıyorum. Uygulama mağazası yaş doğrulaması gibi konularda daha yeni yaklaşımlar gördük ve ister gerçek doğrulama ister güvence olsun, bunun potansiyel olarak nasıl çalışabileceği konusunda farklı varyasyonlar var.

Politika yapıcılar çözümün ne olduğunu düşündüklerini seçtiler ve bu konuşma bu şekilde ilerliyor. İnsanlar bu konuşmanın mekanizmalarını değiştirmek istiyorlarsa, gerçekten yeni çözümler getirmeleri veya buradaki teşvikler hakkında farklı düşünmeleri gerekecek.

İşte bitirmek için üç fikrim. Düşüncelerinizi merak ediyorum. Birincisi, federal bir gizlilik yasasının gecikmiş olduğunu düşünüyorum. Bu, Birinci Değişiklik'e hakaret ediyormuş gibi gelmiyor. İkincisi, Casey, algoritmik kişiselleştirmeyle ilgili söylediklerine gelince, bence sadece algoritmik şeffaflığa ihtiyaç duymak çok çok uzun bir yol kat eder. Bize gösterdiğiniz şeyleri neden gösterdiğinizi bize gösterin. Algoritmanızı şeffaf hale getirin.

Ve üçüncüsü, onlardan araştırma yapmalarını isteyin. Herhangi bir şeyi bilmekten kaçınmaya yönelik bu inanılmaz olumsuz teşvikin olmaması için yayınlayın. Bütün bunlara bakıyorum ve "Ah, bu Avrupa yaklaşımı" diyorum. Ben sadece Avrupa'yı anlatıyorum. Bunlardan herhangi biri Avrupa'da işe yaradı mı, yoksa bunu söylemek için henüz çok mu erken?

CN:Bunu söylemek için henüz çok erken. Uyguladıkları şeffaflık gereksinimlerinden bazıları iyiydi. Artık, aldıkları denetleme kararlarının çoğunu kamunun erişimine açık olarak dosyalamak zorunda oldukları yere gidebileceğiniz bir tür veritabanı var. Bunların iyi şeyler olduğunu düşünüyorum. Henüz görmediğimiz şey, çözmeye çalıştığımız belirli sorun ve onu çözmek için tam olarak doğru mekanizmalar üzerinde fikir birliğine varmak. Tekrarlıyorum, çünkü bu konuşma meseleleri çok karışıyor.

Çözmeye çalıştığımız sorunun tam olarak ne olduğunu daraltmaya çalışmaya devam etmemiz gerekiyor. Ve oradan, ampirik bir şekilde gençleri korkunç sonuçlara sahip olmaktan koruyabilecek şeyler hakkında gerçekten söyleyebileceğimiz şeyler etrafında bir fikir birliği oluşturmaya çalışın. Bu şeylere doğru ilerlemeye devam etmeliyiz, yoksa çarklarımızı döndürmeye devam edeceğiz.

Casey yazıyorPlatform oyunu. Kevin Roose ile podcast yayınlıyorSert Çatalki bu harika. Her ne kadar onlar benim yeminli düşmanlarım olsalar da ve bence yasadışı olmaları gerekiyor. Lauren'ın işi bittieşik. Lauren, sen de oradaydınKod çözücüson zamanlarda çok fazla. Tekrar geldiğiniz için teşekkür ederim.

Ne düşündüğünüzü bize bildirin. Pek çok kişinin aksine bu bölümle ilgili geri bildirim almak için ölüyorumKod çözücüBölümler, sanırım hiçbirimizin bundan sonra ne olacağını veya belki daha da rahatsız edici olanı ne olacağını tam olarak bilmediğimizi hissedebilirsiniz.

Bu bölümle ilgili sorularınız veya yorumlarınız mı var? decoder@theverge.com adresinden bize ulaşın. Gerçekten her e-postayı okuyoruz!