Yapay zekanın ne zaman çok tehlikeli olduğuna kim karar veriyor?

Bugünkü bölümdeKod çözücükonuğum, kıdemli AI muhabiri Hayden Fieldeşik. Hayden'ın programa gelmesi çoğunlukla yapay zeka dünyasında bir şeylerin ters gitmesinden kaynaklanıyor. Geçen hafta sonu, Anthropic, Trump yönetimi ve Anthropic'in yeni yapay zeka modeli Fable 5'in oldukça yoğun bir karışımıydı bu. 

Cuma günü, yani Anthropic'in Fable'ı kamuoyuna açıklamasının üzerinden bir hafta bile geçmeden, ABD hükümeti bunun böyle olduğunu söyledi.yeni modele ihracat kontrolleri getirilmesive Fable'ın dayandığı temel Mythos modeli. Bu kontroller yabancı uyrukluların, hatta Amerika Birleşik Devletleri'nde Anthropic için çalışanların bile bu modellere erişimini kısıtlıyordu. Anthropic daha sonra Fable ve Mythos'u herkes için çevrimdışına aldı çünkü şirket, erişimi kısıtlayamayacağından ve aksi takdirde emre makul bir şekilde uyamayacağından endişe duyduğunu söyledi. 

Tahmin edebileceğiniz gibi, bunların hepsi devasa bir karmaşa. Hayden aslında az önce bir tane yayınladımuhteşem oyun bazındaeşikBütün bunların geçen Cuma günü nasıl gerçekleştiğini ve her iki tarafın da tam olarak ne olduğunu ve bunun nasıl çözülebileceğini anlamak için hafta sonu boyunca yürüttüğü mücadeleyi anlattık. Bu yüzden onun gelip bana zaman çizelgesini ve bunların ne anlama geldiğini anlatmasını istedim. 

Durum devam ediyor. Bu bölümü kaydettiğimiz Salı itibarıyla Fable hala çevrimdışı; hatta Claude'u başlatırsanız sohbet kutusu penceresinin hemen üstünde "Fable 5 şu anda kullanılamıyor" mesajını veriyor. Ancak Hayden'ın açıkladığını duyacağınız gibi, Fable bu hafta tekrar çevrimiçi olsa da olmasa da, hükümetin Anthropic'le olan husumetinin dalgalı etkileri, teknoloji endüstrisi ve ABD'nin yapay zeka düzenleme rejimi için geniş kapsamlı sonuçlar doğuruyor. 

Burada ayrıca büyük bir ironi var ve Hayden ile benim de buna değindiğimizi duyacaksınız: Anthropic, yapay zekanın yakın gelecekte tehlikeli olacak kadar güçlü olabileceğini ve hükümetin bu konuyu ele alacağını yıllarca tartıştı.Yapay zekanın düzenlenmesi konusunda ciddileşmek gerekiyorer ya da geç. Eh… artık buradayız ve Anthropic oyunun gidişatından pek hoşlanmıyor. 

Ve şimdi herkes - ama belki özellikle Çin hükümeti - Amerika Birleşik Devletleri'nin yapay zeka düzenleme yaklaşımının ciddi bir güvenlik çerçevesi şeklini alıp almadığını görmek için izliyor. Veya bunun Beyaz Saray'ın Trump yönetimine diz çökmeyen şirketlere ve kişilere karşı kullanabileceği başka bir silah olup olmadığı. Dediğim gibi, bu gerçek bir karmaşa.

TAMAM:eşikkıdemli AI muhabiri Hayden Field, Claude Fable yasağı ve yeni AI düzenleme ortamı hakkında. İşte başlıyoruz.

Bu transkript uzunluk ve netlik açısından hafifçe düzenlenmiştir. 

Hayden Field, sen burada kıdemli bir yapay zeka muhabirisineşik. Tekrar hoş geldinizKod çözücü.

Teşekkürler. Burada olmak harika.

Sen burada olduğunda her zaman kaos olur, Hayden. Keşfetmeye geldiğim şey bu.

Gerçekten öyle. Benim kuralım hala geçerli, çünkü bugün her zaman Cuma. Cuma günleri işler her zaman hayranlara çarpıyor ve bu da farklı değildi.

Özellikle hükümetin yapay zekayı düzenlemesi söz konusu olduğunda, gerçek bir "Ya Cuma günü her şey çılgına dönseydi, bu yüzden hepimiz hafta sonu bunu düşünmek zorunda kalsaydık." Ve bunun Trump yönetimi boyunca temelde doğru olduğunu düşünüyorum. Pazartesi günü hepsini tekrar bir araya getirme mücadelesi hemen başlıyor.

Evet, kesinlikle. Bu çılgınlık. Ve tüm bu görüşmelerin hafta sonu boyunca ve ardından Pazartesi günü gerçekleşmesine rağmen hala bir çözüm bulunamadı. İşlerin henüz çözülmemesine şaşırdım ama evet, çok fazla dram var.

Bu podcast perşembe günü çıkacak. Salı günü kayıt yapıyoruz. Önümüzdeki iki gün içinde neler olacağını göreceğiz. Ancak ABD hükümetinin yapay zekayı nasıl düzenlemesi gerektiğine ve bunun Amerikan yapay zeka şirketleri için dünya sahnesinde ne anlama geldiğine dair buradaki büyük resmin açık olduğunu düşünüyorum. Fable'a ne olursa olsun bu sorunun çözüleceğini sanmıyorum. 

Tüm hikayeyi anlamaya çalışalım ve sonra bu temaları oradan çıkaralım, çünkü sanırım şu anda piyasaya sürülen her yeni modelde tekrar tekrar ortaya çıkacaklar. O halde en baştan başlayalım. Claude Mythos nedir? Fabl nedir? Birbirleriyle nasıl ilişki kuruyorlar?

Harika bir soru. Bir hafta önce Anthropic'e bunu açıkladıklarında ben de aynı şeyi sordum. Çünkü yapay zeka şirketleri bir şeyleri adlandırma konusunda gerçekten çok kötü ve bu her zaman çok kafa karıştırıcı oluyor. Ancak durum şu ki Mythos, hem Mythos 5'e hem de Fable 5'e güç veren temel modeldir. Fable yeni bir modeldir. Henüz Masal 1, 2, 3 veya 4'e sahip değillerdi. Hemen Masal 5'e başladılar, çok kafa karıştırıcıydı. Ancak Fable, Mythos 5'in sulandırılmış veya korumalı versiyonudur. Nisan ayında Mythos Preview ile çıktıklarında Anthropic, onu gerçekten heyecanlandırmaya devam etti. Bunun potansiyel bir siber silah olduğunu söylüyorlardı. En azından güvenlik önlemleri alınana kadar hiçbir zaman kamuoyuna açıklanamaz. Bunu yalnızca şirketlere ve hükümetlere ya da onların deyimiyle "siber savunuculara" yayınlayacağız; kötü aktörler gelip bu güvenlik açıklarından yararlanmadan önce tüm çerçevelerini düzeltmeleri gereken yerler.

Şimdi, geçen haftaya hızlı bir şekilde ilerleyelim ve Anthropic, yalnızca ilk resmi Mythos olan Mythos 5'i yayınlamakla kalmadı - daha önce Mythos Önizlemesi vardı, bu yüzden doğrudan 5'e atladık - ve aynı gün Mythos sınıfı modellerin ilk halka açık versiyonu olan Fable 5'i de piyasaya sürdüler. Yani, aynı temel çerçeve, ancak şimdi halkın her şeyi altüst edebilecek bu süper tehlikeli - Anthropic'in de kabul ettiği gibi - modele erişmesini umarak engellemek için üstüne tonlarca koruma inşa edildi.

İşte bunu yayınladılar. Bunu abartmak ve ne kadar tehlikeli olduğundan bahsetmek için uzun zaman harcadılar ve daha sonra bu durum onları rahatsız etmeye başladı.

Fable, güvenlik korkulukları olan bir Mitos'tur. İlk çıktığında bir tartışma dalgası vardı, değil mi? Yapay zeka ve güvenlik araştırmacıları, bu korkulukların aslında onların araştırma yapmalarını ve Fable'ın neler yapabileceğini görmelerini engellediğini buldu; çünkü eğer sınırı zorlamaya çalışırlarsa, bu onları Anthropic'in önceki modellerine düşürecekti.

Evet. Bir nevi meme gibi oldu. İnsanlar dışarı çıktığında korkulukların ne kadar sıkı olduğuyla dalga geçiyorlardı.

İşte kafamı karıştıran şey de bu; korkulukların çok katı olması nedeniyle bir tartışma çıktı ve sonra hükümetin Fable'ın çok tehlikeli olduğunu ve çekilmesi gerektiğini düşünmesine neden olan bir şey oldu. Ne oldu?

Bu konuda bazı bağımsız kırmızı takım oyuncularıyla konuştum. Amazon teknik incelemesi dolaşıma girmeden önce, jailbreak iddiası kamuoyuna duyurulmadan önce, bazı kırmızı ekip üyeleriyle Fable 5'in ne kadar güvenli olduğu hakkında konuştum. Hepsi korkulukların nasıl ayakta durduğundan oldukça etkilendiler. Jailbreak yapmanın biraz daha kolay olmasını bekliyordum. Pek çok şey denediklerini ama hiçbir şeyin işe yaramadığını söylüyorlardı. Bağımsız kırmızı takım oyuncularıyla genellikle konuştuğumda bu benim deneyimim değil. "Evet, burada kırmayı başardım. Orada kırmayı başardım" diyorlar. Bu durumda oldukça iyi dayandığını söylüyorlardı.

Dün konuştuğum ve doğrudan müdahil olan, müzakerelere aşina bir kaynağa göre, bu geçen haftanın zaman çizelgesine benziyor. Geçen haftanın ortasında Anthropic, Amazon araştırmacılarının yürüttüğü bazı araştırmalardan haberdar edildi. Oldukça endişelendikleri bir şey olan potansiyel bir hapishaneyi açığa çıkarmışlardı. 

Bunu Anthropic'e gönderdiler. Antropik, Amazon araştırmacılarının bunun hakkında konuşmasıyla bir nevi ileri geri gidiyordu. Bunun gerçekten bir firar mı olduğunu yoksa o kadar da önemli bir olay mı olmadığını tartışıyorlardı. Görünüşe göre,Raporlar, Amazon CEO'su Andy Jassy'nin daha sonra bu konuda endişelendiğini söylüyorCuma günü belki de (Hazine Bakanı) Scott Bessent'i veya Trump yönetiminin bir üyesini aradı ve endişelerini anlattı. 

Trump yönetimi çıldırdı. Hemen Antropik'i aradılar. Aslında onlara bir mesaj gönderiyorlar ve diyorlar ki, “Bakın, bunu 90 dakika içinde kapatmanız lazım.”

90 dakika mı?

Evet, 90 dakikalık ültimatom. Ve dediler ki, "Gün ışığına çıkan bu jailbreak sorununu nasıl çözeceğimizi bulmamız gerekiyor." Anthropic, ilk görüşmeden 15 dakika sonra Trump yönetimiyle telefonda görüştü ve daha fazla ayrıntı istedi. "Tamam, bunu konuşalım. Zaten bildiğimiz bir araştırmadan mı bahsediyorsunuz? Farklı bir şeyden mi bahsediyorsunuz?" Bahsettiğiniz jailbreak nedir?” Daha fazla ayrıntı almaya ve yönetimle konuşmaya çalışıyorlar.

Sanırım yönetim, Anthropic'in CEO'su Dario Amodei'nin ilk aramadan bir saat 15 dakika sonraya kadar geri aramamasına da kızmıştı. Anthropic 15 dakika sonra geri aradı. Dario'nun geri araması bir saat 15 dakika sürdü. Yani burada çok şey oluyordu. Ancak onlar konuştuklarında 90 dakikalık süre doluyor ve Trump yönetimi "Tamam, bu kadar. Evet. Size ihracat kontrolleriyle vuruyoruz" diyor.

İşte o zaman Anthropic'e hiçbir yabancı uyruklunun bu modellerden herhangi birini kullanamayacağını ve Anthropic'in durumun böyle olduğundan emin olması gerektiğini söylediler. Anthropic'te çalışsa da çalışmasa da yabancı uyruklu kimse yok. Örneğin Bank of America iseniz ve Mythos 5'e erişiminiz varsa ve onu sisteminizdeki güvenlik açıklarını kapatmak için kullanıyorsanız ve ABD vatandaşı değilseniz, onu kullanamazsınız. Fable 5'i kullanan rastgele, sıradan bir kişiyle aynı şey. ABD vatandaşı olmayan Antropik bir araştırmacı için de aynı şey geçerlidir.

Dolayısıyla Anthropic bu durumda gerçekten yapabileceği tek şeyi yaptı ve şöyle dediler: "Tamam, bu iki modeli de kenara koymalıyız. ABD vatandaşı olmayanların bu modelleri kullanmadığından emin olmanın bir yolunu bir dakika içinde bulamayız." İşte böyle oldu.

Demek istediğim, çılgınca birkaç saatti. Anthropic, o gecenin ilerleyen saatlerinde bu konuda Trump yönetimiyle birlikte çalışmaya çalıştıklarını söyleyen bir açıklama yaptı. Bütün hafta sonunu idari yetkililerle sanal olarak toplantı yaparak geçirdiler ve ardından üç çalışanı uçurdular - kimleri detaylandırıyorumaz önce yayınladığımız yazıda- onlarla şahsen konuşmak için D.C.'ye. 

Özellikle Dario'nun bizzat orada olmaması dikkat çekti. Neredeyse tüm bu toplantılara katılıyor. Onun bir sağlıklı yaşam merkezinde olmadığını doğrulayabilirim ki bu dabazı raporlar ne diyorama nerede olduğunu bana söylemiyorlar. Ama o bir sağlıklı yaşam merkezinde değil. Tek bildiğim bu.

Anthropic'in konumu kesinlikle bir sağlıklı yaşam inzivasında değil. Tamam aşkım.

[Gülüyor] Yani evet, çok dramatik şeyler oluyor. Geçtiğimiz birkaç gün boyunca konuştuğum tüm kaynaklar, tüm teknoloji endüstrisinin ve özellikle siber güvenlik topluluğunun sadece konuştuğunu söylüyordu. Bir kaynak bana “Pekin şu anda bize gülüyor” dedi.

İlginçti çünkü alandaki bazı siber güvenlik liderleri halka açık bir mektup yazmak için bir araya geldiler ve şöyle dediler: "Bakın, hepimiz düzenlemeye inanmıyoruz, ancak düzenleme yapacaksanız bu yol değil" ki bunun da tüm bu durumun göstergesi olduğunu düşünüyorum.

Belki agresif hükümet düzenlemelerine inanıyorsunuz, belki inanmıyorsunuz. Düzenleyici çabaları titiz, düşünceli, dikkatli ve öngörülebilir bir şekilde yürütmenin bir yolu var. Bununla ilgili hiçbir şey katı, düşünceli veya öngörülebilir gibi görünmüyor.

Aslında en baştan başlamak istiyorum. Andy Jassy ve Scott Bessent akıllı adamlar olabilir. Açıkçası toplumumuzda çok üst düzey mevkilere sahipler. Yapay zeka konusunda uzman değiller. Amazon'un CEO'su Andy Jassy'nin, yapay zeka güvenlik araştırmalarıyla ilgili endişelerini, yapay zeka politikasını aslında hiçbir anlamlı şekilde denetlemeyen Scott Bessent'e iletmesine nasıl ulaştık ve bu, CEO'su olmayan bir şirkete 90 dakikalık bir ültimatom iletilmesiyle sonuçlandı. Siyasetinizin önemli olması gerektiğini düşünmüyorum.

Ya bu, Amazon CEO'sunun hazine bakanını arayacağı tarihteki en kötü güvenlik ihlalidir ya da bunlar sadece kendilerini önemli hissetmek isteyen bir grup adamdır. Ve hangisi olduğunu tam olarak çözemiyorum.

Birkaç şeyin birleşimi. Birincisi, sizin de belirttiğiniz gibi bu adamların çoğunun yapay zeka konusunda uzman olmadığı gerçeği. Bunun herhangi bir jailbreak'i elbette ciddidir ve dikkate alınmaya değerdir, ancak bence bu, bu sistemlerin nasıl çalıştığına dair doğrudan bilgiye sahip olmadığınızda, gerçekten siyah-beyaz bir yaklaşım izleyeceğiniz türden bir şey. Bu adamlar uzman değildi. 

Andy Jassy bunu kendi araştırmacılarından duyuyor. Bu arada, birkaç gündür Anthropic'le bu konu üzerinde gidip gelen kendi araştırmacıları da vardı. Başkanı bu konuda aramadılar. 'Tamam, bunu tartışalım ve burada ne yapabileceğimize karar verelim' diyorlar. Araştırmacıların bunun dünyanın sonu olduğunu düşünmedikleri iddia ediliyor. “Ah, bunu ortaya çıkardık, tartışalım” diyorlar. Anthropic bunun üzerinde çalışıyordu ve sonra Andy Jassy bunu duydu. Bu çağrıyı yaptığında her şey hayranlara yansıyor, bu da mantıklı çünkü eğer bir yapay zeka uzmanı değilseniz - ve bir yapay zeka uzmanı olsanız bile, belki de siber güvenlik ve bu sistemlerin tam olarak nasıl çalıştığı konusunda uzman değilsiniz - elbette - bu yüzden çıldıracaksınız.

Anlaşılabilir ama asıl tuhaf olan bundan sonra yaşananlar. Bu telefon görüşmesini yapın ve yönetim farkına varsın, tamam mı? Ama bence gerçekten tuhaf olan şey, 90 dakikalık ültimatom ve Antropik'e "Hey, hadi bunun hakkında konuşalım. Zaten farkında olduğumuz güvenlik açığından mı bahsediyorsun, yoksa başka bir şeyden mi bahsediyorsun?" Peki bize bundan bahsedebilir misiniz, böylece bunun hakkında konuşabiliriz?” “Hayır, 90 dakika, yap ya da öl” dediler.

Daha sonra hiçbir yabancı uyruklunun sisteme erişememesi için bunu yapıyoruz. Gerçekten tuhaf olan da bu. Tüm bu kartların düşme şekli, teknoloji endüstrisindeki herkesin gerçekten tuhaf olduğunu düşündüğü şey ve sizin de belirttiğiniz gibi, Trump yönetiminin teknolojiyle çalışma şeklinin göstergesi. Çoğu zaman Başkan Trump'ın tek bir konuşması olduğu ve en son konuşmadan vazgeçtiği görülüyor. Bu yüzden düzenleme karşıtı, Amerikan yapay zeka yanlısıydı ve Amerikan yapay zekasını geliştirmek ve ihraç etmek istiyordu ki bu da ticaret departmanının talep ettiği bir şey.

Trump yöneticisişu anda bir [bilgi talebi] var. Bunların hepsi Amerikan yapay zekasını ihraç etmek ve Çin'i ilerletmek ve yenmek ile ilgili, ancak daha sonra hiç bildirimde bulunmadan herkesi diz çökerten bu şeyi yapıyorlar ve sadece Anthropic'i değil, aynı zamanda OpenAI'yi, Google'ı ve aynı zamanda yarı eşdeğer Mythos ürünü dedikleri şeye sahip olan alandaki tüm rakipleri de çok iyi etkileyebilir.

Gerçekten düzensiz görünüyor ve bu durumun çoğu zaman tüm bu CEO'ların, bilime veya olup bitenlerle gerçekten eşleşen kanıtlara pek çok kez dayanmadan Trump yönetimine boyun eğmek için yarışmaya çalışmasıyla sonuçlanması çok ilginç. Çıldırmanın düzeyi genellikle oradaki kanıtlarla eşleşmiyor.

Amazon, Anthropic'in yatırımcısıdır. Onlar büyük bir ortak. Andy Jassy neden kendi yatırımını bu şekilde diz çöktürdü?

Amazon genellikle normalde çok sayıda kırmızı takım çalışması yapar. Bu onların süreçlerinin sadece bir parçası. Dolayısıyla bunun test edilmiş ve daha sonra ortaya çıkarılmış olması mantıklıdır. Ancak ilginç olan Andy Jassy'nin bu konuda neden Trump yönetimini aradığıdır. Neden olduğundan emin değilim.

Belki de halihazırda gerçekleşen tipik bir aramaydı ve tesadüfen bir şeyden bahsetmişti. Belki de onları arayıp şöyle diyordu: "Evet, iyi ki bu kararı vermişsiniz çünkü X, Y, Z." Bilmiyoruz. Ancak ilginç olan - ve bunu sormanıza sevindim - konuştuğum birçok kaynağın, iddia edilen jailbreak veOrtalıkta dolaşan Amazon teknik incelemesibunların tümü OpenAI'nin GPT-5.5'i ve diğer bazı modeller tarafından gerçekleştirilebilir.

Bu becerilerin, jailbreak kapsamında söz konusu olan Fable 5'e özgü olmadığı iddiası bu. Mythos, Fable'dan kesinlikle daha güçlü çünkü korumaları yok, ancak konu Fable'a ve Amazon'un gün ışığına çıkardığı sorunlara gelince, bu sorunlar sadece Fable'a özgü değil ve GPT-5.5 de bunları başarabiliyor gibi görünüyor. Sektördeki birçok insan "Neden Antropik?" diye soruyor.

Bunun gerçek bir unsuru her zaman Antropik olmasıdır. Anthropic'in Trump yönetimiyle en tartışmalı ilişkisi var. OnlarSavunma Bakanlığı tarafından tedarik zinciri riski olarak belirlendi, ancak buradaki duruş alışılagelmiş Antropik dramadan farklı.

Tarihsel olarak Anthropic şöyle demişti: "X, Y ve Z için araçlarımızı kullanmanızı istemiyoruz." Ve Trump yönetimi şunu söyledi: "Hayır, yapay zeka araçlarıyla ne istersek onu yapabiliriz." Bu nedenle Anthropic, Savunma Bakanlığı tarafından tedarik zinciri riski olarak belirlendi. “Askeri bağlamda nasıl kullanılmasını istediğimiz konusunda bazı kırmızı çizgilerimiz var” dediler. Pete Hegseth şöyle dedi: "Hayır, ne istersem onu ​​yapacağım. Tüm yasal amaçlara izin vermelisiniz" - bu cümledir - "ve izin vermediğiniz için tedarik zinciri riski altındasınız." varşimdi tartışılan bir dava var.

İşte tam tersi. Trump yönetimi, modelin çok güçlü olduğundan ve çok fazla şey için kullanılabileceğinden endişe ediyor ve Anthropic, bu inancın abartıldığını, yönetimin düzeltebilecekleri bir şeyi abarttığını düşünüyor gibi görünüyor. Sadece bunu yapmak için zamana, biraz titizliğe ve düzeltmelerinin ne kadar etkili olduğuna dair konuşmaya ihtiyaçları var.

Bunu nasıl bir araya getiriyorsunuz? Bir yandan Trump yönetiminin yapay zeka karşıtı düzenleme çabaları var. Bir yandan “Modellerle ne istersek onu yaparız, onları olabildiğince güçlü yaparız” diyorlar. Ve burada model çok güçlü ve herhangi bir yabancı uyruklu kişi ona bakamadan çekilmesi gerekiyor.

Bu aslında yönetimin ne yapması gerektiğini söyleme konusunda bu şirketlere güvendiği gerçeğini ifade ediyor. Herhangi bir düzenlemenin gerçekleştiğini veya gönüllü hale geldiğini gördük. Trump yönetiminin yapay zeka şirketleriyle yaptığı görüşmelerin ardından birçok taslakta düzenleme yapıldı. Antropik'i zaten sevmiyorlar. Tedarik zinciri risk durumundan, davadan, kırmızı çizgilerin çizilmesinden dolayı ikisi arasında zaten büyük bir güven kırılması var.

Bu bir rakip olsaydı tam olarak bu durumun ortaya çıkacağını hayal edemiyorum. OpenAI'nin kendine ait bir Mythos yarı eşdeğer modeli vardır. Tekrar ediyorum, hiçbir şirket kendi şirketinin Mythos kadar iyi olduğunu söylemiyor ama oldukça iyi olduğunu söylüyor. Çılgınlık yine de yaşanabilirdi ama geri kalanının bu şekilde sonuçlanacağını hayal edemiyorum. Trump yöneticisi onlara daha fazla zaman verirdi. Daha çok konuşurlardı ve tüm sektöre ve dünyaya şok dalgaları gönderen bu yabancı uyruklu kuralını uygulayacaklarını sanmıyorum.

Konuştuğum kaynaklardan biri, şu anda ABD dışındaki şirketlerle yedekleme sözleşmelerinin imzalandığını zaten bildiğini söyledi. Alternatif donanım düzenlemelerinde açık ağırlık modelleri kullanılıyordu çünkü artık her yerdeki şirketler şöyle diyor: "Vay canına, siyasi riski artık iş planımızın bir parçası haline getirmeliyiz. Amerikan yapay zekasına ne olacağını gerçekten bilmiyoruz." Hadi burada bazı yedek planlar yapalım", ki bu sektör için iyi değil. Trump yönetiminin Çin'in bizi geçmesinden bu kadar korkması ama yine de sektördeki şampiyonlarından birine diz çöktürmeye hazır olması ilginç.

Ancak Trump yönetiminin her geçen gün ortaya koyduğu gerekçelerin farklı görünmesinin de ilginç olduğunu düşünüyorum. Her gün yeni bir mazeretleri ya da konuşmanın bir kısmı gün yüzüne çıkıyor gibi görünüyor. Önce şunu söylüyorlar:"Ah, peki ya Çin'in erişimi olsaydı?"Konuştuğum bir kaynak, bunun birkaç hafta öncesinden, Fable 5 veya Mythos 5'in çıkmasından çok öncesine ait bir söylenti olduğunu ve yönetimin daha önce Mythos Preview'e erişimini onayladığı bir Çinli telekom şirketine atıfta bulunduğunu ve yönetim "Ah, aslında biliyor musun? Fikrimizi değiştirdik. Haydi onları çıkaralım" dediğinde Anthropic onları hemen çıkardı ve erişimi iptal etti. Bu eski bir söylenti. 

Aynı zamanda Antropik olduğuna dair söylentilerin gün yüzüne çıktığı idari emir açıklamasını da görüyoruz.Trump yönetiminin idari emrine uymuyordu. Evet, bu idari emir henüz yürürlüğe girmedi. Sadece 2 Haziran'da imzaladı. İki hafta önceydi. Hangi modellerin bu kapsama gireceğini anlamaları 60 gün sürüyor. 30 günlük yayın öncesi incelemeyi içeren gönüllü bir ortaklık vardır. Bu gönüllüdür.

Komik çünkü Anthropic'in burada tamamen haklı olduğunu söylemiyorum. Ancak bu çok ilginç çünkü bu durumda o kadar çok yanlış yönlendirme, karıştırma ve tuhaflık var ki, bir yapay zeka şirketi için üzüldüğümü görmeniz çok nadir. Gerçekten öyle. "Ah evet, harika gidiyorlar" gibi değilim. Tüm AI şirketlerinin kendi sorunları var, ancak bu durumda şunu söylüyorum: "Vay canına, Anthropic'in Trump yönetimiyle yaşadığı onca dramadan sonra bunun OpenAI'nin veya başka bir rakibin başına gelip gelmeyeceğini gerçekten bilmiyorum."

Trump yöneticisinin dar görüşlü olabileceğini biliyoruz ve bence bu durumda olan herhangi bir şirket için çıldırırlardı, ancak bunun bir rakiple aynı şekilde sonuçlanacağını göremiyorum.

Dario Amodei'nin Beyaz Saray'a gitmemesi kadar basit mi? Trump'a hediye vermiyor mu? Yani Sam Altman, Donald Trump'la basın toplantıları yapıyor. Sundar Pichai açılış törenine katıldı.

Zuckerberg UFC dövüşündeydi.

[Gülüyor] Tanınmış AI galibi Mark Zuckerberg, UFC dövüşünde başarıya giden yolu satın almaya çalışıyordu. Burada bir kişilik çatışması olması bu kadar basit mi?

Bazı raporlarda bu şekilde algılanıyor. Bu kesinlikle onun bir parçası. Bazı raporlar Dario'nun yönetimle nasıl konuşacağını bilmediğini ve o kadar da boyun eğmediğini söylüyor. Oyunu nasıl oynayacağını bilmiyor. Bu onun bir parçası.

Diğer kısmı ise Trump yönetiminin yapay zekayı nasıl düzenleyeceğinden tam olarak emin olmaması ve Başkan Trump'ın farklı yönlere çekilmesi. Bazen daha fazla düzenleme yapılması gerektiğini düşünüyor. Bazen daha az olması gerektiğini düşünüyor. Bir yapay zeka CEO'suyla konuşuyorsa şöyle diyor: "Evet, biliyor musun? Onlara güveniyorum. Biz iyiyiz. Bırakın onlar devam etsin. Çin'i yenmeliyiz."

Diğer durumlarda ise halkın şu anda yapay zeka karşıtı bir dönemden geçtiğini görüyor. Yapay zeka popülizminde bir artış var ve o şöyle diyor: "Aslında herkes yapay zekadan hoşlanmıyor. Belki de onu düzenlemeliyim."

Bu, geçtiğimiz yıllarda yönetimde çokça gördüğümüz bir şey, ancak şimdi yapay zeka düzenlemelerinde temsil ediliyor. Şu anda gerçekten bir kafiye ya da sebep yok. Anthropic'in yönetimle iletişiminin yardımcı olduğunu düşünmüyorum. Eğer aradıkları anda çağrılarına cevap vermezseniz, akşam yemeği için Beyaz Saray'a uçmuyorsanız, çoğu zaman oldukça ilişki temelli görünen bir başkanlıkta bu muhtemelen ilişkinize biraz zarar verir.

Bunu, neredeyse kişilikten yoksun olan önceki yönetimle karşılaştıracağım. Kişilik ve insan eksikliğiyle dikkat çeken Biden yönetimi oldukça teknokratikti ve insanların çoğu zaman kansız olduğunu düşündüklerini düşündüğüm kurallara dayalıydı.

Ancak Biden yönetimi, şeffaflık incelemeleri ve sınır modelleri için araştırma gereklilikleri gibi şeyleri içeren bir idari emir öne sürdü. Trump göreve geldi vebunların hepsini sildi. “Bu şirketlere düzenleme yapmayacağız” dedi. Ve şimdi sanki oraya geri dönüyormuşuz gibi görünüyor.

Ultra güçlü bir model ortaya koyacaksanız yönetim bunun kontrolünü istiyor. Elbette, ihracat kontrolleri şeklinde sahip oldukları en açık aracı kullanacaklar, ancak bu modellerin nasıl konuşlandırıldığı, kullanıldığı ve bunları kimin kullanacağı konusunda daha ayrıntılı, daha titiz bir yaklaşıma geri döneceğiz. Biden çerçevesini ortadan kaldırmak bir hata mıydı? O çerçeveye geri mi dönüyoruz? Bunun şimdi nereye gideceğini düşünüyoruz?

Oraya geri döndüğümüzü görebiliyordum çünkü o zamanlar sektörden tonlarca farklı bakış açısına sahip tonlarca insanla röportaj yaptım ve çoğu Biden dönemi yönetim emrinin yeterli olmadığına inanıyordu. Bazıları bunun iyi bir ilk adım olduğunu düşündü ve bu yüzden oraya geri döneceğimizi görebiliyordum çünkü bu çok agresif bir hareket olarak görülmüyordu.

Aslında bu, bu yönde atılmış iyi bir ilk adım olarak görülüyordu ama aslında merdivenin yalnızca bir basamağıydı. Bu yüzden mevcut yönetimin oraya geri döndüğünü görebiliyordum çünkü orası o kadar uzak değildi. Yapay zeka şirketlerinin bu küçük adıma bile karşı lobi yapacağını söyleyeceğim.

Yaptılar. Buna oldukça kızdılar. 

Yaptılar. Derinden yaptılar. Ancak az önce gördüğümüz idari emirden, oraya geri döndüğünü görebiliyordum, ama biraz daha gönüllüydü ki bu da yine tüm bu şeylerin genellikle sulandırıldığını gösteriyor. Sanki sallanarak ortaya çıkıyorlar ve sonra bazı AI CEO'larıyla konuşuyorlar ve "Ah, tamam, hadi biraz geriye gidelim" diyorlar. Peki dürüstçe kim bilir.

Ancak yapay zeka muhabiri olmamın nedeni, alanda gerçek bir düzenleme olmadığını hissetmemdi ve bu, ChatGPT'den bile önceydi. Gazetecilik sektörde olup bitenlere ışık tutmanın bir yoludur. Yine de altı yıl sonra çok fazla düzenleme görmüyoruz ve gerçekleşen her şey geri alındı. Belki o yöne geri döneriz. Orada bir yere gittiğimizi görüyorum ama belki o ilk basamak kadar bile değil.

Neredeyse endüstrinin daha düşünülmüş bir düzenleyici yaklaşım için baskı yapması gerekiyormuş gibi geliyor, değil mi? "Bu bir kaos. Bizim çalışma şeklimiz bu olamaz. Her yeni model, hafta sonu panikli telefon çağrılarıyla boğuşmak zorunda kalamaz" demeleri gerekiyor.

Burada daha titiz bir inceleme süreci isteseydiniz nasıl bir sistem kurardınız? Onlar sadece modellerini hükümete sunuyorlar ve hükümet neyin tehlikeli olup olmadığını mı söylüyor? Daha çok endüstri odaklı mı? Önerilen çözümler nelerdir?

Bu iyi bir soru. Mevcut yönetim nedeniyle son zamanlarda pek fazla gerçekten sağlam çözüm önerilmedi. Düzenlemeye gerçekten hafif bir yaklaşımları vardı, bu yüzden kimse bunları gerçekten ortaya çıkarmıyor. Artık bu durum değişiyor olabileceğine göre, daha sağlam çerçevelerin önerildiğini göreceğiz.

Umarım gönüllü değildirler. Yapay zeka şirketleri zaten çok sayıda gönüllü açıklama yapıyor. Düzenleme yapacaksanız yapın. Hafif dokunuş veya ağır dokunuş düzenlemesinin nasıl olması gerektiğine dair pek çok farklı görüş var, ancak gönüllü çerçevelerin oldukça sulandırıldığını düşünüyorum. Ne demek istediğimi biliyorsun? Bunlara zaten sahibiz.

Peki sırada ne var? Genel halkın nasıl hissettiğini hatırlamak önemlidir çünkü günün sonunda yapay zekanın gerçekten etkilediği kişi budur. bir tane varYapay zeka karşıtı popülizmin yükselişi ve insanların üzgün olduğu gerçeği. Her yerde veri merkezi protestoları sürüyor. Hatta insanlar, aşırı durumlarda, AI CEO'sunun evlerine bile saldırıyor veya en azından bunu yapmaya çalışıyor. Burada çok fazla huzursuzluk var ve insanlar yerlerinin değiştirildiğini düşünüyor. İşlerinin değiştirildiğini hissediyorlar. Yakın zamanda Seattle belediye meclisinin duruşmasını dinliyordum ve birçok yapay zeka mühendisi, yapay zeka yüzünden işten çıkarıldıklarını ve mühendis olduklarını söyleyerek ifade veriyordu.

Hem yapay zeka liderleri hem de hükümet, genel kamuoyunun bu teknoloji hakkında ne hissettiğinden genellikle oldukça uzaktır ve bunu belirtmek önemlidir. Bunun, ortaya çıkacak düzenlemeyi nasıl etkileyeceğini göreceğiz. Bu yönetim altında çok fazla düzenlemeye dair pek umudum yok çünkü gerçekten etkilenebilirler. Bir kez akşam yemeği yiyorlar ve sonra işler biraz değişebilir. Adil olmak gerekirse birçok politikacı bu şekilde, ama göreceğiz. Belki bu kararnamenin 60 günü dolduktan sonra beni şaşırtan bazı değişiklikler göreceğiz.

Bunun tuhaf yönlerinden biri de Anthropic'in düzenleme için en çok baskı yapan, alarmı en çok veren, tüm şirketler arasında en felakete benzeyen şirket olması. Anthropic'in kurucularından Jack Clark,yakın zamanda araştırmayı ve sonucunu ortaya koyduşuydu: "Toplumsal yapıların ve uyum araştırmalarının teknolojinin ilerlemesine ayak uydurabilmesini sağlamak için sınır yapay zeka gelişimini yavaşlatma veya geçici olarak duraklatma seçeneğine sahip olmanın dünya için iyi olacağına inanıyoruz."

Antropik, "Ah, herkesi öldürebiliriz. Oğlum, bunu durdurmalıyız" diyerek ön saflarda yer alıyor. Ama aynı zamanda model yeteneğinde de ön saflarda yer alıyorlar. Her bakımdan Mythos bugün var olan en güçlü modeldir. Anthropic'in başı belaya mı giriyor? Bu onlar için sadece geri tepen bir pazarlama stratejisi mi?

Bu bir kombinasyon. Pazarlama konuşması kesinlikle geri tepiyor. Bir şeyin bu kadar tehlikeli olduğunu söylerseniz ve ardından bir araştırmacı belki de pek de mümkün olmayan bir şeyi ortaya çıkarırsa, o zaman evet, insanlar çıldıracaktır. Bu yüzden birinin başına ilk şeyin geldiğini görebiliyorum. Kartların düştüğü şeklin geri kalanını göremiyorum.

Ama kısmen oradaydı ve onlara musallat olmak için geri geldi. Abartma açısından bu biraz onları üzdü, ama aynı zamanda bu teknolojinin yaratabileceği riskler konusunda bazı açılardan dürüst olmaya çalıştıklarını da düşünüyorum. Ve kullandığımız küresel altyapımızdaki yüksek düzeydeki güvenlik açıklarını işaretleyebilen bir sistemin (banka sisteminiz veya hükümete ait bir web sitesi gibi) kötü aktörler tarafından kullanılması gerçekten kötü olurdu. Yanlış ellere düşerse, evet, bu oldukça kötü.

Bu iletişime bağlı. Riskler hakkında konuşmak ve onları küçümsememek önemlidir, ancak bunu yaparsanız ve ardından bir hata yaparsanız veya beklenmedik bir şey olursa, sonuçlarıyla yüzleşmek zorunda kalırsınız. Elbette orada açılacak çok şey var. Ayrıca birçok şirketin farklı sistemlerin risklerini küçümsediğini düşünüyorum. Anthropic'inki de dahil olmak üzere birçok AI CEO'sunun şu konularda konuştuğunu gördük:işlerin hepsinin nasıl değiştirilmeyeceğiher şeyin düzeleceğini söylüyor.

Bütün bunlara her zaman büyük bir ihtiyatla yaklaşırım. Günün sonunda, hangi yapay zeka şirketinden bahsediyor olursanız olun, ister Anthropic ister başka bir şirket olsun, hepsinin kâr elde etme ve her ne pahasına olursa olsun para kazanma teşvikleri var - özellikle de halka açık bir şirket haline gelirlerse, ki bunu yapmak üzereler. İnsanlar Antropik'i bir şekilde, diğer rakipleri başka bir şekilde tasvir etmeyi seviyorlar, ancak hepsi aynı amacın peşinde. Sadece biraz farklı yapıyorlar.

Bunun, yapay zekaya baştan itibaren askeri teknoloji gibi davrandığımız ve halkın askeri teknolojinin sulandırılmış bir versiyonunu aldığı bir versiyonu var mı? Çünkü Trump yönetiminin içinde faaliyet gösterdiği risk profili bu gibi görünüyor. Bu temelde saldırgan bir teknolojidir. Bunu düşmanlarımıza karşı konuşlandırabiliriz. Bunu bankalara saldırmak için kullanabiliriz. Herkes buradaki güvenlik sonuçlarından endişe duyuyor.

Oradan başlayıp sonra şöyle diyeceğimiz bir dünya var mı: "Halka, tüketicilere dağıtmak için bu yolu azaltmalısınız. F22'leri halka satmayacağız ama Ford Raptor'ları halka satabiliriz." Bunun bir versiyonu da var, değil mi? Teknolojinin halk için çok azaldığı ve temelde ordu için son derece üstün olduğu bir yer.

Onlarca yıldır çokça gördüğümüz şey bu ve şimdi Mythos'ta da olmaya başlıyor. Fable'ın sulandırılmış versiyonudur ve kurumsal ve hükümetlerin daha güçlü versiyona erişimi vardır. Bu konuda çok farklı görüşler var. OpenAI'nin şu anda en büyük pazarlama hamlelerinden biri şu: "Oh, Anthropic en güçlü yapay zekanın yalnızca elitlerin elinde olmasını istiyor ve biz de onu halka sunmak istiyoruz."

Yani şu anda bir sürü farklı pazarlama hamlesi var. Anthropic dahil herkes rakiplerini kötü göstermek için her şeyi kendi yararına kullanıyor. Yarış o kadar yoğun bir şekilde kızışıyor ki, ön saflardaki yapay zeka şirketleri ne pahasına olursa olsun kazanmak için ellerinden geleni yapıyorlar. Bazıları için bunun nedeni, kendilerinin en iyi ve en ahlaki kazanan olduğunu düşünmeleridir ki bu, her bilimkurgu veya fantastik filmde gördüğümüz gibi her zaman büyük bir sorun olabilir. Çoğunluğun iyiliği için felsefesi genellikle hikayedeki kötü adam tarafından kullanılır.

Şu anda büyük bir yarış yaşanıyor ve işleri biraz yavaşlatmanın iyi olabileceği konusunda Jack Clark'a tamamen katılıyorum. Eğer herkes aynı fikirde olabilseydi; bu çok uzak bir ihtimal ve özellikle diğer ülkelerin de aynı fikirde olmasını sağlamak çok zor olurdu. Ancak kesinlikle teknolojiyi, sonuçları hakkında düşünebildiğimizden çok daha hızlı geliştiriyoruz ve uzun süredir de öyleyiz.

Sanırım ilk bölümKod çözücüDario Amodei'nin doğrudan Thanos'la karşılaştırıldığı yer, yani bu harika.

[Gülüyor] Adil olmak gerekirse, bir kötü adamı düşünüyordum.Harry Potter'ınbunu söylediğimde - Grindelwald.

Aman Tanrım. Elbette. Dario, eğer gelip bu iddialara değinmek istersen, memnuniyetle karşılarım.

Şunu da söylemeliyim ki mesele sadece Dario değil. Tüm AI CEO'ları bunu söylüyor, hepsi. Bu çılgınlık.

Bu nerede bitiyor? Buradaki sonraki adımlar nelerdir? Bu hafta toplantılar var. İnsanlar perşembe günü bunu duyacak. Anthropic'in piyasaya yeni dönme ihtimali var. Olmaması ihtimali var. Ama bundan sonra herkes bir süreç istiyor gibi görünüyor. Sizce bunun sonu nereye varır?

Tedarik zinciri risk durumunda da gördüğümüz gibi bu yönetimin nasıl hareket edeceğini tahmin etmek çok zor. Pek çok devlet kurumu Claude'un büyük hayranı olmasına rağmen, bunun eninde sonunda geri alınacağını düşünmüştüm, ancak yedi şirketle daha yeni anlaşma imzaladılar ve şöyle dediler: "Tamam, biz iyiyiz. Siz Claude hayranı olsanız bile, işte sizin için yedi seçenek daha."

Şu anda herkesin tahmini bu. Yabancı uyrukluluk meselesinin geri alınacağını düşünüyorum. Yönetimin Amerikan yapay zekasının nasıl kazanması gerektiği konusunda yarattığı kargaşadan sonra, bunu hayal bile edemiyorum.9 Ocak'tan Hegseth notune pahasına olursa olsun hızı savunuyoruz. Ben sadece bu yönetimin yapay zekada kazanmaya o kadar odaklandığını düşünüyorum ki, bu kuralı sürdürmelerinin hiçbir yolu yok. Önümüzdeki birkaç gün içinde bunun bir kişilik oyunu haline geldiğini görebiliyordum. Antropik bir şekilde taviz veriyorlar, daha iyi iletişim kurmaya çalışıyorlar. Ve birkaç gün içinde bu durum geri alınır.

Ama sonra Trump yönetiminin bunu yapmaya çalıştığına dair bazı söylentiler gördüm.Anthropic ve OpenAI'den hisse satın almak, bir mülkiyet hissesi. Yani burada bununla ilgili pek çok farklı “çözüm” olabilir. Göreceğiz, ancak şu anda birkaç günden fazla devam ettiği için bunu kesinlikle öngöremiyorum. Sektör bu duruma çok üzülüyor. 

Hayden, bu iş sona erdiğinde seni çok yakında geri almamız gerekecek. Katıldığın için çok teşekkür ederimKod çözücü.

Çok teşekkürler.

Sorularınız veya yorumlarınız mı var? decoder@theverge.com adresinden bize ulaşın. Gerçekten her e-postayı okuyoruz!