Çeviri: Komplo Teorilerinin Yeni Bir Dostu Var

Kaynak Metin: https://tinyurl.com/mr8sbeaz

Tarih uzun zamandır bir savaş tiyatrosu, geçmiş ise şimdiki zamana ilişkin çatışmalarda bir vekil olarak hizmet ediyor. Ron DeSantis Florida'daki okullarda ırkçılıkla ilgili kitapları yasaklayarak tarihi çarpıtıyor; insanlar yerlilere ait nesnelerin ve kalıntıların ülkelerine geri gönderilmesi konusunda doğru yaklaşım konusunda bölünmüş durumda; Pentagon Belgeleri Vietnam Savaşı ile ilgili anlatıları çarpıtma girişimiydi. Naziler iktidarı kısmen geçmişi manipüle ederek ele geçirdiler; Alman parlamento binası Reichstag'ın yakılmasıyla ilgili propagandayı siyasi rakiplerine zulmetmeyi ve diktatörlük yetkisini üstlenmeyi meşrulaştırmak için kullandılar. Microsoft'un baş bilim sorumlusu ve önde gelen yapay zeka araştırmacılarından Eric Horvitz'e göre bu örnek, yapay zeka devriminin, sosyal medyanın bu yüzyılın başlarında yaptığı gibi propagandacılara yeni bir silah sağlamakla kalmayıp, tarih yazımı alanını tamamen yeniden şekillendirebileceğini ve belki de modern bir Reichstag yangını için zemin hazırlayabileceğini söylüyor.

ChatGPT gibi dil modelleri ve DALL-E 2 gibi görüntü jeneratörleri de dahil olmak üzere söz konusu gelişmeler gevşek bir şekilde "jeneratif yapay zeka" şemsiyesi altına girmektedir. Bunlar sentetik metin, görüntü, video ve ses üreten güçlü ve kullanımı kolay programlardır ve bunların tümü kötü aktörler tarafından dezenformasyon yaymak amacıyla olaylar, insanlar, konuşmalar ve haber raporları uydurmak için kullanılabilir. Bu tür medyanın tek seferlik örneklerini zaten görmüş olabilirsiniz: Ukrayna Devlet Başkanı Volodymyr Zelensky'nin Rusya'ya teslim olduğuna dair sahte videolar; Joe Rogan ve Ben Shapiro'nun Ratatouille filmi hakkında tartıştığı sahte görüntüler. Bu teknoloji ilerledikçe, parça parça uydurmalar yerini koordineli kampanyalara bırakabilir - Horvitz'in geçen yılın sonlarında bir makalede adlandırdığı gibi, sadece sentetik medya değil, tüm sentetik tarihler. Microsoft ve Google'ın başını çektiği yeni tür yapay zeka destekli arama motorları, bu tür geçmişlerin bulunmasını kolaylaştırabilir ve kullanıcıların bunları tespit etmesini neredeyse imkansız hale getirebilir.

Sosyal medya, TV ve radyo ile ilgili benzer korkular bir miktar panik yaratmış olsa da, YZ'nin gelecekteki seçimler, protestolar veya kitlesel silahlı saldırılar hakkındaki yalanları hem daha bulaşıcı hem de bağışıklığa dirençli hale getiren yeni bir dezenformasyon çeşidi olabileceğine inanmak için nedenler var. Örneğin, henüz insandan insana yayılmaya başlamamış olan şiddetli kuş gribi salgınını düşünün. Bir siyasi ajan - ya da basit bir komplocu - ChatGPT ve DALL-E 2 benzeri programlar kullanarak Çin, Dünya Sağlık Örgütü ya da Pentagon laboratuvarlarının virüsle uğraştığına dair, geçmişte çeşitli noktalara dayanan ve sahte "sızdırılmış" belgeler, ses ve video kayıtları ve uzman yorumlarıyla tamamlanan çok sayıda hikayeyi kolayca oluşturabilir ve yayınlayabilir. Kuş gribinin insanlar arasında dolaşmaya başlaması halinde hükümet tarafından silahlandırılmış bir kuş gribinin kullanıma hazır olacağı sentetik bir tarih. Bir propagandacı, haberleri tamamen uydurulmuş ama tamamen oluşturulmuş ve görünüşte iyi belgelenmiş hikayesine bağlayarak internet üzerinden yayabilir ve ülkenin siyasetini ve halk sağlığı müdahalesini tüketebilecek bir kurgu yayabilir. Horvitz'in bana söylediğine göre, yapay zeka tarafından oluşturulan geçmişlerin gücü, "bir hikaye oluşturmak için gerçek olaylarla karıştırılmış bir zaman çizelgesindeki derin sahtekarlıklarda" yatıyor.

Sentetik geçmişlerin internette zaten yaygın olan dezenformasyonun şiddetini değil ama türünü değiştirmesi de mümkündür. İnsanlar Facebook'ta, Rumble'da, Truth Social'da, YouTube'da, her yerde gördükleri sahte hikayelere inanmaktan mutluluk duyuyorlar. Web'den önce, yabancılar, savaş zamanındaki düşmanlar, uzaylılar ve Koca Ayak hakkında propaganda ve yalanlar bol miktarda vardı. Sentetik medya ya da "deepfakes" söz konusu olduğunda, mevcut araştırmalar, görüntülerin yanlış etiketlenmesi ya da sahte haber raporları yazılması gibi daha basit manipülasyonlara kıyasla şaşırtıcı derecede az fayda sağladıklarını göstermektedir. İnsanların bir komplo teorisine inanması için ileri teknolojiye ihtiyacınız yok. Horvitz yine de bir uçurumun eşiğinde olduğumuza inanıyor: Yapay zekanın yüksek kaliteli dezenformasyon üretme hızı çok yüksek olacak.

Yüksek bir hız ve ölçekte üretilen otomatik dezenformasyon, Horvitz'in "düşmanca üretken açıklamalar" olarak adlandırdığı şeyi mümkün kılabilir. Sosyal medyada size sunulan ve insanların neyle etkileşime geçtiğine göre test edilip optimize edilen hedefli içeriğe paralel olarak, propagandacılar icat edilmiş bir anlatının hangi bölümlerinin daha fazla veya daha az ikna edici olduğunu belirlemek için küçük testler yapabilir ve bu sentetik tarihi yinelemeli olarak iyileştirmek için sosyal-psikoloji araştırmalarıyla birlikte bu geri bildirimi kullanabilir. Örneğin, bir program uydurma bir uzmanın kimlik bilgilerini ve alıntılarını belirli demografik özelliklere uyacak şekilde revize edebilir ve değiştirebilir. ChatGPT gibi dil modelleri de interneti benzer şekilde komplocu ve uyarlanmış Potemkin metinlerine boğma tehdidinde bulunuyor - hedefli reklamcılık değil, hedefli komplolar.

Big Tech'in geleneksel internet aramasını sohbet robotlarıyla değiştirme planı bu riski önemli ölçüde artırabilir. Bing ve Google'a entegre edilen yapay zeka dil modelleri, doğruluk kontrolü konusunda kötü bir şöhrete sahiptir ve sahteciliğe eğilimlidir; bu da onları sahte geçmişleri yaymaya yatkın hale getirebilir. Sohbet robotu tabanlı aramanın ilk versiyonlarının çoğu dipnotlarla Vikipedi tarzı yanıtlar verse de, sentetik bir tarihin tüm amacı alternatif ve ikna edici bir kaynak seti sağlamaktır. Ve sohbet robotlarının tüm dayanak noktası kolaylıktır - insanların kontrol etmeden onlara güvenmesi için.

Bu dezenformasyon kıyameti kulağa tanıdık geliyorsa, bunun nedeni budur. Miami Üniversitesi'nde komplo teorileri üzerine çalışan bir siyaset bilimci olan Joseph Uscinski, "[YZ] teknolojisi hakkındaki iddia, insanların dün internet hakkında ortaya attıkları iddiayla aynı" diyor. "Aman Tanrım, yalanlar her zamankinden daha uzağa ve daha hızlı yayılıyor ve herkes gördüğü her şeye inanacak." Ancak komplo teorilerine olan inancın sosyal medya kullanımıyla birlikte, hatta koronavirüs pandemisi boyunca arttığına dair bir kanıt bulamadı; yankı odaları gibi yaygın anlatılarla ilgili araştırmalar da titrek.

Uscinski, insanların alternatif tarihlere yeni teknolojiler onları daha inandırıcı kıldığı için değil, başka herhangi bir şeye inanmalarıyla aynı nedenden dolayı inandıklarını söylüyor - belki de komplo mevcut inançlarını doğruluyor, siyasi görüşlerine uyuyor ya da güvendikleri bir kaynaktan geliyor. Örnek olarak iklim değişikliğini gösterdi: Antropojenik ısınmaya inanan insanlar çoğunlukla "verileri kendileri araştırmamışlardır. Tek yaptıkları güvendikleri kaynakları dinlemek, ki iklim değişikliği inkarcıları da tam olarak bunu yapıyor. Mekanizma aynı; sadece bu durumda Cumhuriyetçi elitler yanılıyor."

Elbette sosyal medya insanların bilgi üretme, yayma ve tüketme biçimlerini değiştirdi. Üretken yapay zeka da aynı şeyi yapabilir ama yeni risklerle. Horvitz bana "Geçmişte insanlar bir şeyleri sezgileriyle denerdi" dedi. "Ancak zihinleri manipüle etme konusunda daha cerrahi bir hassasiyetle daha hızlı yineleme fikri yeni bir şey. İçeriğin aslına uygunluğu, üretilme kolaylığı, zaman çizelgelerine birden fazla olay gönderme kolaylığı" - bunların hepsi endişelenmek için önemli nedenler. Daha şimdiden, 2020 seçimleri öncesinde Donald Trump, kaybettiğinde "Stop the Steal" kampanyasını güçlendiren oy sahtekarlığı şüphelerini ortaya attı. Kasım 2024 yaklaşırken, benzer düşünen siyasi ajanlar yapay zekayı kullanarak sahte kişilikler ve seçim görevlileri yaratabilir, oylama makinesi manipülasyonu ve oy pusulalarının çalındığına dair videolar üretebilir ve yalan haberler yazabilir.

Horvitz, Deepfake kampanyalarının bizi "neyin gerçek neyin sahte olduğunu bilmediğiniz post-epistemik bir dünyaya" daha da götürebileceğini söyledi. Görevini kötüye kullanmakla suçlanan bir iş insanı, suçlayıcı kanıtların yapay zeka tarafından üretildiğini söyleyebilir; bir politikacı rakipleri hakkında belgelenmiş ama tamamen sahte karakter suikastları düzenleyebilir. Yahut belki de Truth Social ve Rumble'ın Twitter ve YouTube'a muhafazakar alternatifler sunması gibi, Google, Bing ve "WokeGPT "nin fazla ilerici olduğuna dair korkulara yanıt olarak, zengin komplolar ve sentetik geçmişler üzerine eğitilmiş, yapay zeka destekli aramaya aşırı sağcı bir alternatif yükselecektir. Yakın zamanda dil modelleri ve dezenformasyon üzerine bir makale yazan Stanford İnternet Gözlemevi araştırma müdürü Renée DiResta, "Aklımda bunun arama kapasitesinde gerçekleşmesini engelleyecek hiçbir şey yok" diyor. "Bu birileri için harika bir pazar fırsatı olarak görülecektir." RightWingGPT ve muhafazakâr-Hıristiyan bir yapay zekâ şimdiden tartışılıyor ve Elon Musk'ın OpenAI'ye muhafazakâr bir rakip oluşturmak için yetenek topladığı bildiriliyor.

Horvitz, bu tür deepfake kampanyalarına hazırlanmak için medya okuryazarlığı çabaları, gelişmiş tespit yöntemleri ve düzenleme dahil olmak üzere çeşitli stratejiler gerektireceğini söyledi. En umut verici olanı, herhangi bir medya parçasının kaynağını belirlemek için bir standart oluşturmak olabilir - bir fotoğrafın nerede çekildiğini ve adli kanıtlar için bir gözetim zinciri gibi meta veri olarak dosyaya eklenen tüm düzenleme yollarını gösteren bir günlük - Adobe, Microsoft ve diğer birkaç şirket üzerinde çalışıyor. Ancak insanların yine de bu kaydı anlaması ve ona güvenmesi gerekecektir. Urbana-Champaign'deki Illinois Üniversitesi'nde medya çalışmaları profesörü olan Rachel Kuo, "Hem içeriğin çoğaldığı hem de şeylerin nasıl ortaya çıktığı konusunda bulanıklığın olduğu bir an yaşıyorsunuz" diyor. Kanıt, tespit ya da diğer çürütme yöntemleri hala büyük ölçüde insanların kendilerine neyin meşru olup olmadığını söyleyen gazeteciler, hükümet yetkilileri ya da yapay zeka sohbet robotları gibi uzmanları dinlemesine dayanıyor olabilir. Bu tür silikon gözetim zincirleri olsa bile, yalan söylemenin daha basit biçimleri - kablolu haberlerde, Kongre kürsüsünde, yazılı basında - devam edecektir.

Teknolojiyi dezenformasyon ve komplonun arkasındaki itici güç olarak çerçevelemek, teknolojinin yeterli ya da en azından gerekli bir çözüm olduğunu ima eder. Ancak yapay zekayı vurgulamak bir hata olabilir. Chapel Hill'deki North Carolina Üniversitesi'nde medya çalışmaları profesörü olan Alice Marwick'in bana söylediğine göre, öncelikle "birisinin Joe Biden'ın pedofil olduğunu söyleyerek deep-fake yapacağından endişe ediyorsak, o zaman böyle bir bilginin neden yankı uyandıracağını göz ardı ediyoruz". İster sosyal medya ister yapay zeka olsun, yeni teknolojilerin gerçeği eğip bükmekten öncelikle ya da tek başına sorumlu olduğunu iddia etmek, Büyük Teknoloji'nin reklamlarının, algoritmalarının ve yayınlarının düşüncelerimizi ve duygularımızı belirleme gücünü yeniden tanımlama riskini taşıyor. Muhabir Joseph Bernstein'ın yazdığı gibi: "Bu, birkaç şirket tarafından dolaşıma sokulan bilginin, kitlelerin inanç ve davranışlarını meşrulaştırma gücüne sahip olduğu bir neden-sonuç modelidir. Bir bakıma bu dünya bir tür rahatlıktır. Açıklaması kolay, değiştirmesi kolay ve satması kolay."

Daha karmaşık bir hikaye, insanların ve belki de makinelerin her zaman çok rasyonel olmadıklarıyla; tarih yazmanın artık bir savaş olmaktan çıkması için yapılması gerekenlerle uğraşabilir. Tarihçi Jill Lepore " Vikipedi'yi dipnot kurtardı" demiş ve şeffaf kaynak kullanımının web sitesinin oldukça güvenilir bilgiler için önde gelen bir kaynak haline gelmesine ya da en azından öyle görünmesine yardımcı olduğunu öne sürmüştü. Ancak belki de şimdi dipnot, doğrulama dürtüsü ve dürtüsü, interneti batırmak üzere - eğer henüz batırmadıysa.