Yapay zeka dezenformasyon tehdidini abartmanın tehlikesi:
Kilit ekranından çıkıp dört sonsuz kaydırma uygulamasından birine geçtiğinizde, duraklattığınızda akışınızda otuz metrelik başparmak darbeleri görürsünüz. Hillary Clinton'ın yüzü, 11 bin paylaşım ve "[En Çılgın Arkadaşınız] tarafından beğenildi" gibi kışkırtıcı bir uyaran sizi ileri çağırıyor. Sesi açtığınızda, eski dışişleri bakanının Güneyli beyazların toplu infazı için çağrıda bulunduğu bir deepfake izliyorsunuz. Yorumlar - binlerce var - benzer konuşma noktalarını vuruyor. Kendi kendinize "Bu botlar oldukça iyi" diyorsunuz. Çabucak sıkılıyorsunuz ve başka bir değiştirilmiş video bulmak için ilerliyorsunuz. Bu kez Justin Trudeau bir köpek yavrusunu eziyor. Daha fazla bot, daha fazla konuşma noktası.
Bize anlatılan bu distopik fantezi, bugün ortalama bir sosyal medya akışının neye benzediği: dikkatiniz, desteğiniz ve itaatiniz için yarışan yüksek teknolojili dezenformasyon operasyonlarının savaş alanı. Gazeteci Joseph Bernstein, 2021 yılında Harper's'da yayınlanan "Bad News" adlı makalesinde sosyal medyanın bu algısını "Büyük Dezenformasyon "a bağlıyor - günlerini yabancı güçlerin en yeni dezenformasyon taktikleri hakkında varillerce mürekkep dökerek geçiren düşünce kuruluşları, akademik kurumlar ve prestijli medya kuruluşlarından oluşan bir kartel. Teknolojinin spesifik etkisi her zaman belirsiz, ancak bir şekilde yıkıcıdır. Yapay zeka tarafından göğsünden vurulan demokrasi ölüyor.
Büyük Dezenformasyon ile ilgili sorun dezenformasyon kampanyalarının gerçekleşmemesi değil, yapay zeka destekli zihin çarpıtıcı propaganda iddialarının büyük ölçüde incelenmemiş olması ve çoğu zaman sadece spekülasyondan ibaret olmasıdır. Yabancı hükümetlerin etki operasyonlarında deepfake'leri, bot ordularını veya jeneratif metinleri hangi ölçekte kullandıklarına dair kamuya açık çok az sistematik bilgi var. Bildiklerimiz ise düzensiz soruşturmalar ya da sızdırılan belgeler aracılığıyla elde ediliyor. Veri yerine, Büyük Dezenformasyon sisin içinde gözlerini kısarak her meşe ağacında "Koca Ayak!" diye bağırıyor.
Herhangi bir makine öğrenimi araştırmacısı, laboratuvarda mümkün olanlar ile sahada olanlar arasında kritik bir kopukluk olduğunu kabul edecektir. Deepfakes'i ele alalım. Bu teknoloji ilk geliştirildiğinde, kamusal söylem, toplumun gerçekliğe olan bağlılığını gevşeteceği yönündeki beyanlarla doluydu. New York Times'ın 2019 tarihli bir köşe yazısı, o dönemdeki genel hissiyatın bir göstergesi olarak, "Deepfakes Are Coming. Artık Gördüklerimize İnanamayız" başlığını taşıyordu. Aynı hafta Politico da "'Kabus gibi'" başlıklı makalesinde alarm verdi: Milletvekilleri 2020 deepfakes sürüsüne hazırlanıyor." Forbes'ta yayınlanan bir makalede ise Başkan Trump'ın Kuzey Kore'ye nükleer silah fırlatılacağını duyurduğu bir deepfake videosu hayal etmemiz isteniyordu. Bu hikayeler, bu türdeki diğerleri gibi, pratiklikle ilgili soruları geçiştiriyor.
Dezenformasyon tarihçileri genellikle bir taktiğin varsayımsal olarak saldırganın kullanımına açık olduğu için saldırganın bunu kullandığını varsayar. Ancak etki operasyonları yürütmekle görevlendirilen devlet destekli aktörler de herkes gibi bütçe ve zaman kısıtlamalarıyla karşı karşıyadır ve harcadıkları her dolar karşılığında elde ettikleri etkiyi en üst düzeye çıkarmaları gerekir. Güvenlik ve Gelişen Teknoloji Merkezi'nde araştırma görevlisi olan Tim Hwang, 2020 raporunda "propagandacıların pragmatist olduğunu" açıklıyor. Hwang'a göre, kötü aktörlerin teknolojiyi nasıl benimsediğini doğru analiz etmek istiyorsak, pratik sorular sormalıyız: "Bir dezenformasyon kampanyası neden bazen aynı derecede etkili olan daha kabaca hazırlanmış sahte içerikler yerine deepfake'leri seçer? Ne tür aktörlerin bu gelişmeleri kötü niyetli amaçlar için benimsemesi muhtemeldir? Bunları nasıl kullanacaklar?" Yine de bu tür sorular dezenformasyon ifşaatlarında büyük ölçüde dokunulmadan kalıyor.
Eğer tehlike bu kadar yakınsa, ABD başkanlık seçimleri, bir pandemi ve büyük bir Rus kara istilasından sonra bile neden bu kadar az sayıda yüksek profilli deepfake saldırısı gördük? Cevap, sentetik olarak üretilen medyanın kötü aktörler için buna değmemesidir. Binlerce dolarlık bilgisayar işlemcilerini ve grafik kartlarını ölçeklendirmek, yetenekli makine öğrenimi mühendislerini işe almak ve onlara ödeme yapmak, modelleri eğitmek için haftalar harcamak ve deepfake taklitleri için konuşmalar yazmak çok zor ve çok pahalı.
Büyük Dezenformasyon'un tahminlerinin aksine, Kremlin'in tercihinin eski moda fiziksel aldatmacadan yana olduğu ortaya çıktı. Şubat 2022'de, işgalinden sadece günler önce, Rusya görünüşe göre bir EYP'nin üzerine insan kadavraları taşıyan bir araba gönderdi ve ardından saldırıyı Ukrayna'ya yükledi. Bu, Sovyetler Birliği'nin İkinci Dünya Savaşı patlak verdiğinde işgal bahanesi olarak Finlandiya sınırı yakınlarındaki kendi köylerini bombaladığı zaman kullandığı taktiklerden farklı değildir. Bu gibi aldatmacaları ortaya çıkarmak zor bir araştırma çalışması gerektirir. Sahnelenen EYP saldırısını çürütmek bir hafta sürdü ve bu süre zarfında Rusya Ukrayna'yı işgal etmişti. Buna karşılık, Mart 2022'de internette dolaşan Başkan Zelenskiy'nin karikatürize edilmiş bir deepfake'i dakikalar içinde çürütüldü. Yapay zeka, hakkında uyarıldığımız post-fact çorak topraklara doğru gerçeği öldüren yürüyüşü yaratmadı.
Bu güvence, Rusya'nın sıralama algoritmalarını ve botları istismar etmesinden kaynaklanan potansiyel tehlikeleri bertaraf etmiyor. 2016'dan bu yana sosyal medya dezenformasyonu üzerine, bir New Yorker makalesinde ifade edildiği gibi, "Rusya Trump'ın Seçimleri Kazanmasına Nasıl Yardımcı Oldu?" şeklinde sayısız yazı kaleme alındı. Ancak söz konusu makale bu argümanı desteklemek için gerekli olan verileri analiz etmemeye karar verdi. Siyaset bilimciler gerçekten de rakamları incelediklerinde, 2016 başkanlık seçimlerinde Rusya'nın Twitter'daki etki operasyonlarının nispeten az sayıda kullanıcıya ulaştığını ve bunların çoğunun son derece partizan Cumhuriyetçiler olduğunu gördüler. Dahası, Nature Communications'da yazdıkları üzere, "Rus dış etki kampanyasına maruz kalma ile tutumlar, kutuplaşma veya oy verme davranışındaki değişiklikler arasında anlamlı bir ilişki olduğuna dair hiçbir kanıt yoktu."
Facebook'u kullanarak 2016 seçimlerinin sonucunu etkilemeye çalışan danışmanlık firması Cambridge Analytica'yı kim unutabilir? Medya çılgınlığının karakteristik özelliği olarak Guardian, "psikolojik savaş zihin bulandırma aracı" yarattığını iddia eden kişinin profilini çıkaran bir yazı yayınladı. Ancak Nature dergisinin yaptığı bir araştırma Cambridge Analytica'nın seçmenler üzerindeki etkisinin neredeyse hiç olmadığını ortaya koydu. Birleşik Krallık Bilgi Komiserliği tarafından yapılan bir denetimde de şirketin hiçbir orijinal teknoloji ya da yöntem kullanmadığı tespit edildi. Cambridge Analytica'nın tek gerçek becerisi "psikografik" büyücülük satmaktı.
Yine de medya kuruluşları, Cambridge Analytica ve Facebook'un siyasi etkisi kanıtlanmış bir gerçekmiş gibi pazarlama materyalleri yayınladı. Kurumsal pazarlama ekiplerinin kendilerinin daha iyi bir reklam hazırlaması zordu. Eğer reklamcılar Facebook'un bir seçimi etkileyebileceğini düşünüyorlarsa, elbette bunu oyuncaklarını, kıyafetlerini ya da "Başkan George W. Bush Otantik Liderlik Öğretiyor" MasterClass aboneliklerini satmak için kullanacaklardır. İronik bir şekilde, Büyük Dezenformasyon Amerikalıların yabancı propaganda tarafından kandırıldığı iddialarını ilerletmek için şirket propagandasına dayanıyor.
Belki de Guardian gibi yayın organları şu ana kadar gerçekleşmemiş ancak henüz ciddi olduğu kanıtlanabilecek bir tehdide karşı ihtiyatlı bir yaklaşım benimsiyordur. RAND Corporation ve kardeşleri, nükleer savaş senaryolarını son derece ihtiyatlı bir şekilde oynayarak insanlığa önemli katkılarda bulunmuştur. Öte yandan hesaplamalı propaganda senaryoları küçük, yeterince anlaşılmamış ve hatta var olmayan tehditlerle ilgilidir. Tehlikeleri konusunda uyarıda bulunan raporlar, kötü aktörlerin bu teknolojileri kullanma kabiliyeti bir yana, bu teknolojileri kullanma teşviki olup olmadığı gibi temel soruları görmezden gelmektedir. Bu kasıtlı körlük, nükleer caydırıcılığın ölçülü ihtiyatından çok uzaktır.
Günümüzde uzmanlar, uydurma iddiaları irdelemekten ziyade bu iddiaları yaymak için daha fazla teşvike sahipler. Prestijli kurumlar yeni, şekilsiz tehditlerden kazançlı çıkıyor, çünkü siyasi liderler tehditler hakkında bilgi almak ve sözde uzmanları çağırmak isteyeceklerdir. Akademik araştırmacılar, medyanın takdirini kazanmak için dezenformasyon tehditlerinin ölçeğini ve kapsamını sansasyonel hale getiren makaleler yayınlarlar. Haber kuruluşlarının dezenformasyon mitosunu sürdürmedeki çıkarları açıktır: Okuyucular internette gördüklerine güvenemezlerse, gerçeği öğrenmek için abone olmak zorunda kalacaklardır.
Büyük Dezenformasyon, nedensel bağlantıları tespit etmek ve tehdit aktörlerinin yeteneklerini izlemek yerine, her bir thinkfluencer'ın Neal Stephenson romanlarından bir öncekinden daha fazla sahne aşırmasıyla çıtayı yükseltiyor. Ancak, dezenformasyon operasyonlarını en son kurumsal basın bülteninin veya akademik vizyon belgesinin bağırsaklarını okuyarak değerlendirmeye devam etmemiz için çok fazla dijital kıyamet yanlış bir şekilde kehanet edildi.
Demokrasiye yönelik tehditlerle mücadele etmek demokrasi için önemlidir, ancak bu tehditler konusunda ayık olmak da önemlidir. Temelsiz felaket tellallığı kendi başına bir risk oluşturabilir. Pek çok Amerikalı seçim sonuçlarının artık bir yıldız işaretiyle birlikte geldiğine inandığında, Amerikan deneyinin bir sahtekarlığa dönüştüğünü de düşünmeye başlayabilir. Bu yıldız işareti ancak bize verilenden çok daha iyi kanıtlarla eklenmelidir.
Batı demokrasilerinin yabancı etkilerden kaynaklanan ciddi tehditlerle karşı karşıya olduğu tartışma götürmez, ancak bu operasyonların kapsamı ve doğası belirsizdir ve sürekli değişmektedir. Habercilik gerçeklikten ziyade anlatı ile ilgileniyorsa, kendi başına bir tür yanlış bilgilendirme haline gelir.
Hiç yorum yok:
Yorum Gönder