 |
| Çin'in veri, yapay zeka ve internet gözetimini kullanarak nasıl yönetiyor |
1955 yılında bilim kurgu yazarı Isaac Asimov, tüm nüfusu temsil etmek üzere seçilen tek bir vatandaşın Multivac adlı bir bilgisayar tarafından oluşturulan sorulara yanıt verdiği bir "elektronik demokrasi" deneyi hakkında kısa bir öykü yayınladı. Makine bu verileri alıyor ve hiçbir zaman gerçekleşmesi gerekmeyen bir seçimin sonuçlarını hesaplıyordu. Asimov'un hikayesi Bloomington, Indiana'da geçiyordu, ancak bugün Multivac'ın bir benzeri Çin'de inşa ediliyor.
Philadelphia'daki Villanova Üniversitesi'nde siyaset bilimci ve Çin uzmanı olan Deborah Seligsohn, her otoriter rejim için "merkezin alt kademelerde ve toplum genelinde neler olup bittiğini anlaması gibi temel bir sorun vardır" diyor. Kamusal tartışmaya, sivil aktivizme ve seçim geri bildirimlerine izin vermezseniz, gezegendeki her beş kişiden birine ev sahipliği yapan, giderek karmaşıklaşan bir ekonomiye ve topluma sahip bir ülkeyi nasıl etkili bir şekilde yönetebilirsiniz? Gerçekten karar vermek için yeterli bilgiyi nasıl toplarsınız? Ve vatandaşlarını katılıma davet etmeyen bir hükümet, her kapının önüne polis koymadan nasıl güven yaratır ve halkın davranışlarını şekillendirir?
Çin'in 2002-2012 yılları arasındaki lideri Hu Jintao, bu sorunları mütevazı bir demokratik çözülmeye izin vererek çözmeye çalışmış ve şikayetlerin yönetici sınıfa ulaşması için yollar açmıştı. Halefi Xi Jinping ise bu eğilimi tersine çevirdi. Bunun yerine, 1,4 milyarlık bir ülkede neler olup bittiğini anlama ve bunlara yanıt verme stratejisi, insanların yaşamlarını ve davranışlarını en ince ayrıntısına kadar izlemek için gözetim, yapay zeka ve büyük verinin bir kombinasyonuna dayanıyor.
Dünya demokrasilerinin çalkantılı birkaç yıl geçirmesi, Çinli siyasi elitlerin seçmenleri dışlama konusunda kendilerini giderek daha haklı hissetmelerine neden oldu. Donald Trump'ın seçilmesi, Brexit, Avrupa'da aşırı sağ partilerin yükselişi ve Rodrigo Duterte'nin Filipinler'deki terör saltanatı gibi gelişmeler, birçok eleştirmenin demokrasinin doğasında var olan sorunlar olarak gördüğü popülizm, istikrarsızlık ve güvencesiz bir şekilde kişiselleştirilmiş liderliğin altını çiziyor.
Xi, 2012 yılında Çin Komünist Partisi'nin genel sekreteri olmasından bu yana, 2030 yılına kadar yapay zeka alanında dünya lideri olma hedefi de dahil olmak üzere, ülke için birçoğu teknolojiye dayanan bir dizi iddialı plan ortaya koydu. Xi, sansürü arttırmak ve yerel internet üzerinde tam kontrol sağlamak için "siber egemenlik" çağrısında bulundu. Mayıs ayında Çin Bilimler Akademisi'nin bir toplantısında teknolojinin "sosyalist ve modernleşmiş bir ulus inşa etme büyük hedefine" ulaşmanın anahtarı olduğunu söyledi. Ocak ayında televizyonda ulusa seslenirken, iki yanındaki kitap raflarında Das Kapital gibi klasik kitapların yanı sıra yapay zeka hakkında iki kitap da dahil olmak üzere birkaç yeni kitap bulunuyordu: Pedro Domingos'un The Master Algorithm ve Brett King'in Augmented: Akıllı Şeritte Yaşam.
Washington'daki Peterson Uluslararası Ekonomi Enstitüsü'nden Martin Chorzempa, "Hiçbir hükümet, yönetim şeklini değiştirmek için verinin gücünden yararlanma konusunda Çin hükümeti kadar iddialı ve geniş kapsamlı bir plana sahip değil" diyor. Uzaktan izleyen bazı yabancı gözlemciler bile, bu tür veriye dayalı yönetişimin giderek işlevsizleşen seçim modeline uygulanabilir bir alternatif sunup sunmadığını merak edebilir. Ancak teknoloji ve verinin bilgeliğine aşırı güvenmek kendi riskini taşır.
Diyalog yerine veri
Çinli liderler uzun zamandır hararetli tartışmalara ve yetkililere yönelik eleştirilere kapı açmadan halkın duygularına hitap etmek istemişlerdir. İmparatorluk ve modern Çin tarihinin büyük bir bölümünde, kırsal kesimden hoşnutsuz insanların Pekin'e seyahat etmesi ve halka açık "dilekçe verenler" olarak küçük gösteriler düzenlemesi geleneği vardı. Yerel yetkililer şikayetlerini anlamıyor ya da önemsemiyorsa, imparatorun daha iyi muhakeme edebileceği düşünülüyordu.
Hu Jintao döneminde Komünist Parti'nin bazı üyeleri sınırlı bir açıklığı belirli türden sorunları ortaya çıkarmanın ve düzeltmenin olası bir yolu olarak gördüler. Bloglar, yolsuzlukla mücadele eden gazeteciler, insan hakları avukatları ve yerel yolsuzluklara dikkat çeken çevrimiçi eleştirmenler, Hu'nun saltanatının sonlarına doğru kamuoyundaki tartışmaları yönlendirdi. Konu hakkında bilgi sahibi eski bir ABD yetkilisine göre Xi, görev süresinin başlarında sosyal medyadan derlenen halkın endişeleri ve rahatsızlıkları hakkında günlük brifing aldı. Son yıllarda dilekçe sahipleri, yerel yetkililerin yasadışı arazi gaspları ve kirli süt tozu gibi skandallara dikkat çekmek için başkente geldi.
Ancak polis dilekçe sahiplerinin Pekin'e ulaşmasını giderek daha fazla engelliyor. İnsan Hakları İzleme Örgütü'nün kıdemli Çin araştırmacısı Maya Wang, "Artık trenler bilet satın almak için ulusal kimlik talep ediyor, bu da yetkililerin geçmişte hükümeti protesto edenler gibi potansiyel 'sorun çıkaranları' tespit etmesini kolaylaştırıyor," diyor. "Birçok dilekçe sahibi bize tren platformlarında durdurulduklarını söyledi." Blog yazarları, aktivistler ve avukatlar da sistematik olarak susturuluyor ya da hapsediliyor, sanki veriler hükümete aynı bilgileri özgürlükle ilgili hiçbir sorun yaşamadan verebilecekmiş gibi.
Çin'de ağa bağlı teknolojiyi bir yönetim aracı olarak kullanma fikri en azından 1980'lerin ortalarına kadar uzanıyor. Harvard'lı tarihçi Julian Gewirtz'in açıkladığı gibi, "Çin hükümeti bilgi teknolojisinin günlük yaşamın bir parçası haline geldiğini gördüğünde, hem bilgi toplamak hem de kültürü kontrol etmek, Çin halkını daha 'modern' ve daha 'yönetilebilir' hale getirmek için güçlü ve yeni bir araca sahip olacağını fark etti - ki bunlar liderliğin daimi takıntıları olmuştur." Yapay zeka ve daha hızlı işlemcilerdeki ilerlemeler de dahil olmak üzere daha sonraki gelişmeler bu vizyonu daha da yakınlaştırdı.
Bildiğimiz kadarıyla Çin'de teknoloji ve yönetişimi birbirine bağlayan tek bir ana plan yok. Ancak, karar alma süreçlerini bilgilendirmek ve davranışları etkilemek için teşvik ve ceza sistemleri oluşturmak üzere insanlar ve şirketler hakkında veri toplamaya yönelik ortak bir stratejiyi paylaşan birkaç girişim var. Bu girişimler arasında Devlet Konseyi'nin 2014 tarihli "Sosyal Kredi Sistemi", 2016 tarihli Siber Güvenlik Yasası, "sosyal kredi" konusunda çeşitli yerel düzey ve özel girişim deneyleri, "akıllı şehir" planları ve Sincan'ın batı bölgesinde teknoloji odaklı polislik yer alıyor. Bunlar genellikle hükümet ve Çin'in teknoloji şirketleri arasındaki ortaklıkları içeriyor.
En geniş kapsamlı olanı Sosyal Kredi Sistemi, ancak İngilizce'de daha iyi bir çeviri "güven" veya "itibar" sistemi olabilir. Hem insanları hem de işletmeleri kapsayan hükümet planı, hedefleri arasında "devlet işlerinde samimiyetin, ticari samimiyetin ve adli güvenilirliğin inşasını" sıralıyor. ("Çin'de herkesin dolandırılmış bir teyzesi vardır. Kamu güveninin sarsılmasına yönelik meşru bir ihtiyaç var," diyor Eurasia Group danışmanlık şirketinin jeoteknoloji uygulama başkanı Paul Triolo). Bugüne kadar, çeşitli pilot uygulamalar tam olarak uygulanması beklenen 2020'de nasıl çalışabileceğini önizlese de, devam eden bir çalışmadır.
Kara listeler sistemin ilk aracı. Son beş yıldır Çin'in mahkeme sistemi, para cezalarını ödemeyen ya da yargı kararlarına uymayan kişilerin isimlerini yayınlıyor. Yeni sosyal kredi düzenlemeleri kapsamında bu liste çeşitli işletmeler ve devlet kurumları ile paylaşılıyor. Listedeki kişilerin borç almaları, uçuş rezervasyonu yapmaları ve lüks otellerde kalmaları engellendi. Çin'in ulusal ulaşım şirketleri, tren kapılarını bloke etmek ya da yolculuk sırasında kavga çıkarmak gibi davranışlarda bulunan yolcuları cezalandırmak için ek kara listeler oluşturdu; suçlular altı ya da 12 ay boyunca gelecekteki bilet alımlarından men ediliyor. Bu yılın başlarında Pekin, "dürüst olmayan" işletmelerin gelecekteki hükümet sözleşmeleri veya arazi hibeleri ile ödüllendirilmesini yasaklamak için bir dizi kara liste başlattı.
Birkaç yerel yönetim sosyal kredi "puanlarını" denedi, ancak bunların ulusal planın bir parçası olup olmayacağı belli değil. Foreign Policy'nin haberine göre, örneğin kuzeydeki Rongcheng kenti 740.000 sakininin her birine bir puan veriyor. Herkes 1,000 puanla başlıyor. Bir hayır kurumuna bağışta bulunursanız ya da bir devlet ödülü kazanırsanız puan kazanıyorsunuz; alkollü araç kullanmak ya da yaya geçidinden hızla geçmek gibi bir trafik yasasını ihlal ederseniz puan kaybediyorsunuz. Puanı iyi olan kişiler kışlık ısınma malzemelerinde indirim kazanabilir veya ipoteklerde daha iyi şartlar elde edebilir; puanı kötü olanlar ise banka kredilerine erişimlerini veya devlet işlerinde terfilerini kaybedebilirler. Belediye Binası, "erdem" sergileyen ve yüksek puanlar kazanan yerel rol modellerinin posterlerini sergiliyor.
Berlin'deki Mercator Çin Araştırmaları Enstitüsü'nden Samantha Hoffman, "Sosyal kredi fikri, insanların ve kurumların nasıl davrandığını izlemek ve yönetmektir" diyor. "Sistemin bir bölümünde bir ihlal kaydedildiğinde, sistemin diğer bölümlerinde tepkileri tetikleyebilir. Bu hem ekonomik kalkınmayı hem de sosyal yönetimi desteklemek üzere tasarlanmış bir kavramdır ve doğası gereği politiktir." Çin'in planının bazı bölümleriyle bazı paralellikler ABD'de zaten mevcut: örneğin, kötü bir kredi puanı ev kredisi almanızı engelleyebilirken, ağır bir suçtan mahkumiyet oy kullanma hakkınızı askıya alır veya iptal eder. Hoffman, "Ancak bunların hepsi aynı şekilde birbiriyle bağlantılı değil; kapsayıcı bir plan yok," diyor.
En büyük endişelerden biri, Çin'de bağımsız bir yargı olmadığı için, vatandaşların yanlış veya hatalı iddialara itiraz edebilecekleri bir başvuru yolunun olmaması. Bazıları isimlerinin mahkeme kararından sonra tebligat yapılmadan seyahat kara listelerine eklendiğini gördü. Dilekçe verenler ve araştırmacı gazeteciler başka bir sisteme göre izlenirken, uyuşturucu rehabilitasyonuna giren kişiler de farklı bir izleme sistemi tarafından takip ediliyor. İnsan Hakları İzleme Örgütü'nden Wang, "Teorik olarak uyuşturucu kullanıcısı veri tabanlarının beş veya yedi yıl sonra isimleri silmesi gerekiyor, ancak bunun gerçekleşmediği pek çok vaka gördüm" diyor. "Kendinizi bu listelerden herhangi birinden çıkarmak son derece zor."
İnternette zaman zaman patlak veren öfke patlamaları halkın kızgınlığına işaret ediyor. Geçtiğimiz günlerde bir öğrencinin babasının kredi kara listesinde yer alması nedeniyle bir üniversite tarafından geri çevrildiği haberi internette öfke ateşi yaktı. Üniversitenin kararı resmi olarak onaylanmamış ya da hükümet tarafından emredilmemişti. Aksine, okul yöneticileri yeni politikaları destekleme hevesiyle bu politikaları mantıklı bir sonuca götürmüşlerdi.
Sistemin şeffaf olmaması, Rongcheng'inki gibi deneylerin ne kadar etkili olduğunu değerlendirmeyi zorlaştırıyor. Parti 2012'den bu yana neredeyse tüm eleştirel sesleri bastırdı ve sisteme nispeten küçük yollarla bile olsa meydan okumanın riskleri arttı. Mevcut bilgiler son derece kusurlu; GSYİH büyümesinden hidroelektrik kullanımına kadar her konuda verilerin sistematik olarak tahrif edilmesi Çin hükümet istatistiklerine sirayet etmiş durumda. Avustralya Ulusal Üniversitesi araştırmacısı Borge Bakken, hükümetin önemsiz göstermek için açık bir teşviki olan resmi suç rakamlarının, tüm suç davranışlarının yüzde 2,5'i kadar azını temsil edebileceğini tahmin ediyor.
Teorik olarak, veri odaklı yönetişim bu sorunları çözmeye yardımcı olabilir - merkezi hükümetin doğrudan bilgi toplamasına izin vermek için çarpıtmaları engellemek. Örneğin, kirletici endüstrilerin cebinde olabilecek yerel yetkililere güvenmek yerine verileri merkezi yetkililere geri gönderen hava kalitesi monitörlerinin tanıtılmasının arkasındaki fikir buydu. Ancak iyi yönetişimin pek çok yönü bu tür bir doğrudan izlemeye izin vermeyecek kadar karmaşıktır ve bunun yerine aynı yerel yetkililer tarafından girilen verilere dayanır.
Ancak Çin hükümeti, dışarıdan bakanların bu sistemleri değerlendirmek için kullanabileceği performans verilerini nadiren yayınlamaktadır. Bazı şehirlerde kırmızı ışıkta geçenleri tespit edip yüzlerini kamuya açık reklam panolarına yansıtarak utandırmak ve Çin'in batısındaki Müslümanların ibadet alışkanlıklarını izlemek için kullanılan kameraları ele alalım. Bu kameraların doğruluğu halen tartışmalıdır: özellikle Han Çinlilerinin yüzleri üzerinde eğitilen yüz tanıma yazılımları Avrasyalı azınlık gruplarının üyelerini ne kadar iyi tanıyabilir? Dahası, veri toplama doğru olsa bile, hükümet bu bilgileri gelecekteki davranışları yönlendirmek veya engellemek için nasıl kullanacak? Kimin suçlu olabileceğini tahmin eden polis algoritmaları kamu denetimine açık olmadığı gibi, suçun ya da terörizmin arttığını ya da azaldığını gösterecek istatistikler de mevcut değildir. (Örneğin, Sincan'ın batı bölgesinde, mevcut bilgiler sadece polis tarafından gözaltına alınan kişi sayısının 2016'dan 2017'ye yüzde 731 artarak dramatik bir şekilde yükseldiğini gösteriyor).
 |
| Xiangyang kentinde, yüz tanıma teknolojisine bağlı kameralar, kırmızı ışıkta geçenlerin fotoğraflarını, isimleri ve kimlik numaralarıyla birlikte bir reklam panosuna yansıtıyor. |
Lowy Enstitüsü'nde kıdemli araştırmacı ve The Party kitabının yazarı Richard McGregor, "Politikaları yaratan teknoloji değil, ancak teknoloji Çin hükümetinin bireyler hakkında toplayabileceği veri türlerini büyük ölçüde genişletiyor" diyor: The Party: The Secret World of China's Communist Rulers kitabının yazarı. "Çin'de internet gerçek zamanlı, özel olarak işletilen bir dijital istihbarat servisi gibi çalışıyor."
Algoritmik polislik
Bu yılın başlarında Washington Post'ta yazan Berkeley'deki California Üniversitesi'nde iletişim profesörü olan Xiao Qiang, Çin'in verilerle güçlendirilmiş yönetimini "dijital totaliter bir devlet" olarak adlandırdı. Distopik yönler en açık şekilde batı Çin'de sergileniyor.
Sincan ("Yeni Bölge"), Uygurlar olarak bilinen Çinli Müslüman azınlığın geleneksel yurdudur. Çok sayıda Han Çinli göçmen bölgeye yerleştikçe -bazılarına göre "sömürgeleştirildikçe"- yerel Uygur nüfusuna tanınan iş ve dini fırsatlar azaldı. Bunun bir sonucu olarak, 2009 yılında başkent Urumçi'de 200 kişinin öldüğü bildirilen bir isyan da dahil olmak üzere, hem Han hem de Uygurların hedef alındığı şiddet olaylarında bir artış yaşandı. Hükümetin yükselen tansiyona yanıtı, görüş veya politika tavsiyesi almak için halka açık forumlar düzenlemek olmadı. Bunun yerine devlet, kimin gelecekte şiddet ya da meydan okuma eylemlerinde bulunmasının "muhtemel" olduğunu belirlemek için veri toplama ve algoritmalar kullanıyor.
Sincan hükümeti, çeşitli veri akışlarını değerlendiren öngörücü algoritmaları tasarlaması için özel bir şirketi görevlendirdi. Bu hesaplamaların nasıl yapıldığı ya da ağırlıklandırıldığına dair kamuya açık bir kayıt ya da hesap verebilirlik yok. Loyola Üniversitesi'nde antropolog olan ve Sincan üzerine çalışan ve sistemin inşası sırasında yayınlanan devlet ihale ilanlarını gören Rian Thum, "Bu sistem altında yaşayan insanlar genellikle kuralların ne olduğunu bile bilmiyorlar" diyor.
Batıdaki Kaşgar kentinde, ana caddelerdeki aile evlerinin ve dükkanların çoğu artık tahtalarla kapatılmış durumda ve halka açık meydanlar boş. 2013'te ziyaret ettiğimde Kaşgar'ın zaten ayrışmış bir şehir olduğu açıktı; Han ve Uygur nüfusu şehrin farklı bölgelerinde yaşıyor ve çalışıyordu. Ancak akşamları, ezan seslerinin yerel kulüplerden gelen dans müziği ve verandalarda plastik sandalyelerde geç saatlere kadar oturan yaşlı adamların sohbetleriyle karıştığı canlı ve genellikle gürültülü bir yerdi. Bugün şehir ürkütücü derecede sessiz; mahallelerdeki kamusal yaşam neredeyse yok olmuş durumda. Financial Times için çalışan gazeteci Emily Feng, Haziran ayında Kaşgar'ı ziyaret etti ve Twitter'da yeni boşalan sokakların fotoğraflarını paylaştı.
Bunun nedeni, bazı tahminlere göre Sincan'daki her 10 Uygur ve Kazak yetişkinden birinin dikenli tellerle çevrili "yeniden eğitim kamplarına" gönderilmiş olması ve serbest kalanların korku içinde olması.
Son iki yılda binlerce kontrol noktası kuruldu ve bu noktalarda yoldan geçenlerin otoyolda ilerlemek, bir camiye girmek ya da bir alışveriş merkezini ziyaret etmek için hem yüzlerini hem de ulusal kimlik kartlarını göstermeleri gerekiyor. Uygurların akıllı telefonlarına, çevrimiçi bağlantılarını ve ziyaret ettikleri web sayfalarını izleyen, devlet tarafından tasarlanmış izleme uygulamaları yüklemeleri gerekmektedir. Polis memurları düzenli olarak evleri ziyaret ederek evde kaç kişinin yaşadığı, komşularıyla ilişkilerinin nasıl olduğu, günde kaç kez namaz kıldıkları, yurtdışına seyahat edip etmedikleri ve hangi kitaplara sahip oldukları gibi konularda daha fazla veri topluyor.
Tüm bu veri akışları, bankacılık geçmişinden aile planlamasına kadar her konuda bilgi toplayan diğer kayıtlarla birlikte Sincan'ın kamu güvenliği sistemine aktarılıyor. Wang, "Bilgisayar programı bu farklı kaynaklardan gelen tüm verileri bir araya getiriyor ve yetkililer için 'tehdit' oluşturabilecek kişileri işaretliyor" diyor. Algoritma tam olarak bilinmemekle birlikte, belirli bir camiyi ziyaret etmek, çok sayıda kitaba sahip olmak, çok miktarda benzin satın almak veya yurtdışındaki kişilerden telefon veya e-posta almak gibi davranışları vurgulayabileceğine inanılıyor. Algoritmanın işaretlediği kişiler polis tarafından ziyaret ediliyor ve polis bu kişileri gözaltına alıp herhangi bir resmi suçlama olmaksızın hapse ya da yeniden eğitim kamplarına koyabiliyor.
 |
| Pekin'deki Tiananmen Meydanı'nı ziyaret edenler bir kontrol noktasında kimliklerini okutuyor. |
Almanya'nın Korntal kentindeki Avrupa Kültür ve Teoloji Okulu'nda siyaset bilimci olan Adrian Zenz, Sincan'daki azınlıkların hapsedilme oranının yetişkin nüfusun yüzde 11,5'i kadar yüksek olabileceğini hesaplıyor. Bu kamplar vatanseverliği aşılamak ve insanların dini inançlarını unutmalarını sağlamak için tasarlanmıştır. (Ölü yakma güvenlik görevlileri için yeni ihale ilanları, hükümetin bölgedeki geleneksel Müslüman defin uygulamalarını da ortadan kaldırmaya çalıştığını gösteriyor).
Sincan acımasız bir uç noktayı temsil ederken, Çin'in başka yerlerinde de vatandaşlar bazı gözetim türlerine karşı çıkmaya başlıyor. Kapalı devre TV görüntülerini internet üzerinden yayınlayan bir internet şirketi, halkın tepkisi üzerine bu yayınları durdurdu. Şangay şehri kısa süre önce, insanların sosyal kredi kayıtlarını derlemek için kullanılan yanlış bilgilere itiraz etmelerine izin veren düzenlemeler yayınladı. New York'taki CSIS'te Teknoloji Politikası Programı'nda kıdemli araştırmacı olan Samm Sacks, "Çinli internet kullanıcılarının mahremiyet talepleri artıyor" diyor. "Bu, sanıldığı gibi her şeyin serbest olduğu bir ortam değil."
Hiç yorum yok:
Yorum Gönder