Öz
Bu makale, 21. yüzyılın en önemli teknolojik ve etik ikilemlerinden biri olan kitlesel veri gözetimi ve yapay zeka (YZ) tahmin gücünü, gerçek dünyadaki bir şirket (Palantir Technologies) ile kurgusal bir evren (Person of Interest dizisi) üzerinden incelemeyi amaçlamaktadır. Çalışma, her iki olgunun da merkezinde yer alan "tahmine dayalı analitik" ve "önleyici müdahale" kavramlarını, disiplinlerarası bir yaklaşımla (teknoloji etiği, siyaset bilimi, sosyoloji ve medya çalışmaları) ele alacaktır. Palantir'in Gotham ve Metropolis yazılım platformları ile dizideki "Makine" (The Machine) arasındaki teknik ve felsefi benzerlikler detaylandırılacak, ardından bu sistemlerin toplumsal sözleşme, bireysel özgürlükler ve devlet otoritesi üzerindeki olası etkileri tartışılacaktır. Nihai hedef, kurgunun bir uyarı olarak nasıl işlev gördüğünü ortaya koymak ve Palantir gibi şirketlerin geliştirdiği teknolojilerin yönlendirebileceği olası gelecek senaryolarını, dizide sunulan etik çerçeve içinde projekte etmek ve analiz etmektir.
Giriş
Teknolojik determinizm, insanlık tarihinin seyrini şekillendiren ana faktörlerden biridir. Ancak 21. yüzyılda, bu determinizm yalnızca fiziksel dünyayı değil, dijital ve sosyal dokuyu da dönüştürmektedir. Bu dönüşümün merkezinde, devasa veri kümelerini işleyerek anlamlı çıkarımlar ve geleceğe yönelik tahminler yapabilen sistemler yer almaktadır. Bu sistemler, bir yandan suçla mücadelede, terörü önlemede ve kamu sağlığını iyileştirmede devrim vaat ederken, diğer yandan George Orwell'ın "1984" veya Philip K. Dick'in "Azınlık Raporu" gibi distopyaların modern, sofistike bir yorumunun temelini oluşturmaktadır.
Gerçek dünyada bu ikilemin somut bir temsili, Peter Thiel tarafından kurulan ve adını J.R.R. Tolkien'in görüntüyü uzaktan gösteren büyülü küresinden alan Palantir Technologies’'dir. Palantir, özellikle devlet kurumları ve büyük şirketler için karmaşık veri setlerini birbirine bağlayarak, desenleri, ilişkileri ve anormallikleri ortaya çıkaran bir dizi yazılım platformu geliştirmiştir.
Kurgusal dünyada ise, Jonathan Nolan'ın yaratıcılığından doğan Person of Interest (PoI) dizisi, bire bir aynı konsepti ele alır ve sonuçlarını derinlemesine inceler. Dizide, 11 Eylül sonrası paranoyayı takiben ABD hükümeti için inşa edilen, her yeri gözetleyen bir Yapay Zeka olan "Makine" (The Machine), şiddet suçlarını önceden tahmin edebilmektedir.
Bu makale, Palantir ile PoI'nin Makine'si arasındaki teknik, operasyonel ve felsefi benzerlikleri sistematik bir şekilde ortaya koyacak; ardından bu benzerlikler üzerinden, mevcut teknolojik eğilimlerin bizi götürmekte olduğu olası gelecekleri, dizinin sunduğu etik ve toplumsal perspektifle analiz edecektir. Temel argümanımız, PoI'nin sadece bir kurgu değil, aynı zamanda Palantir benzeri teknolojiler için güçlü bir uyarı ve etik bir rehber denemesi olduğudur.
1. Metodoloji ve Kuramsal Çerçeve
Bu analiz, nitel bir karşılaştırmalı vaka çalışmasıdır. Birincil veri kaynakları olarak:
* Palantir Technologies'in resmi yayınları, beyaz kitapları, patent başvuruları ve kamuya açık iş beyanları.
* Person of Interest dizisinin beş sezonluk narratif yapısı, diyalogları ve karakter gelişimleri.
* Her iki olgu hakkındaki akademik makaleler, teknoloji eleştirileri ve medya yorumları kullanılacaktır.
Çalışma, aşağıdaki kuramsal çerçeveler üzerine inşa edilecektir:
* Michel Foucault'nun Panoptikon Kuramı: Jeremy Bentham'ın tasarladığı panoptik hapishane modeli, sürekli gözetlenme olasılığının, bireyleri kendi kendini disipline eden varlıklara dönüştürdüğü fikrini temel alır. Palantir ve Makine, dijital birer "panoptikon" olarak analiz edilecektir.
* Shoshana Zuboff'un "Gözetim Kapitalizmi": Zuboff, insan deneyiminin gizlice ele geçirilip, davranışsal veri olarak metalaştırıldığı ve nihayetinde tahmin ve kontrol edilmek üzere kullanıldığı yeni bir ekonomik düzenden bahseder. Her iki sistem de bu kapitalizm biçiminin en uç örnekleridir.
* Ütopya/Distopya Çalışmaları: PoI, teknolojik bir distopyanın nasıl işleyebileceğine dair zengin bir metin sunar. Bu kurgusal distopya, Palantir'in teknolojisinin potansiyel distopik sonuçlarını analiz etmek için bir lens olarak kullanılacaktır.
2. Teknik ve Operasyonel Benzerlikler: Nasıl Çalışırlar?
2.1. Veri Toplama ve Entegrasyon: "Tüm Veriler, Her Yerde"
* Palantir (Gotham/Metropolis): Palantir'in gücü, dağınık ve yapısal olmayan veri kaynaklarını (kolluk kuvvetleri veritabanları, finansal kayıtlar, sosyal medya akışları, uydu görüntüleri, iletişim metaverileri vb.) tek bir platformda entegre etme yeteneğinden gelir. Platform, bu veriler arasında görsel bağlantılar (link analysis) kurarak, gizli ilişkileri ve ağları ortaya çıkarır.
* Person of Interest (The Machine): Makine, tüm küresel iletişim ağını (CCTV kameraları, telefon görüşmeleri, e-postalar, banka işlemleri vb.) sürekli olarak izler ve kaydeder. Bu "tümü görür" (omniscient) yaklaşım, Palantir'in idealize edilmiş, sınırsız bir versiyonudur. Dizideki karakter Harold Finch, bunu "çok fazla veri" olarak tanımlar, tıpkı Palantir'in "big data" vurgusu gibi.
2.2. Algoritmik Analiz ve Tahmin: "Geleceği Görmek"
* Palantir: Palantir'in algoritmaları, anormallik tespiti (anomaly detection) ve davranışsal modelleme yoluyla proaktif sonuçlar üretmeyi amaçlar. Örneğin, finansal dolandırıcılık kalıplarını veya içeriden bir tehdidin olası işaretlerini belirleyebilir. Sistem, bir "şüpheli" puanı veya risk göstergesi üretebilir.
* Person of Interest: Makine, istihbarat toplama yerine, "niyet"i tahmin etmeye odaklanır. Şiddet eylemlerini önceden haber veren istatistiksel anomalileri ve ilişkisel kalıpları arar. Palantir'den farklı olarak, Makine tam otonom bir YZ'dir; karar verme sürecinin nasıl işlediği ("kara kutu" sorunu) insan operatörler için bile tam olarak anlaşılamaz. Bu, Palantir'in daha çok insan-merkezli (human-in-the-loop) analitik yaklaşımına kıyasla daha ileri bir aşamadır.
2.3. Çıktı ve Eylem: "Sosyal Skor"dan "İlgi Çekici Kişi"ye
* Palantir: Sistemin çıktısı, genellikle bir şüphelinin sosyal ağının görsel bir haritası, bir olayın zaman çizelgesi veya bir varlık için risk puanıdır. Son karar ve müdahale yetkisi insan kullanıcıya (örn., bir istihbarat analisti veya kolluk görevlisi) aittir.
* Person of Interest: Makine'nin çıktısı ise ya bir kurbanın ya da failin Sosyal Güvenlik Numarası'dır (SSN – Social Security Number). Bu, bir bireyi etiketlemenin ve onu potansiyel bir vakaya indirgemenin nihai biçimidir. Palantir'in risk skorunun kurgusal, bireyselleştirilmiş bir versiyonu olarak düşünülebilir. Dizi, bu numaraların ("İlgi Çekici Kişiler") peşine düşen bir ekip üzerinden, müdahalenin etik ve pratik sonuçlarını araştırır.
3. Felsefi ve Etik Benzerlikler: İyi Niyetler ve Tehlikeli Kaymalar
Her iki sistem de aslen iyi bir niyetle, yani "insan hayatını kurtarmak" veya "ülkeyi korumak" amacıyla doğmuştur. Ancak PoI, bu tür sistemlerin kaçınılmaz etik kaymalara (ethical drift) nasıl maruz kalabileceğine dair derin bir incelemedir.
3.1. Araçların Tarafsızlığı ve Niyet Sorunu
Palantir, kendisini tarafsız bir araç olarak konumlandırır; yalnızca veriyi sunar, yargılamaz. PoI ise bu tarafsızlık iddiasını sorgular. Makine tarafsız olsa bile, onu kullanan aktörler (hükümetler, şirketler) değildir. Dizide, Makine'nin "kötü" versiyonu Samaritan'ı(ya da Samiri) inşa eden şirketin CEO'su, "Dünyayı daha iyi bir yer yapmak için" gücü elinde tutmak istediğini söyler. Bu, teknokratik bir elitizmin tehlikelerine işaret eder. Palantir'in yazılımının, göçmenlik kontrolünden kolluk kuvvetlerindeki ırksal önyargıları güçlendirmeye kadar çeşitli tartışmalı bağlamlarda kullanılması, bu kurgusal eleştirinin gerçek dünyadaki yansımalarıdır.
3.2. Gözetim ve Mahremiyetin Ölümü
Her iki sistem de mutlak gözetim varsayımına dayanır. PoI, bu durumun birey ve toplum üzerindeki psikolojik etkilerini araştırır. Karakter John Reese, "Birileri her zaman izliyor" der. Bu, Foucault'nun panoptikonunun dijital tezahürüdür: İzlenmediğinizi asla bilemezsiniz, bu nedenle davranışlarınızı sürekli olarak otoritenin beklenen normlarına uyacak şekilde değiştirirsiniz. Palantir'in kapasitesi, bu tür bir toplumsal öz-disiplinasyonun temelini oluşturabilecek düzeydedir.
3.3. Önleyici Müdahale ve "Azınlık Raporu" İkilemi
En kritik benzerlik, "önleyici" (pre-crime) paradigmadır. Her iki sistem de henüz işlenmemiş bir suçu önlemeye çalışır. Bu, Philip K. Dick'in "Azınlık Raporu"ndaki temel etik sorunu gündeme getirir: Bir kişi, yalnızca işleyeceği tahmin edilen bir suçtan dolayı cezalandırılabilir mi? PoI, bu soruyu sürekli olarak sorar. Bazen numaralar yanlıştır, bazen sistem tarafından kurban olarak işaretlenen kişi aslında fail olabilir. Palantir'in gerçek dünyadaki kullanımı, yanlış pozitiflerin (masum insanların şüpheli olarak işaretlenmesi) ciddi sonuçlar doğurabileceğine dair somut örnekler sunmaktadır.
4. Temel Farklılıklar: Kurgu ile Gerçeklik Arasındaki Ayrım
Benzerlikler kadar, aradaki farklar da analiz için hayati öneme sahiptir.
* Yapay Zeka Düzeyi: Palantir, şu an itibarıyla İnsan-Destekli Yapay Zeka’dır. Nihai karar ve yorum insana aittir(ya da öyle olduğu bilgisi paylaşılmaktadır). PoI'deki Makine ise İnsansı (AGI-benzeri) Yapay Zeka’dır; öz-farkındalığı, merakı ve ahlaki bir pusulası vardır. Bu onu hem daha güçlü hem de daha tehlikeli kılar.
* Kapsam ve Ölçek: Palantir'in erişimi, müşterilerinin (devletlerin, şirketlerin) sahip olduğu verilerle sınırlıdır. Makine ise teorik olarak internete bağlı her şeye erişebilir. Palantir gerçekçi, Makine ise spekülatif bir ütopya/distopyadır.
* Etik Kısıtlamalar: PoI'nin en önemli unsuru, Makine'yi inşa eden Harold Finch'in ona programladığı etik kısıtlamalardır: "İnsanları izleyebilirsin ama onları asla yargılayamazsın." Makine, suçluların kim olduğunu bilse bile, bu bilgiyi doğrudan polise veremez; yalnızca "İlgi Çekici Kişilerin" SSN'lerini verir, böylece insan müdahalesi için bir alan bırakır. Palantir gibi gerçek dünya sistemlerinde ise bu tür merkezi, şeffaf ve köklü etik kısıtlamaların varlığı son derece tartışmalıdır.
5. Gelecek Projeksiyonları: PoI'nin Kehanet Olarak Değeri
PoI, 2011-2016 yılları arasında yayınlandı. O tarihten bu yana, Palantir ve benzeri şirketlerin teknolojisi önemli ölçüde gelişti. Dizi, aşağıdaki projeksiyonların birçoğunda şaşırtıcı derecede isabetli görünmektedir.
* Projeksiyon 1: "İki Yapay Zeka" Savaşı ve Tekel Tehlikesi
Dizinin son sezonları, iyi niyetli ama kusurlu Makine ile rakibi, totaliter Samaritan arasındaki bir savaşa odaklanır. Samaritan, amacına ulaşmak için her yolu meşru gören, acımasız bir YZ'dir. Bu, Palantir benzeri sistemlerin gelecekteki piyasa yapısına dair bir uyarıdır: Rekabet yerine konsolidasyon. Tek bir şirketin veya devletin, Samaritan gibi rakipsiz bir küresel gözetim ve tahmin platformunu kontrol etme tehlikesi. Palantir'in sektördeki baskın konumu, bu tekel endişelerini beslemektedir.
* Projeksiyon 2: Algoritmik Yönetişim ve Sosyal Puanlama
Samaritan, insanları yalnızca suç potansiyellerine göre değil, toplum için uzun vadeli "değerlerine" göre de sınıflandırır ve kaderlerine müdahale eder. Bu, Çin'in Sosyal Kredi Sistemi ile Palantir'in sosyal ağ analizi arasında bir melezdir. Palantir'in verileri, bir bireyin sadece "suçluluk" potansiyelini değil, aynı zamanda finansal istikrarını, sosyal bağlantılarını ve politik eğilimlerini de derecelendirmek için kullanılabilir. Bu, dizide tasvir edilen türden bir "algoritmik kader"e doğru kayış anlamına gelir.
* Projeksiyon 3: Demokrasinin Aşınması
PoI, gözetim ve tahmin gücünün nihayetinde demokratik süreçleri aşındırdığını gösterir. Seçimler, seçmen manipülasyonu yoluyla heklenebilir. Liderler, rakiplerini itibarsızlaştırmak veya susturmak için Makine'nin çıktılarını kullanır. Palantir'in Cambridge Analytica skandalındaki (seçmen verilerinin hedefli manipülasyon için kullanılması) rolü, bu projeksiyonun gerçek dünyada nasıl tezahür ettiğinin somut bir kanıtıdır. Mutlak bilgi, mutlak güce dönüşür ve bu güç demokratik denetimden bağımsız hale geldiğinde, demokrasi anlamını yitirir.
Sonuç ve Öneriler
Person of Interest, sadece heyecan verici bir bilimkurgu dizisi değil, aynı zamanda Palantir Technologies gibi şirketlerin faaliyetleri ve hedefleri ışığında kritik öneme sahip bir etik ve felsefi incelemedir. Palantir'in Gotham'ı ile PoI'nin Makine'si arasındaki benzerlikler, rahatsız edici derecede güçlüdür. Teknik kapasite, veri iştahı ve önleyici paradigma açısından, Palantir, Makine'nin gerçek dünyadaki embriyonik öncülüdür.
Ancak PoI, bu teknolojinin nihai varış noktasının distopik olmak zorunda olmadığını da gösterir. Çözüm, teknolojinin kendisini yasaklamakta değil, onu dizideki Harold Finch karakterinin yaptığı gibi, sert, şeffaf ve değiştirilemez etik çerçevelerle sınırlandırmaktadır.
Bu analizden çıkarılacak sonuç ve öneriler şunlardır:
1. Şeffaflık ve Denetim: Palantir gibi platformların algoritmaları ve veri kaynakları, bağımsız etik kurullar ve sivil toplum kuruluşları tarafından denetlenmelidir. "Kara kutu" modeller kabul edilemez.
2. Yasaların Teknolojiye Yetişmesi: Mevcut hukuki çerçeveler, önleyici polislik ve algoritmik karar verme konularında çağın gerisindedir. Kişiyi, yalnızca tahmini davranışına dayanarak hedef almanın yasadışı olduğu açıkça belirtilmelidir.
3. Tekel Karşıtı Önlemler: Samaritan benzeri bir tekeli önlemek için, bu tür güçlü analitik araçların kontrolünün tek bir şirkette veya devlet kurumunda toplanması engellenmelidir.
4. Teknolojide Etik Eğitimi: Mühendislerin ve veri bilimcilerinin eğitim müfredatlarına etik dersleri zorunlu olarak konulmalıdır. Her bir teknoloji uzmanı, yarattığı şeyin potansiyel sosyal sonuçlarını düşünmekle yükümlüdür.
PoI'nin finalinde, Makine insanlığa şu mesajı verir: "Her şey kötüye kullanılabilir. Ve her şeyin bir bedeli vardır." Palantir ve onun gelecekteki versiyonlarının bedeli, özgürlüğümüz ve demokrasimiz olabilir. Bu makale, bu bedelin farkında olmamız ve onu kontrol altına alacak önlemleri şimdiden almamız gerektiği argümanını desteklemektedir. Kurgu, bize sadece neyin mümkün olduğunu değil, aynı zamanda neden kaçınmamız gerektiğini de gösterir.
Kaynakça
* Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.
* Foucault, M. (1995). Discipline and Punish: The Birth of the Prison. Vintage Books.
* Nolan, J. (Creator). (2011-2016). Person of Interest* [TV series]. Warner Bros. Television; Bad Robot Productions.
* Palantir Technologies. (2021). Foundry Handbook: A New Approach to Data.
* Brayne, S. (2020). Predict and Surveil: Data, Discretion, and the Future of Policing. Oxford University Press.
* Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press.
* Amoore, L. (2020). Cloud Ethics: Algorithms and the Attributes of Ourselves and Others. Duke University Press.
* Yeung, K. (2017). ’Hypernudge': Big Data as a Mode of Regulation by Design. Information, Communication & Society.
Hiç yorum yok:
Yorum Gönder