Yapay Zeka ve İnsanlığın Geleceği

Yapay zeka hakkında düşünmek ve öğrenmek, fisyon zincirleme reaksiyonunun zihinsel eşdeğeridir. Sorular gerçekten çok hızlı bir şekilde büyüyor.

En bilindik endişeler kısa vadeli etkiler etrafında dönüyor: ekonomik üretkenlik, sağlık hizmetleri, üretim, eğitim, iklim değişikliği gibi küresel zorlukları çözme fırsatları ve diğer tarafta kitlesel işsizlik, dezenformasyon, katil robotlar ve ekonomik ve stratejik güç yoğunlaşmaları riskleri.

Bunların her biri kritik öneme sahiptir, ancak bunlar yalnızca en acil hususlardır. Daha derindeki mesele, artık zeka üstünlüğüne sahip olmadığımız bir dünyada anlamlı ve tatmin edici hayatlar yaşama kapasitemizdir.

İnsanlık var olduğu sürece, zeka üzerinde etkili bir tekele sahip olduk. Bildiğimiz kadarıyla evrendeki en zeki varlıklar bizdik.

En asil haliyle, evrimimizin bu olağanüstü armağanı bizi keşfetmeye, keşfetmeye ve genişlemeye itiyor. Geçtiğimiz yaklaşık 50.000 yıl boyunca -10.000 yıl önce hızlanan ve yaklaşık 300 yıl öncesinden itibaren daha da dik bir şekilde- bilim, felsefe, teoloji, mühendislik, hikaye anlatımı, sanat, teknoloji ve kültürden oluşan geniş bir entelektüel imparatorluk inşa ettik.

Eğer uygarlıklarımızın -ve çeşitli şekillerde bireysel yaşamlarımızın- bir anlamı varsa, bu anlam bu sürekli keşif, keşif ve entelektüel genişlemede bulunur.

Zeka tüm bunların hammaddesidir. Peki ama artık evrendeki en zeki varlıklar olmadığımızda ne olacak? Bizim yapabildiğimiz her şeyi yapabilecek bir yapay zeka için kullanılan terim olan yapay genel zekaya (AGI) henüz ulaşamadık. Ancak bunu yapmamızın önünde prensipte bir engel yok ve bizi kısa sürede büyüklük sıralamasında geride bırakmaması için de bir neden yok.

Ekonomik eşitlik sorunlarını evrensel temel gelir gibi bir şeyle çözsek ve 'ücretli iş' kavramlarını 'anlamlı faaliyet' ile değiştirsek bile, çabalamak, gelişmek ve rekabet etmek için evrimleştiğimiz göz önüne alındığında, hayatlarımızı anlamlı bulduğumuz şekillerde nasıl geçireceğiz?

Bir YGZ ya da YSZ(artificial superintelligence - yapay süper zeka) en derin sorularımızı yanıtlayabilse ve tüm sorunlarımızı çözebilse, insan doğası için ortaya çıkan çatışmayı hayal edin. Çözümlerin elimize tutuşturulmasından ne kadar tatmin oluruz? Daha da kötüsü, bir cevap gösterildiğinde ve bunu anlayamayacak kadar aptal olduğumuzu fark ettiğimizde yaşayacağımız teselli duygusunu hayal edin.

Eninde sonunda, uygarlığımızın zeka çıktısından artık sorumlu olmadığımız ihtimaliyle yüzleşeceğiz. Eğer bu spekülatif görünüyorsa, aslında büyük dil modelleriyle zaten bu yönde ilerliyoruz. ChatGPT'den, örneğin Avustralya Merkez Bankası'nın faiz oranlarını daha da artırıp artırmaması gerektiği konusunda 800 kelimelik bir fikir makalesi yazmasını isteyin. İyi bir iş çıkarır - parlak bir iş değil, ama saf bir editör muhtemelen yayınlar ve kesinlikle mantıklı bir akşam yemeği partisi sohbeti için temel olarak kullanılabilir. Bunu düzenleyebilir, katıldığınız kısımları seçebilir ve böylece kendinize bunların konuyla ilgili görüşleriniz olduğunu söyleyebilirsiniz. Ama değiller; bunlar ChatGPT'nin görüşleri ve siz de onlarla birlikte hareket ediyorsunuz.

Üretken yapay zeka inanılmaz bir başarı ve değerli bir kaynak, ancak bu araçların bizi nereye götürebileceği konusunda net olmalıyız.

Bu YZ'nin yanlış gitmesiyle ilgili değil. Elbette, YZ'nin hizalanması konusunda daha fazla çalışma yapılması için acil bir ihtiyaç var, böylece güçlü YZ'lere kulağa mantıklı gelen ancak ne istediğimizi asla tam olarak tanımlayamadığımız için korkunç bir şekilde yanlış giden talimatlar vermeyiz. YZ öncüsü Stuart Russell bunu Kral Midas hikayesine benzetiyor. Her şeye dokunarak onu altına dönüştürmek, bir elma yemeye ya da çocuklarınıza sarılmaya çalışana kadar kulağa harika geliyor.

Ancak uyumun ötesinde, her şeyi doğru yapsak bile nerede kaldığımız sorusu yatıyor. Kendimizle ne yapacağız?

İyimser yorumcular, insan fırsatlarının yalnızca genişleyeceğini savunuyor. Ne de olsa geçmişte bizi gereksiz kılmak yerine geliştiren büyük atılımlar oldu. Ancak YGZ kategorik olarak farklıdır.

Atlar ve makineler kaslarımızın yerini aldı. Fabrikalar örgütlü fiziksel emeğimizin yerini aldı. Hesap makineleri ve bilgisayarlar gibi araçlar belirli zihinsel görevlerin yerini alırken, iletişim teknolojisi işbirliğimizi ve dolayısıyla kolektif zekamızı geliştirdi. Dar YZ bizi rutin görevlerden kurtararak, daha üst düzey stratejik hedeflere odaklanmamızı sağlayarak ve üretkenliğimizi artırarak bizi geliştirebilir. Ancak YGZ ile insan zekasının tüm uygulamalarının yerini alabilecek bir şeyden bahsediyoruz. Planlama yapabilen, strateji geliştirebilen, organize olabilen, çok üst düzey yönelimleri takip edebilen ve hatta kendi hedeflerini oluşturabilen bir model, bize kendi başımıza yapabileceğimiz sürekli azalan bir görevler dizisi bırakacaktır.

Yaşamın Geleceği Enstitüsü'nün kurucularından fizikçi Max Tegmark, yapay genel zekâyı yükselen bir okyanusa benzetiyor: İnsanların entelektüel görevleri küçülen kara parçalarını kaplıyor ve sonunda zekâmızın tüneyebileceği küçük adalar haline geliyor.

Elimizde kalacak olan tek şey insanlığımız. İstediğimiz şeyi yapmak için daha fazla zaman harcama özgürlüğü bir hediye olmalıdır. Ebeveyn, eş, aile üyesi, arkadaş, sosyal katılımcı olarak daha fazla zaman geçirebiliriz - tanımı gereği sadece insanların diğer insanlara tam olarak verebileceği şeyler. Bize anlam katan tek şeyin ücretli iş yükü olması gerekmez; hatta bu olmadan dağılmamız üzücü olurdu.

Aynı şekilde, avlanıp toplayıcılık yaptığımızdan beri hayatımızı hep kazandık; dolayısıyla kıtlık sonrası, iş sonrası bir dünyaya geçiş, eşi benzeri olmayan bir sosyal deney olacaktır. Birbirimize karşı insanlığımızı kullanmak yeterli olmaya devam edebilir, ancak insan ırkının değerli bir üyesi olmanın ne anlama geldiğine dair geleneklerimizi ve inançlarımızı radikal bir şekilde yeniden yönlendirmemiz gerekecek. (İnsanlığımız bile aşınan bir kara kütlesi olabilir; üretken yapay zekanın yaratıcı güçleri ve empatiyi simüle etme yeteneği sadece birkaç yıl önce tahmin etmediğimiz seviyelere ulaştı bile).

Gerçek bir olasılık, yapay zeka tarafından geride bırakılmamak için beynimizi yapay zeka ile entegre etmemizdir. Elon Musk'ın Neuralink'i bu alandaki en bilinen girişim, ancak devam eden pek çok başka çalışma da var. Belki de insanlar YZ ile birleşerek ona ayak uyduracaklar, ancak bu da insan olmaktan hangi noktada uzaklaştığımız sorusunu gündeme getiriyor.

Belki de bir transhümanist ya da teknoloji fütüristisiniz ve dünyayı devralan zekanın tanınabilir bir şekilde insan ya da hatta biyolojik olup olmadığını umursamıyorsunuz. Ne fark eder ki? Belki de bu büyük donanımı silikona miras bırakmalı ve sadece diğer yüzeylerde zekanın gerçek tanrı benzeri gücünü ateşleyen bir kıvılcım olmamız gerektiğini kabul etmeliyiz.

Bu riskli bir durum. Gelecekteki bir süper zekanın bizim değerlerimizi ve hedeflerimizi ileriye taşıyacağını varsayamayız, tabii eğer onu bu şekilde inşa etmek için çok büyük bir özen göstermezsek. Elbette, insani değerler ve hedefler çoğu zaman mükemmel olmaktan uzaktır, ancak tarihimiz boyunca insan hakları gibi ilkelerin birikimi yoluyla gelişmişlerdir. Bazen bunu kabul etmekten hoşlanmasak da, insanlığın öyküsü bir ilerleme öyküsüdür.

Biyolojik olmayan torunlarımızın içsel bir öznel deneyime -bilimsel bir teori karşısında hayrete düşmemizi ya da iddialı bir görevde ter dökerek başarıya ulaştığımız için başarı hissi duymamızı sağlayan bilinç denen tuhaf şeye- sahip olmadığını düşünün. Ya evrenin en derin bilmecelerini çözselerdi ama yaptıkları şey karşısında hiçbir merak duygusu hissetmeselerdi?

Geleceğin uzun vadesinde YZ'nin insanlığın çıkarlarına hizmet etmesi gerekiyor, tam tersi değil. İnsanlar sonsuza kadar burada olmayacaklar, ancak zekanın geleceğinin, binlerce yıl boyunca inşa ettiğimiz değerlerin ve kazandığımız bilgeliğin radikal bir ihlalini değil, kontrollü bir evrimini temsil ettiğinden emin olalım.

Yapabileceğimiz çok şey var. Örneğin, ticari ya da jeopolitik baskının güçlü yapay zekalar geliştirmede pervasız bir aceleciliğe yol açmasına izin vermekten kaçınmalıyız. YZ'lere kendi hedeflerini oluşturma veya bizim adımıza çok genel hedefleri takip etme gücü verme olasılığını çok dikkatli bir şekilde düşünmeli ve tartışmalıyız. Bir YZ'ye 'git ve bana bir yığın para kazan' talimatı vermek iyi sonuç vermeyecektir. Bir noktada, tartışma zekâdan ziyade eylemlilik ve dünyada gerçek sonuçlar elde etme becerisi ile ilgili hale gelecektir.

Gelecekteki bir YGZ'nin bizi geride bırakmamasını sağlamak, muhtemelen teknolojinin sonuçları üzerinde düşünürken ve onu insani değerlere ve özlemlere bağlı tutmanın yollarını bulurken, gelişime -geçici olarak bile olsa- bazı sınırlamalar getirmek anlamına gelecektir. Sinir ağları öncüsü Geoffrey Hinton'un da belirttiği gibi, 'Daha az zeki şeylerin daha büyük zekaya sahip şeyleri kontrol etmesine dair iyi bir sicil yok.

Apple'ın kurucu ortağı Steve Wozniak'ın bir zamanlar tahmin ettiği gibi, yapay zekanın insanlara evcil hayvan gibi davrandığı bir geleceği kesinlikle beklemiyorum.

Bunu akılda tutarak, bu yazı, devam eden ve hayati önem taşıyan bu tartışmanın bir parçası olarak önümüzdeki aylarda yapay zekayı inceleyecek olan yeni bir Strategist serisinin ilk yazısıdır.

ASPI bir ulusal güvenlik ve uluslararası politika düşünce kuruluşudur, bu nedenle güvenlik ve uluslararası boyutlara odaklanacağız. Ancak burada özetlediğim konu, küresel geleceğimiz ve anlamlı hayatlar yaşamaya devam etme becerimiz olan nihai insani güvenlik meselesidir. Bu, şu anda karşı karşıya olduğumuz ve muhtemelen şimdiye kadar karşı karşıya kaldığımız en büyük sorundur.

Kaynak: https://tinyurl.com/2p8az83v