Yapay zeka hayatımızı nasıl değiştirecek?

Uzmanlar aynı fikirde değil - ve bu bir sorun olabilir.

İki yeni kitapta, 45 yapay zeka uzmanı, büyük ve muhtemelen korkutucu bir şeyin eşiğinde olan bir alanla boğuşuyor.

Yapay zeka strateji oyunları oynuyor, haber makaleleri yazıyor, proteinleri katlıyor ve Go oyununda büyük ustalara yeni hamleler öğretiyor. Bazı uzmanlar sistemlerimizi daha güçlü hale getirdikçe eşi benzeri görülmemiş tehlikelerle karşı karşıya kalacağımız konusunda uyarıyor. Diğerleri ise o günün yüzyıllar uzakta olduğunu ve bugün bu konuda yapılan tahminlerin saçma olduğunu savunuyor. Ankete katılan Amerikan halkı otomasyon, veri gizliliği ve insanları öldürebilecek “kritik yapay zeka sistem arızaları” konusunda endişeli.

Böyle bir konuyla nasıl başa çıkarsınız?

İki yeni kitap da benzer bir yaklaşımı benimsiyor. John Brockman'ın editörlüğünü yaptığı ve geçen hafta Penguin Press tarafından yayınlanan Possible Minds (Olası Zihinler), aralarında Max Tegmark, Jaan Tallinn, Steven Pinker ve Stuart Russell'ın da bulunduğu 25 önemli düşünürden YZ'ye “bakmanın yolları” üzerine kısa birer makale yazmalarını istiyor.

Geçtiğimiz Kasım ayında Packt Publishing tarafından yayınlanan Architects of Intelligence (Zeka Mimarları) ise bize “YZ hakkındaki gerçekleri onu inşa eden insanlardan dinleme” sözü veriyor ve Martin Ford ile Google Brain'in kurucusu Andrew Ng, Facebook'tan Yann LeCun ve DeepMind'dan Demis Hassabis gibi saygın araştırmacılar arasında geçen 22 konuşmayı içeriyor.

İki kitap boyunca 45 araştırmacı (bazıları her ikisinde de yer alıyor) düşüncelerini anlatıyor. Neredeyse hepsi ufukta önemli bir şey olduğunu düşünüyor. Ancak bunun ne kadar önemli olduğunu tanımlamaya çalışırken farklılık gösteriyorlar - ve bunun bizi duraksatması gerekip gerekmediği konusunda derin görüş ayrılıkları yaşıyorlar.

Bu kitapların 1980'de internet hakkında yazılmış olabilecek türden kitaplar olduğu hissine kapılıyor insan - ve bu uzmanların birçoğu bize yapay zekanın internetten daha büyük bir mesele olacağını söylüyor. (McKinsey Küresel Enstitü direktörü James Manyika, Architects of Intelligence (Zekanın Mimarları) adlı kitabında yapay zekayı dönüştürücü potansiyeli açısından elektrikle karşılaştırıyor). İlgili kişiler için burada muazzam bir şey olduğunu görmek kolay, ancak potansiyel vaatlerinden hangisinin ne zaman meyve vereceğini veya bunun iyi olup olmayacağını tahmin etmeleri şaşırtıcı derecede zor.

Buradaki tahminlerden bazıları tuhaf ve bilimkurgusal; diğerleri ise tuhaf bir şekilde ölçülü. Her iki kitap da sürükleyici bir okuma sunsa da, aynı eksikliğe sahip: YZ'nin önde gelen seslerinden perspektifler alabilirler, onları bir içindekiler tablosunda yan yana listeleyebilirler, ancak bu insanları birbirleriyle konuşturamazlar.

Neredeyse herkes belirli soruların - genel YZ'nin (yani insan düzeyinde problem çözme yeteneklerine sahip YZ'nin) ne zaman gerçekleşeceği, nasıl inşa edileceği, tehlikeli olup olmadığı, hayatlarımızın nasıl değişeceği - kritik öneme sahip sorular olduğu konusunda hemfikir, ancak neredeyse diğer her şeyde, hatta temel tanımlarda bile anlaşamıyorlar. Anketler, farklı uzmanların 20 yıldan iki yüzyıla kadar herhangi bir zamanda genel yapay zekaya ulaşacağımızı tahmin ettiğini gösteriyor. Bu, bu kadar belirsiz bir alanda bile şaşırtıcı miktarda anlaşmazlık demek.

Birçoğu alanın bugünkü başarılarının temellerini atmış olan bu araştırmacıların yapay zekayı ele alış biçimleri beni hem meraklandırdı, hem büyüledi hem de endişelendirdi. Ancak bu kitapları elimden bıraktığımda çoğunlukla sabırsızlandım. Her bir önde gelen akademisyenin ayrı ayrı görüşlerinden daha fazlasına ihtiyacımız var - oturup öncelikler etrafında bir fikir birliği oluşturmaya başlamalarına ihtiyacımız var.

Çünkü yapay zeka için en kötü senaryo oldukça korkunç. Ve eğer bu senaryo doğru çıkarsa, insanlığa vereceği zarar çok büyük olabilir. Bu antolojilerde sergilenen anlaşmazlıklar sadece büyüleyici entelektüel tartışmalar değil - bugün vermemiz gereken politika kararları için çok önemli.

Herkes bir tarih ders kitabı okumamızı istiyor

Günümüzün yapay zekaları “dar yapay zeka” - genellikle insan yeteneklerini aşıyorlar, ancak yalnızca oyun oynamak veya görüntü oluşturmak gibi belirli, sınırlı alanlarda. Çeviri, okuduğunu anlama ya da araba kullanma gibi diğer alanlarda henüz insanları geçemeseler de buna giderek yaklaşıyorlar.

Pek çok kişinin beklentisi, “dar yapay zekanın” bir gün yerini “genel yapay zekaya” ya da yapay zekaya - pek çok farklı alanda insan düzeyinde problem çözme becerilerine sahip sistemlere - bırakacağı yönünde.

Architects of Intelligence ve Possible Minds kitaplarında yer alan araştırmacılardan bazıları "genel yapay zeka" inşa etmeye çalışıyor. Bazıları bunun bizi öldüreceğini düşünüyor. Bazıları ise tüm bu çabanın hayal ürünü olduğunu ya da en azından 22. yüzyıla bırakabileceğimiz bir bulmaca olduğunu düşünüyor.

Yine de bazı ortak noktalar buluyorlar: büyük ölçüde bugünkü YZ tartışmasının bir öncekinin ve ondan öncekinin bağlamından yoksun olduğundan şikayet ediyorlar. Araştırmacılar 1940'larda ve 1950'lerde YZ'nin mümkün olduğu sonucuna ilk vardıklarında, bunun ne kadar zor olacağını hafife almışlardı. Yapay genel zekanın sadece birkaç on yıl uzakta olduğuna dair iyimser tahminler vardı. Yeni araçlar ve teknolojiler yapay zeka ortamını değiştirmiş olsa da, bu geçmiş yapay zeka araştırmacılarını yapay genel zekaya yakın olduğumuzu iddia etme konusunda son derece temkinli hale getirdi.

MIT'nin Bitler ve Atomlar Merkezi direktörü Neil Gershenfeld, Possible Minds'daki makalesinde “Yapay zeka hakkındaki tartışmalar garip bir şekilde tarih dışı olmuştur” diyor. “Manik-depresif olarak tanımlansalar daha iyi olur: nasıl saydığınıza bağlı olarak, şu anda beşinci patlama ve patlama döngüsündeyiz.”

Montreal Üniversitesi'nde profesör olan Yoshua Bengio, aynı fikre ulaşan farklı bir metafor seçti. “Şu anda bir tepeye tırmanıyoruz ve hepimiz heyecanlıyız çünkü tepeye tırmanma konusunda çok ilerleme kaydettik, ancak tepenin zirvesine yaklaştıkça önümüzde yükselen bir dizi başka tepe görmeye başlayabiliriz” diyor Ford'a. Brockman, Possible Minds'ın giriş bölümünde, YZ öncüleri için “on yıllar boyunca onlarla birlikte coşku dalgalarına ve hayal kırıklığı vadilerine doğru yol aldım” diye yazıyor.

YZ araştırmalarındaki ilerlemelerin durduğu dönemler olan geçmişteki “YZ kışlarının” hayaleti, bir başkasına doğru gittiğimizi düşünseler de düşünmeseler de, denemecilerin çoğunu rahatsız ediyor. MIT Bilgisayar Bilimleri ve Yapay Zeka Laboratuvarı Direktörü Daniela Rus, Ford kendisine YZ hakkında soru sorduğunda “60 yılı aşkın bir süredir YZ sorunları üzerinde çalışıyoruz” diyor. “Eğer bu alanın kurucuları bugün büyük ilerlemeler olarak lanse ettiğimiz şeyleri görebilselerdi, çok büyük hayal kırıklığına uğrarlardı çünkü çok fazla ilerleme kaydetmemişiz gibi görünüyor.”

YZ konusunda daha iyimser olanlar arasında bile, beklentilerin çok yükseldiği ve bu beklentiler karşılanmazsa geri tepme - daha az fon, araştırmacıların ve ilginin göçü - olabileceği korkusu var.

Google Brain ve Coursera'nın kurucu ortağı Andrew Ng, Ford'a “Başka bir yapay zeka kışı olacağını sanmıyorum,” diyor. “Ancak AGI ile ilgili beklentilerin sıfırlanması gerektiğini düşünüyorum. Daha önceki yapay zeka kışlarında, sonuçta gerçekten işe yaramayan teknolojiler hakkında çok fazla abartı vardı. ... Bence derin öğrenmenin yükselişi ne yazık ki AGI'ye ulaşmanın kesin bir yolu olduğuna dair yanlış umutlar ve hayallerle birleşti ve bence herkesin bu konudaki beklentilerini sıfırlamak çok yararlı olacaktır.”

Alan Turing ve John Von Neumann yapay zekanın potansiyelini ilk tahmin edenlerden bazılarıydı. Hatalarımızın bizi yok etme potansiyeline sahip olup olmadığı sorusu da dahil olmak üzere bugün gündeme gelen birçok soru onların da üzerinde düşündüğü sorulardır. Her iki kitabın en iyi bölümleri arasında, yazarların bugünün başarılarını ve endişelerini, bu aydınların çoğunun 30 yıllık kariyerleri ve alanlarının 70 yıllık tarihi bağlamına yerleştirmek için harcadıkları uzun bölümler yer alıyor.

Endişeleri bir bağlama oturtmak onları silikleştirmeye yetmiyor. YZ riskleri konusunda endişelenmemiz gerektiği fikrine şüpheyle yaklaşan LeCun, yine de Ford'a bir gün genel YZ geliştireceğimizi ve bunun beraberinde getireceği tüm sonuçları vurguluyor.

Ng, YZ'nin artık endüstriye, araştırma laboratuvarlarına ve üniversitelere o kadar derinlemesine yerleştiğine dikkat çekiyor ki, geçmiş YZ kışlarına neden olan hayal kırıklığı kaynaklı kolektif ilgisizlik pek olası görünmüyor. Şu ana kadar keşfettiğimiz tekniklerin sonuçlarını tam olarak keşfetmek bile uzun yıllar alacak ve bu süre zarfında ihtiyaç duyulması halinde yeni paradigmalar ortaya çıkabilecektir.

YZ üzerinde çalışan insanlar, o gün uzak olsa bile, büyük ölçüde bir gün YZ'ye ulaşacağımıza inanıyor. Ancak hepsi bunun doğru olduğundan emin değil. Singulatarian iyimserliğiyle ünlü Google'dan Ray Kurzweil, kendi bölümünde o günün 2029'da olduğunda ısrar ediyor - ve Ford'a “benim çok muhafazakar olduğumu düşünen ve sayıları giderek artan bir grup insan var” diyor.

En derin anlaşmazlıklar iki konuda yaşanıyor: zaman çizelgeleri ve tehlikeler

Her iki kitapta da yer alan uzmanların YZ'ye ve ne anlama geldiğine dair olağanüstü farklı vizyonları var.

Bir bilgisayarın bir konuşmayı sürdürüp sürdüremeyeceğini ve izleyenleri insan olduğuna ikna edip edemeyeceğini kontrol eden Turing Testi'nin, bir YZ'nin insan düzeyinde becerilere sahip olup olmadığını değerlendirmek için kullanışlılığı konusunda geniş ölçüde farklı duruşlar sergiliyorlar. En son gelişmelerin arkasındaki YZ yaklaşımı olan sinir ağlarından ne kadar etkilendikleri ve baskın derin öğrenme YZ paradigmasının bizi ne kadar ileri götüreceğine inandıkları konusunda farklılık göstermektedirler. Onların farklı vizyonlarını, her bir pozisyonun nüanslarının hakkını verecek şekilde özetlemek zor.

Ancak birkaç belirgin büyük anlaşmazlık var. Bunlardan ilki yapay genel zekanın ne zaman gerçekleşeceği; bazı uzmanlar bunun uzak olduğundan emin, bazıları korkutucu derecede yakın olduğundan emin ve birçoğu da bu konuda kararlı olmak istemiyor - belki de YZ ilerlemesinde bir sonraki tepeyi aştığımızda hangi zorlukların ortaya çıkacağını görmek için bekliyorlar. Oldukça olgun bir alanda bu kadar derin bir anlaşmazlık görmek alışılmadık bir durum; bu durum, yapay genel zeka üzerinde aktif olarak çalışan insanların bile ne beklemeleri gerektiği konusunda hala ne kadar anlaşamadıklarını gösteriyor.

Kurzweil, 2029 öngörüsüyle başı çekmektedir ve son derece hızlı teknolojik ilerleme tahminleriyle tanınmaktadır. Possible Minds'da yer alan MIT'den Max Tegmark öyle değil, ancak onun tahminleri sadece biraz daha muhafazakar. Yakın zamanda yapılan bir ankette “YZ sistemleri muhtemelen (yüzde 50‘nin üzerinde) 2040-50’ye kadar ve çok büyük olasılıkla (yüzde 90 olasılıkla) 2075'e kadar genel insan becerisine ulaşacak” bulgusunu aktarıyor.

İkinci anlaşmazlık ise YZ'nin insanlığı yok etmesi gibi ciddi bir tehlikenin olup olmadığı konusunda yaşanıyor ki bu endişe YZ'deki son gelişmeler ışığında giderek daha belirgin hale geliyor. Her iki kitapta da yer alan UC Berkeley'den Stuart Russell, bunun olacağına inanıyor. Kendisine Oxford'dan Nick Bostrom, Tegmark ve Skype milyarderi ve Varoluşsal Risk Çalışmaları Merkezi kurucusu Jaan Tallinn katılıyor. YZ riskine ilişkin endişeler Facebook, Google Brain ve DeepMind'a bağlı araştırmacılar tarafından daha az dile getiriliyor.

Norbert Wiener'in 1950 tarihli kitabı The Human Use of Human Beings, Possible Minds'a ilham veren metin, YZ güvenlik endişelerinin özündeki argümanla uğraşan ilk metinler arasındadır: yani, gelişmiş bir YZ'nin “gerçekten ne demek istediğimizi anlayacağı” gerçeği, insanların onayladığı yaklaşımları güvenilir bir şekilde benimsemesine neden olmayacaktır. “Öğrenebilen ve öğrendiklerine dayanarak karar verebilen bir YZ, hiçbir şekilde bizim vermemiz gereken ya da bizim için kabul edilebilir olan kararları vermek zorunda olmayacaktır” uyarısında bulundu.

Steven Pinker ise Possible Minds'daki makalesinin önemli bir bölümünü bu fikri alaya almaya ayırıyor. “Bu senaryolar kendi kendini çürütüyor,” diye yazıyor ve bir yapay zekanın “temel yanlış anlama hatalarına dayanarak tahribata yol açacak kadar embesil” olduğu varsayımına dayandıklarını savunuyor.

Yazarlar arasındaki bölünmeler, alandaki bölünmeleri yansıtıyor. Tallinn, Possible Minds'daki makalesinde, “2015 yılında iki büyük uluslararası YZ konferansında yayın yapan YZ araştırmacıları arasında yakın zamanda yapılan bir anket, yüzde 40‘ının artık yüksek düzeyde gelişmiş YZ'den kaynaklanan risklerin ya ’önemli bir sorun‘ ya da ’alandaki en önemli sorunlar arasında' olduğunu düşündüğünü ortaya koydu” diye yazıyor.

Diğer yüzde 60 da aynı fikirde olana kadar YZ güvenliği konusunda endişelenmek için beklemeli miyiz? “Kendinizi kalkmak üzere olan bir uçakta otururken hayal edin” diye yazıyor. “Birdenbire uzmanların yüzde 40'ının uçakta bir bomba olduğuna inandığına dair bir duyuru yapılıyor. Bu noktada, izlenecek yol zaten bellidir ve orada oturup geri kalan yüzde 60'ın gelmesini beklemek bunun bir parçası değildir.”

Bu anlaşmazlığı çözmeye çalışırken kendimi en çok her iki kitabın formatında hayal kırıklığına uğramış buldum; araştırmacıların ve bilim insanlarının zihinlerine pencere üstüne pencere açıyor gibi görünüyorlar, sadece kat planlarını çizmeyi ve tüm bu pencerelerden manzaraların nasıl aynı hizada olmadığını fark etmeyi okuyucuya bırakıyorlar.

Architects of Intelligence'nın formatı - Ford ve uzmanlar arasında yapılan bir dizi röportaj - en azından Ford'un, bir uzman bir bölüm önce bir diğerinin saçma bulup reddettiği bir iddiada bulunduğunda bunu takip etmesine izin veriyor. Ancak bu bize onların nasıl aynı fikirde olmadıklarına dair sadece yüzeysel bir anlayış kazandırıyor. Kurzweil, yapay genel zekanın yüz yıl uzakta olduğunu iddia edenlerin üstel büyümenin gücünü anlamadıklarını, “fazla doğrusal” düşündüklerini düşünüyor. Bu, bu anlaşmazlıkların kökenine dair biraz daha fazla fikir veriyor. Ama elimizdeki tek şey bu.

Bir alan nasıl olur da önde gelen akademisyenlerinin kritik dönüm noktasının önümüzdeki 10 yıl ya da üç yüzyıl içinde bir noktada gerçekleşmesini beklediği bir noktaya gelebilir? Belki de bu durum sanıldığı kadar şaşırtıcı değildir - Manhattan Projesi'nden on yıl önce bilim insanları arasında yapılan bir ankette, nükleer fisyonun ilk olarak ne zaman başarılacağı sorulsaydı, bu kadar geniş bir tahmin yelpazesi ortaya çıkabilirdi.

Ancak bu kadar belirsizlik güven verici değil ve nükleer çağın şafağına yapılan benzetme de öyle. Burada riskler son derece yüksek ve okuyucu Possible Minds and Architects of Intelligence'tan, hepsi aynı fikirde olan çekirdek bir uzman grubu olduğu hissiyle ayrılmıyor.

En iyi ihtimalle, aynı fili avuçlayan birçok kör adam görüyormuşuz gibi hissediyoruz. En kötüsü de, iş arkadaşlarının yüksek belirsizlik ve farklı beklentilerini endişe verici bir işaret olarak okumayı başaramayarak ölümcül bir hatanın içine doğru yürümelerini izliyoruz.

https://tinyurl.com/UskudarCevresi240604