Bilgisayarlar Neden Kendilerini Daha Akıllı Hale Getiremeyecek?

"Tekillik" için korkuyor ve özlem duyuyoruz. Oysa muhtemelen hiçbir zaman gelmeyecek.

On birinci yüzyılda Canterbury'li Aziz Anselm, Tanrı'nın varlığına dair kabaca şöyle bir argüman öne sürmüştür: Tanrı, tanımı gereği, hayal edebileceğimiz en büyük varlıktır; var olmayan bir Tanrı, var olan bir Tanrı kadar büyük değildir; ergo, Tanrı var olmalıdır. Bu, ontolojik argüman olarak bilinir ve bunu ikna edici bulan o kadar çok insan vardır ki, yaklaşık bin yıl sonra bile hala tartışılmaktadır. Ontolojik argümanı eleştiren bazı kişiler, argümanın esasen bir varlığı tanımladığını ve tanımların bu şekilde işlemediğini iddia etmektedir.

İnsanların var olduğunu iddia etmeye çalıştıkları tek varlık Tanrı değildir. Matematikçi Irving John Good 1965 yılında "Ultra zeki bir makine, ne kadar zeki olursa olsun herhangi bir insanın tüm entelektüel faaliyetlerini aşabilen bir makine olarak tanımlansın" diye yazmıştır:

Makinelerin tasarımı bu entelektüel faaliyetlerden biri olduğundan, ultra zeki bir makine daha da iyi makineler tasarlayabilir; o zaman tartışmasız bir "zeka patlaması" olur ve insan zekası çok geride kalır. Dolayısıyla ilk ultra zeki makine, makinenin bize onu nasıl kontrol altında tutacağımızı söyleyecek kadar uysal olması koşuluyla, insanın yapması gereken son icattır.

Zeka patlaması fikri 1993 yılında yazar ve bilgisayar bilimcisi Vernor Vinge tarafından "tekillik" olarak adlandırılarak yeniden canlandırıldı ve o zamandan beri bu fikir teknoloji uzmanları ve filozoflar arasında popülerlik kazandı. Nick Bostrom'un "Süper Zeka" kitabı gibi kitaplar: Yollar, Tehlikeler, Stratejiler," Max Tegmark'ın "Yaşam 3.0: Yapay Zeka Çağında İnsan Olmak" ve Stuart Russell'ın "İnsan Uyumlu: Yapay Zeka ve Kontrol Sorunu" adlı kitaplarının hepsi, bir yapay zeka programının kendisinin geliştirilmiş bir versiyonunu tekrar tekrar tasarladığı "özyinelemeli kendini geliştirme" senaryolarını tanımlamaktadır.

Good'un ve Anselm'in argümanlarının ortak bir noktası olduğuna inanıyorum; bu da her iki durumda da işin çoğunun ilk tanımlar tarafından yapılıyor olmasıdır. Bu tanımlar yüzeysel olarak makul görünmektedir, bu yüzden genellikle görünüşte kabul edilirler, ancak daha yakından incelenmeyi hak ederler. Good'un argümanının örtük varsayımlarını ne kadar çok irdelersek, zeka patlaması fikrinin o kadar az akla yatkın hale geleceğini düşünüyorum.

Özyinelemeli kişisel gelişim insanlar için neye benzeyebilir? Kolaylık olması açısından, insan zekasını I.Q. terimleriyle tanımlayacağız, I.Q. testini onaylamak için değil, I.Q. zekanın tek bir sayı tarafından faydalı bir şekilde yakalanabileceği fikrini temsil ettiği için, bu fikir bir zeka patlamasının savunucuları tarafından yapılan varsayımlardan biridir. Bu durumda, özyinelemeli kişisel gelişim şöyle görünecektir: I.Q.'su diyelim ki 300 olan bir kişi olduğunda, bu kişinin çözebileceği sorunlardan biri 300 I.Q.'lu bir kişiyi 350 I.Q.'lu bir kişiye nasıl dönüştüreceğidir. Ve sonra 350 IQ'ya sahip bir kişi, 350 IQ'ya sahip bir kişiyi 400 IQ'ya sahip bir kişiye dönüştürmek gibi daha zor bir sorunu çözebilecektir.

Zekanın bu şekilde işlediğini düşünmek için herhangi bir nedenimiz var mı? Ben öyle olduğuna inanmıyorum. Örneğin, IQ'su 130 olan pek çok insan var ve IQ'su 160 olan daha az sayıda insan var. Bunların hiçbiri I.Q.'su 70 olan birinin zekasını, daha kolay bir iş olduğu ima edilen 100'e çıkaramamıştır. Hiçbiri, zekâları IQ testleriyle ölçülemeyecek kadar düşük olduğu düşünülen hayvanların zekâsını bile artıramamıştır. Eğer birinin IQ'sunu artırmak bir dizi matematik bulmacasını çözmek gibi bir faaliyet olsaydı, problemlerin çözülmesinin daha kolay olduğu düşük uçta bunun başarılı örneklerini görmemiz gerekirdi. Ancak bunun gerçekleştiğine dair güçlü kanıtlar görmüyoruz.

Belki de bunun nedeni şu anda gerekli eşikten çok uzakta olmamızdır; belki de 300 I.Q. herhangi birinin zekasını artırmak için gereken minimum değerdir. Ancak, bu doğru olsa bile, sonsuz özyinelemeli kişisel gelişimin olası olduğuna inanmak için hala iyi bir nedenimiz yok. Örneğin, 300 IQ'ya sahip bir kişinin yapabileceği en iyi şeyin, başka bir kişinin IQ'sunu 200'e çıkarmak olması tamamen mümkündür. Bu da 300 IQ'ya sahip bir kişinin etrafındaki herkese 200 IQ vermesine olanak tanır ki bu da açıkçası inanılmaz bir başarı olur. Ancak bu bizi yine de bir platoda bırakacaktır; özyinelemeli kişisel gelişim ve zeka patlaması olmayacaktır.

I.B.M. araştırma mühendisi Emerson Pugh, "Eğer insan beyni onu anlayabileceğimiz kadar basit olsaydı, biz de anlayamayacağımız kadar basit olurduk" sözüyle tanınır. Bu ifade sezgisel olarak mantıklıdır, ancak daha da önemlisi, bunu desteklemek için somut bir örneğe işaret edebiliriz: mikroskobik yuvarlak solucan C. elegans. Muhtemelen tarihteki en iyi anlaşılmış organizmalardan biridir; bilim insanları genomunu diziledi ve vücudundaki dokuz yüz elli dokuz somatik hücrenin her birini meydana getiren hücre bölünmelerinin soyunu biliyor ve üç yüz iki nöronu arasındaki her bağlantıyı haritalandırdı. Ancak hala davranışlarını tam olarak anlayabilmiş değiller. İnsan beyninde ortalama seksen altı milyar nöron olduğu tahmin ediliyor ve C. elegans'ın üç yüz ikisinde neler olup bittiğini anlamak için muhtemelen bunların çoğuna ihtiyacımız olacak; bu oran kendi içimizde neler olup bittiğini anlama ihtimalimiz için iyiye işaret değil.

Zeka patlamasının bazı savunucuları, sistemin nasıl çalıştığını tam olarak anlamadan bir sistemin zekasını artırmanın mümkün olduğunu savunuyor. İnsan beyni ya da yapay zeka programı gibi zeki sistemlerin bir ya da daha fazla gizli "zeka düğmesi" olduğunu ve bizim sadece bu düğmeleri bulacak kadar zeki olmamız gerektiğini ima ediyorlar. Şu anda bu düğmeler için çok fazla iyi adaya sahip olduğumuzdan emin değilim, bu nedenle bu fikrin makullüğünü değerlendirmek zor. Yapay zekayı "geliştirmenin" belki de en yaygın önerilen yolu, bir programın üzerinde çalıştığı donanımın hızını artırmaktır. Bazıları, bir insan kadar zeki bir yazılım yarattığımızda, yazılımı daha hızlı bir bilgisayarda çalıştırmanın etkili bir şekilde insanüstü zeka yaratacağını söylemiştir. Bu bir zeka patlamasına yol açar mı?

Ortalama bir insan bilgisayar programcısı kadar zeki ve yetenekli bir yapay zeka programımız olduğunu düşünelim. Şimdi bilgisayarın hızını yüz kat arttırdığımızı ve programın bir yıl boyunca çalışmasına izin verdiğimizi varsayalım. Bu, ortalama bir insanı yüz yıl boyunca bir odaya kapatıp, verilen programlama görevi üzerinde çalışmak dışında hiçbir şey yapmamaya eşdeğer olacaktır. Birçok insan bunu cehennem azabı gibi bir hapis cezası olarak değerlendirecektir, ancak bu senaryonun amaçları doğrultusunda yapay zekanın aynı şekilde hissetmediğini düşünelim. Yapay zekanın bir insanın arzu edilen tüm özelliklerine sahip olduğunu ancak yenilik ihtiyacı ya da kendi seçimlerini yapma arzusu gibi bu senaryoda engel teşkil edebilecek diğer özelliklerden hiçbirine sahip olmadığını varsayacağız. (Bunun makul bir varsayım olduğu benim için açık değil, ancak bu soruyu başka bir zamana bırakabiliriz).

Şimdi elimizde, tek bir görev için yüz insan yılı harcayan, insana eşdeğer bir yapay zeka var. Ne tür sonuçlar elde etmesini bekleyebiliriz? Bu yapay zekanın günde bin satır kod yazabildiğini ve hatalarını ayıklayabildiğini varsayalım, ki bu olağanüstü bir üretkenlik düzeyidir. Bu hızda bir yüzyıl, kırk beş milyon satır koddan oluştuğu varsayılan Windows XP'yi tek başına yazması için neredeyse yeterli bir süre olacaktır. Bu etkileyici bir başarı, ancak kendisinden daha zeki bir yapay zeka yazabilmesinden çok uzak. Daha akıllı bir yapay zeka yaratmak, iyi kod yazma becerisinden daha fazlasını gerektirir; yapay zeka araştırmalarında büyük bir atılım gerektirir ve bu, ortalama bir bilgisayar programcısının, onlara ne kadar zaman verirseniz verin, başarması garanti olan bir şey değildir.

Yazılım geliştirirken, genellikle derleyici olarak bilinen bir program kullanırsınız. Derleyici, C gibi bir dilde yazdığınız kaynak kodu alır ve çalıştırılabilir bir programa çevirir: bilgisayarın anladığı makine kodundan oluşan bir dosya. Kullandığınız C derleyicisinden memnun olmadığınızı varsayalım - buna Derleyici Sıfır diyelim. Derleyici Sıfır'ın kaynak kodunuzu işlemesi uzun zaman alıyor ve ürettiği programların çalışması da uzun zaman alıyor. Daha iyisini yapabileceğinizden eminsiniz, bu yüzden daha verimli makine kodu üreten yeni bir C derleyicisi yazıyorsunuz; bu yeni derleyici optimize edici derleyici olarak bilinir.

Optimize edici derleyicinizi C dilinde yazdınız, böylece kaynak kodunuzu çalıştırılabilir bir programa çevirmek için Derleyici Sıfır'ı kullanabilirsiniz. Bu programa Derleyici Bir adını verin. Yaratıcılığınız sayesinde, Derleyici Bir artık daha hızlı çalışan programlar üretiyor. Ancak Derleyici Sıfır'ın bir ürünü olduğu için Derleyici Bir'in çalışması hala uzun zaman alıyor. Siz ne yapabilirsiniz?

Derleyici Bir'i kendini derlemek için kullanabilirsiniz. Derleyici Bir'i kendi kaynak koduyla beslersiniz ve o da daha verimli makine kodundan oluşan yeni bir çalıştırılabilir dosya üretir. Buna Derleyici İki diyebilirsiniz. Derleyici İki de çok hızlı çalışan programlar üretir, ancak kendisi de çok hızlı çalışma avantajına sahiptir. Tebrikler-kendi kendini geliştiren bir bilgisayar programı yazdınız.

Ancak bu kadarla sınırlıdır. Aynı kaynak kodunu Derleyici İki'ye aktarırsanız, tek yaptığı Derleyici İki'nin başka bir kopyasını oluşturmaktır. Bir Derleyici Üç yaratamaz ve giderek artan bir dizi daha iyi derleyici başlatamaz. Delicesine hızlı çalışan programlar üreten bir derleyici istiyorsanız, bunu elde etmek için başka bir yere bakmanız gerekecektir.

Bir derleyicinin kendi kendini derlemesini sağlama tekniği bootstrapping olarak bilinir ve on dokuz altmışlı yıllardan beri kullanılmaktadır. Optimize edici derleyiciler o zamandan bu yana uzun bir yol kat etti, bu nedenle bir Derleyici Sıfır ile bir Derleyici İki arasındaki farklar eskiden olduğundan çok daha büyük olabilir, ancak bu ilerlemenin tamamı derleyicilerin kendilerini geliştirmesinden ziyade insan programcılar tarafından sağlandı. Her ne kadar derleyiciler yapay zeka programlarından çok farklı olsalar da, başka bilgisayar programları üreten bilgisayar programları oldukları ve bunu yaparken optimizasyon genellikle bir öncelik olduğu için, zeka patlaması fikri hakkında düşünmek için yararlı bir emsal sunarlar.

Bir programın kullanım amacı hakkında ne kadar çok şey bilirseniz, kodunu o kadar iyi optimize edebilirsiniz. İnsan programcılar bazen bir programın bölümlerini elle optimize ederler, yani makine talimatlarını doğrudan belirtirler; insanlar derleyicinin ürettiğinden daha verimli makine kodu yazabilirler, çünkü programın ne yapması gerektiği hakkında derleyiciden daha fazla şey bilirler. Optimizasyon işini en iyi yapan derleyiciler, dar program kategorileri yazmak için tasarlanmış, alana özgü diller olarak bilinen diller için derleyicilerdir. Örneğin, sadece görüntü işleme programları yazmak için tasarlanmış Halide adında bir programlama dili vardır. Bu programların kullanım amacı çok özel olduğundan, bir Halide derleyicisi bir insan programcının yazabileceği kadar iyi veya daha iyi kod üretebilir. Ancak bir Halide derleyicisi kendi kendini derleyemez, çünkü görüntü işleme için optimize edilmiş bir dil, bir derleyici yazmak için gereken tüm özelliklere sahip değildir. Bunu yapmak için genel amaçlı bir dile ihtiyacınız vardır ve genel amaçlı derleyiciler makine kodu üretme konusunda insan programcılarla eşleşmekte zorlanırlar.

Genel amaçlı bir derleyici her şeyi derleyebilmelidir. Eğer ona bir kelime işlemcinin kaynak kodunu verirseniz, bir kelime işlemci üretecektir; eğer ona bir MP3 çaların kaynak kodunu verirseniz, bir MP3 çalar üretecektir; ve bunun gibi. Yarın bir programcı yeni bir tür program icat ederse, 1990'da ilk Web tarayıcısının olduğu gibi bugün bize yabancı olan bir şey, kaynak kodunu genel amaçlı bir derleyiciye besleyecek ve o da görev bilinciyle bu yeni programı üretecektir. Dolayısıyla, derleyiciler hiçbir şekilde zeki olmasalar da, zeki insanlarla ortak bir yönleri vardır: daha önce hiç görmedikleri girdileri işleme kapasitesine sahiptirler.

Bunu yapay zeka programlarının şu anda tasarlanma şekliyle karşılaştırın. Kendisine satranç hamleleri sunulan ve yanıt olarak sadece satranç hamlelerini söylemesi gereken bir yapay zeka programını ele alalım. Görevi çok özeldir ve bunu bilmek performansını optimize etmede son derece yardımcı olur. Aynı şey sadece "Jeopardy!" ipuçlarının verildiği ve sadece soru şeklinde cevaplar üretmesi gereken bir yapay zeka programı için de geçerlidir. Birkaç yapay zeka programı birkaç benzer oyunu oynamak üzere tasarlanmıştır, ancak beklenen girdi ve çıktı aralığı hala son derece dardır. Şimdi, alternatif olarak, bir yapay zeka programı yazdığınızı ve ne tür girdiler bekleyebileceği veya doğru bir yanıtın ne şekilde olacağı konusunda önceden hiçbir bilginiz olmadığını varsayalım. Bu durumda performansı optimize etmek zordur, çünkü ne için optimize ettiğinize dair hiçbir fikriniz yoktur.

Genellik için ne kadar optimizasyon yapabilirsiniz? Bir sistemi, daha önce hiç karşılaşılmamış durumlar da dahil olmak üzere, olası her durum için aynı anda ne ölçüde optimize edebilirsiniz? Muhtemelen, bir miktar iyileştirme mümkündür, ancak zeka patlaması fikri, elde edilebilecek optimizasyon kapsamının esasen bir sınırı olmadığını ima eder. Bu çok güçlü bir iddiadır. Birisi genellik için sonsuz optimizasyonun mümkün olduğunu iddia ediyorsa, özelleşmiş görevler için optimizasyon örneklerinden alıntı yapmanın yanı sıra bazı argümanlar görmek isterim.

Açıkçası, bunların hiçbiri bir zeka patlamasının imkansız olduğunu kanıtlamaz. Aslında, böyle bir şeyin kanıtlanabileceğinden şüpheliyim, çünkü bu tür konular muhtemelen matematiksel kanıtlama alanına girmez. Bu, bir şeyin imkânsız olduğunu kanıtlama meselesi değildir; bu, inanç için neyin iyi bir gerekçe teşkil ettiğine dair bir sorudur. Anselm'in ontolojik argümanını eleştirenler Tanrı'nın olmadığını kanıtlamaya çalışmıyor; sadece Anselm'in argümanının Tanrı'nın var olduğuna inanmak için iyi bir neden oluşturmadığını söylüyorlar. Benzer şekilde, "ultra zeki bir makine" tanımı, böyle bir cihaz inşa edebileceğimizi düşünmek için yeterli bir neden değildir.

Özyinelemeli kendini geliştirmenin anlamlı bir kavram olduğunu düşündüğüm bir bağlam var, o da insan uygarlığının yeteneklerini bir bütün olarak ele aldığımızda ortaya çıkıyor. Bunun bireysel zekadan farklı olduğunu unutmayın. On bin yıl önce doğan insanların bugün doğan insanlardan daha az zeki olduklarına inanmak için hiçbir neden yok; onlar da bizim gibi aynı öğrenme yeteneğine sahipti. Ancak günümüzde, elimizin altında on bin yıllık teknolojik gelişmeler var ve bu teknolojiler sadece fiziksel değil, aynı zamanda bilişsel.

Arap rakamlarını Roma rakamlarıyla karşılaştıralım. Arap rakamlarının yarattığı gibi konumsal bir notasyon sistemi ile çarpma ve bölme işlemlerini yapmak daha kolaydır; eğer bir çarpma yarışmasında yarışıyorsanız, Arap rakamları size avantaj sağlar. Ancak Arap rakamlarını kullanan birinin Roma rakamlarını kullanan birinden daha zeki olduğunu söyleyemem. Benzetme yapacak olursak, bir cıvatayı sıkmaya çalışıyorsanız ve İngiliz anahtarı kullanıyorsanız, pense kullanan birinden daha iyi yaparsınız, ancak daha güçlü olduğunuzu söylemek doğru olmaz. Size daha fazla mekanik avantaj sağlayan bir alete sahipsiniz; ancak rakibinize de aynı aleti verdiğimizde kimin daha güçlü olduğuna adil bir şekilde karar verebiliriz. Arap rakamları gibi bilişsel araçlar da benzer bir avantaj sunar; bireylerin zekalarını karşılaştırmak istiyorsak, aynı araçlarla donatılmış olmaları gerekir.

Basit araçlar karmaşık araçların yaratılmasını mümkün kılar; bu durum fiziksel araçlar için olduğu kadar bilişsel araçlar için de geçerlidir. İnsanlık tarih boyunca çift girişli defter tutmaktan Kartezyen koordinat sistemine kadar bu tür binlerce araç geliştirdi. Dolayısıyla, eskiden olduğumuzdan daha zeki olmasak da, elimizde daha geniş bir bilişsel araç yelpazesi var ve bu da daha da güçlü araçlar icat etmemizi sağlıyor.

Özyinelemeli kişisel gelişim bu şekilde gerçekleşir - bireyler düzeyinde değil, bir bütün olarak insan uygarlığı düzeyinde. Isaac Newton'un kalkülüsü icat ettiğinde kendisini daha zeki yaptığını söyleyemem; ilk etapta bunu icat etmek için çok zeki olması gerekirdi. Kalkülüs, daha önce çözemediği bazı problemleri çözmesini sağladı, ancak icadından en çok faydalanan o değildi, insanlığın geri kalanı faydalandı. Newton'dan sonra gelenler kalkülüsten iki şekilde yararlandılar: kısa vadede, daha önce çözemedikleri problemleri çözebildiler; uzun vadede ise Newton'un çalışmalarını geliştirip daha da güçlü başka matematiksel teknikler geliştirebildiler.

İnsanların birbirlerinin çalışmaları üzerine inşa etme becerisi, tam da bu yüzden insan eşdeğeri bir yapay zeka programını yüz yıl boyunca tek başına çalıştırmanın büyük atılımlar üretmek için iyi bir yol olduğuna inanmıyorum. Tamamen izole bir şekilde çalışan bir birey bir buluşa imza atabilir ancak bunu tekrar tekrar yapması pek olası değildir; birbirlerinden ilham alan çok sayıda insana sahip olmanız daha iyidir. Doğrudan işbirliği yapmaları gerekmez; herhangi bir araştırma alanı, üzerinde çalışan çok sayıda insan olduğunda daha iyi sonuç verecektir.

Örnek olarak DNA çalışmalarını ele alalım. James Watson ve Francis Crick, 1953 yılında DNA'nın yapısına ilişkin makalelerini yayınladıktan sonra onlarca yıl boyunca aktif olarak çalıştılar, ancak daha sonra DNA araştırmalarında elde edilen büyük atılımların hiçbiri onlar tarafından yapılmadı. DNA dizileme tekniklerini onlar icat etmedi; başkaları icat etti. DNA sentezini ekonomik hale getiren polimeraz zincir reaksiyonunu onlar geliştirmedi; başkası geliştirdi. Bu hiçbir şekilde Watson ve Crick'e bir hakaret değildir. Bu sadece, onların yapay zeka versiyonlarına sahip olsaydınız ve onları normal hızın yüz katında çalıştırsaydınız, muhtemelen dünyanın dört bir yanındaki moleküler biyologların DNA üzerinde çalışmasıyla elde ettiğimiz kadar iyi sonuçlar elde edemeyeceğiniz anlamına gelir. İnovasyon tek başına gerçekleşmez; bilim insanları diğer bilim insanlarının çalışmalarından yararlanır.

İnovasyon hızı artıyor ve herhangi bir makine kendi halefini tasarlayamasa bile artmaya devam edecek. Bazıları bu olguyu zeka patlaması olarak adlandırabilir, ancak ben buna fiziksel teknolojilerin yanı sıra bilişsel teknolojileri de içeren teknolojik bir patlama demenin daha doğru olduğunu düşünüyorum. Bilgisayar donanımı ve yazılımı en son bilişsel teknolojilerdir ve inovasyon için güçlü yardımcılardır, ancak kendi başlarına teknolojik bir patlama yaratamazlar. Bunu yapmak için insanlara ihtiyacınız var ve ne kadar çok olursa o kadar iyi. Akıllı bir bireye daha iyi donanım ve yazılım vermek faydalıdır, ancak gerçek faydalar herkes bunlara sahip olduğunda ortaya çıkar. Şu anki teknolojik patlamamız milyarlarca insanın bu bilişsel araçları kullanmasının bir sonucudur.

Yapay zeka programları bu insanların yerini alabilir mi, böylece dijital alemde bizimkinden daha hızlı bir patlama yaşanabilir mi? Muhtemelen, ancak bunun ne gerektireceğini düşünelim. Başarılı olması en muhtemel strateji, insan uygarlığının tamamının yazılımda kopyalanması ve sekiz milyar insana eşdeğer yapay zekanın işlerine devam etmesi olacaktır. Bu büyük olasılıkla maliyet açısından engelleyici bir durumdur, o halde görev, aradığınız inovasyonun çoğunu üretebilecek en küçük insan uygarlığı alt kümesini tanımlamak haline gelir. Bunu düşünmenin bir yolu da şu soruyu sormaktır: Bir Manhattan Projesini bir araya getirmek için kaç kişiye ihtiyacınız var? Bunun Manhattan Projesi'nde gerçekte kaç bilim insanının çalıştığını sormaktan farklı olduğunu unutmayın. Burada sorulması gereken soru şudur: Böyle bir çalışmayı yürütecek kadar bilim insanını işe almak için ne kadar büyük bir nüfustan yararlanmanız gerekir?

Tıpkı birkaç bin kişiden sadece birinin fizik alanında doktora yapabilmesi gibi, fizik alanında doktora derecesine eşdeğer bir yapay zeka elde etmek için birkaç bin insana eşdeğer yapay zeka üretmeniz gerekebilir. 1942'de Manhattan Projesi'ni bir araya getirmek için ABD ve Avrupa'nın toplam nüfusu gerekmişti. Günümüzde araştırma laboratuvarları işe alım yaparken kendilerini iki kıta ile sınırlamıyor, çünkü mümkün olan en iyi ekibi oluşturmak için mevcut en büyük yetenek havuzundan yararlanmak gerekiyor. Eğer amaç tüm insan ırkı kadar yenilik üretmekse, başlangıçtaki sekiz milyar rakamını dramatik bir şekilde azaltamayabilirsiniz.

Bırakın milyarlarcasını, insana eşdeğer tek bir yapay zeka yaratabilmekten bile çok uzağız. Öngörülebilir gelecekte, süregelen teknolojik patlama, insanların daha önce icat edilmiş araçları kullanarak yenilerini icat etmesiyle devam edecek; "insanın yapması gereken son bir icat" olmayacak. Bu bir açıdan güven vericidir, çünkü Good'un iddiasının aksine insan zekası asla "geride kalmayacaktır". Ancak, insanüstü zekâya sahip bir yapay zekânın uygarlığı yok etmesinden endişe etmememiz gerektiği gibi, insanüstü zekâya sahip bir yapay zekânın bizi kendimize rağmen kurtarmasını da beklememeliyiz. İyi ya da kötü, türümüzün kaderi insanların karar verme sürecine bağlı olacaktır.

Kaynak: https://tinyurl.com/msbj9ytr