Yapay zeka kendini nasıl yaratacağını öğreniyor

İnsanlar gerçekten zeki makineler yapmak için mücadele ettiler. Belki de bu işi kendi başlarına yapmalarına izin vermeliyiz.

Kama şeklinde kafası olan küçük bir çubuk figürü ekranda ayaklarını sürüyerek ilerliyor. Bir dizini yerde sürükleyerek yarı çömelmiş bir şekilde hareket ediyor. Yürüyor! Sayılır. 

Yine de Rui Wang çok memnun. "Her gün ofisime girip bilgisayarımı açıyorum ve neyle karşılaşacağımı bilmiyorum" diyor. 

Uber'de yapay zeka araştırmacısı olan Wang, geliştirilmesine yardımcı olduğu bir yazılım olan Paired Open-Ended Trailblazer'ı gece boyunca dizüstü bilgisayarında çalışır halde bırakmayı seviyor. POET sanal botlar için bir tür eğitim dojosu. Şimdiye kadar pek bir şey yapmayı öğrenemediler. Bu yapay zeka ajanları Go oynamıyor, kanser belirtilerini tespit etmiyor ya da proteinleri katlamıyor; çitlerden ve vadilerden oluşan kaba bir karikatür manzarasında düşmeden gezinmeye çalışıyorlar.

Ancak heyecan verici olan botların ne öğrendikleri değil, nasıl öğrendikleri. POET, insan müdahalesi olmadan engel parkurlarını oluşturuyor, botların yeteneklerini değerlendiriyor ve bir sonraki görevlerini atıyor. Botlar deneme yanılma yoluyla adım adım gelişiyor. Wang, "Bir noktada bir kung fu ustası gibi bir uçurumdan atlayabilir" diyor.

Şu anda basit görünebilir, ancak Wang ve bir avuç diğer araştırmacı için POET, süper akıllı makineler yaratmanın devrim niteliğinde yeni bir yolunun ipuçlarını veriyor: yapay zekanın kendi kendini yapmasını sağlayarak.

Wang'ın eski iş arkadaşı Jeff Clune bu fikrin en büyük destekçileri arasında yer alıyor. Clune, önce Wyoming Üniversitesi'nde, ardından da Wang ve diğerleriyle birlikte çalıştığı Uber AI Labs'da yıllardır bu konu üzerinde çalışıyor. Şimdi zamanını British Columbia Üniversitesi ve OpenAI arasında paylaştıran Clune, dünyanın en iyi yapay zeka laboratuvarlarından birinin desteğine sahip.

Clune, gerçekten akıllı bir yapay zeka oluşturma girişimini insanlık tarihindeki en iddialı bilimsel arayış olarak nitelendiriyor. Bugün, yapay zeka için ciddi çabaların başlamasından yetmiş yıl sonra, daha akıllı olmak bir yana, insanlar kadar akıllı makineler yaratmaktan hala çok uzağız. Clune, POET'in bir kestirme yolu işaret edebileceğini düşünüyor. 

"Prangalarımızı çıkarmamız ve kendi yolumuzdan çekilmemiz gerekiyor" diyor.

Clune haklıysa, YZ'yi YZ yapmak için kullanmak, bir gün yapay genel zekaya (AGI)-insanları aşabilen makinelere- giden yolda önemli bir adım olabilir. Yakın vadede bu teknik, farklı zeka türlerini keşfetmemize de yardımcı olabilir: beklenmedik yollarla çözümler bulabilen ve belki de kendi zekamızın yerini almak yerine onu tamamlayan insan dışı zekalar.

Evrimi taklit etmek

Clune ile bu fikir hakkında ilk kez geçen yılın başlarında, OpenAI'ye geçişinden sadece birkaç hafta sonra konuştum. Geçmiş çalışmalarını tartışmaktan mutluydu ama yeni ekibiyle neler yaptığı konusunda ağzını sıkı tutuyordu. Telefonu içeride açmak yerine, biz konuşurken ofislerin dışındaki sokaklarda bir aşağı bir yukarı yürümeyi tercih etti.

Clune'un tek söylediği, OpenAI'ın iyi bir uyum sağladığıydı. "Benim fikrim onların inandığı pek çok şeyle büyük ölçüde örtüşüyor" diyor. "Cennette yapılmış bir evlilik gibiydi. Vizyonumu beğendiler ve buraya gelip bunun peşinden gitmemi istediler." Clune katıldıktan birkaç ay sonra OpenAI, eski Uber ekibinin çoğunu da işe aldı.

Clune'un iddialı vizyonu OpenAI'nin yatırımından daha fazlasına dayanıyor. Yapay zekanın tarihi, insan tarafından tasarlanan çözümlerin yerini makine tarafından öğrenilenlere bıraktığı örneklerle dolu. Bilgisayarla görmeyi ele alalım: on yıl önce, görüntü tanıma alanındaki büyük atılım, mevcut el yapımı sistemlerin yerini kendi kendine sıfırdan öğrenen sistemlere bırakmasıyla gerçekleşti. Pek çok yapay zeka başarısı için de aynı şey geçerli.

Yapay zeka ve özellikle makine öğrenimi ile ilgili büyüleyici şeylerden biri, insanların bulamadığı çözümleri bulma yeteneğidir - bizi şaşırtmak için. Sıkça atıfta bulunulan bir örnek, görünüşte yabancı stratejiler kullanarak insanlığın antik, büyüleyici Go oyununda sunabileceği en iyi oyunu yenen AlphaGo'dur (ve halefi AlphaZero). İnsan ustalar tarafından yüzlerce yıl çalışıldıktan sonra, yapay zeka hiç kimsenin düşünmediği çözümler buldu. 

Clune şu anda OpenAI'de 2018 yılında sanal ortamda saklambaç oynamayı öğrenen botlar geliştiren bir ekiple birlikte çalışıyor. Bu yapay zekalar basit hedefler ve bu hedeflere ulaşmak için basit araçlarla yola çıktılar: bir çift, hareketli engellerin arkasına saklanabilen diğerini bulmak zorundaydı. Ancak bu botlar öğrenmeleri için serbest bırakıldıklarında, kısa süre içinde araştırmacıların öngörmediği şekillerde çevrelerinden yararlanmanın yollarını buldular. Sanal dünyalarının simüle edilmiş fiziğindeki aksaklıklardan yararlanarak duvarların üzerinden atladılar ve hatta içinden geçtiler.

Bu tür beklenmedik ortaya çıkan davranışlar, YZ'nin insanların kendi başlarına düşünemeyeceği teknik çözümlere ulaşabileceğine, yeni ve daha verimli algoritmalar veya sinir ağları icat edebileceğine, hatta modern YZ'nin temel taşlarından biri olan sinir ağlarından tamamen vazgeçebileceğine dair ipuçları sunuyor.

Clune insanlara zekanın zaten basit başlangıçlardan ortaya çıktığını hatırlatmayı seviyor. "Bu yaklaşımla ilgili ilginç olan şey, işe yarayabileceğini biliyor olmamız" diyor. "Darwinci evrimin çok basit algoritması beyninizi üretti ve beyniniz evrende şu ana kadar bildiğimiz en akıllı öğrenme algoritması." Demek istediği şu: Eğer bildiğimiz zekâ, sayısız nesiller boyunca genlerin akılsızca mutasyona uğramasıyla ortaya çıktıysa, neden zekânın kendisini değil de, zekâ üreten süreci -ki bu tartışmasız daha basittir- kopyalamaya çalışmayalım?

Ancak burada çok önemli bir gözlem daha var. Zeka hiçbir zaman evrim için bir son nokta, hedeflenmesi gereken bir şey olmamıştır. Bunun yerine, canlıların hayatta kalmasını ve gelecekteki zorlukları üstlenmesini sağlayan sayısız küçük çözümden birçok farklı biçimde ortaya çıktı. Zeka, devam eden ve açık uçlu bir sürecin şu anki en yüksek noktasıdır. Bu anlamda evrim, insanların tipik olarak düşündüğü şekliyle algoritmalardan oldukça farklıdır - bir amaca yönelik araçlar olarak. 

Clune ve diğerlerinin yeni YZ türlerine yol açabileceğine inandıkları şey, POET tarafından üretilen görünüşte amaçsız görevler dizisinde görülen bu açık uçluluktur. Yapay zeka araştırmacıları onlarca yıldır insan zekasını taklit edecek algoritmalar geliştirmeye çalıştılar, ancak asıl atılım, evrimin açık uçlu problem çözme özelliğini taklit etmeye çalışan algoritmalar geliştirerek ve arkasına yaslanıp ortaya çıkanları izleyerek gelebilir.

Araştırmacılar halihazırda makine öğrenimini kendi üzerinde kullanıyor ve bir seferde birden fazla görevi öğrenebilen veya daha önce karşılaşmadıkları durumlarla başa çıkabilen makinelerin nasıl yapılacağı gibi alanın en zor sorunlarından bazılarına çözüm bulmak için onu eğitiyor. Şimdi bazıları bu yaklaşımı benimsemenin ve onunla koşmanın yapay genel zekaya giden en iyi yol olabileceğini düşünüyor. Clune, "Başlangıçta içinde çok fazla zeka barındırmayan bir algoritma başlatabilir ve potansiyel olarak yapay genel zekaya kadar kendi kendini önyüklemesini izleyebiliriz" diyor.

Gerçek şu ki, yapay genel zeka şimdilik bir hayal olarak kalıyor. Ama bunun nedeni büyük ölçüde kimsenin onu nasıl yapacağını bilmemesi. Yapay zeka alanındaki ilerlemeler parça parça ve insanlar tarafından gerçekleştiriliyor, ilerleme tipik olarak mevcut tekniklerde veya algoritmalarda ince ayarlar içeriyor ve performans veya doğrulukta kademeli sıçramalar sağlıyor. Clune bu çabaları, ne aradığınızı veya kaç tane bloğa ihtiyacınız olduğunu bilmeden yapay zekanın yapı taşlarını keşfetme girişimleri olarak nitelendiriyor. Ve bu sadece başlangıç. "Bir noktada, hepsini bir araya getirmek gibi Herkülvari bir görevi üstlenmek zorundayız" diyor.

Yapay zekadan bizim için bu yapı taşlarını bulmasını ve bir araya getirmesini istemek bir paradigma değişikliğidir. Bu, akıllı bir makine yaratmak istediğimizi, ancak bunun neye benzeyebileceğini umursamadığımızı söylemektir - sadece bize işe yarayan her şeyi verin. 

Belki çılgınca bir spekülasyon ama bir umut, bunun gibi makinelerin kavramsal çıkmazlarımızdan kurtulabileceği ve iklim değişikliği ya da küresel sağlık gibi son derece karmaşık krizleri çözmemize yardımcı olabileceği yönünde. 

Ama önce bir tane yapmamız gerekiyor.

Bir beyin nasıl yaratılır

Yapay bir beyin oluşturmanın birçok farklı yolu vardır.

Sinir ağları, yazılımda kodlanmış çok sayıda yapay nöron katmanından oluşur. Her nöron, üst katmanlardaki diğerlerine bağlanabilir. Bir sinir ağının kablolama şekli büyük bir fark yaratır ve yeni mimariler genellikle yeni buluşlara yol açar. 

İnsan bilim insanları tarafından kodlanan sinir ağları genellikle deneme yanılma yönteminin bir sonucudur. Neyin işe yarayıp neyin yaramadığına dair çok az teori vardır ve en iyi tasarımların bulunduğuna dair hiçbir garanti yoktur. Bu nedenle daha iyi sinir ağı tasarımları arayışını otomatikleştirmek, en azından 1980'lerden beri yapay zekanın en sıcak konularından biri olmuştur. Süreci otomatikleştirmenin en yaygın yolu, bir yapay zekanın birçok olası ağ tasarımı oluşturmasına izin vermek ve ağın otomatik olarak her birini denemesine ve en iyilerini seçmesine izin vermektir. Bu genellikle nöro-evrim veya nöral mimari arama (NAS) olarak bilinir.

Son birkaç yılda, bu makine tasarımları insan tasarımlarını geride bırakmaya başladı. 2018'de Esteban Real ve Google'daki meslektaşları NAS'ı kullanarak görüntü tanıma için o zamanki en iyi insan tasarımı ağları geride bırakan bir sinir ağı oluşturdu. Bu bir göz açıcıydı.

2018 sistemi, daha küçük ve daha hızlı modellerle görüntü tanıma görevlerinde yüksek doğruluk seviyelerine ulaşan, insan tarafından tasarlananlardan daha verimli bir derin öğrenme modelleri ailesi olan EfficientNets'i üretmek için NAS'ı da kullanan AutoML adlı devam eden bir Google projesinin parçasıdır.

Üç yıl sonra Real, sıfırdan üretilebilecek modellerin sınırlarını zorluyor. Daha önceki sistemler, mevcut katman türleri veya bileşenler gibi denenmiş ve test edilmiş sinir ağı parçalarını yeniden düzenliyordu. "İyi bir yanıt bekleyebilirdik" diyor.

Geçen yıl Real ve ekibi eğitim tekerleklerini çıkardı. AutoML Zero adı verilen yeni sistem, makine öğrenimini yöneten en temel matematiksel kavramlardan başka hiçbir şey kullanmadan sıfırdan bir yapay zeka oluşturmaya çalışıyor.

Şaşırtıcı bir şekilde, AutoML Zero sadece kendiliğinden bir sinir ağı oluşturmakla kalmadı, aynı zamanda insan tasarımcıların bir ağı eğitmek için kullandıkları en yaygın matematiksel teknik olan gradyan inişini de buldu. "Oldukça şaşırdım," diyor Real. "Bu çok basit bir algoritma - altı satır kod gerektiriyor - ama tam altı satır yazdı."

AutoML Zero henüz insan tarafından tasarlanmış sistemlerin performansına rakip mimariler üretmiyor - ya da aslında bir insan tasarımcının yapamayacağı pek çok şeyi yapmıyor. Ancak Real bir gün bunu başarabileceğine inanıyor.

Yeni bir tür öğretmen yetiştirme zamanı

Önce bir beyin yaparsınız; sonra ona öğretmek zorunda kalırsınız. Ama makine beyinleri bizimkiler gibi öğrenmiyor. Beyinlerimiz yeni ortamlara ve yeni görevlere uyum sağlama konusunda harikadır. Günümüzün yapay zekaları belirli koşullar altında zorlukları çözebilir, ancak bu koşullar biraz bile değiştiğinde başarısız olurlar. Bu esnek olmama durumu, çok çeşitli senaryolarda faydalı olabilecek daha genelleştirilebilir YZ yaratma arayışını engelliyor ki bu da onları gerçekten zeki hale getirme yolunda büyük bir adım olacaktır.

Londra'daki DeepMind'da araştırmacı olan Jane Wang'a göre yapay zekayı daha esnek hale getirmenin en iyi yolu, bu özelliği kendisinin öğrenmesini sağlamak. Başka bir deyişle, yalnızca belirli görevleri öğrenen değil, aynı zamanda bu görevleri yeni durumlara uyarlanabilecek şekilde öğrenmeyi öğrenen bir yapay zeka inşa etmek istiyor. 

Araştırmacılar yıllardır yapay zekayı daha uyarlanabilir hale getirmeye çalışıyorlar. Wang, YZ'nin bu sorunu kendi kendine çözmesinin, elle tasarlanmış bir yaklaşımın deneme yanılma yöntemlerinden bazılarını ortadan kaldıracağını düşünüyor: "Doğru cevaba hemen ulaşmayı beklememiz mümkün değil." Bu süreçte, beyinlerin nasıl çalıştığı hakkında da daha fazla şey öğreneceğimizi umuyor. "İnsanların ve hayvanların öğrenme biçimleri hakkında hâlâ anlamadığımız çok şey var" diyor.

Öğrenme algoritmalarını otomatik olarak oluşturmaya yönelik iki ana yaklaşım var, ancak her ikisi de mevcut bir sinir ağıyla başlıyor ve bunu öğretmek için yapay zekayı kullanıyor.

Wang ve DeepMind'daki meslektaşları ile OpenAI'daki bir ekip tarafından yaklaşık aynı zamanlarda ayrı ayrı icat edilen ilk yaklaşım, tekrarlayan sinir ağlarını kullanıyor. Bu tür bir ağ, nöronlarının aktivasyonlarının (kabaca biyolojik beyinlerdeki nöronların ateşlenmesine benzer şekilde) her tür algoritmayı kodlayacağı şekilde eğitilebilir. DeepMind ve OpenAI, bir yapay zekaya belirli hedeflere ulaşmak için nasıl davranması gerektiğini söyleyen takviye öğrenme algoritmaları oluşturmak üzere tekrarlayan bir sinir ağını eğitmek için bundan yararlandı.

Sonuç olarak DeepMind ve OpenAI sistemleri, görüntüleri tanımak gibi belirli bir zorluğu çözen bir algoritma öğrenmek yerine, birden fazla göreve uygulanabilen ve ilerledikçe adapte olabilen bir öğrenme algoritması öğreniyor. Birine balık tutmayı öğretmekle ilgili eski bir atasözü gibi: elle tasarlanmış bir algoritma belirli bir görevi öğrenebilirken, bu yapay zekalar kendi kendilerine nasıl öğreneceklerini öğreniyorlar. Ve bazıları insan eliyle tasarlanmış olanlardan daha iyi performans gösteriyor.

İkinci yaklaşım, Berkeley'deki California Üniversitesi'nden Chelsea Finn ve meslektaşlarından geliyor. Model-agnostik meta-öğrenme ya da MAML olarak adlandırılan bu yaklaşım, biri diğerinin içine yerleştirilmiş iki makine-öğrenme süreci kullanarak bir modeli eğitiyor. 

Kabaca şu şekilde çalışıyor. MAML'deki iç süreç veriler üzerinde eğitilir ve ardından her zamanki gibi test edilir. Ancak daha sonra dış model, iç modelin performansını (örneğin görüntüleri ne kadar iyi tanımladığını) alır ve performansı artırmak için bu modelin öğrenme algoritmasını nasıl ayarlayacağını öğrenmek için kullanır. Sanki her biri farklı öğrenme teknikleri sunan bir grup öğretmeni izleyen bir okul müfettişiniz varmış gibi. Müfettiş, hangi tekniklerin öğrencilerin en iyi puanları almasına yardımcı olduğunu kontrol eder ve buna göre ince ayar yapar. 

Bu yaklaşımlar sayesinde araştırmacılar daha sağlam, daha genel ve daha az veriyle daha hızlı öğrenebilen bir yapay zeka geliştiriyor. Örneğin Finn, düz zeminde yürümeyi öğrenen bir robotun, minimum ekstra eğitimle eğimde, çimde ya da yük taşırken yürümeye geçiş yapabilmesini istiyor. 

Geçen yıl Clune ve meslektaşları, Finn'in tekniğini daha az nöron kullanarak öğrenen bir algoritma tasarlayacak şekilde genişletti, böylece daha önce öğrendiği her şeyin üzerine yazmadı, bu da makine öğreniminde yıkıcı unutma olarak bilinen çözülmemiş büyük bir sorundur. "Seyrek" model olarak bilinen daha az nöron kullanan eğitilmiş bir model, yeniden eğitildiğinde yeni görevlere ayırmak için daha fazla kullanılmayan nörona sahip olacak, bu da daha az "kullanılan" nöronun üzerine yazılacağı anlamına geliyor. Clune, yapay zekasını birden fazla görevi öğrenmeye zorlamanın, insan tarafından tasarlanmış olanlardan daha iyi performans gösteren seyrek bir modelin kendi versiyonunu bulmasına yol açtığını keşfetti. 

Eğer yapay zekanın kendi kendini yaratmasına ve öğretmesine izin vereceksek, o zaman yapay zekalar da kendi eğitim ortamlarını (okullar, ders kitapları ve ders planları) yaratmalıdır.

Geçtiğimiz yıl, yapay zekanın otomatik olarak oluşturulan veriler üzerinde eğitildiği bir dizi projeye tanık olduk. Örneğin, yüz tanıma sistemleri yapay zeka tarafından üretilen yüzlerle eğitiliyor. Yapay zekalar birbirlerini nasıl eğiteceklerini de öğreniyorlar. Yakın tarihli bir örnekte, iki robot kolu birlikte çalıştı ve bir kol, diğerini nesneleri kavrama ve kavrama konusunda eğiten daha zorlu ve daha zorlu blok istifleme zorlukları belirlemeyi öğrendi.

Aslında Clune, bir yapay zekanın öğrenmek için ne tür verilere ihtiyaç duyduğuna dair insan sezgilerinin yanlış olup olmadığını merak ediyor. Örneğin, o ve meslektaşları, bir modeli eğitirken en iyi sonuçları elde etmek için hangi verileri üretmeleri gerektiğini öğrenen, üretici öğretim ağları adını verdiği bir ağ geliştirdiler. Bir deneyde, bu ağlardan birini, görüntü tanıma algoritmalarını eğitmek için sıklıkla kullanılan el yazısı sayılardan oluşan bir veri setini uyarlamak için kullandı. Ortaya çıkan sonuç, insan eliyle oluşturulmuş orijinal veri setinden çok farklıydı: Yedi rakamının üst yarısı ya da iki rakamın birleşmiş gibi görünmesi gibi yüzlerce tam olmayan rakam. Yapay zekanın ürettiği bazı örnekleri deşifre etmek oldukça zordu. Buna rağmen, yapay zeka tarafından üretilen veriler, gerçek rakamları tanımlamak için el yazısı tanıma sistemini eğitmede yine de harika bir iş çıkardı. 

Başarılı olmaya çalışmayın

Yapay zeka tarafından üretilen veriler hala bulmacanın sadece bir parçası. Uzun vadeli vizyon, tüm bu teknikleri -ve henüz icat edilmemiş diğerlerini- alıp yapay beyinlerin nasıl bağlandığını, nasıl eğitildiklerini ve ne üzerinde eğitildiklerini kontrol eden bir YZ eğitmenine teslim etmektir. Clune bile gelecekte böyle bir sistemin neye benzeyeceği konusunda net değil. Bazen yapay zekaların dişlerini kesip sanal dizlerinin derisini yüzebilecekleri bir tür hiper-gerçekçi simüle edilmiş kum havuzundan bahsediyor. Bu kadar karmaşık bir şey hala yıllar uzakta. Henüz buna en yakın şey, Clune'un Uber'den Rui Wang ve diğerleriyle birlikte yarattığı sistem olan POET.

Wang, POET'in bir paradoks tarafından motive edildiğini söylüyor. Bir sorunu çözmeye çalışırsanız başarısız olursunuz; çözmeye çalışmazsanız başarılı olma olasılığınız daha yüksektir. Bu, Clune'un evrim benzetmesinden çıkardığı iç görülerden biri - görünüşte rastgele bir süreçten ortaya çıkan şaşırtıcı sonuçlar, genellikle aynı amaca yönelik kasıtlı adımlar atılarak yeniden yaratılamaz. Kelebeklerin var olduğuna şüphe yok, ancak tek hücreli öncüllerine geri sarın ve bakteriden böceğe kadar her adımı seçerek onları sıfırdan yaratmaya çalışın ve muhtemelen başarısız olursunuz.

POET, iki bacaklı ajanını engelsiz düz bir yol gibi basit bir ortamda başlatır. İlk başta ajan bacaklarıyla ne yapacağını bilemez ve yürüyemez. Ancak deneme yanılma yoluyla, onu kontrol eden takviye öğrenme algoritması düz zeminde nasıl hareket edeceğini öğrenir. POET daha sonra farklı ama hareket etmesi zor olmayan yeni bir rastgele ortam yaratır. Ajan orada yürümeyi dener. Bu yeni ortamda engeller varsa, ajan bunları nasıl aşacağını veya geçeceğini öğrenir. Bir ajan her başarılı olduğunda ya da takıldığında yeni bir ortama taşınır. Zamanla ajanlar, gittikçe zorlaşan engelli parkurlarda gezinmelerini sağlayan bir dizi yürüme ve zıplama eylemi öğreniyor.

Ekip, ortamların rastgele değiştirilmesinin çok önemli olduğunu keşfetti.

Örneğin, ajanlar bazen düz zeminde garip, yarı diz çökmüş bir şekilde yürümeyi öğrendi, çünkü bu yeterince iyiydi. Wang, "Ayağa kalkmayı hiç öğrenmiyorlar çünkü buna hiç ihtiyaç duymuyorlar" diyor. Ancak engellerle dolu bir zeminde alternatif stratejiler öğrenmeye zorlandıktan sonra, daha iyi bir yürüme şekliyle (örneğin bir bacağını arkada sürüklemek yerine iki bacağını da kullanarak) ilk aşamaya geri dönebiliyor ve daha sonra bu gelişmiş versiyonunu daha zorlu mücadelelere taşıyabiliyordu.

POET, botlarını hiçbir insanın yapmayacağı şekilde eğitiyor - başarıya giden düzensiz, sezgisel olmayan yollar izliyor. Her aşamada, botlar karşılarına çıkan zorluklara bir çözüm bulmaya çalışıyor. Önlerine çıkan rastgele engellerle başa çıkarak, genel olarak daha iyi hale geliyorlar. Ancak bu sürecin bir bitiş noktası, geçilmesi gereken nihai bir test ya da aşılması gereken yüksek bir puan yok. 

Clune, Wang ve bazı meslektaşları bunun derin bir kavrayış olduğuna inanıyor. Şimdi bunun süper akıllı makinelerin geliştirilmesi için ne anlama gelebileceğini araştırıyorlar. Belirli bir yol çizmemeye çalışmak aslında yapay genel zekaya giden yolda önemli bir atılım olabilir mi? 

POET, Berkeley'deki California Üniversitesi'nden Natasha Jaques ve Michael Dennis gibi diğer araştırmacılara şimdiden ilham veriyor. PAIRED adlı bir sistem geliştiren bu araştırmacılar, yapay zekayı kullanarak bir dizi labirent oluşturuyor ve başka bir yapay zekayı bu labirentlerde gezinmesi için eğitiyor.

Rui Wang, insan tarafından tasarlanan zorlukların bir darboğaz olacağını ve YZ'deki gerçek ilerlemenin YZ'nin kendi zorluklarını bulmasını gerektireceğini düşünüyor. "Bugün algoritmalar ne kadar iyi olursa olsun, her zaman elle tasarlanmış bazı ölçütler üzerinde test ediliyorlar" diyor. "Yapay genel zekanın bu şekilde ortaya çıkmasını hayal etmek çok zor, çünkü sabit hedeflere bağlı."

Yeni bir zeka türü

Kendi kendini eğitebilen YZ'nin hızlı gelişimi, büyümesini ne kadar iyi kontrol edebileceğimize dair soruları da gündeme getiriyor. Daha iyi YZ geliştiren YZ fikri, gelecekte YZ'lerin üstel bir hızla gelişmeye başladığı ve kontrolümüzün ötesine geçtiği hayal edilen nokta olan "Tekillik "in arkasındaki efsane yaratmanın önemli bir parçasıdır. Sonunda, bazı felaket tellalları, YZ'nin insanlara hiç ihtiyacı olmadığına karar verebileceği konusunda uyarıyor.

Bu araştırmacıların hiçbirinin aklında bu yok: çalışmaları daha çok günümüzün YZ'sini daha iyi hale getirmeye odaklanmış durumda. Çılgınca çalışan makineler uzak bir anti-fantezi olarak kalmaya devam ediyor. 

Yine de DeepMind'dan Jane Wang'ın çekinceleri var. YZ'yi YZ yapmak için kullanmanın cazibesinin büyük bir kısmı, insanların düşünmediği tasarım ve teknikleri ortaya çıkarabilmesidir. Yine de Wang tüm sürprizlerin iyi sürprizler olmadığını belirtiyor: "Açık uçluluk, tanımı gereği beklenmedik bir şeydir." Eğer bütün fikir yapay zekaya tahmin etmediğiniz bir şey yaptırmaksa, onu kontrol etmek zorlaşır. "Bu hem heyecan verici hem de korkutucu" diyor.

Clune ayrıca, yeni teknolojinin etiği hakkında en başından itibaren düşünmenin önemini vurguluyor. YZ tarafından tasarlanan sinir ağları ve algoritmaların anlaşılmasının, günümüzün zaten opak olan kara kutu sistemlerinden daha da zor olma ihtimali yüksektir. Algoritmalar tarafından üretilen YZ'lerin önyargı açısından denetlenmesi daha mı zor? İstenmeyen şekillerde davranmayacaklarını garanti etmek daha mı zor?

Clune, daha fazla insan kendi kendini üreten YZ'lerin potansiyelini fark ettikçe bu tür soruların sorulacağını ve yanıtlanacağını umuyor. "Makine öğrenimi topluluğundaki çoğu insan, son derece güçlü YZ'ye giden genel yolumuz hakkında gerçekten hiç konuşmuyor" diyor - bunun yerine, küçük, aşamalı iyileştirmelere odaklanma eğilimindeler. Clune, alanın en büyük hedefleri hakkında yeniden bir konuşma başlatmak istiyor.

Kendi hedefleri, insan zekasına ve onun nasıl geliştiğine dair ilk ilgi alanlarına dayanıyor. Clune'un büyük vizyonu, makinelerin bir gün kendi zekâlarının -ya da zekâlarının- ortaya çıktığını ve nihai bir plan olmaksızın algoritmalar tarafından yönlendirilen sayısız nesil deneme yanılma yoluyla geliştiğini görebilecekleri şekilde bir şeyler ayarlamak.

Yapay zeka kendi kendine zeka üretmeye başlarsa, bunun insan benzeri olacağının garantisi yoktur. İnsanların makinelere insanlar gibi düşünmeyi öğretmesinden ziyade, makineler insanlara yeni düşünme yolları öğretebilir.

Clune, "Muhtemelen çok zeki olmanın çok sayıda farklı yolu var" diyor. "Yapay zeka konusunda beni heyecanlandıran şeylerden biri, hangi varyasyonların mümkün olduğunu görerek zekayı daha genel olarak anlayabilmemiz.

"Bunun büyüleyici olduğunu düşünüyorum. Yani, neredeyse yıldızlararası seyahati icat etmek ve yabancı kültürleri ziyaret edebilmek gibi bir şey. İnsanlık tarihinde yabancı bir ırkla karşılaşıp onun kültürünü, bilimini, her şeyini öğrenmekten daha büyük bir an olamazdı. Yıldızlararası seyahat son derece zor, ancak dijital olarak uzaylı zekaları yaratma potansiyeline sahibiz."