11 Nisan 2023 Salı

DeepMind ve Google, Yapay zekayı kontrol etme savaşı


Demis Hassabis dünyanın en güçlü yapay zekasını oluşturmak için bir şirket kurdu. Sonra Google onu satın aldı. Hal Hodson sorumluların kim olduğunu soruyor

Ağustos 2010'da bir öğleden sonra, San Francisco Körfezi'nin kenarında yer alan bir konferans salonunda, Demis Hassabis adında 34 yaşında bir Londralı sahneye çıktı. Sinirlerini kontrol etmeye çalışan bir adamın kasıtlı yürüyüşüyle kürsüye doğru yürüdü, dudaklarını kısa bir gülümsemeyle büzdü ve konuşmaya başladı: "Bugün bina yapımına yönelik farklı yaklaşımlardan bahsedeceğim..." Sanki çok önemli bir arzusunu yüksek sesle dile getirdiğini yeni fark etmiş gibi durakladı. Ve sonra söyledi: "YGZ".

YGZ, yapay genel zeka anlamına gelmektedir ve zihinsel görevleri bir insan kadar ya da ondan daha iyi yerine getirebilen varsayımsal bir bilgisayar programıdır. YGZ, telefonlarımızda ve bilgisayarlarımızda yaşayan çok sayıda yapay zekanın (YZ) tek odak noktası olan fotoğrafları tanımak ya da dilleri tercüme etmek gibi ayrı görevleri tamamlayabilecektir. Fakat aynı zamanda toplama, çıkarma yapacak, satranç oynayacak ve Fransızca konuşacak. Ayrıca fizik makalelerini anlayacak, roman yazacak, yatırım stratejileri geliştirecek ve yabancılarla keyifli sohbetler yapacak. Nükleer reaksiyonları izleyecek, elektrik şebekelerini ve trafik akışını yönetecek ve diğer her şeyi zahmetsizce başaracak. YGZ bugünün en gelişmiş bilgisayarlarını cep hesap makinelerine benzetecek.

Şu anda tüm bu görevleri yerine getirebilecek tek zekâ, insanların sahip olduğu türden bir zekâdır. Ancak insan zekası, beyni barındıran kafatasının boyutuyla sınırlıdır. Gücü ise vücudun sağlayabildiği cılız enerji miktarıyla sınırlıdır. YGZ bilgisayarlar üzerinde çalışacağı için bu kısıtlamaların hiçbirine maruz kalmayacaktır. Zekası sadece mevcut işlemci sayısı ile sınırlı olacaktır. agi nükleer reaksiyonları izleyerek başlayabilir. Ancak çok geçmeden, bir saniyede bir insanın bin ömürde sindirebileceğinden daha fazla fizik makalesini sindirerek yeni enerji kaynakları keşfedecektir. İnsan düzeyinde zeka, bilgisayarların hızı ve ölçeklenebilirliği ile birleştiğinde, şu anda çözülemez görünen sorunlar ortadan kalkacak. Hassabis, İngiliz gazetesi Observer'a verdiği demeçte, YGZ'nin diğer disiplinlerin yanı sıra "kanser, iklim değişikliği, enerji, genomik, makro-ekonomi [ve] finansal sistemler" konularında uzmanlaşmasını beklediğini söyledi.

Hassabis'in konuşma yaptığı konferansın adı Tekillik Zirvesi idi. Fütüristlere göre "Tekillik" YGZ'nin ortaya çıkışının en olası sonucunu ifade ediyor. YGZ bilgiyi yüksek hızda işleyeceği için çok hızlı bir şekilde çok akıllı hale gelecektir. Hızlı kendini geliştirme döngüleri makine zekâsında bir patlamaya yol açacak ve insanları silikon tozunda boğulmaya terk edecektir. Bu gelecek tamamen test edilmemiş varsayımlardan oluşan bir iskele üzerine inşa edildiğinden, Tekilliğin Ütopya mı yoksa cehennem mi olduğu neredeyse dini bir inanç meselesidir.

Konuşmaların başlıklarına bakılırsa, konferanstaki katılımcılar mesihçi eğilime sahipti: "Zihin ve Nasıl İnşa Edilir"; "Yaşlanmaya Karşı Yapay Zeka"; "Bedenlerimizi Değiştirmek"; "Yaşam ve Ölüm Arasındaki Sınırı Değiştirmek". Buna karşın Hassabis'in konuşması çok sönük kaldı: "YGZ İnşa Etmek için Sistem Sinirbilim Yaklaşımı".

Hassabis kürsü ile ekran arasında hızlı adımlarla ilerleyerek konuşuyordu. Bir okul çocuğu gibi bordo bir süveter ve beyaz düğmeli bir gömlek giymişti. Ufak tefek boyu sadece zekâsını büyütüyor gibiydi. Hassabis, şimdiye kadar bilim insanlarının YGZ'ye iki yönden yaklaştıklarını açıkladı. Sembolik YZ olarak bilinen bir yolda, insan araştırmacılar insan gibi düşünebilen bir sistem için gereken tüm kuralları tanımlamaya ve programlamaya çalıştılar. Bu yaklaşım 1980'lerde ve 1990'larda popülerdi, ancak istenen sonuçları vermemişti. Hassabis, beynin zihinsel mimarisinin bu şekilde tanımlanamayacak kadar incelikli olduğuna inanıyordu.

Diğer kulvar ise beynin fiziksel ağlarını dijital formda kopyalamaya çalışan araştırmacılardan oluşuyordu. Bu belli bir anlam ifade ediyordu. Ne de olsa beyin insan zekasının merkezidir. Ancak Hassabis, bu araştırmacıların da yanlış yönlendirildiğini söyledi. Görevleri, evrendeki her yıldızın haritasını çıkarmakla aynı ölçekteydi. Daha da temelde, yanlış beyin fonksiyonu seviyesine odaklanmışlardı. Bu, bir bilgisayarı parçalayıp transistörlerin etkileşimlerini inceleyerek Microsoft Excel'in nasıl çalıştığını anlamaya çalışmak gibiydi.

Hassabis bunun yerine bir orta yol önerdi: YGZ, beynin bilgiyi işlediği geniş yöntemlerden ilham almalı - fiziksel sistemlerden ya da belirli durumlarda uyguladığı özel kurallardan değil. Başka bir deyişle, beynin donanımını değil yazılımını anlamaya odaklanmalıdır. Fonksiyonel manyetik rezonans görüntüleme (fMRI) gibi yeni teknikler, beyin faaliyetlerde bulunurken içine bakmayı mümkün kılarak bu tür bir anlayışı mümkün kılmaya başlamıştı. Son çalışmaların, beynin genel ilkeleri türetmek için uyku sırasında deneyimleri tekrarlayarak öğrendiğini gösterdiğini söyledi. ai araştırmacıları bu tür bir sistemi taklit etmelidir.

Hassabis DeepMind'ın bir melez olacağını düşündü: bir startup'ın güdüsüne, en büyük üniversitelerin beyinlerine ve dünyanın en değerli şirketlerinden birinin derin ceplerine sahip olacaktı. YGZ'nin gelişini hızlandırmak ve insan sefaletinin nedenlerini çözmek için her unsur yerli yerindeydi.

Demis Hassabis 1976 yılında Kuzey Londra'da Kıbrıslı Rum bir baba ve Çin-Singapurlu bir annenin çocuğu olarak dünyaya geldi. Üç kardeşin en büyüğüydü. Annesi bir İngiliz mağazası olan John Lewis'te çalışıyor, babası ise bir oyuncak dükkânı işletiyordu. Dört yaşındayken babasını ve amcasını satranç oynarken izledikten sonra satranca başladı. Birkaç hafta içinde yetişkinleri yenmeye başladı. On üç yaşına geldiğinde yaşına göre dünyanın en iyi ikinci satranç oyuncusuydu. Sekiz yaşındayken kendi kendine basit bir bilgisayarda kod yazmayı öğrendi.

Hassabis 1992'de, planlanandan iki yıl önce a-seviyesini tamamladı. Bullfrog Productions'da video oyunları programlama işi buldu. Hassabis, oyuncuların sanal bir eğlence parkı tasarladığı ve işlettiği Theme Park'ı yazdı. Bu oyun 15 milyon kopya satarak büyük bir başarı elde etti ve amacın bir rakibi yenmek değil, bir işletme veya şehir gibi karmaşık bir sistemin işleyişini optimize etmek olduğu yeni bir simülasyon oyunları türünün bir parçasını oluşturdu.

Oyun yapmanın yanı sıra oyun oynama konusunda da çok başarılıydı. Gençliğinde, satranç, scrabble, poker ve tavlada aynı anda yarışmak için tahta oyunu yarışmalarında katlar arasında koşardı. 1995 yılında Cambridge Üniversitesi'nde bilgisayar bilimleri okurken Hassabis bir öğrenci Go turnuvasına katıldı. Go, satrançtan çok daha karmaşık olan eski bir strateji oyunudur. Ustalığın uzun deneyimlerle edinilmiş sezgiler gerektirdiği varsayılır. Hassabis'in daha önce oynayıp oynamadığını kimse bilmiyordu.

Hassabis önce acemiler turnuvasını kazandı. Sonra da handikaplı da olsa deneyimli oyuncuların birincisini yendi. Turnuvayı yöneten Cambridge Go ustası Charles Matthews, uzman oyuncunun 19 yaşındaki bir acemi tarafından yenilmesi karşısında yaşadığı şoku hatırlıyor. Matthews, Hassabis'i kanatları altına aldı.

Hassabis'in zekâsı ve hırsı kendini her zaman oyunlar aracılığıyla ifade etmiştir. Oyunlar da onun zekâya olan hayranlığını ateşledi. Satrançta kendi gelişimini gözlemledikçe, bilgisayarların da kendisi gibi birikmiş deneyimle öğrenecek şekilde programlanıp programlanamayacağını merak etti. Oyunlar gerçek dünyanın sunamayacağı bir öğrenme ortamı sunuyordu. Düzenli ve sınırlıydılar. Oyunlar gerçek dünyadan kopuk olduğu için, müdahale olmadan pratik yapılabilir ve verimli bir şekilde ustalaşılabilir. Oyunlar zamanı hızlandırır: oyuncular birkaç gün içinde bir suç örgütü kurar ve dakikalar içinde Somme Savaşı'nda savaşır.

1997 yazında Hassabis Japonya'ya gitti. O Mayıs ayında, IBM'in Deep Blue bilgisayarı dünya satranç şampiyonu Garry Kasparov'u yenmişti. Bu, ilk kez bir bilgisayarın satrançta bir büyük ustayı yenmesiydi. Bu maç tüm dünyanın dikkatini çekti ve bilgisayarların artan gücü ve potansiyel tehdidi konusunda endişeleri artırdı. Hassabis, Japon masa oyunları ustası Masahiko Fujuwarea ile tanıştığında, strateji oyunlarına ve yapay zekaya olan ilgisini birleştirecek bir plandan bahsetti: Bir gün en iyi insan Go oyuncusunu yenecek bir bilgisayar programı geliştirecekti.

Hassabis kariyerine metodik olarak yaklaştı. Matthews, "20 yaşındayken Hassabis, yapay zeka alanında istediği seviyeye gelmeden önce bazı şeylerin yerine oturması gerektiği görüşündeydi," diyor. "Bir planı vardı."

1998 yılında Elixir adında kendine ait bir oyun stüdyosu kurdu. Hassabis son derece iddialı bir oyun olan Republic'e odaklandı: Karmaşık bir siyasi simülasyon olan Devrim. Yıllar önce, henüz okuldayken Hassabis arkadaşı Mustafa Süleyman'a dünyanın karmaşık dinamiklerini modellemek ve en zorlu sosyal sorunları çözmek için büyük simülasyonlara ihtiyacı olduğunu söylemişti. Şimdi bunu bir oyunla yapmaya çalışıyordu.

İsteklerinin koda dökülmesinin beklenenden daha zor olduğu ortaya çıktı. Elixir sonunda oyunun sadeleştirilmiş bir versiyonunu ılık eleştirilerle piyasaya sürdü. Diğer oyunlar da başarısız oldu (biri Evil Genius adında bir Bond-villain simülatörüydü). Nisan 2005'te Hassabis Elixir'i kapattı. Matthews, Hassabis'in şirketi sadece yönetim deneyimi kazanmak için kurduğuna inanıyor. Hassabis, YGZ arayışına başlamadan önce tek bir önemli bilgi alanından yoksundu. İnsan beynini anlaması gerekiyordu.

Hassabis 2005 yılında University College London'da (UCL) sinirbilim alanında doktora yapmaya başladı. Hafıza ve hayal gücü üzerine etkili araştırmalar yayınladı. O zamandan beri 1.000'den fazla atıf alan bir makale, hafıza kaybı olan kişilerin yeni deneyimleri hayal etmekte de zorlandığını gösterdi ve hatırlama ile zihinsel imgeler yaratma arasında bir bağlantı olduğunu öne sürdü. Hassabis, YGZ ile başa çıkmak için gereken beyin anlayışını oluşturuyordu. Çalışmalarının çoğu tek bir soruya geri dönüyordu: İnsan beyni kavramları ve bilgiyi nasıl elde eder ve saklar?

Hassabis DeepMind'ı resmi olarak 15 Kasım 2010 tarihinde kurdu. Şirketin misyon ifadesi o zaman da şimdi olduğu gibiydi: "zekayı çözmek" ve sonra bunu diğer her şeyi çözmek için kullanmak. Hassabis'in Singularity Summit katılımcılarına söylediği gibi, bu, beynin görevleri nasıl yerine getirdiğine dair anlayışımızı, kendi kendine öğretmek için aynı yöntemleri kullanabilecek bir yazılıma dönüştürmek anlamına geliyor.

Hassabis bilimin insan zihnini tam olarak kavradığını iddia etmiyor. YGZ'nin planı yüzlerce sinirbilim çalışmasından basitçe çıkarılamaz. Ancak YGZ üzerinde kendi istediği şekilde çalışmaya başlamak için yeterince şey bilindiğine inanıyor. Yine de kendine olan güveninin gerçekliğin önüne geçmesi mümkün. Beynin gerçekte nasıl işlediği konusunda hâlâ çok az şey biliyoruz. Hassabis'in kendi doktora çalışmasının bulguları 2018 yılında Avustralyalı araştırmacılardan oluşan bir ekip tarafından sorgulanmaya başlandı. İstatistikler şeytani ve bu sadece tek bir makale, ancak DeepMind'ın çalışmalarının temelini oluşturan bilimin oturmuş olmaktan uzak olduğunu gösteriyor.

Süleyman ve Hassabis'in de UCL'de tanıştığı YGZ takıntılı Yeni Zelandalı Shane Legg kurucu ortaklar olarak katıldı. Firmanın ünü hızla büyüdü. Hassabis yetenekleri topladı. DeepMind'ın eski operasyon müdürü Ben Faulkner, "O biraz mıknatıs gibi" diyor. Yeni işe alınanların çoğu, Google ve Facebook gibi Silikon Vadisi devlerinin korkunç bakışlarının ötesinde, Avrupa'dan geldi. DeepMind'ın belki de en büyük başarısı, en parlak ve en iyileri işe almak ve elde tutmak için erken davranmasıydı. Şirket, Bloomsbury'deki Russell Meydanı'nda, UCL'nin karşısındaki teraslı bir evin çatı katında mağaza açtı.

Şirketin odaklandığı bir makine öğrenimi tekniği, Hassabis'in oyunlara ve sinirbilime olan ikiz hayranlığından doğdu: Takviyeli öğrenme. Böyle bir program, Hassabis'in Singularity Summit konferansında uyku sırasındaki insan beyni aktivitesine ilişkin yaptığı açıklamaya benzer şekilde, çevresi hakkında bilgi toplamak ve daha sonra deneyimlerini tekrar tekrar oynatarak öğrenmek üzere oluşturulmuştur.

Pekiştirmeli öğrenme, hesaplamalı boş bir sayfa ile başlar. Programa kuralları dışında hiçbir şey bilmediği sanal bir ortam gösterilir, örneğin bir satranç oyunu simülasyonu ya da bir video oyunu. Program, sinir ağı olarak bilinen en az bir bileşen içerir. Bu, belirli özellikleri veya stratejileri tanımlamak için bilgileri eleyen hesaplama yapılarının katmanlarından oluşur. Her katman çevreyi farklı bir soyutlama düzeyinde inceler. Başlangıçta bu ağlar minimum başarıya sahiptir, ancak daha da önemlisi, başarısızlıkları içlerinde kodlanmıştır. Farklı stratejileri denedikçe giderek daha sofistike hale gelirler ve başarılı olduklarında ödüllendirilirler. Eğer program bir satranç taşını hareket ettirir ve bunun sonucunda oyunu kaybederse, bu hatayı bir daha yapmayacaktır. Yapay zekanın büyüsünün büyük bir kısmı, görevlerini tekrarlama hızında yatar.

DeepMind'ın çalışmaları 2016 yılında bir ekibin Go oynamak için diğer tekniklerle birlikte pekiştirmeli öğrenmeyi kullanan bir yapay zeka programı geliştirmesiyle doruğa ulaştı. AlphaGo adı verilen program, 2016 yılında Seul'de beş maçlık bir karşılaşmada dünya şampiyonunu yendiğinde şaşkınlık yarattı. Makinenin 280 milyon kişi tarafından izlenen zaferi, uzmanların tahmin ettiğinden on yıl önce geldi. Ertesi yıl AlphaGo'nun geliştirilmiş bir versiyonu Çinli Go şampiyonunu alt etti.

1997'deki Deep Blue gibi, AlphaGo da insan başarısına ilişkin algıları değiştirdi. Gezegendeki en parlak beyinlerden bazıları olan insan şampiyonlar artık zekanın zirvesinde durmuyordu. Hassabis, Fujuwarea'ya tutkusunu açtıktan yaklaşık 20 yıl sonra, bu tutkusunu gerçekleştirmiş oldu. Hassabis bu maçın kendisini gözyaşlarına boğduğunu söylemişti. Geleneksel olarak, bir Go öğrencisi öğretmenine borcunu onu tek bir müsabakada yenerek öder. Hassabis Matthews'a tüm oyunu yenerek teşekkür etti.

DeepBlue kaba gücü ve hesaplama hızıyla kazandı, ancak AlphaGo'nun tarzı sanatsal, neredeyse insani görünüyordu. Zarafeti ve karmaşıklığı, hesaplama gücünün üstünlüğü, DeepMind'ın hastalıkları tedavi edebilecek ve şehirleri yönetebilecek bir program arayışında rakiplerinden daha ileride olduğunu gösteriyor gibiydi.

Hassabis her zaman DeepMind'ın dünyayı daha iyi bir hale getireceğini söylemiştir. Ancak YGZ hakkında hiçbir kesinlik yok. Eğer ortaya çıkarsa, özgeci mi yoksa kötü niyetli mi olacağını ya da insan kontrolüne boyun eğip eğmeyeceğini bilmiyoruz. Boyun eğse bile, dizginleri kim ele almalı?

Hassabis başından beri DeepMind'ın bağımsızlığını korumaya çalıştı. DeepMind'ın Londra'da kalması konusunda her zaman ısrarcı oldu. Google 2014 yılında şirketi satın aldığında, kontrol sorunu daha acil hale geldi. Hassabis'in DeepMind'ı Google'a satmasına gerek yoktu. Elinde bol miktarda nakit vardı ve şirketin araştırmaları finanse etmek için oyunlar tasarlayacağı bir iş modeli çizmişti. Google'ın finansal gücü cazipti, ancak pek çok kurucu gibi Hassabis de büyüttüğü şirketi devretmek konusunda isteksizdi. Anlaşmanın bir parçası olarak DeepMind, Google'ın şirketin fikri mülkiyetinin kontrolünü tek taraflı olarak ele geçirmesini engelleyecek bir düzenleme yaptı. İşlem hakkında bilgi sahibi bir kişiye göre, satın almadan önceki yıl, her iki taraf da Etik ve Güvenlik İnceleme Anlaşması adı verilen bir sözleşme imzaladı. Daha önce bildirilmeyen anlaşma, Londra'daki kıdemli avukatlar tarafından hazırlandı.

İnceleme Anlaşması, DeepMind'ın temel YGZ teknolojisinin kontrolünü, ne zaman yaratılırsa yaratılsın, Etik Kurulu olarak bilinen bir yönetim panelinin eline veriyor. Aynı kaynağa göre Etik Kurulu, Google'ın verdiği kozmetik bir taviz olmaktan öte, DeepMind'a en değerli ve potansiyel olarak en tehlikeli teknolojisinin kontrolünü elinde tutması için sağlam bir yasal destek sağlıyor. Kurul üyelerinin isimleri kamuoyuna açıklanmadı, ancak hem DeepMind hem de Google'a yakın bir başka kaynak DeepMind'ın üç kurucusunun da kurulda yer aldığını söylüyor. (DeepMind, İnceleme Anlaşması ile ilgili ayrıntılı bir dizi soruyu yanıtlamayı reddetti ancak "etik gözetim ve yönetişim bizim için ilk günlerden beri bir öncelik olmuştur" dedi.)

Hassabis DeepMind'ın kaderini başka yollarla da belirleyebilir. Bunlardan biri sadakat. Geçmişteki ve şimdiki çalışanlar, Hassabis'in araştırma gündeminin DeepMind'ın en güçlü yanlarından biri olduğunu söylüyor. Akademinin baskılarından uzak, büyüleyici ve önemli çalışmalar sunan programı, dünyanın en yetenekli yüzlerce uzmanını kendine çekmiş durumda. DeepMind'ın Paris ve Alberta'da yan ofisleri bulunmaktadır. Birçok çalışan Hassabis'e ve misyonuna, gelir hırsıyla yanıp tutuşan kurumsal ana şirketinden daha fazla yakınlık duyuyor. Onların kişisel sadakatini koruduğu sürece, Hassabis tek hissedarı üzerinde önemli bir güce sahip olacaktır. Google için DeepMind'ın yapay zeka yeteneklerinin vekaleten kendisi için çalışması, bu kişilerin Facebook ya da Apple'a geçmesinden daha iyidir.

DeepMind'ın sürekli yenilenmesi gerekse de başka bir kaldıraç kaynağı daha var: olumlu tanıtım. Şirket bu konuda çok başarılı. AlphaGo bir halkla ilişkiler darbesiydi. Google'ın satın almasından bu yana firma defalarca dünya çapında dikkat çeken mucizeler üretti. Yazılımın bir parçası göz taramasında makula dejenerasyonunun göstergesi olan desenleri tespit edebiliyor. Başka bir program AlphaGo'ya benzer bir mimari kullanarak sıfırdan satranç oynamayı öğrendi ve sadece dokuz saat kendi kendine oynadıktan sonra tüm zamanların en iyi satranç oyuncusu oldu. Aralık 2018'de AlphaFold adlı bir program, proteinlerin üç boyutlu yapısını bileşimlerinin bir listesinden tahmin etmede rakiplerinden daha doğru olduğunu kanıtladı ve potansiyel olarak Parkinson ve Alzheimer gibi hastalıkların tedavisinin yolunu açtı.

DeepMind özellikle Google'ın tahminî 2,5 milyon bilgisayar sunucusu içeren veri merkezlerini soğutmak için en verimli yöntemleri hesaplayan algoritmalarıyla gurur duyuyor. DeepMind 2016 yılında Google'ın enerji faturasını %40 oranında azalttıklarını söyledi. Ancak içeriden bazı kişiler bu tür övgülerin abartılı olduğunu söylüyor. Google, DeepMind var olmadan çok önce de veri merkezlerini optimize etmek için algoritmalar kullanıyordu. Bir Google çalışanı, "Sadece Alphabet bünyesinde katma değer yarattıklarını iddia edebilmek için biraz pr elde etmek istiyorlar," diyor. Google'ın ana şirketi Alphabet bu gibi hizmetler için DeepMind'a yüklü miktarda ödeme yapıyor. DeepMind 2017 yılında Alphabet şirketlerine 54 milyon sterlin fatura kesti. Bu rakam DeepMind'ın genel giderleriyle kıyaslandığında sönük kalıyor. O yıl sadece personel için 200 milyon sterlin harcadı. Genel olarak DeepMind 2017'de 282 milyon sterlin kaybetti.

Bu, nakit zengini dev için çok küçük bir rakam. Ancak Alphabet'in diğer iştirakleri de Alphabet'in cimri finans müdürü Ruth Porat'ın dikkatini çekti. Bir internet servis sağlayıcısı kurma çabası olan Google Fiber, yatırımın geri dönüşünün on yıllar alacağının anlaşılması üzerine askıya alındı. Yapay zeka araştırmacıları özel olarak DeepMind'ın "Porated" olup olmayacağını merak ediyor.

DeepMind'ın yapay zeka gelişmelerini dikkatli bir şekilde ortaya koyması, yönetim stratejisinin bir parçasını oluşturuyor ve iktidarlara itibarının değerini işaret ediyor. Google'ın kullanıcıların gizliliğini ihlal etmek ve yalan haber yaymakla suçlandığı bir dönemde bu özellikle değerli. DeepMind en üst düzeyde bir sempatizana sahip olduğu için de şanslı: Google'ın iki kurucusundan biri olan ve şu anda Alphabet'in CEO'su olan Larry Page. Page, Hassabis'in bir patrona sahip olduğu en yakın şey. Page'in babası Carl, 1960'larda sinir ağları üzerine çalışmıştı. Page, kariyerinin başlarında Google'ı yalnızca bir yapay zeka şirketi kurmak için kurduğunu söylemişti.

DeepMind'ın basın yönetimi için ihtiyaç duyduğu sıkı kontrol, şirkete hakim olan akademik ruhla uyuşmuyor. Bazı araştırmacılar çalışmalarını yayınlamanın zor olabileceğinden yakınıyor: çalışmalarını konferanslara ve dergilere gönderebilmek için bile şirket içi onay katmanlarıyla mücadele etmek zorundalar. DeepMind, YGZ beklentisiyle halkı korkutmaktan kaçınmak için dikkatli bir şekilde ilerlemesi gerektiğine inanıyor. Ancak çok sıkı bir şekilde susmak akademik atmosferi bozmaya ve çalışanların sadakatini zayıflatmaya başlayabilir.

Google tarafından satın alınmasından beş yıl sonra, DeepMind'ı kimin kontrol ettiği sorusu bir kırılma noktasına geliyor. Şirketin kurucuları ve ilk çalışanları, satın almadan elde ettikleri maddi tazminatla (Hassabis'in hisselerinin değeri muhtemelen 100 milyon sterlin civarındaydı) ayrılabilecekleri hak ediş süresine yaklaşıyor. Ancak şirkete yakın bir kaynak Alphabet'in kurucuların kazançlarını iki yıl ertelediğini öne sürüyor. Hassabis'in durmak bilmeyen odağı göz önüne alındığında, gemiden atlaması pek olası değil. Parayla sadece hayatının işini başarmasına yardımcı olduğu sürece ilgileniyor. Ancak bazı meslektaşları çoktan ayrıldı. 2019'un başından bu yana üç yapay zeka mühendisi ayrıldı. Dünyanın en önde gelen güvenlik mühendislerinden biri olan Ben Laurie de önceki işvereni Google'a geri döndü. Bu sayı az, ancak DeepMind o kadar heyecan verici bir görev ve iyi bir ücret sunuyor ki, birisinin ayrılması nadiren gerçekleşiyor.

Google şimdiye kadar DeepMind'a fazla müdahale etmedi. Ancak yakın zamanda yaşanan bir olay, şirketin bağımsızlığını ne kadar sürdürebileceğine dair endişeleri artırdı.

DeepMind her zaman yapay zekayı sağlık hizmetlerini iyileştirmek için kullanmayı planlamıştı. Şubat 2016'da, şirketin kurucu ortaklarından Mustafa Süleyman liderliğinde DeepMind Health adında yeni bir bölüm kurdu. Annesi sağlık hemşiresi olan Süleyman, bir hastanın sağlığı kötüleştiğinde doktorları uyaracak Streams adlı bir program yaratmayı umuyordu. DeepMind performansa dayalı bir ücret kazanacaktı. Bu çalışma hastalar hakkında hassas bilgilere erişim gerektirdiği için Süleyman, İngiliz sağlık hizmetleri ve teknolojisinin önde gelen isimlerinden oluşan bir Bağımsız İnceleme Paneli (IRP) kurdu. DeepMind dikkatli davranmakla akıllıca davrandı. İngiliz bilgi komiseri daha sonra ortak hastanelerden birinin hasta verilerini kullanırken yasaları çiğnediğini tespit etti. Yine de 2017 yılı sonunda Süleyman dört büyük sağlık hastanesiyle anlaşma imzalamıştı.

8 Kasım 2018'de Google, kendi sağlık hizmetleri bölümü olan Google Health'in kurulduğunu bildirdi. Beş gün sonra DeepMind Health'in ana şirketin çabalarına dahil edileceği duyuruldu. DeepMind'ın çok az uyarı aldığı anlaşılıyor. Bilgi Edinme Özgürlüğü taleplerinden elde edilen bilgilere göre, iş ortağı hastanelere değişiklik hakkında yalnızca üç gün önceden haber verdi. DeepMind birleşme ile ilgili görüşmelerin ne zaman başladığını söylemeyi reddetti ancak bildirim ile kamuoyuna duyuru arasındaki kısa boşluğun şeffaflık adına olduğunu söyledi. Süleyman 2016 yılında "hasta verilerinin hiçbir aşamada Google hesapları, ürünleri ya da hizmetleriyle ilişkilendirilmeyeceğini" yazmıştı. Sözünü tutmamış gibi görünüyor. (1843'ün sorularına yanıt olarak DeepMind, "bu aşamada sözleşmelerimizden hiçbiri Google'a geçmedi ve yalnızca ortaklarımızın rızasıyla geçecek. Streams'in bir Google hizmeti haline gelmesi, hasta verilerinin... diğer Google ürün veya hizmetlerini sağlamak için kullanılabileceği anlamına gelmez.")

Google'ın bu ilhakı DeepMind Health çalışanlarını kızdırdı. Sağlık ekibine yakın kişilere göre, özümseme tamamlandığında daha fazla çalışan şirketten ayrılmayı planlıyor. IRP'nin bir üyesi, Mike Bracken, Süleyman'ı çoktan terk etti. Olayı bilen çok sayıda kişiye göre Bracken, panelin gerçek bir gözetimden ziyade vitrin süsü olduğu yönündeki endişeleri nedeniyle Aralık 2017'de istifa etti. Bracken, Süleyman'a panel üyelerine icracı olmayan direktörlerin hesap verebilirlik ve yönetişim yetkilerini verip vermeyeceğini sorduğunda, Süleyman alay etti. (DeepMind'dan bir sözcü olayı "hatırlamadıklarını" söyledi). IRP'nin başkanı Julian Huppert, panelin Bracken'ın beklediğinden "daha radikal bir yönetişim" sağladığını çünkü üyelerin açıkça konuşabildiğini ve gizlilik yükümlülüğüne bağlı olmadıklarını savunuyor.

Bu olay, DeepMind'ın operasyonunun çevresel bölümlerinin Google'a karşı savunmasız olduğunu gösteriyor. DeepMind yaptığı açıklamada "hepimiz bu çabaları daha fazla kaynakla tek bir ortak çabada bir araya getirmenin mantıklı olduğu konusunda hemfikiriz" dedi. Bu durum, Google'ın aynı mantığı DeepMind'ın AGI üzerindeki çalışmalarına uygulayıp uygulamayacağı sorusunu akla getiriyor.

Uzaktan bakıldığında DeepMind büyük adımlar atmış gibi görünüyor. Şimdiden insanüstü seviyelerde görevleri yerine getirmeyi öğrenebilen bir yazılım geliştirdi. Hassabis sık sık Atari konsolu için bir video oyunu olan Breakout'tan bahsediyor. Breakout oyuncusu, ekranın alt kısmında yatay olarak hareket ettirebildiği bir sopayı kontrol eder ve bu sopayı, üzerinde duran bloklara karşı bir topu sektirmek ve çarpma anında onları yok etmek için kullanır. Tüm bloklar yok edildiğinde oyuncu kazanır. Sopayla topu ıskalarsa kaybediyor. İnsan talimatı olmadan, DeepMind'ın programı sadece oyunu oynamayı öğrenmekle kalmadı, aynı zamanda topu blokların arkasındaki boşluğa nasıl fırlatacağını ve daha fazla blok kırmak için ribaundlardan nasıl yararlanacağını da çözdü. Hassabis bunun, takviyeli öğrenmenin gücünü ve DeepMind'ın bilgisayar programlarının doğaüstü yeteneğini gösterdiğini söylüyor.

Etkileyici bir demo. Ancak Hassabis birkaç şeyi atlıyor. Eğer sanal kürek biraz daha yukarı hareket ettirilirse, program başarısız olacaktır. DeepMind'ın programı tarafından öğrenilen beceri o kadar kısıtlı ki, bir insanın adım atarken kabul edeceği çevredeki küçük değişikliklere bile tepki veremiyor - en azından binlerce tur daha pekiştirmeli öğrenme olmadan. Ancak dünyanın içinde böyle bir titreşim var. Tanısal zeka için, hiçbir iki vücut organı asla aynı değildir. Mekanik zeka için, iki motor aynı şekilde ayarlanamaz. Dolayısıyla sanal ortamda mükemmelleştirilen programları doğaya salmak zorluklarla doludur.

DeepMind'ın nadiren bahsettiği ikinci uyarı, sanal ortamlardaki başarının bir ödül fonksiyonunun varlığına bağlı olmasıdır: yazılımın ilerlemesini ölçmesini sağlayan bir sinyal. Program arka duvardan sekmenin puanını artırdığını öğreniyor. DeepMind'ın AlphaGo ile yaptığı çalışmaların çoğu, böylesine karmaşık bir oyunla uyumlu bir ödül fonksiyonu oluşturmaya dayanıyordu. Ne yazık ki gerçek dünya basit ödüller sunmuyor. İlerleme nadiren tek bir skorla ölçülür. Bu tür ölçümlerin olduğu yerlerde ise siyasi zorluklar sorunu daha da karmaşık hale getiriyor. İklim sağlığı için ödül sinyalini (atmosferdeki CO₂ konsantrasyonu) petrol şirketleri için ödül sinyali (hisse fiyatı) ile uzlaştırmak, çelişkili motivasyonlara sahip birçok insanı tatmin etmeyi gerektirir. Ödül sinyalleri çok zayıf olma eğilimindedir. İnsan beyninin bir görevin ortasındayken o görevin başarısı hakkında açık bir geri bildirim alması nadirdir.

DeepMind, büyük miktarda bilgisayar gücü kullanarak bunu aşmanın bir yolunu buldu. AlphaGo'nun bir şey öğrenmesi için binlerce yıllık insan oyun oynama süresi gerekiyor. Birçok yapay zeka düşünürü, bu çözümün daha zayıf ödüller sunan görevler için sürdürülemez olduğundan şüpheleniyor. DeepMind bu tür belirsizliklerin varlığını kabul ediyor. Yakın zamanda bir strateji bilgisayar oyunu olan StarCraft 2'ye odaklandı. Oyunun başlarında alınan kararların daha sonra sonuçları oluyor; bu da gerçek dünyadaki pek çok görevi karakterize eden karmaşık ve gecikmeli geri bildirim türüne daha yakın. Ocak ayında, DeepMind yazılımı dünyanın en iyi insan oyuncularından bazılarını, çok kısıtlı olmasına rağmen yine de etkileyici olan bir demoda yendi. Programları ayrıca insan görev yöneticilerinin geri bildirimlerini takip ederek ödül işlevlerini öğrenmeye başladı. Ancak insan talimatlarını döngüye dahil etmek, katıksız bilgisayar işlemenin sunduğu ölçek ve hız etkilerini kaybetme riski taşıyor.

Sıkı gizlilik anlaşmaları nedeniyle isimlerinin açıklanmasını istemeyen DeepMind ve Google'daki mevcut ve eski araştırmacılar da DeepMind'ın bu tür yöntemlerle YGZ'ye ulaşabileceğine dair kuşkularını dile getirdiler. Bu kişilere göre, simüle edilmiş ortamlarda yüksek performans elde etmeye odaklanmak, ödül-sinyal probleminin üstesinden gelmeyi zorlaştırıyor. Yine de bu yaklaşım DeepMind'ın kalbinde yer almaktadır. Şirketin, rakip kodlayıcı ekiplerinin programlarının sanal alanlar üzerinde ustalık kazanmak için yarıştığı dahili bir liderlik tablosu var.

Hassabis hayatı her zaman bir oyun olarak görmüştür. Kariyerinin büyük bir bölümünü oyun yapmaya adamış, boş zamanlarının büyük bir bölümünü de oyun oynayarak geçirmiştir. DeepMind'da YGZ'yi geliştirmek için seçtiği araç da bu oyunlar. Tıpkı yazılımı gibi, Hassabis de yalnızca deneyimlerinden öğrenebilir. Bazı yararlı tıbbi teknolojiler icat etmiş ve dünyanın en iyi masa oyunu oyuncularını geride bırakmış olarak YGZ arayışı sonunda yolunu kaybedebilir. Önemli başarılar ama onun arzuladığı başarılar değil. Ancak yine de Google'ın burnunun dibinde ama kontrolünün ötesinde YGZ'yi hayata geçirebilir. Eğer bunu başarırsa, Demis Hassabis en zor oyunu yenmiş olacak.

Hiç yorum yok:

Yorum Gönder