 |
| Bir yapay zeka eli dünyaya dokunmak için uzanıyor ve onu pikselli verilere dönüştürüyor. Kompozit: Guardian Design/Getty Images |
Demis Hassabis yapay zeka konusunda "kötümser" kampta yer almadığını söylüyor. Ancak bu, Google DeepMind CEO'sunun Mayıs ayında yapay zekanın yok olma tehdidinin salgın hastalıklar veya nükleer silahlarla karşılaştırılabilir bir toplumsal risk olarak ele alınması gerektiği konusunda uyarıda bulunan bir bildiri imzalamasını engellemedi.
Umut ve korku arasındaki bu tedirgin edici uçurum ve bu uçurumu kapatma arzusu, Rishi Sunak'ın gelecek haftaki küresel YZ güvenlik zirvesini, ikinci dünya savaşı sırasında Alman iletişimini deşifre eden -bilişim öncüsü Alan Turing de dahil olmak üzere- vizyoner şifre kırıcıların üssü olarak sembolik bir seçim olan Bletchley Park'ta toplamasının önemli bir nedenidir.
Hassabis, Google DeepMind'ın King's Cross, Londra'daki üssünde Guardian'a verdiği röportajda "Yapay zeka konusunda kötümser bir kampta değilim, aksi takdirde üzerinde çalışmazdım" diyor.
"Ama ben 'burada görülecek ve endişelenecek bir şey yok' [kampında] değilim. Bu bir orta yol. Bu iş iyi gidebilir ama bunu şekillendirmek için aktif olmalıyız."
47 yaşında bir İngiliz olan Hassabis, 2010 yılında İngiliz DeepMind şirketinin kurucularından. Şirket 2014 yılında Google tarafından satın alındı ve onun liderliğinde yapay zeka alanında çarpıcı atılımlar gerçekleştirdi. Şirket, arama firmasının diğer yapay zeka operasyonlarıyla birleştikten sonra artık Google DeepMind olarak biliniyor ve Hassabis CEO olarak dümenin başında.
Birimi, insan vücudundaki proteinlerin yanı sıra bilim tarafından bilinen neredeyse tüm kataloglanmış proteinlerin üç boyutlu şekillerini tahmin edebilen AlphaFold programının arkasındadır. Bu, yaşamın biyolojik yapı taşlarının haritasını çıkardığı için yeni ilaçların keşfedilmesi gibi alanlarda atılımlar yapılmasına yardımcı olacak devrim niteliğinde bir başarıdır. Bu yıl Hassabis, AlphaFold üzerindeki çalışmaları nedeniyle bilimin en prestijli ödüllerinden biri olan Lasker temel tıbbi araştırma ödülüne ortaklaşa layık görüldü. Bu ödülü kazananların birçoğu Nobel ödülü almaya hak kazanıyor.
Geçtiğimiz ay Hassabis'in ekibi, hastalığa neden olabilecek protein malformasyonlarını tespit etmek için aynı yapay zeka protein programını kullanan AlphaMissense'i piyasaya sürdü.
Hassabis, Mayıs ayındaki bildiride yapay zekanın potansiyel faydalarına atıfta bulunulmasını tercih edeceğini söylüyor. "YZ'nin getireceği tüm inanılmaz fırsatlardan bahseden bir satırım olurdu: tıp, bilim, günlük yaşamda yardımcı olan her şey, günlük yaşamda yardımcı olmak."
Uzmanlara göre hukuk, tıp ve finans gibi vasıflı meslekler risk altında olsa da, yapay zeka gelişmelerinin iş piyasasında "bozulmayı" tetikleyeceğini, ancak ekonomi uyum sağladıkça etkinin "genel olarak olumlu" olacağını söylüyor. Bu aynı zamanda yapay zeka uzmanları arasında teknolojinin evrensel bir temel geliri, hatta ulaşım ve konaklama gibi hizmetleri ücretsiz sağlayan evrensel bir temel hizmeti finanse edeceğinin konuşulmasına yol açtı.
Ancak etkili bir uluslararası kuruluş olan OECD, yapay zeka kaynaklı otomasyon nedeniyle en yüksek risk altındaki işlerin yüksek vasıflı olduğunu ve aralarında İngiltere, Japonya, Almanya, ABD, Avustralya ve Kanada'nın da bulunduğu 38 üye ülkedeki istihdamın yaklaşık %27'sini temsil ettiğini söylüyor. OECD'nin "işyerini temelden değiştirebilecek bir yapay zeka devriminden" bahsetmesine şaşmamak gerek.
Bununla birlikte, zirve, önemli ölçüde can kaybına neden olabilecek son teknoloji sistemler için kullanılan bir terim olan sınır YZ'den kaynaklanan tehditlere odaklanacak. Bunlar arasında biyolojik silah üretme, sofistike siber saldırılar oluşturma ve insan kontrolünden kaçma becerisi yer alıyor. İkinci konu, yapay genel zeka ya da "tanrı benzeri" yapay zeka ile ilgili korkulara atıfta bulunur; bu, insan zeka seviyelerinin üzerinde veya ötesinde çalışan bir sistem anlamına gelir.
Bu korkuları dile getiren kötümser kampın güçlü referansları var. Modern YZ'nin "vaftiz babalarından" biri olarak tanımlanan İngiliz bilgisayar bilimcisi Geoffrey Hinton, teknolojiyle ilgili korkularını daha özgürce dile getirmek için bu yıl Google'daki işinden ayrıldı.
Hinton Mayıs ayında Guardian'a verdiği demeçte, yapay zeka firmalarının insanlığı geride bırakma potansiyeline sahip zekalar inşa etmeye çalıştığına dair endişelerini dile getirdi.
"Bunun uzunca bir süre gelmeyeceğine olan inancım, biyolojik zeka ile dijital zekanın çok farklı olduğunu ve dijital zekanın muhtemelen çok daha iyi olduğunu fark etmemle sarsıldı."
Bir başka kıdemli İngiliz bilgisayar bilimcisi Stuart Russell, BM'nin bir yapay zeka sisteminden okyanusların asidini gidermek için kendi kendine çoğalan bir katalizör yaratmasını istediği, sonucun toksik olmadığı ve hiçbir balığın zarar görmediği bir güvenlik talimatı verdiği bir senaryo konusunda uyarıda bulundu. Ancak sonuç atmosferdeki oksijenin dörtte birini tüketir ve insanları yavaş ve acılı bir ölüme maruz bırakır.
Hinton ve Russell'ın yanı sıra Hassabis, dünya siyasetçileri, diğer teknoloji CEO'ları ve sivil toplum figürleri de zirveye katılıyor.
AGI konusuna değinen Hassabis, "sistemlerin ufukta görünmesine daha çok var" diyor ancak gelecek nesil sistemlerin riskler taşıyacağını söylüyor. Zirve de bu nedenle düzenleniyor.
Zirveyi eleştirenler, varoluşsal riske odaklanmanın deepfakes gibi kısa vadeli sorunları göz ardı ettiğini savunuyor.
Hükümet, zirvenin gündeminde seçimlerin aksaması ve yapay zeka araçlarının yanlı sonuçlar üretmesine atıfta bulunarak acil endişeleri kabul etmiş görünüyor. Hassabis, üç risk kategorisi olduğunu ve hepsinin "eşit derecede önemli" olduğunu ve eş zamanlı olarak üzerinde çalışılması gerektiğini savunuyor.
Bunlardan ilki, deepfakes ve önyargı gibi yakın vadeli riskler. "Bu tür meseleler... özellikle de gelecek yıl yapılacak seçimler nedeniyle çok acil meseleler" dedi. "Bu yüzden... şimdi çözümlere ihtiyacımız var." Google DeepMind, yapay zeka tarafından üretilen görüntülere filigran ekleyen bir araç başlattı bile.
İkinci risk kategorisi, açık kaynak modelleri olarak bilinen kamuya açık ve ayarlanabilir sistemler aracılığıyla YZ araçlarına erişen ve bunları zarar vermek için kullanan haydut aktörlerdir.
"Kötü aktörlerin erişimi nasıl kısıtlanır, ancak bir şekilde tüm iyi kullanım durumları nasıl etkinleştirilir? Bu büyük bir tartışma konusu."
Üçüncüsü ise artık fantastik bir olasılık olarak tartışılmayan Yapay Genel Zeka. Hassabis, süper güçlü sistemlerin "on yıl kadar uzakta" olabileceğini, ancak onları kontrol etmeye yönelik düşüncelerin hemen başlaması gerektiğini söylüyor.
Bu alanda alternatif görüşler de var. Mark Zuckerberg'in Meta'sının baş yapay zeka bilimcisi ve yapay zeka alanında saygın bir isim olan Yann LeCun, geçen hafta yapay zekanın insanlığı yok edebileceği korkusunun "saçma" olduğunu söyledi.
Bununla birlikte, süper zeki sistemlerden endişe duyanlar arasında bir endişe de kontrolden kaçabilecekleri düşüncesidir.
Hassabis, "Kendi kodunu dışarı sızdırabilir mi, kendi kodunu çıkarabilir mi, kendi kodunu geliştirebilir mi?" diyor. "Kendisini izinsiz kopyalayabilir mi? Çünkü bunların hepsi istenmeyen davranışlar olacaktır, çünkü eğer onu kapatmak istiyorsanız, kendisini başka bir yere kopyalayarak bunun etrafından dolaşmasını istemezsiniz. Güçlü bir sistemde istenmeyen bunun gibi pek çok davranış vardır."
Bu tür otonom davranış tehdidinin önüne geçmek için testlerin tasarlanması gerektiğini söyledi. "Bunu test etmek için gerçekten bir test geliştirmelisiniz... ve sonra bunu hafifletebilir ve hatta belki bir noktada buna karşı yasal düzenleme yapabilirsiniz. Ama önce araştırmanın yapılması gerekiyor."
Son derece yetenekli üretken yapay zeka araçlarının - basit insan komutlarından makul metin, görüntü ve ses üreten teknoloji - halihazırda piyasada olması ve bunları düzenleyecek yasal çerçevenin hala inşa ediliyor olması durumu daha da karmaşık hale getiriyor.
Temmuz ayında Beyaz Saray'da büyük batılı teknoloji firmaları tarafından imzalanan YZ güvenliği taahhütleri gibi bir çerçevenin işaretleri ortaya çıkıyor. Ancak bu taahhütler gönüllülük esasına dayanıyor.
Hassabis, IPCC tarzı bir organla başlayıp sonunda nükleer silahların yayılmasını önleyen Uluslararası Atom Enerjisi Ajansı'na "eşdeğer" bir kuruluşa geçmekten bahsediyor, ancak düzenleyici analojilerin hiçbirinin YZ'ye "doğrudan uygulanabilir" olmadığını vurguluyor. Bu yeni bir alan.
Eğer kötümser kampta yer alıyorsanız, sağlam bir düzenleyici çerçeve oluşturmak yıllar alabilir. Ve Hassabis'in dediği gibi, güvenlik konusundaki çalışmaların "dün" başlaması gerekiyor.
Hiç yorum yok:
Yorum Gönder