Sinir ağı öncüsü, sohbet robotlarının tehlikelerinin 'oldukça korkutucu' olduğunu söylüyor ve 'kötü aktörler' tarafından istismar edilebilecekleri konusunda uyarıyor.
Yapay zekanın vaftiz babası olarak lanse edilen kişi, yanlış bilgi seli, yapay zekanın iş piyasasını altüst etme olasılığı ve gerçek bir dijital zekanın yaratılmasının yarattığı "varoluşsal risk" konusundaki endişelerini gerekçe göstererek Google'dan ayrıldı.
Toronto Üniversitesi'nde iki öğrencisiyle birlikte 2012 yılında bir sinir ağı inşa eden Dr. Geoffrey Hinton, ilk olarak New York Times tarafından bildirildiği üzere bu hafta Google'dan ayrıldı.
75 yaşındaki Hinton, yapay zekanın tehlikeleri hakkında özgürce konuşmak için istifa ettiğini ve kısmen bu alana yaptığı katkılardan pişmanlık duyduğunu söyledi. Hinton on yıl önce Google tarafından şirketin yapay zeka teknolojisinin geliştirilmesine yardımcı olmak üzere göreve getirilmiş ve öncülük ettiği yaklaşım ChatGPT gibi mevcut sistemlerin yolunu açmıştı.
New York Times'a verdiği demeçte, geçen yıla kadar Google'ın teknolojinin "doğru bir temsilcisi" olduğuna inandığını, ancak Microsoft'un Bing arama motoruna bir chatbot eklemeye başlamasıyla bu durumun değiştiğini ve şirketin arama işine yönelik riskler konusunda endişelenmeye başladığını söyledi.
BBC'ye verdiği demeçte, yapay zekalı sohbet robotlarının bazı tehlikelerinin "oldukça korkutucu" olduğunu belirterek, insanlardan daha zeki hale gelebilecekleri ve "kötü aktörler" tarafından istismar edilebilecekleri uyarısında bulundu. "Otomatik olarak çok sayıda metin üretebiliyor, böylece çok etkili spambotlar elde edebilirsiniz. Otoriter liderlerin seçmenlerini manipüle etmesine olanak tanıyacak, bunun gibi şeyler."
Ancak, "bu şeyler bizden daha zeki hale geldiğinde ne olacağına dair varoluşsal risk" konusunda da endişeli olduğunu ekledi.
"Geliştirmekte olduğumuz zeka türünün sahip olduğumuz zekadan çok farklı olduğu sonucuna vardım" dedi. "Yani sanki 10.000 kişi varmış ve bir kişi bir şey öğrendiğinde herkes otomatik olarak onu biliyormuş gibi. İşte bu sohbet robotları bu şekilde herhangi bir kişiden çok daha fazlasını bilebilir."
Teknolojinin insanlığa ciddi zarar verebileceğinden korkan yapay zeka araştırmalarının üst kademelerinde yalnız değil. Geçtiğimiz ay Elon Musk, Google'ın kurucu ortağı Larry Page ile Page'in "YZ güvenliğini yeterince ciddiye almaması" nedeniyle arasının açıldığını söylemişti. Musk Fox News'e verdiği demeçte Page'in "dijital süper zeka, yani dijital bir tanrı, mümkün olan en kısa sürede" istediğini söyledi.
Quebec Yapay Zeka Enstitüsü Mila'nın CEO'su Valérie Pisano, yapay zeka sistemlerinde güvenliğe yönelik baştan savma yaklaşımın başka hiçbir alanda tolere edilemeyeceğini söyledi. "Teknoloji ortaya konuyor ve sistem insanlarla etkileşime girdikçe, geliştiricileri ne olacağını görmek için bekliyor ve buna göre ayarlamalar yapıyor. Kolektif olarak bu tür bir zihniyeti başka hiçbir endüstriyel alanda asla kabul etmeyiz. Teknoloji ve sosyal medyada şöyle bir şey var: 'Evet, tabii, bunu daha sonra çözeriz,' diyoruz" dedi.
Hinton'un kısa vadedeki endişesi, halihazırda gerçeğe dönüşmüş olan bir şey - insanlar, interneti dolduran yapay zeka tarafından üretilen fotoğraflar, videolar ve metinlerle artık neyin doğru olduğunu ayırt edemeyecek.
Midjourney gibi görüntü oluşturuculara yapılan son güncellemeler, insanların artık foto-gerçekçi görüntüler üretebileceği anlamına geliyor - Papa Francis'in Balenciaga puffer ceketli böyle bir görüntüsü Mart ayında viral oldu.
Hinton ayrıca yapay zekanın eninde sonunda avukat yardımcılığı, kişisel asistanlık ve diğer "angarya işler" gibi işlerin ve potansiyel olarak gelecekte daha fazlasının yerini alacağından endişe duyuyordu.
Google'ın baş bilim adamı Jeff Dean yaptığı açıklamada, Google'ın Hinton'ın son on yılda şirkete yaptığı katkıları takdir ettiğini söyledi.
"Yıllar boyunca yaptığımız pek çok sohbetten büyük keyif aldım. Onu özleyeceğim ve iyi olmasını diliyorum!
"Yapay Zeka İlkelerini yayınlayan ilk şirketlerden biri olarak, yapay zeka konusunda sorumlu bir yaklaşım benimsemeye devam ediyoruz. Ortaya çıkan riskleri anlamak için sürekli öğreniyoruz ve aynı zamanda cesurca yenilikler yapıyoruz." New South Wales Üniversitesi Yapay Zeka Enstitüsü'nün baş bilim adamı Toby Walsh, insanların şu anda gördükleri tüm çevrimiçi medyayı sorgulamaları gerektiğini söyledi.
"Gördüğünüz herhangi bir dijital veri söz konusu olduğunda - ses ya da video - birilerinin bunu taklit etmiş olabileceği fikrini aklınızdan çıkarmamalısınız."
Kaynak: https://tinyurl.com/vwkwc95y
Hiç yorum yok:
Yorum Gönder