Bu makale Yapay Zekanın Geleceğini Tahmin Etmek - Teknoloji makalesine cevaplar da içermektedir.
B. Tekillik. Bu , sonunda hedefleri ve amaçları olan YZ tabanlı zeki bir varlığın YZ araştırmalarında biz insanlardan daha iyi olacağı fikrine atıfta bulunur. Sonra, bilgisayarları daha hızlı ve daha hızlı hale getiren bitmeyen bir Moore yasasıyla, Yapay Zeka kendi kendine havalanacak ve bir kara deliğin tekilliğinden geçen spekülatif fizikte olduğu gibi, diğer tarafta işlerin nasıl olacağı hakkında hiçbir fikrimiz olmayacak.
Tekilliğe "inananlar" Tekillik sonrası Yapay Zeka'ya inanılmaz bir güç vermekten mutluluk duyarlar, çünkü sonrasında ne olacağı oldukça öngörülemezdir. Tekilliğe inanmak çoğu zaman dini bir inanç gibi görünebileceğinden, inanmak kelimesini tırnak işareti içine aldım. Bazıları için bu, zihinlerini akıllı bir bilgisayara yükleyebilme ve böylece standart bir doğaüstü Tanrı'ya inanma zorunluluğu olmadan sonsuz yaşam elde edebilme gibi ek bir faydayla birlikte gelir. Her zaman güçlü, teknolojik tabanlı Yapay Zeka onlar için yeni Tanrı'dır. Tekno din!
Bazı insanlar kurtuluş gününün ne zaman geleceği konusunda çok belirgin fikirlere sahiptirler; belirli bir Tekillik peygamberinin takipçileri, bunun yazıldığı gibi 2029 yılında gerçekleşeceğine inanırlar.
(Yapay Zekanın geleceğini dine dönüştürenlerin olduğunu anlatıyor.)
...
(İnsan seviyesinde bir YZ'ye ataç yapma görevi verildiğinde neler olacağını anlatan popüler tahminlerden bahsetmektedir.)
Bilinen ataç örneği buna iyi bir örnektir: Eğer makinenin tek amacı ataç sayısını en üst düzeye çıkarmaksa, ulaşılabilir evrendeki tüm kütleyi ataçlara dönüştürmeye çalışırken inanılmaz teknolojiler icat edebilir; ancak kararları yine de düpedüz aptalca olacaktır.
Şey, hayır. Gerçek dünyanın
herhangi bir versiyonunda böyle bir programın var olabileceği bir
duruma asla ulaşamayız. İnsanlar tarafından belirlenen hedeflere
ulaşmak için insan toplumunu altüst etmenin yollarını icat
edebilecek kadar akıllı bir program, aynı insanlar için sorunlara
neden olduğu yolları anlamayacak. Teknolojinin bu şekilde
evrimleşebileceğini düşünmek düpedüz aptallıktır (güzel bir
ifade tarzı...) ve aşağıda tartışacağım yedi hata arasında
birden fazla hata yapmaya dayanır.
...
(Gelecekteki bir teknoloji bugünün insanına sihirli görünür. Dolayısıyla sınırlarının ne olacağını bilemez. Yapılan tartışmalar inanç temelli olmaya başlar.)
Şimdi Newton'a bir Apple gösterin. Cebinizden bir iPhone çıkarın ve ekranı parlayana ve simgelerle dolana kadar açın ve ona verin. Beyaz ışığın, güneş ışığını bir prizmayla ayırıp sonra tekrar bir araya getirerek farklı renkli ışık bileşenlerinden nasıl oluştuğunu ortaya koyan kişi, bu kadar küçük bir nesnenin şapelin karanlığında bu kadar canlı renkler üretmesine hiç şüphesiz şaşırırdı. Şimdi, belki de aşina olabileceği bazı hayvanlarla birlikte, İngiliz kırsalından bir sahnenin filmini oynatın - içerikte geleceğe dair hiçbir işaret yok. Sonra aşina olabileceği biraz kilise müziği çalın. Ve sonra ona, şaheseri Principia'nın kişisel olarak not aldığı 500'den fazla sayfanın bulunduğu bir web sayfası gösterin ve ona ayrıntıları yakınlaştırmak için sıkıştırma hareketlerini nasıl kullanacağını öğretin.
Newton bu küçük cihazın tüm bunları nasıl yaptığını açıklamaya başlayabilir miydi? Kalkülüsü icat etmesine ve hem optiği hem de yerçekimini açıklamasına rağmen Newton hiçbir zaman kimya ve simyayı çözemedi. Bu yüzden afallamış olacağını ve bu cihazın ne olduğuna dair en ufak bir tutarlı taslak bile çıkaramayacağını düşünüyorum. Onun için okültizmin bir cisimleşmesinden farklı olmayacaktı - hayattayken onun için çok ilgi çekici olan bir şey. Onun için sihirden ayırt edilemez olacaktı. Ve unutmayın, Newton gerçekten zeki bir adamdı.
Bir şey sihirliyse, sahip olduğu sınırlamaları bilmek zordur. Diyelim ki Newton'a karanlığı nasıl aydınlatabileceğini, nasıl fotoğraf ve film çekebileceğini ve ses kaydedebileceğini, nasıl büyüteç ve ayna olarak kullanılabileceğini gösteriyoruz. Sonra ona inanılmaz bir hızda ve birçok ondalık basamakta aritmetik hesaplamalar yapmak için nasıl kullanılabileceğini gösteriyoruz. Ve onu taşıdığında adımlarını saydığını gösteriyoruz.
Newton, önündeki cihazın başka ne yapabileceğini varsayabilirdi? Bunu, şapelin hemen orada, dünyanın herhangi bir yerindeki insanlarla konuşmak için kullanabileceğini varsayabilir miydi? Prizmalar sonsuza kadar çalışır. iPhone'un olduğu gibi sonsuza kadar çalışacağını varsayabilir miydi, şarj edilmesi gerektiğini anlamadan (ve onu Michael Faraday'ın doğumundan 100 yıl önce yakaladığımızı hatırlayın, yani elektrik kavramı henüz ortalıkta yoktu)? Ateş olmadan bir ışık kaynağı olabiliyorsa, belki de kurşunu altına dönüştürebilir miydi?
Bu, hepimizin hayal ettiğimiz gelecekteki teknolojiyle ilgili yaşadığı bir sorundur. Eğer bugün sahip olduğumuz ve anladığımız teknolojiden yeterince uzaksa, o zaman sınırlarını bilemeyiz. Sihirden ayırt edilemez hale gelir.
Bir teknoloji o sihirli çizgiyi geçtiğinde artık onun hakkında söylenen hiçbir şey yanlışlanamaz, çünkü o bir sihirdir.
Bu, sadece YGZ'den korkmamız mı gerektiği, yoksa yukarıdan C veya D vakalarından mı korkmamız gerektiği konusunda insanlarla tartışmaya çalışırken düzenli olarak karşılaştığım bir sorundur. Bana ne kadar güçlü olacağını anlamadığım söylendi. Bu bir argüman değil. Var olup olamayacağı hakkında hiçbir fikrimiz yok. Gördüğüm tüm kanıtlar, henüz nasıl inşa edileceğine dair gerçek bir fikrimizin olmadığını söylüyor. Bu yüzden özellikleri tamamen bilinmiyor, bu yüzden retorik olarak hızla büyülü ve süper güçlü hale geliyor. Sınırsız.
Evrende hiçbir şey sınırsız değildir. Büyülü gelecekteki yapay zeka bile.
Büyülü olan gelecekteki teknoloji
hakkındaki tartışmalara dikkat edin. Asla çürütülemez. Bu
bilimsel bir tartışma değil, inanç temelli bir tartışmadır.
...
(İnsanlar, bir yetenek gördüğünde hemen abartılı genellemeler yapmaya başlıyor.)
İşte yanlış giden şey. İnsanlar bir robotun veya bir YZ sisteminin bir görevi yerine getirdiğini duyarlar. Daha sonra bu performanstan elde ettikleri genellemeyi, aynı görevi yerine getiren bir kişinin sahip olması beklenebilecek genel bir yeterliliğe dönüştürürler. Ve bu genellemeyi robot veya YZ sistemine uygularlar.
Günümüzün robotları ve yapay zeka sistemleri yapabilecekleri
şeyler konusunda inanılmaz derecede dar. İnsan tarzı genellemeler
geçerli değil. Bu genellemeleri yapan insanlar işleri çok, çok
yanlış anlıyor.
...
(AlphaGo, Go'yu aslında bilmemektedir. Kurallardaki ufak bir değişiklik onun artık Go oynayamamasına neden olur.)
Benzer şekilde, insanlar bilgisayarların artık dünya satranç şampiyonunu (1997'de) veya dünya Go şampiyonunu (2016'da) yenebildiğini duyduklarında, tıpkı bir insan gibi oyunu "oynadığını" düşünme eğiliminde oluyorlar. Elbette gerçekte bu programların bir oyunun ne olduğu hakkında hiçbir fikirleri yoktu (tekrar ediyorum, makine öğrenimi hakkındaki yazımı okuyun) ve oynadıkları da yoktu. Ve The Atlantic'teki bu makalede yakın zamanda gerçekleşen Go mücadelesi sırasında belirtildiği gibi, insan oyuncu Lee Sedol 12 ons kahve tarafından desteklenirken, yapay zeka programı AlphaGo dağıtılmış bir uygulama olarak bir sürü makinede çalışıyordu ve 100'den fazla bilim insanından oluşan bir ekip tarafından destekleniyordu.
Bir insan bir oyun oynadığında kurallarda küçük bir
değişiklik onu altüst etmez; iyi bir oyuncu uyum sağlayabilir.
1997'de Garry Kasparov'u yenen program olan AlphaGo veya Deep Blue
için durum böyle değil.
...
(Bilinçli YZ tasarlanabildiğinde, o bilince abartılı genellemeler yapacak insanlar olacak.)
Ve henüz Minsky'nin YZ sistemleri hakkında kullandığı bavul kelimelerinin çoğunu söylemeye bile gelmedik; bilinç , deneyim veya düşünme . Biz insanlar için, bilinçli olmadan veya oynama deneyimi yaşamadan veya bir hamle hakkında düşünmeden satranç oynamayı düşünmek zordur. Şimdiye kadar, YZ sistemlerimizin hiçbiri, bu kelimeleri insanlar hakkında kullandığımız birçok yoldan birinin geçerli olduğu temel bir seviyeye bile ulaşmadı. Bunu yaptığımızda, ve bence yapacağız, belirli YZ sistemleri, basın ve çoğu insan hakkında bu kelimelerden bazılarını kullanmaya başlayacağımız bir noktaya geleceğiz, tekrar aşırı genelleme yapacaklar.
Bu kelimelerin bir diliminin çok dar bir açıdan tek bir açıdan gösterilmesiyle bile insanların aşırı genelleme yapıp makinelerin bu zeka alanlarında insan benzeri yeteneklere çok yakın olduğunu düşünmelerinden korkuyorum.
Kelimeler önemlidir, ancak bir YZ sistemi hakkında bir şeyi
tanımlamak için bir kelime kullandığımızda, bunun insanlara da
uygulanabileceği durumlarda, insanların bunun ne anlama geldiğini
abarttığını görürüz.
...
(Moore yasası gereği YZ'nin de mikroişlemciler gibi hızla gelişeceği beklentisi oluşmuş durumda. YZ'nin inanılmaz seviyelere çıkması çok kısa sürecek. Oysa Moore yasası sadece birkaç yılı öngörmek için geliştirilmişti. Günümüz için bir öngörüsü yok Moore yasasının. Bunu anlatmak için iPod'un hafızasını örnek veriyor.)
Bugüne kadar ekstrapolasyon yaparsak 400$'lık bir iPod'un 160.000 GigaByte (veya 160 TeraByte) belleğe sahip olmasını bekleriz. Ancak günümüzün en üst düzey iPhone'u (ki 400$'dan fazla) yalnızca 256 GigaByte belleğe sahip, bu 2007 iPod'unun iki katından az, en üst düzey iPod (touch) ise yalnızca 128 GigaByte belleğe sahip, bu da on yıl sonra 2007 modeline göre bir düşüş.
Bu özel üstel, hafıza miktarı herhangi bir makul kişinin elindeki tüm müzik kütüphanesini tutabilecek kadar büyük bir noktaya ulaştığında aniden çöktü. Üstellikler, müşteriler talep etmeyi bıraktığında durabilir.
Devam edersek, derin öğrenmenin, bir Makine Öğrenmesi biçiminin başarısı nedeniyle YZ sistemlerinin performansında ani bir artış gördük. Birçok kişi bunun düzenli olarak eşit çarpan etkisine sahip YZ performansında artışlar yaşamaya devam edeceğimiz anlamına geldiğini düşünüyor gibi görünüyor. Ancak derin öğrenme başarısı otuz yıldır devam ediyordu ve kimse bunu tahmin edemedi veya geleceğini göremedi. Bu izole bir olaydı.
Bu, YZ araştırmalarının durgun sularının birdenbire birçok YZ uygulamasının performansında hızlı bir adım artışını
körükleyeceği daha izole olayların olmayacağı anlamına gelmez.
Ancak bunların ne sıklıkta gerçekleşeceğini söyleyen bir
"yasa" yoktur. Moore Yasası'ndaki gibi malzemenin
kütlesini yarıya indirmek gibi, YZ inovasyon sürecini körükleyen
fiziksel bir süreç yoktur.
...
(YZ'ler sanıldığı gibi büyük bir hızla gelişmeyecek. Gelişirken, sürekli mühendisler tarafından müdahale edilecek. Böylece insanlara hep uyumlu kalmış olacaklar.)
Bu tür süper zekaların varlığına aniden şaşırmayacağız. Zamanla teknolojik olarak evrimleşecekler ve dünyamız farklı olacak, birçok başka zekayla dolu olacak ve halihazırda çok fazla deneyime sahip olacağız.
Örneğin, D (bizden kurtulmak isteyen kötü süper zekalar) durumunda, bu tür makinelerin ortaya çıktığını görmemizden çok önce, biraz daha az zeki ve kavgacı makineler olacak. Ondan önce gerçekten huysuz makineler olacak. Ondan önce oldukça sinir bozucu makineler. Ve onlardan önce kibirli, tatsız makineler.
Yol boyunca dünyamızı değiştireceğiz, hem çevreyi hem de yeni teknolojilerin kendisini yeni teknolojilere göre ayarlayacağız. Zorluklar olmayacağını söylemiyorum. Birçok insanın düşündüğü kadar ani ve beklenmedik olmayacaklarını söylüyorum. Şok durumları hakkında özgürce koşan hayal gücü yardımcı olmaz; asla doğru olmayacaklar veya yakın bile olmayacaklar.
"Hollywood senaryoları" tartışmalar için harika bir
retorik araçtır, ancak bunların genellikle gelecekteki gerçeklikle
hiçbir bağlantısı yoktur.
...
(YZ'nin birden değil yavaşça hayatımıza gireceğini anlatmaya çalışıyor.)
Otomasyonda yeniden yapılandırmaya karşı olan direnç
şaşırtıcı derecede akıllara durgunluk verecek derecede
esneklikten yoksundur.
Bu alanda iyi bir fikri başkasına
veremezsiniz. Değişim gerçekten çok yavaştır. Ataç üreten
yapay zeka sisteminin, diğer insan ihtiyaçları pahasına daha
fazla ataç üretmek için her türlü kaynağı ortaklaşa
kullanmaya karar vermesi örneği gerçekten de çılgınca bir
fantezidir. Önümüzdeki on yıllar boyunca döngüde fiziksel
kablolama konusunda endişelenen insanlar olacak.
Robotik ve
yapay zeka alanındaki neredeyse tüm yeniliklerin gerçekten yaygın
bir şekilde kullanılmaya başlanması, bu alandaki ve bu alanın
dışındaki insanların hayal ettiğinden çok çok daha uzun
sürecektir. Kendi kendine giden arabalar buna bir örnektir.
Birdenbire herkes bunlardan haberdar oldu ve yakında
yaygınlaşacaklarını düşünmeye başladı. Ancak bu hayal
edilenden daha uzun sürer.
...
1987'den bu yana otonom araçların gerçek anlamda yaygınlaşması için kırk, beş veya altmış yıl geçmesi gerekebilir.
Robotik ve yapay zeka alanındaki yeni fikirlerin gerçeğe dönüşmesi ve uygulamaya konulması çok uzun zaman alıyor.
Makalenin Tamamı: Yapay Zekanın Geleceğini Tahmin Etmenin Yedi Ölümcül Günahı - Rodney Brooks
Hiç yorum yok:
Yorum Gönder