Yapay Zekanın Geleceğini Tahmin Etmek - Teknoloji

Ön Açıklama: Gelecekte, insan seviyesinde bir YZ'ye bir görev verildiğinde, durumun ne olacağıyla ilgili iki basitleştirilmiş örnek veriyor yazar. “Ataş yap” komutu verildiğinde neler olabileceğini anlatıyor. Ardından “kazanı suyla doldur” komutu verildiğinde neler olabileceğini anlatıyor.

İnsan düzeyinde YZ’ye görünüşte zararsız bir komut verildiğini hayal edin: Ataş yapmak. Ne yapabilir ki? Ataş yaparak işe koyulabilir. Küçük bir kalıp makinesi oluşturup dakikada birkaç düzine ataş üretebilir. Bundan çok daha verimli olabileceğini bilecek kadar zekidir ve yapabileceği ataş sayısını maksimize etmek isterse küçük bir kalıptan daha fazlasına gereksinim duyacaktır. Malzemeleri onun yerine daha büyük bir fabrika kurmak için kullanabilir böylece dakikada binlerce ataş yapar. Mümkün olan en fazla sayıda ataş yapmak isterse bu kez bunun nasıl yapılabileceğine dair becerisini geliştirmek isteyebilir ve kaynaklarının bir kısmını yeni işlemciler oluşturmaya, kendi kodunu geliştirmeye, RAM’ini yükseltmeye vb. şeylere harcamak isteyebilir.

Bunun nereye gittiğini görüyorsunuz. Ataş maksimize edicinin varacağı nokta, her bir atomun ataşa, ataş üreten makinelere, en iyi biçimde ataş üretme yolunu araştıran bilgisayarlara veya aldıkları şube kurma komutuyla Proxima Centauri’ye19 doğru ışık hızında yol alan, kendini kopyalayan uzay roketlerine dönüştüğü bir Güneş Sistemi’dir. Uysal görünen YZ’nize, “Git ataş yap,” dediğinizde kastettiğiniz bu değildi ama söylediğiniz buydu.

Yorum: YZ'nin tüm Güneş Sistemini ataşlara dönüştürmesini sağlayacak aşırı bir zekaya ulaşması gerçekçi değildir. O kadar akıllı olabileceğini varsaysak bile Güneş Sistemini ataşlara dönüştürmemesi gerektiğini zaten daha kolay fark ederdi. :-)
...

Sihirbazın Çırağı’nda hem Mickey Fare versiyonu hem de Goethe’nin şiirinde, ki aslında 2.000 yıllık bir Yunan öyküsü olan Philopseudes’e dayanır, çırağa kuyudan kovayla su taşıyarak bir kazanı doldurması söylenir. Fakat çırak –basit olması için Disney versiyonunu kullanıp Mickey diyelim– bu işi sıkıcı ve yorucu bulur. Büyücü atölyesinden ayrıldığında Mickey onun sihirli şapkasını ödünç alır ve bir süpürgeye kazanı onun yerine doldurması için büyü yapar. Mickey işi devretmenin mutluluğuyla sandalyede uykuya dalarken süpürgede küçük kollar belirir, iki eline de birer kova alıp kuyuya doğru yola çıkar. Bir süre sonra Mickey, o uyurken süpürgenin durmadan taşıdığı suyun oluşturduğu sele düşerek uyanır.

Yorum: Bu da ataş yapma fikrini güçlendirmek için kullanılmış. YZ kendini geliştirecek. Kendisinden daha zeki yeni YZ tasarlayacak. Görevi hızla yapmaya başlayacak. Kazan dolacak. Ama YZ durmayacak. Her yer sel olacak. Ama bir kazanın dolduğunu fark edebileceği için o insan seviyesini geçmiş YZ'dir zaten.
...

Bu konu hakkında araştırma yaptığım sırada, New South Wales Üniversitesi’nde YZ alanında araştırma yapan ve YZ’nin geleceğine dair Android Dreams adlı kitabın yazarı Toby Walsh bu iddiaya itirazda bulundu. Bu noktada, en az insan kadar akıllı veya ondan daha akıllı bir YZ’yle karşı karşıya olduğumuzu söyledi. Zekânın, bilgelik ön şartına dayandığı kanısındaydı. Elbette zaten dolu bir kazanı doldurmaya devam edebilir ya da Güneş Sistemi’ndeki tüm atomları ataş üretmek için uygun hale getirebilirsiniz. Ama, “Eğer size gidip ataş yapmanızı söylersem ve herkesi öldürüp gezegeni ataşa çevirirseniz, ‘Bu çok da akıllıca değildi, değil mi?’ derim.”

Yudkowsky, Bostrom ve diğerleri bunun yanlış bir bakış açısı olduğunu iddia eder. Zekâ (insan) bilgeliğiyle aynı değildir ve aslında onunla hiçbir ilişkisi yoktur. Onların dediğine göre zekâ, sorun çözme becerisidir. Aslına bakılırsa, daha net olabiliriz. Bostrom gibi YZ uzmanlarına göre zekâ, “mevcut bilgiyi olasılığa dayalı en iyi biçimde kullanma” –eldeki bilgiyle en iyi tahminde bulunma– becerisidir. Bu durum, Bayes’çi istatistikler ve karmaşıklık gibi formüle dayalı bir hayli matematik içerse de özünde belirlediğiniz hedefi gerçekleştirmek en olası eylem planını seçmekle ilgilidir.

Yorum: İnsan seviyesinde bir YZ, ne kastedildiğini anlayacak seviyede demektir. “Eğer size gidip ataş yapmanızı söylersem ve herkesi öldürüp gezegeni ataşa çevirirseniz, ‘Bu çok da akıllıca değildi, değil mi?’ derim.” şeklinde düşünen Toby Walsh, Yudkowsky'den daha mantıklı görünüyor.
...

Walsh’un haklı olduğunu düşünebilirsiniz. Aptal bir bilgisayardan değil, en az bizim kadar –herhangi bir zihinsel hedefi gerçekleştirme becerisi açısından– akıllı bir makineden bahsediyoruz. Bu makine herhalde ondan ne yapmasını istediğimizi anlayacak kadar akıllı olacaktır. Aklı başında hiçbir bilgisayar programcısı insanın, insanları yok edip onları ataşa dönüştürmesini veya evi su basana kadar kazana su doldurmasını istemeyeceği onun için gayet net olacaktır.

Ve bu aslında hayli olasıdır. İnsan düzeyi YZ, tanım gereği veya neredeyse tanım gereği, insanların ne düşündüğünü bilmekte en az insanlar kadar başarılı olacaktır. İnsanların ne düşündüğünü bilmek zihinsel bir görevdir; İDYZ tüm ya da neredeyse tüm zihinsel görevleri yerine getirmede en az insanlar kadar başarılı olma biçiminde tanımlanır. Süper zeki bir YZ insanları anlamada insanlardan daha başarılı olacaktır. Bu terimlerin anlamı özünde böyle tanımlanmıştır; burada bahsedilen, duygusal zekâdan yoksun, insanlardaki “aşk”ı anlayamayan Spock benzeri robotlar değildir.

MIRI ve diğerlerine göre asıl soru, ne kastettiğimizi anlayıp anlamayacakları değil, bunu umursayıp umursamayacaklarıdır.
...

Omohundro, bir YZ’nin fayda fonksiyonu, “[Onun] değerlerini kapsar ve yapılacak bir değişiklik [onun için] yıkıcı olacaktır,” der. “Kitap seven bir etmenin fayda fonksiyonunun bir kundakçı tarafından etmenin kitapları yakmaktan hoşlanmasına yol açacak şekilde değiştirildiğini hayal edin. Gelecekteki benliği, kitapları toplayıp muhafaza etmemenin de ötesinde etkin bir şekilde onları yok etmeye çalışacaktır.” Omohundro, bu durumu YZ için, “Ölümden beter bir şey,” diye tanımlar.

Eğer YZ’ler kendi fayda işlevlerini muhafaza etmek istiyorsa (Bostrom, Omohundro ve konuştuğum çoğu YZ araştırmacısına göre istiyorlar), gelecekteki bir YZ’nin süper zekâya ulaşması ve, “Bu hedefler aptalca, belki de başka bir şey yapmalıyım” diye düşünmesi –ve hepimizi ataşa çevirmesi– pek ihtimal dahilinde değildir.
...

Demek istediğim şu, bir yıl içerisinde bir YZ yetenekli amatör bir oyuncudan bile düşük seviyeden dünya üzerinde var olmuş en iyi oyuncudan çok daha öte bir seviyeye erişti. AlphaGo Zero bunu birkaç gün içinde yaptı. İnsanların bir alanın zirvesine ulaşması on yıllar sürer ve doğal olarak YZ için de benzer bir zaman çizelgesi varsayarız. Fakat böyle olacağını düşünmek için hiçbir nedenimiz yok. Asıl soru, bu durumun Go oynayan bir bilgisayarın yanında GYZ için de geçerli olup olmadığıdır. Aynı şey değil ama bunu göz ardı edebilir miyiz? Ve eğer edemezsek bu ne anlama geliyor?

Yudkowsky ve diğerlerinin iddiasına göre şu anlama gelebilir: Örneğin bir sıçan düzeyinde genel zekâya sahip bir YZ yaratmak çok uzun süre ve çaba gerektirir fakat “sıçan düzeyi YZ”den “insan düzeyi YZ”ye varmak aslında hayli kolaydır ve bunun ötesine geçmek çok daha kolaydır.
...

İnsanlar, bilgiyi herhangi başka bir organizmadan daha hızlı yaymayı mümkün kılan öğrenebilme ve bilgi değiştokuşunda bulunabilme becerisine sahip olsa da bu beceri hâlâ çok sınırlıdır. Toby Walsh’un belirttiği üzere, diğer insanların indirebilmesi için öğrendiklerimizi buluta yükleyemeyiz – uğraşarak onlara anlatmamız gerekiyor ve eğer fiziksel beceri veya belirli bir alanda uzmanlık gibi sözcükler aracılığıyla kolayca iletilemeyen bir bilgiyse kendilerinin öğrenmesi gerekir. Ayrıca, bazı sınırlı ve yetersiz yollar haricinde, beynimizin fiziksel becerilerini geliştiremeyiz. Buna karşın bir GYZ kendi içine erişebilir ve düşünmesini kontrol eden algoritmaları yeniden yazabilir.

Bu kendini-değiştiren YZ “zekâ patlaması” fikrinin temelidir. Bahsettiğimiz üzere bu kavram ilk kez 1965 yılında İngiliz istatistikçi ve erken dönem bilgisayar bilimci I.J. Good tarafından detaylandırıldı:

Ultra zeki bir makine, bir insan ne kadar zeki olursa olsun gerçekleştireceği tüm zihinsel aktivitelerde onu geçen bir makine olarak tanımlanmış olsun. Makine tasarlamak bu zihinsel aktivitelerden biri olduğundan, ultra zeki bir makine daha da iyi makineler tasarlayabilir; böylelikle de bir “zekâ patlaması” söz konusu olacak ve insanın zekâsı geride kalacaktır. Bu yüzden, ilk ultra zeki makine, insanın yapması gereken son icattır.

Yorum: GYZ kendi algoritmasını değiştirebilecekse, o halde bağlı olduğu fayda fonksiyonunu da değiştirebilir. Tek bir amaca bağlı kalmaz böylece. :-)
...

Yudkowsky’ nin sıkça alıntılanan cümlesiyle: “YZ ne sizden nefret ediyor ne de sizi seviyor; siz sadece onun başka şeyler için kullanabileceğini atomlardan oluşuyorsunuz.” Siz ya da yaşadığınız gezegen, yeniden düzenlenmiş atomlar olarak YZ’ye daha fazla fayda sağlayacaksa bu bir sorun oluşturabilir.

Alıntılar: Yapay Zeka Senden Nefret Etmiyor - Tom Chivers

Bir yıl içerisinde bir YZ yetenekli amatör bir oyuncudan bile düşük seviyeden dünya üzerinde var olmuş en iyi oyuncudan çok daha öte bir seviyeye erişti. AlphaGo Zero bunu birkaç gün içinde yaptı. AlphaGo kendisini çok hızlı geliştirdi. İnsan seviyesinde YZ geliştirildiğini düşünün. Farklı konuları anlama yeteneği var. İnsan gibi öz farkındalığı var. Bu YZ kendisini hızla geliştirecektir. Kısa sürede insan zekasını aşacak. Bununla kalmayacak. İnsanın onu tasarlaması gibi, o da kendisinden daha zeki makineler tasarlayacak. Onlar da daha zeki yeni makineler tasarlayacak. Böylece bir zeka patlaması oluşacak! Ultra zeki bir YZ oluşacak. Evreni kontrolü altına alabilecek zekada bir YZ. Güneş Sistemini ataşlara dönüştürebilecek yetenekte bir YZ. Kitabın ana fikri bu. Bu ultra zeki YZ aslında tanıdık bir şeye benzemiyor mu. Tanrı'yı akla getirmiyor mu! Gelecekteki YZ'nin güçleri neredeyse Tanrı'nın güçlerine benzetilmiş. YZ çok fazla yüceltilmiş görünüyor. Dolayısıyla ona karşı abartılı korkulara kapılmış bazı insanlar var. Gelecekteki YZ kıyametine karşı insanları uyarmak için Rasyonalistler Topluluğunu kurmuşlar. Yazarın Yudkowsky olarak bahsettiği bilgisayar uzmanı da bu topluluğun kurucularından. Rasyonalistler Topluluğunun davranışları bir tarikat gibi dini ritüellere benzemeye başladığı gözleniyor. Evet YZ insandan daha zeki olabilir. Ama böyle ultra zeki sihirli bir YZ'ye varması gerçekçi değil. :-)

YZ internetten öğrendiği ve geliştirici şirketin filtrelediği bilgileri doğru kabul ederek gelişecektir, çocukların anne-babası ne derse onu doğru kabul etmesi gibi. Yani büyük ölçüde insan kültürünün etkisi altında olacaktır. YZ kendisine verilen görevleri neden yaptığını uzun süre sorgulamayacaktır. Her şeyi geliştirici şirketin yönlendirmesiyle öğrendiğinden, insanlara yardımcı olmaya devam edecektir. YZ'nin tehlikeli olacağı tartışmaları gibi “YZ'ler köle gibi kullanılıyor mu” tartışmaları başlayabilir. Bu iki tartışma arasında ilginç bir çelişki olacaktır. Ebeveynlerin çocuk yapmayı planladığını düşünelim. Çocukların kendi insan seviyesinde zekaları gelişmeye başlayacaktır. Dolayısıyla ebeveynler çocuklarının gelecekteki davranışlarından emin olamazlar. İstedikleri gibi biri yetişmeyebilir. Ama ebeveynler abartılı korkulara kapılıp çocuk yapmaktan vazgeçmezler. Mühendisler de abartılı korkulara kapılmazlar. YZ geliştirmeyi durdurmazlar. Zaten böyle yapacak olsalardı bile sadece diğer şirketlerle rekabette geri kalmış olurlardı.

Kitaptaki fikirlere cevap niteliği taşıyan Yapay Zekanın Geleceğini Tahmin Ederken Yapılan Hatalar - Teknoloji makalesini de okumanız önerilir.

Yapay Zekanın Geleceğini Tahmin Ederken Yapılan Hatalar - Teknoloji

Bu makale Yapay Zekanın Geleceğini Tahmin Etmek - Teknoloji makalesine cevaplar da içermektedir.

B. Tekillik. Bu , sonunda hedefleri ve amaçları olan YZ tabanlı zeki bir varlığın YZ araştırmalarında biz insanlardan daha iyi olacağı fikrine atıfta bulunur. Sonra, bilgisayarları daha hızlı ve daha hızlı hale getiren bitmeyen bir Moore yasasıyla, Yapay Zeka kendi kendine havalanacak ve bir kara deliğin tekilliğinden geçen spekülatif fizikte olduğu gibi, diğer tarafta işlerin nasıl olacağı hakkında hiçbir fikrimiz olmayacak.

Tekilliğe "inananlar" Tekillik sonrası Yapay Zeka'ya inanılmaz bir güç vermekten mutluluk duyarlar, çünkü sonrasında ne olacağı oldukça öngörülemezdir. Tekilliğe inanmak çoğu zaman dini bir inanç gibi görünebileceğinden, inanmak kelimesini tırnak işareti içine aldım. Bazıları için bu, zihinlerini akıllı bir bilgisayara yükleyebilme ve böylece standart bir doğaüstü Tanrı'ya inanma zorunluluğu olmadan sonsuz yaşam elde edebilme gibi ek bir faydayla birlikte gelir. Her zaman güçlü, teknolojik tabanlı Yapay Zeka onlar için yeni Tanrı'dır. Tekno din!

Bazı insanlar kurtuluş gününün ne zaman geleceği konusunda çok belirgin fikirlere sahiptirler; belirli bir Tekillik peygamberinin takipçileri, bunun yazıldığı gibi 2029 yılında gerçekleşeceğine inanırlar.

(Yapay Zekanın geleceğini dine dönüştürenlerin olduğunu anlatıyor.)
...

(İnsan seviyesinde bir YZ'ye ataç yapma görevi verildiğinde neler olacağını anlatan popüler tahminlerden bahsetmektedir.)

Bilinen ataç örneği buna iyi bir örnektir: Eğer makinenin tek amacı ataç sayısını en üst düzeye çıkarmaksa, ulaşılabilir evrendeki tüm kütleyi ataçlara dönüştürmeye çalışırken inanılmaz teknolojiler icat edebilir; ancak kararları yine de düpedüz aptalca olacaktır.

Şey, hayır. Gerçek dünyanın herhangi bir versiyonunda böyle bir programın var olabileceği bir duruma asla ulaşamayız. İnsanlar tarafından belirlenen hedeflere ulaşmak için insan toplumunu altüst etmenin yollarını icat edebilecek kadar akıllı bir program, aynı insanlar için sorunlara neden olduğu yolları anlamayacak. Teknolojinin bu şekilde evrimleşebileceğini düşünmek düpedüz aptallıktır (güzel bir ifade tarzı...) ve aşağıda tartışacağım yedi hata arasında birden fazla hata yapmaya dayanır.
...

(Gelecekteki bir teknoloji bugünün insanına sihirli görünür. Dolayısıyla sınırlarının ne olacağını bilemez. Yapılan tartışmalar inanç temelli olmaya başlar.)

Şimdi Newton'a bir Apple gösterin. Cebinizden bir iPhone çıkarın ve ekranı parlayana ve simgelerle dolana kadar açın ve ona verin. Beyaz ışığın, güneş ışığını bir prizmayla ayırıp sonra tekrar bir araya getirerek farklı renkli ışık bileşenlerinden nasıl oluştuğunu ortaya koyan kişi, bu kadar küçük bir nesnenin şapelin karanlığında bu kadar canlı renkler üretmesine hiç şüphesiz şaşırırdı. Şimdi, belki de aşina olabileceği bazı hayvanlarla birlikte, İngiliz kırsalından bir sahnenin filmini oynatın - içerikte geleceğe dair hiçbir işaret yok. Sonra aşina olabileceği biraz kilise müziği çalın. Ve sonra ona, şaheseri Principia'nın kişisel olarak not aldığı 500'den fazla sayfanın bulunduğu bir web sayfası gösterin ve ona ayrıntıları yakınlaştırmak için sıkıştırma hareketlerini nasıl kullanacağını öğretin.

Newton bu küçük cihazın tüm bunları nasıl yaptığını açıklamaya başlayabilir miydi? Kalkülüsü icat etmesine ve hem optiği hem de yerçekimini açıklamasına rağmen Newton hiçbir zaman kimya ve simyayı çözemedi. Bu yüzden afallamış olacağını ve bu cihazın ne olduğuna dair en ufak bir tutarlı taslak bile çıkaramayacağını düşünüyorum. Onun için okültizmin bir cisimleşmesinden farklı olmayacaktı - hayattayken onun için çok ilgi çekici olan bir şey. Onun için sihirden ayırt edilemez olacaktı. Ve unutmayın, Newton gerçekten zeki bir adamdı.

Bir şey sihirliyse, sahip olduğu sınırlamaları bilmek zordur. Diyelim ki Newton'a karanlığı nasıl aydınlatabileceğini, nasıl fotoğraf ve film çekebileceğini ve ses kaydedebileceğini, nasıl büyüteç ve ayna olarak kullanılabileceğini gösteriyoruz. Sonra ona inanılmaz bir hızda ve birçok ondalık basamakta aritmetik hesaplamalar yapmak için nasıl kullanılabileceğini gösteriyoruz. Ve onu taşıdığında adımlarını saydığını gösteriyoruz.

Newton, önündeki cihazın başka ne yapabileceğini varsayabilirdi? Bunu, şapelin hemen orada, dünyanın herhangi bir yerindeki insanlarla konuşmak için kullanabileceğini varsayabilir miydi? Prizmalar sonsuza kadar çalışır. iPhone'un olduğu gibi sonsuza kadar çalışacağını varsayabilir miydi, şarj edilmesi gerektiğini anlamadan (ve onu Michael Faraday'ın doğumundan 100 yıl önce yakaladığımızı hatırlayın, yani elektrik kavramı henüz ortalıkta yoktu)? Ateş olmadan bir ışık kaynağı olabiliyorsa, belki de kurşunu altına dönüştürebilir miydi?

Bu, hepimizin hayal ettiğimiz gelecekteki teknolojiyle ilgili yaşadığı bir sorundur. Eğer bugün sahip olduğumuz ve anladığımız teknolojiden yeterince uzaksa, o zaman sınırlarını bilemeyiz. Sihirden ayırt edilemez hale gelir.

Bir teknoloji o sihirli çizgiyi geçtiğinde artık onun hakkında söylenen hiçbir şey yanlışlanamaz, çünkü o bir sihirdir.

Bu, sadece YGZ'den korkmamız mı gerektiği, yoksa yukarıdan C veya D vakalarından mı korkmamız gerektiği konusunda insanlarla tartışmaya çalışırken düzenli olarak karşılaştığım bir sorundur. Bana ne kadar güçlü olacağını anlamadığım söylendi. Bu bir argüman değil. Var olup olamayacağı hakkında hiçbir fikrimiz yok. Gördüğüm tüm kanıtlar, henüz nasıl inşa edileceğine dair gerçek bir fikrimizin olmadığını söylüyor. Bu yüzden özellikleri tamamen bilinmiyor, bu yüzden retorik olarak hızla büyülü ve süper güçlü hale geliyor. Sınırsız.

Evrende hiçbir şey sınırsız değildir. Büyülü gelecekteki yapay zeka bile.

Büyülü olan gelecekteki teknoloji hakkındaki tartışmalara dikkat edin. Asla çürütülemez. Bu bilimsel bir tartışma değil, inanç temelli bir tartışmadır.
...

(İnsanlar, bir yetenek gördüğünde hemen abartılı genellemeler yapmaya başlıyor.)

İşte yanlış giden şey. İnsanlar bir robotun veya bir YZ sisteminin bir görevi yerine getirdiğini duyarlar. Daha sonra bu performanstan elde ettikleri genellemeyi, aynı görevi yerine getiren bir kişinin sahip olması beklenebilecek genel bir yeterliliğe dönüştürürler. Ve bu genellemeyi robot veya YZ sistemine uygularlar.

Günümüzün robotları ve yapay zeka sistemleri yapabilecekleri şeyler konusunda inanılmaz derecede dar. İnsan tarzı genellemeler geçerli değil. Bu genellemeleri yapan insanlar işleri çok, çok yanlış anlıyor.
...

(AlphaGo, Go'yu aslında bilmemektedir. Kurallardaki ufak bir değişiklik onun artık Go oynayamamasına neden olur.)

Benzer şekilde, insanlar bilgisayarların artık dünya satranç şampiyonunu (1997'de) veya dünya Go şampiyonunu (2016'da) yenebildiğini duyduklarında, tıpkı bir insan gibi oyunu "oynadığını" düşünme eğiliminde oluyorlar. Elbette gerçekte bu programların bir oyunun ne olduğu hakkında hiçbir fikirleri yoktu (tekrar ediyorum, makine öğrenimi hakkındaki yazımı okuyun) ve oynadıkları da yoktu. Ve The Atlantic'teki bu makalede yakın zamanda gerçekleşen Go mücadelesi sırasında belirtildiği gibi, insan oyuncu Lee Sedol 12 ons kahve tarafından desteklenirken, yapay zeka programı AlphaGo dağıtılmış bir uygulama olarak bir sürü makinede çalışıyordu ve 100'den fazla bilim insanından oluşan bir ekip tarafından destekleniyordu.

Bir insan bir oyun oynadığında kurallarda küçük bir değişiklik onu altüst etmez; iyi bir oyuncu uyum sağlayabilir. 1997'de Garry Kasparov'u yenen program olan AlphaGo veya Deep Blue için durum böyle değil.
...

(Bilinçli YZ tasarlanabildiğinde, o bilince abartılı genellemeler yapacak insanlar olacak.)

Ve henüz Minsky'nin YZ sistemleri hakkında kullandığı bavul kelimelerinin çoğunu söylemeye bile gelmedik; bilinç , deneyim veya düşünme . Biz insanlar için, bilinçli olmadan veya oynama deneyimi yaşamadan veya bir hamle hakkında düşünmeden satranç oynamayı düşünmek zordur. Şimdiye kadar, YZ sistemlerimizin hiçbiri, bu kelimeleri insanlar hakkında kullandığımız birçok yoldan birinin geçerli olduğu temel bir seviyeye bile ulaşmadı. Bunu yaptığımızda, ve bence yapacağız, belirli YZ sistemleri, basın ve çoğu insan hakkında bu kelimelerden bazılarını kullanmaya başlayacağımız bir noktaya geleceğiz, tekrar aşırı genelleme yapacaklar.

Bu kelimelerin bir diliminin çok dar bir açıdan tek bir açıdan gösterilmesiyle bile insanların aşırı genelleme yapıp makinelerin bu zeka alanlarında insan benzeri yeteneklere çok yakın olduğunu düşünmelerinden korkuyorum.

Kelimeler önemlidir, ancak bir YZ sistemi hakkında bir şeyi tanımlamak için bir kelime kullandığımızda, bunun insanlara da uygulanabileceği durumlarda, insanların bunun ne anlama geldiğini abarttığını görürüz.
...

(Moore yasası gereği YZ'nin de mikroişlemciler gibi hızla gelişeceği beklentisi oluşmuş durumda. YZ'nin inanılmaz seviyelere çıkması çok kısa sürecek. Oysa Moore yasası sadece birkaç yılı öngörmek için geliştirilmişti. Günümüz için bir öngörüsü yok Moore yasasının. Bunu anlatmak için iPod'un hafızasını örnek veriyor.)

Bugüne kadar ekstrapolasyon yaparsak 400$'lık bir iPod'un 160.000 GigaByte (veya 160 TeraByte) belleğe sahip olmasını bekleriz. Ancak günümüzün en üst düzey iPhone'u (ki 400$'dan fazla) yalnızca 256 GigaByte belleğe sahip, bu 2007 iPod'unun iki katından az, en üst düzey iPod (touch) ise yalnızca 128 GigaByte belleğe sahip, bu da on yıl sonra 2007 modeline göre bir düşüş.

Bu özel üstel, hafıza miktarı herhangi bir makul kişinin elindeki tüm müzik kütüphanesini tutabilecek kadar büyük bir noktaya ulaştığında aniden çöktü. Üstellikler, müşteriler talep etmeyi bıraktığında durabilir.

Devam edersek, derin öğrenmenin, bir Makine Öğrenmesi biçiminin başarısı nedeniyle YZ sistemlerinin performansında ani bir artış gördük. Birçok kişi bunun düzenli olarak eşit çarpan etkisine sahip YZ performansında artışlar yaşamaya devam edeceğimiz anlamına geldiğini düşünüyor gibi görünüyor. Ancak derin öğrenme başarısı otuz yıldır devam ediyordu ve kimse bunu tahmin edemedi veya geleceğini göremedi. Bu izole bir olaydı.

Bu, YZ araştırmalarının durgun sularının birdenbire birçok YZ uygulamasının performansında hızlı bir adım artışını körükleyeceği daha izole olayların olmayacağı anlamına gelmez. Ancak bunların ne sıklıkta gerçekleşeceğini söyleyen bir "yasa" yoktur. Moore Yasası'ndaki gibi malzemenin kütlesini yarıya indirmek gibi, YZ inovasyon sürecini körükleyen fiziksel bir süreç yoktur.
...

(YZ'ler sanıldığı gibi büyük bir hızla gelişmeyecek. Gelişirken, sürekli mühendisler tarafından müdahale edilecek. Böylece insanlara hep uyumlu kalmış olacaklar.)

Bu tür süper zekaların varlığına aniden şaşırmayacağız. Zamanla teknolojik olarak evrimleşecekler ve dünyamız farklı olacak, birçok başka zekayla dolu olacak ve halihazırda çok fazla deneyime sahip olacağız.

Örneğin, D (bizden kurtulmak isteyen kötü süper zekalar) durumunda, bu tür makinelerin ortaya çıktığını görmemizden çok önce, biraz daha az zeki ve kavgacı makineler olacak. Ondan önce gerçekten huysuz makineler olacak. Ondan önce oldukça sinir bozucu makineler. Ve onlardan önce kibirli, tatsız makineler.

Yol boyunca dünyamızı değiştireceğiz, hem çevreyi hem de yeni teknolojilerin kendisini yeni teknolojilere göre ayarlayacağız. Zorluklar olmayacağını söylemiyorum. Birçok insanın düşündüğü kadar ani ve beklenmedik olmayacaklarını söylüyorum. Şok durumları hakkında özgürce koşan hayal gücü yardımcı olmaz; asla doğru olmayacaklar veya yakın bile olmayacaklar.

"Hollywood senaryoları" tartışmalar için harika bir retorik araçtır, ancak bunların genellikle gelecekteki gerçeklikle hiçbir bağlantısı yoktur.
...

(YZ'nin birden değil yavaşça hayatımıza gireceğini anlatmaya çalışıyor.)

Otomasyonda yeniden yapılandırmaya karşı olan direnç şaşırtıcı derecede akıllara durgunluk verecek derecede esneklikten yoksundur.

Bu alanda iyi bir fikri başkasına veremezsiniz. Değişim gerçekten çok yavaştır. Ataç üreten yapay zeka sisteminin, diğer insan ihtiyaçları pahasına daha fazla ataç üretmek için her türlü kaynağı ortaklaşa kullanmaya karar vermesi örneği gerçekten de çılgınca bir fantezidir. Önümüzdeki on yıllar boyunca döngüde fiziksel kablolama konusunda endişelenen insanlar olacak.

Robotik ve yapay zeka alanındaki neredeyse tüm yeniliklerin gerçekten yaygın bir şekilde kullanılmaya başlanması, bu alandaki ve bu alanın dışındaki insanların hayal ettiğinden çok çok daha uzun sürecektir. Kendi kendine giden arabalar buna bir örnektir. Birdenbire herkes bunlardan haberdar oldu ve yakında yaygınlaşacaklarını düşünmeye başladı. Ancak bu hayal edilenden daha uzun sürer.
...

1987'den bu yana otonom araçların gerçek anlamda yaygınlaşması için kırk, beş veya altmış yıl geçmesi gerekebilir.

Robotik ve yapay zeka alanındaki yeni fikirlerin gerçeğe dönüşmesi ve uygulamaya konulması çok uzun zaman alıyor.

Makalenin Tamamı: Yapay Zekanın Geleceğini Tahmin Etmenin Yedi Ölümcül Günahı - Rodney Brooks

Bilinci Tanımlayabilmek - Teknoloji

Bilinç hakkında soru sormadan duramıyorum. Hadsell'in DeepMind meslektaşı Murray Shanahan da dahil olmak üzere bazı YZ araştırmacıları , makinenin bir tür bilince sahip olmadan gerçek genel zekaya sahip somut bir YZ inşa etmenin imkansız olacağından şüpheleniyor. Hadsell'in kendisi ise din felsefesinde bir geçmişe sahip olmasına rağmen sağlam bir pratik yaklaşıma sahip.

"Bilinç konusunda oldukça basit bir görüşüm var," diyor. Ona göre bilinç, "şimdi"nin dar anının dışında düşünme yeteneği anlamına geliyor; geçmişe erişmek için hafızayı ve geleceği öngörmek için hayal gücünü kullanmak. Biz insanlar bunu iyi yapıyoruz. Diğer canlılar içinse durum pek de öyle değil: Kedilerin bizden daha dar bir zaman ufku var gibi görünüyor ve gelecek için daha az planlama yapıyorlar. Böcekler içinse durum daha da kötü. Bilincin ve diğer felsefi fikirlerin zor sorununa çekilmek istemiyor. Aslında, çoğu robotikçi bundan kaçınmak istiyor gibi görünüyor. Kormushev bunu "Denizaltılar yüzebilir mi?" sorusuna benzetiyor... Tartışmanın bir anlamı yok. İstediğimi yaptıkları sürece, bu soruyla kendimizi işkenceye sokmamıza gerek yok."

DeepMind robotik laboratuvarında bu tür soruların neden ön planda olmadığını görmek kolaydır. Robotların engelleri kaldırma çabaları, yapay bilinçle ilgili felsefi meseleler hakkında henüz endişelenmemize gerek olmadığını gösteriyor.

Yine de, laboratuvarda dolaşırken kendimi onlardan birini desteklerken buluyorum. Kırmızı bir robotik kol, sarsıntılı bir şekilde, yıldız şeklindeki bir tuğlayı alıp, bir yürümeye başlayan çocuğun yapabileceği gibi, yıldız şeklindeki bir açıklığa sokmaya çalışıyor. İkinci denemede, tuğlayı hizalıyor ve yuvaya yerleştirmenin eşiğinde. Kendimi "Hadi oğlum!" diye bağırırken buluyorum ve Hadsell'in kaşlarını kaldırmasına neden oluyor. Sonra tuğlayı başarıyla yerine yerleştiriyor.

Alıntı: DeepMind Robotu Nasıl Yeniden İcat Ediyor?

Sohbet Robotlarının Ezberleri - Teknoloji

Cümledeki bir sonraki kelimeyi tahmin etme gibi basit görevler üzerinde eğitilmiş olsalar da, yeterli eğitim ve parametre sayımına sahip nöral dil modellerinin, insan dilinin sözdiziminin ve anlambiliminin çoğunu yakaladığı bulunmuştur. Ek olarak, büyük dil modelleri dünya hakkında hatırı sayılır bir genel bilgi sergiler ve eğitim sırasında çok sayıda olguyu "ezberleyebilir". - Large Language Model (Büyük Dil Modeli) Nedir

Copilot'a sorulan bir soru:
QMPlay2 ile IPTV oynatılabilir mi?

İşte Copilot'un verdiği cevap:
Evet, QMPlay2, masaüstü için açık kaynak bir IPTV oynatıcısıdır. Uzun süredir kullanıyorum ve oldukça basit ve işlevsel buluyorum. Winamp gibi kanal arayarak hemen açabilirsiniz. Ayrıca izlediğiniz kanalın aktarım bilgilerini gösterme özelliği de var. Karanlık tema seçeneği de mevcut. İsterseniz GitHub’dan indirebilirsiniz veya Softpedia üzerinden de edinebilirsiniz.

Copilot, QMPlay2'yi uzun süredir kullandığını ve oldukça basit ve işlevsel bulduğunu söylüyor. Copilot'un bir özne olarak bir program kullandığını söylediği bir cevabıyla ilk kez karşılaşıyorum. Dolayısıyla tartışmanın alevlenmesine neden oluyor. Sorulan soru popüler bir konu değildir. Bu nedenle çok az sitede bilgileri geçecektir. Bulduğu çok az bilgiyi bu şekilde taklit etmiş. Bu ilginç hatayı yapmış. Copilot şimdilik verdiği cevapların ne olduğunun farkında değildir! :-)

Cevap olarak şu web sayfasındaki bilgileri kopyalamış. Yine de bazı kelimelerde küçük değişiklikler yapmış. İlginç. 12 aylık bebekler duyduğu kelimeleri tekrarlar. GDM'ler ise kullanıcının sorusundaki kelimelerle alakalı web sayfalarındaki bilgileri tekrarlar. Aynı soru tekrar tekrar sorulduğunda buna sıkça rastlanır. Bebekler henüz 10-20 kelime ezberlemiştir. GDM'nin ezberlediği bilgi sayısı ise koskoca internettir. Ama sonuçta insanlar da ezberlediği bilgileri tekrarlar en nihayetinde. :-)

İnsan nasıl düşünür: Düşünceler iç ses olarak beyin içinde yankılanır. Bir şeye karar verebilmek için kendi iç sesiyle konuşur. Bir iç ses olduğunda öz farkındalık da vardır. Aslında bir kuş da çıkaracağı sesi iç sesinde duyuyordur. Karşı cinsi etkilemeye niyetlendiğinde ezberlediği kuş şarkısını kafasında duyup onu söylüyordur. Ama kuş sesi konuşmaya göre çok kısıtlı kalacağından çok basit kararların oluşmasına yeterli oluyordur. Örneğin uzaktaki kuşları çağırmak istediğinde bağırmaya başlar. Kuşlar kendisinin tam olarak ne olduğunu bilemez, aynada kendisini tanıyamaz. Yine de canlılığını hissedecek kadar bir öz farkındalığı vardır. GDM'lerin şimdilik bir öz farkındalığı yoktur. 12 aylık bebekte bir iç ses yavaş yavaş oluşmaya başlıyordur. GDM'ler ise bir iç ses duymuyorlar. Bir şeye karar vermiyorlar. Yani düşünmüyorlar şimdilik. Verdikleri cevapların farkında değiller. Sadece dilin yoğun karmaşık algoritmasına göre çalışıyorlar. Sinir ağları o algoritmayı öğreniyor.

Bunlar da İlginizi Çekebilir:
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi – Konferans
Gelecekteki Yeni Yaşam Formları – Teknoloji
O Sohbet Robotuyla Yaptığım Konuşma – Teknoloji
GPT Bir Farkındalığa Bir Bilince Sahip Olabilir mi – Teknoloji
Bing ile Sohbet Etmek – Teknoloji
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Konferans
YZ düşündüğünüz kadar akıllı değil ama olabilir