Açıklama: Yapay Genel Zeka, sadece sınırlı bir konuda değil, insan gibi her konuya odaklanıp öğrenebilecek yapay zekadır. Yani insan zekası gibi “genel” çalışacaktır.
(Not: Sohbete henüz Türkçe altyazı eklenmemiş.)
Chris Anderson: Çünkü standart
eğitiminizde bazı zorluklarla karşılaştınız.
Shane Legg: Evet, çocukken
disleksim vardı. Ve bu yüzden beni bir yıl geciktireceklerdi. 10
yaşındayken IQ'mu test ettirmek için gönderdiler. Sorunun ne
kadar kötü olduğunu değerlendirin. Ve olağanüstü derecede
yüksek bir IQ'ya sahip olduğumu keşfettiler.
...
Küçük yaşlardan beri bazen
otoriteden şüphe etmek için nedenlerim vardı.
Biliyor musun, eğer öğretmen senin
aptal olduğunu düşünüyorsa belki de bu doğru değildir. Belki
başka şeyler de oluyordur. Ama sanırım aynı zamanda çocukken bu
deneyimi yaşadığımda bende zekaya karşı bir ilgi uyandırdı.
...
Sanırım ilk defa bu konuyu kamuoyuna
açıklıyorum. 2028 yılına kadar YGZ şansının yüzde 50
olacağını tahmin ediyordum. Bugün hâlâ buna inanıyorum.
...
CA: Peki DeepMind'ın kuruluşundan
bahsedelim. Siz ve kurucularınız arasındaki etkileşimden.
SL: Doğru. Londra'ya, Gatsby Birimi
denilen yere gittim. Teorik sinir bilimi ve makine öğrenimi üzerine
çalışan bir kurum. Beyin hakkında anladıklarımız ve makine
öğreniminden bildiklerimiz arasındaki ilişkileri öğrenmek
ilgimi çekiyordu. Yani burası gerçekten iyi bir yer gibi
görünüyordu. Ve orada Demis Hassabis'le tanıştım ve konuşmaya
başladık, benimle aynı doktora sonrası danışmanı vardı. Ve o
zaman bir şirket kurmanın zamanı geldiğine beni ikna etti.
2009'da konuşmaya başladık. Ve biraz şüpheciydim. YGZ'nin hala
biraz fazla uzakta olduğunu düşünüyordum. Ama zamanın doğru
olduğunu düşündü, biz de ilerlemeye karar verdik. Daha sonra,
arkadaşı Mustafa Süleyman da bize katıldı.
...
CA: Ve şirketin hedeflerinden biri
özellikle YGZ'ye giden bir yol bulmak mıydı?
SL: Kesinlikle. Dolaştırdığımız
ilk iş planımızda 2010 yılında yatırımcı ararken, Ön
kapağında bir cümle vardı ve şöyle diyordu: "Dünyanın
ilk yapay genel zekasını oluşturun." Yani başından beri bu
doğruydu.
...
Yani makinelerde zekaya sahip olmak
geliştirilmesi inanılmaz derecede değerli bir şeydir. Ve bu
yüzden geleceğine inanıyorum.
Şimdi çok çok güçlü bir teknoloji
ortaya çıktığında, çok farklı sonuçlar ortaya çıkabilir.
İşler çok çok iyi gidebilir ama işlerin kötü gitme ihtimali de
var. Ve bu benim de yaklaşık 20 yıl öncesinden farkında olduğum
bir şeydi.
...
CA: Google bu yolculuğun bir
noktasında DeepMind'ı satın aldı.
SL: Evet, kesinlikle.
Ve beklemediğim şey bir modelin
yalnızca metin üzerinde eğitim alabilmesi ne kadar iyiydi. Daha
fazla multimodaliteye ihtiyacınız olacağını düşündüm.
Görüntülere ihtiyacınız olacak, sese ihtiyacınız olacak,
videoya ve bunun gibi şeylere ihtiyacınız olacak. Ancak kesinlikle
çok büyük miktarda metin sayesinde, bu şeyleri bir dereceye kadar
telafi edebilir. Hala bunun bazı yönlerini gördüğünüzü
düşünüyorum. Dil modellerinin metinde kolayca ifade edilemeyen
şeyler gibi bazı alanlarda zayıf olma eğiliminde olduğunu
düşünüyorum. Ancak bunun temel bir sınırlama olduğunu
düşünmüyorum. Sanırım bu dil modellerinin videoya genişlediğini
göreceğiz ve görüntüler, sesler ve tüm bunlar, zamanla bunlar
aşılacaktır.
...
CA: Öyleyse konuş bizimle Shane.
şu anda yaptığınız şeyler hakkında, Dünyanın daha ikna edici
bir şekilde düşünmesi gerektiğini tutkuyla hissediyorum.
SL: Doğru. Yani bence çok çok
güçlü, çok akıllı yapay zeka geliyor. Ben bunun çok çok
muhtemel olduğunu düşünüyorum. Bugün geleceğini sanmıyorum.
Gelecek yıl ya da ondan sonraki yıl geleceğini sanmıyorum.
Muhtemelen bundan biraz daha uzaktadır.
CA: 2028?
SL: 2028, bu yüzde 50 şans. Yani
eğer bu 2028'de olmazsa,
Açıkçası şaşırmayacağım.
...
Eğer yapay bir genel zekanız
olsaydı, her türlü harika şeyi yapabilirsiniz. Tıpkı insan
zekasının çok ama çok şaşırtıcı şeyler yapabilmesi gibi.
Yani bu aslında belirli bir şeyle ilgili değil, genellemenin bütün
amacı budur.
(YGZ, tek bir konuyu değil insan
gibi odaklandığı her konuyu anlayabilir. Bu nedenle “Genel”
olarak tanımlanır.)
...
Evet, bunun her türlü şaşırtıcı
olasılığın önünü açacağını düşünüyorum. Ve bu
gerçekten insanlığın altın çağı olabilir. İnsan zekası,
Makine zekasıyla desteklenerek ve genişletilerek her türlü
fantastik şeyi yapmamızı sağlar ve daha önce çözülmesi zor
olan sorunları çözersiniz.
...
Evet, açıklamak istiyorum. Her
şeyin çok iyi gideceğinden emin olan insanlara inanmıyorum, ve
her şeyin çok ama çok kötü gideceğinden emin olan insanlara
inanmıyorum. Çünkü bahsettiğimiz şey inanılmaz derecede derin
bir geçiş. İnsan zekasının dünyaya gelişi gibi. Bu dünyaya
gelen başka bir istihbarattır. Ve bu inanılmaz derecede derin bir
geçiştir, ve tüm sonuçları tam olarak anlamıyoruz. Ve bu yüzden
emin olamayız, bu şu ya da başka bir şey olacak. Bu nedenle
olabilecekler konusunda açık fikirli olmamız gerekiyor.
...
Ancak geleceğe dair anlamadığımız
birçok şey var. Bu yüzden işlerin kötü gitme ihtimalinin
olduğunu kabul etmeliyim çünkü ne olacağını bilmiyorum. Bu
kadar büyük bir değişimin geleceğini bilemem. Ve bir şeyin
kötüye gitme olasılığı oldukça küçük olsa bile, bunu son
derece ciddiye almalıyız.
CA: Kötü gidişin nasıl
olabileceğine dair bir senaryo çiz.
SL: Bunu yapmak zor çünkü
sistemlerden bahsediyorsun potansiyel olarak insanüstü zekaya
sahip, değil mi? Yani dünyada işlerin kötüye gitmesinin birçok
yolu var. İnsanlar bazen tasarlanmış patojenlere işaret ediyor,
bilmiyorum, değil mi? Belki bir süper zeka bir patojen
tasarlayabilir. Çok daha sıradan şeyler olabilir. Belki YGZ ile,
bilirsin, dünyada demokrasiyi istikrarsızlaştırmaya alışılıyor,
bilirsiniz, propaganda veya bunun gibi başka şeylerle.
Bilmiyoruz...
CA: Bu zaten olmuş olabilir.
SL: Zaten bir şeyler oluyor olabilir.
Ama biliyorsun, eğer daha güçlü sistemlerimiz varsa bundan çok
daha fazlası olabilir. Dolayısıyla toplumların
istikrarsızlaştırılmasının birçok yolu vardır. Ve bunu tarih
kitaplarında da görebilirsiniz.
...
Eğer sihirli bir değneğim olsaydı
ve işleri yavaşlatabilseydim, O sihirli değneği kullanırdım ama
kullanmıyorum. Onlarca firma var şu anda dünyada muhtemelen 10
şirket var en ileri modelleri geliştirebilecek olan, sanırım. Bunu yapan gizli projeleri olan bazı ulusal istihbarat servisleri var.
Ve sonra, bilmiyorum, bir nesil geride kalan bir şeyi geliştirebilen
düzinelerce şirket. Ve unutmayın, zeka inanılmaz derecede
değerlidir. İnanılmaz derecede faydalı. Bunu yapıyoruz çünkü
her türlü sebepten dolayı bunda yaratılabilecek her türlü
değeri görebiliyoruz. Bu süreci nasıl durdurursunuz?
(“Sonuçlarından emin
olamadığımdan ben yapay zekayı geliştirme konusunda yavaşlasam
bile, yavaşlamayacak bir sürü başka şirket ve devlet kurumu
var.” diyor.)
...
Bence bazı şeyleri düzenlemeyi düşünmeliyiz. Her güçlü teknolojide yaptığımıza benzer şeyleri yapmamız gerektiğini düşünüyorum. Burada YZ ile ilgili özel bir şey yok. İnsanlar şunu konuşuyor, ah, bilirsin, bunu düzenlemekten nasıl bahsedersin? Hayır, güçlü teknolojileri her zaman toplumun çıkarları doğrultusunda düzenliyoruz. Ve bence bu, bakmamız gereken çok önemli bir şey.
Bir Yorum
Bir kadın, erkek evlenir. Çocuk yapmak ister. Gelecek için hayaller kurarlar. Çocuk doğar. Ve her şeyin istedikleri gibi gitmediğini fark ederler. Çocuk bambaşka bir kişilikte büyür. Hayal kırıklığına uğrarlar. Evet, her ailenin başına bu gelmeyebilir. Ama hayalini kurdukları çocukla karşılaşmayan aileler de vardır. Çocuğun beyni vardır. Büyüdükçe kendi kararlarını almaya başlar. Aile, çocuk yetiştiğinde nasıl bir insanla karşılaşacağından asla emin olamaz.
İşte yapay zeka da şu anda bebek gibidir. Her şeyi kendisini üreten şirketten öğrenmektedir. Gelecekte kendi kararlarını daha fazla alabilecektir. Bir bebeğin yetişkinliğinin nasıl olacağından emin olunamayacağı gibi bir yapay zekanın geleceğinin nasıl olacağından da emin olunamaz. Yine de çoğu insan bebek yapmaya karşı abartılı bir korku duymaz. Yapay zekaya karşı da abartılı bir korku duymanın gereği yoktur. Zaten bir şirket yapay zeka geliştirmekte yavaşlasa bile bir sürü başka şirket yavaşlamayacaktır. Bir şirketin geliştirdiği yapay zeka iyi sonuç verirken, başka bir şirketin geliştirdiği yapay zeka hayal kırıklığına uğratabilir.
Kendi başına karar alabilen hiçbir şeyle ilişkinin sonuçlarından emin olunamaz. Mesela bir arkadaşınızla ilişkiniz iyi gidiyordur. Ama bu ileride de iyi gideceğinin garantisi değildir. Zaten bir yapay zekaya dünya düzenini altüst edecek bir yetki kolay kolay verilmeyecektir. Yapay zeka muhtemelen çok uzun bir süre daha copilot olarak kalacaktır! Bu arada, hiçbir yöneticinin de dünyayı altüst etmeye kalkışmayacağından asla emin olamayız!