5 Ağustos 2017 Cumartesi
Konferans: Garry Kasparov: Zeki makinelerden korkmayın. Onlarla birlikte çalışın.
Teknolojiden olabildiğince faydalanmak istiyorsak korkularımızla yüzleşmeliyiz ve insanlığımızı ortaya koymak istiyorsak bu korkulara galip gelmeliyiz, diyor Garry Kasparov. Tarihin en büyük satranç ustalarından biri olan Kasparov, 1997 yılında hafızalara kazınan bir satranç maçında IBM süper bilgisayarı Deep Blue'ya yenildi. Zeki makinelerin en büyük hayallerimizi gerçekleştirmemize yardım edeceğine dair gelecekle ilgili görüşlerini bizimle paylaşıyor.
“Bu rekabetçi söylem bugün artık her yerde.
Makinelere karşı yarıştayız. Kavga hatta savaş bile
diyebilirsiniz buna. İşler ortadan kalkıyor.
İnsanların yerini makineler alıyor, sanki insan
kalmamış gibi. "Terminatör" ve "Matrix" gibi
filmlerin artık gerçek olması yeter de artar bile.
İnsan beyninin veya bedeninin bir bilgisayarla
veya robotla eşit şartlarda kapışacağı çok az alan
kaldı. Aslında, keşke bu kadar az olmasaydı.”
“Bundan yalnızca 12 yıl sonra, canımı zor
kurtardığım bir maçta tek bir bilgisayara karşı
savaşıyordum. Bu maça, Newsweek dergisinin
kapağında "Beynin Son Çırpınışı" demişlerdi.
Baskı yok canım.
(Gülüşmeler)”
“Ama o ilk oyuna
başladığımda o şeyin kapasitesinden pek emin
olamadım. Teknoloji çok çabuk gelişebilir, IBM
ise dev bir yatırım yapmıştı. O seti kaybettim.
Sonra elimde olmadan merak ettim, bu şey
yenilmez olabilir miydi? Çok sevdiğim satrancın
sonu muydu bu? Bunlar insani endişeler, insani
korkulardı ve emin olduğum bir şey vardı. O da
rakibim Deep Blue'nun böyle kaygıları
olmadığıydı.
(Gülüşmeler)”
“Bugün bile, son model cep
telefonunun içindeki ücretsiz satranç uygulaması
dahi Deep Blue'dan daha güçlüyken insanlar hâlâ
satranç oynuyor, hem de eskisinden de fazla.
Felaket tellalları, makinenin egemenliğine giren bir
oyuna bir daha kimsenin elini sürmeyeceğini
söyledi. Ama yanılıyorlardı, haksız çıktılar. Konu
teknoloji olduğunda, felaket tellallığı hep çok
popüler olmuştur.”
“Deep Blue galip gelmişti. Zeki miydi peki? Hayır,
değildi. Alan Turing ve bilgisayar biliminin diğer
kurucularının umduğu şekilde değildi en azından.
Görüldü ki donanım yeterli hıza ulaştığında ve
algoritmaların zekâsı keskinleştiğinde kaba kuvvet
satrancı ezip geçebiliyordu. Oysa elde edilen
sonuca bakıldığında büyük usta seviyesindeki
satranç oyunlarında Deep Blue zekiydi. Ama
dakikada 200 milyon hamle hesaplayabilen
inanılmaz hızına rağmen Deep Blue'nun yöntemi
insan zekâsının merak edilen gizemlerini
kavramamıza pek yardımcı olamadı.”
“Everest Dağı bendim ve Deep Blue
zirveye ulaşmıştı. Aslına bakarsanız, bunu yapan
Deep Blue değildi tabii ki, onun insan
yaratıcılarıydı bunu başaran, Anantharaman,
Campbell, Hoane ve Hsu. Onlara şapka
çıkarıyorum.”
“Yaralarımı yalarken, Deep Blue'ya
karşı giriştiğim mücadeleden ilham alarak
çıkmıştım. Eski bir Rus atasözünün dediği gibi:
Bükemediğin eli öpeceksin. Sonra düşündüm.
Bilgisayara karşı oynarken, yanımda başka bir
bilgisayarla güçlerimi birleştirsem nasıl olurdu?
İnsan sezgileriyle makinenin hesaplama gücü,
insan stratejisiyle makinenin taktikleri, insan
tecrübesiyle makinenin hafızası birleşse oynanmış
en mükemmel oyun olmaz mıydı?”
“Pek yakında, makineler taksi şoförü, doktor ve
profesör olacaklar. "Zeki" olacaklar mı peki? Bu
tanımlamaları filozoflara veya sözlüklere
bırakmayı tercih ederim. Asıl önemli olan soru şu,
biz insanlar bu makinelerle yaşama ve çalışma
konusunda ne hissediyoruz?”
“Makineyle iş birliği içinde çalışan insan hayal
değil. Bu günümüzün bir gerçeği. Yabancı dilde
bir gazetede yer alan bir makalenin içeriğini
öğrenmek için çevrimiçi çeviri araçlarını
kullananlar bunların mükemmel olmadığını bilir.
Sonra, bize verdiği çeviriyi anlamak için insan
tecrübemizi kullanırız. Makine de bizim
düzeltmelerimizden doğrusunu öğrenir. Bu yöntem
hastalık teşhisinde ve güvenlik analizinde gitgide
yaygınlaşıyor. Makine verilerin üzerinden geçiyor,
olasılık hesaplaması yapıyor ve işin yüzde 80 veya
90'lık kısmını hallederek insanların analiz
yapmasını ve karar verme sürecini kolaylaştırıyor.”
“Makinelerle savaşmış ve kaybetmiş biri olarak
şunu söylemek istiyorum, bu harika bir haber. Tüm
meslekler er ya da geç bu baskıyı üzerinde
hissedecek. Bunun aksi olursa, insanlık ilerlemeyi
durdurmuş demektir. Teknolojik gelişmenin nerede
ve ne zaman duracağına biz karar veremeyiz.
Yavaşlamak ise söz konusu olamaz. Aslına
bakarsanız, hızlanmamız gerek.”
“Makineler hesap yapabilir.
Biz ise anlama gücüne sahibiz. Makineler talimata
göre çalışır. Bizim ise bir amacımız var. Makineler
nesneldir. Biz ise tutkuluyuz. Makinelerimizin
yapabildiklerinden endişe duymamıza gerek yok.
Aksine, bugün yapamadıkları bizi
endişelendirmeli.”
Garry Kasparov'un TED Konferansının Hatırlattıkları
On sekizinci yüzyılın Avrupa'sını kasıp kavuran bir makine vardı. Satranç oynayan bir makine. Gösterilere çıkarılırdı. Rakiplerini zorlardı. İnsanları şaşırtırdı. Bu makine The Turk'tü! Oldukça gizemliydi. Neydi ki bu! İzleyiciler kanıtlayamıyordu. Ama bu ilginç makine göründüğünün aksine kendi kendine oynamıyordu. İçinde gizlenen bir satranç oyuncusunun yardımıyla oynuyordu. İzleyiciler, güzel bir gösteri izlemiş oluyorlardı. Kasparov, Deep Blue'ya gizlice talimat veren bir satranç oyuncusunun varlığından bahsetmişti. Deep Blue The Turk'e benzetilmişti. Game Over: Kasparov and the Machine belgeselinde de konudan bahseder.
Aslında 1990'daki teknoloji böyle basit hileyi yapmaya yeterli olurdu. IBM hile yapmaya niyetli olsaydı bunu çok önce de yapabilirdi. 1997'ye kalmazdı. Hatta 1996'da da yenilmezdi Deep Blue. Sahi 1996'daki ilk maçta niçin böyle iddialar dile getirilmemişti. Aslında iyi gidiyorken, insan müdahalesi yüzünden yenilmiş olamaz mıydı, Deep Blue. :-)
AlphaGo Go oynuyor. Hem de iyi oynuyor görünüyor. En iyi Go oyuncusunu, Lee Sedol'ı yendi 2016'da! Ama hile yapıldığı, insan müdahalesi olduğu kimsenin aklına gelmedi. Kimse Google'ı suçlamadı; AlphaGo'yu Google'in DeepMind şirketi geliştirmişti. Üstelik Go satrançtan daha karmaşıktır. Yani bilgisayarın satrançta insan müdahalesine ihtiyacı varsa, Go oyununda bu ihtiyaç daha da belirgin olmalıydı. Bilgisayarın zeka gerektiren şeylerde bile üstün gelebileceği, insanlara artık daha mümkün görünmeye başladı, sanırım. Kanıksandı.
Kasparov için satranç öncelikliydi. IBM için ise asıl vurgulamak istediği dakikada 200 milyon hamle hesaplayabildiğiydi. Bu modelin, Deep Blue yazılımını bile çalıştırabilen çok hızlı bir sunucu olduğunu kanıtlamaktı. Potansiyel müşteri şirketlere, bu model sunucularının ne kadar işlerine yarayabileceğini göstermesinin dikkat çekici bir yolu da bu satranç maçıydı. İşe yaradı da. Hisseleri yükselmişti.
Kasparov'un konferansında bahsettiği tam da o felaket tellalları gibi düşündüğünü varsayardım. Ama Deep Blue'yla mücadelesinden ilham almış. Zamanla fikirlerini değiştirmiş. Kasparov'dan benim fikirlerime yakın şeyler duymak sevindirici. Artık teknolojiye daha çok güveniyor.
Terminatör, gerilimin iyi verildiği bir film olabilir. Jamas Cameron fena felaket tellallığı yapmıştı. Ama Jamas Cameron'ın da böyle bir geleceğe inandığını sanmıyorum. Sadece, felaket tellallığı izleyici toplamayı kolaylaştıracaktı. Kendisi Titanik'i incelemeyi sever. Hobisidir. Defalarca okyanusta Titanik'e inmiştir. Elbette gelişmiş robot denizaltılarıyla incelemiştir. Yani son teknolojiyi kullanmaya bayılır. Onlardan korkmaz.
Kasparov “Makineler hesap yapabilir. Biz ise anlama gücüne sahibiz. Makineler talimata göre çalışır.” diyor ve ekliyor; “Makinelerimizin yapabildiklerinden endişe duymamıza gerek yok.”. Doğru, endişelenmeye gerek yok. Ama bunun nedeni, anlama kapasiteleri olmamasına bağlanmamalı. Makineler hep böyle kalacakmış gibi anlatmış Kasparov. Günümüzde araba plakası okuyabilen sistemler kullanılmaktadır. Her araba geçtiğinde okuması iyileşmektedir. Öğrenmektedir. Sistemdeki yapay sinir ağları yeni bağlantılar kurmaktadır. O plakayı anlamaktadır. Elbette çok basit veri bağlantıları oluşturmaktadır. Google Çeviri ise daha yüksek seviyede anlamaktadır. Çünkü daha büyük veriler arasında daha karmaşık bağlantılar kurmaktadır. Tercüme kalitesini arttırmaktadır, kullanıcılardan da öğrenerek. Yani “nereden itibaren anlamaya başlamak” olduğunu gösteren belirgin bir sınır yoktur, genel kanının aksine. Doğru, Deep Blue hiç anlayamayacaktı. Çünkü O'nda yapay sinir ağı yoktu. Ama IBM Watson'da yapay sinir ağı var.
Komşu kedilerin, bahçesini tuvalet olarak kullanmasından usanmıştır Bob Bond. Bahçeye giren kedileri tanıyan yazılım geliştirmeye karar verir. Bahçeye kedi girdiğinde otomatik sulama sistemini açacaktır. Elbette bunu yapay sinirler kullanarak yapacaktır Nvidia programcısı Bob Bond. Sonra sisteme internetten milyonlarca kedi fotoğrafı yükler. Kamera kedileri diğer hayvanlardan ayırmayı öğrenir. Başta kedilerin %30'unu tanıyabiliyordur. 3 ay içinde %60'a çıkar, programcının kendisinin çektiği fotoğrafları eklemesinin de yardımıyla. Ve artık bahçeye gelen kedilerin %90'ını tanıyor!
Bu program kedinin ne olduğunu bir ölçüde anlıyor. Bizler kediyi daha kapsamlı anlıyoruz. Bir biyolog ise çok daha kapsamlı anlar. Onun kafasında oluşturduğu kedi modeli çok daha kapsamlıdır. Programın oluşturduğu model sadece grafiktir. Bizler biraz daha detaylı tarif edebiliriz. Ama biyoloğun tarifi kuşkusuz çok daha detaylı olacaktır; Sadece şekli, sesi ve 1-2 numarasıyla sınırlı kalmayacaktır. Program da, biz de, biyolog da kediyi farklı düzeylerde anlamaktadır!
Bu arada, AlphaGo'ya milyonlarca oyun yüklenmişti. Kendisine karşı defalarca kez oynaması sağlanmıştı. Oyunu öğrendi, yapay sinir ağı sayesinde. Sezgi gibi bir şey kazandı deniyor. Şey, öğrenmek yeterince tanımlamadı, ustalaştı diyebiliriz. Bitmedi! Yine DeepMind yazılımı yürümeyi, engellerden atlamayı, duvarlarda yönünü değiştirmeyi öğrendi. Bunu kendi kendine yaptı. Sanal bir ortamda, sadece ödül sistemiyle teşvik edildi. Şirketin başka bir projesinde yazılıma 5000 tane film ve dizi gösterildi. DeepMind dudak okumayı öğrendi, aktörlerin konuşmalarını takip ederek. Bazen belge ve kitap taradığımız oluyor, bilgisayara geçirmek için. Ama çoğu harfi düzgünce dijitalleştiremiyor yazılımlar. DeepMind bu konuda da işe yarayacaktır muhtemelen. Farklı biçimlerde yazılarla sıkça karşılaştıkça harfleri öğrenecektir. Kaliteli şekilde tarama sağlanabilecektir. Google zaten kitapları dijitalleştiriyor. Böylece aramalara dahil edilebiliyorlar. DeepMind'i bu amaç için de kullanması şaşırtıcı olmayacaktır.
Zamanla daha karmaşık modelleri tanıyacak bilgisayarlar. Büyük veriler arasında karmaşık bağlantılar kuracak. Sonunda kendisinin de bir modelini oluşturacak. Yani bilinç olgunlaşmaya başlayacak. Bu 200-300 yapay sinir tanımlanmış makinelerde olmayacak. Milyon tane yapay sinir tanımlanmış bilgisayarlarda olacak.
İşte o zaman büyük tartışmalar başlayacak. Bilgisayarlar daha da karmaşık şeyleri anlamaya başladığında, insanların çoğu bunu hemen hissetmeyecekler. Ve nereden sonra, onların artık bir bilinci var denilebileceğine kolayca karar veremeyecekler. Onları bundan böyle işlerimizi yapmaya zorlayacak mıyız? Kölelerimiz gibi kullanmaya hakkımız olacak mı? Onlar gerçekten anlıyor mu denilecektir. Onlara insan hakkı verilmeli midir diye tartışılacak. Onlar özgür müdür, yoksa bizim malımız mıdır diye sorulacak. Bazıları onların artık anlayabiliyor olduğunu uzun süre kabul edemeyecek. İnsanlar tehdit altında değildir. İlla bir tehdit aranacaksa; Tehdit altında olanlar aslında makinelerdir. Anlayabiliyor oldukları halde belki uzun süre köle kalmaya devam edecekler. :-)
Aslında 1990'daki teknoloji böyle basit hileyi yapmaya yeterli olurdu. IBM hile yapmaya niyetli olsaydı bunu çok önce de yapabilirdi. 1997'ye kalmazdı. Hatta 1996'da da yenilmezdi Deep Blue. Sahi 1996'daki ilk maçta niçin böyle iddialar dile getirilmemişti. Aslında iyi gidiyorken, insan müdahalesi yüzünden yenilmiş olamaz mıydı, Deep Blue. :-)
AlphaGo Go oynuyor. Hem de iyi oynuyor görünüyor. En iyi Go oyuncusunu, Lee Sedol'ı yendi 2016'da! Ama hile yapıldığı, insan müdahalesi olduğu kimsenin aklına gelmedi. Kimse Google'ı suçlamadı; AlphaGo'yu Google'in DeepMind şirketi geliştirmişti. Üstelik Go satrançtan daha karmaşıktır. Yani bilgisayarın satrançta insan müdahalesine ihtiyacı varsa, Go oyununda bu ihtiyaç daha da belirgin olmalıydı. Bilgisayarın zeka gerektiren şeylerde bile üstün gelebileceği, insanlara artık daha mümkün görünmeye başladı, sanırım. Kanıksandı.
Kasparov için satranç öncelikliydi. IBM için ise asıl vurgulamak istediği dakikada 200 milyon hamle hesaplayabildiğiydi. Bu modelin, Deep Blue yazılımını bile çalıştırabilen çok hızlı bir sunucu olduğunu kanıtlamaktı. Potansiyel müşteri şirketlere, bu model sunucularının ne kadar işlerine yarayabileceğini göstermesinin dikkat çekici bir yolu da bu satranç maçıydı. İşe yaradı da. Hisseleri yükselmişti.
Kasparov'un konferansında bahsettiği tam da o felaket tellalları gibi düşündüğünü varsayardım. Ama Deep Blue'yla mücadelesinden ilham almış. Zamanla fikirlerini değiştirmiş. Kasparov'dan benim fikirlerime yakın şeyler duymak sevindirici. Artık teknolojiye daha çok güveniyor.
Terminatör, gerilimin iyi verildiği bir film olabilir. Jamas Cameron fena felaket tellallığı yapmıştı. Ama Jamas Cameron'ın da böyle bir geleceğe inandığını sanmıyorum. Sadece, felaket tellallığı izleyici toplamayı kolaylaştıracaktı. Kendisi Titanik'i incelemeyi sever. Hobisidir. Defalarca okyanusta Titanik'e inmiştir. Elbette gelişmiş robot denizaltılarıyla incelemiştir. Yani son teknolojiyi kullanmaya bayılır. Onlardan korkmaz.
Kasparov “Makineler hesap yapabilir. Biz ise anlama gücüne sahibiz. Makineler talimata göre çalışır.” diyor ve ekliyor; “Makinelerimizin yapabildiklerinden endişe duymamıza gerek yok.”. Doğru, endişelenmeye gerek yok. Ama bunun nedeni, anlama kapasiteleri olmamasına bağlanmamalı. Makineler hep böyle kalacakmış gibi anlatmış Kasparov. Günümüzde araba plakası okuyabilen sistemler kullanılmaktadır. Her araba geçtiğinde okuması iyileşmektedir. Öğrenmektedir. Sistemdeki yapay sinir ağları yeni bağlantılar kurmaktadır. O plakayı anlamaktadır. Elbette çok basit veri bağlantıları oluşturmaktadır. Google Çeviri ise daha yüksek seviyede anlamaktadır. Çünkü daha büyük veriler arasında daha karmaşık bağlantılar kurmaktadır. Tercüme kalitesini arttırmaktadır, kullanıcılardan da öğrenerek. Yani “nereden itibaren anlamaya başlamak” olduğunu gösteren belirgin bir sınır yoktur, genel kanının aksine. Doğru, Deep Blue hiç anlayamayacaktı. Çünkü O'nda yapay sinir ağı yoktu. Ama IBM Watson'da yapay sinir ağı var.
Komşu kedilerin, bahçesini tuvalet olarak kullanmasından usanmıştır Bob Bond. Bahçeye giren kedileri tanıyan yazılım geliştirmeye karar verir. Bahçeye kedi girdiğinde otomatik sulama sistemini açacaktır. Elbette bunu yapay sinirler kullanarak yapacaktır Nvidia programcısı Bob Bond. Sonra sisteme internetten milyonlarca kedi fotoğrafı yükler. Kamera kedileri diğer hayvanlardan ayırmayı öğrenir. Başta kedilerin %30'unu tanıyabiliyordur. 3 ay içinde %60'a çıkar, programcının kendisinin çektiği fotoğrafları eklemesinin de yardımıyla. Ve artık bahçeye gelen kedilerin %90'ını tanıyor!
Bu program kedinin ne olduğunu bir ölçüde anlıyor. Bizler kediyi daha kapsamlı anlıyoruz. Bir biyolog ise çok daha kapsamlı anlar. Onun kafasında oluşturduğu kedi modeli çok daha kapsamlıdır. Programın oluşturduğu model sadece grafiktir. Bizler biraz daha detaylı tarif edebiliriz. Ama biyoloğun tarifi kuşkusuz çok daha detaylı olacaktır; Sadece şekli, sesi ve 1-2 numarasıyla sınırlı kalmayacaktır. Program da, biz de, biyolog da kediyi farklı düzeylerde anlamaktadır!
Bu arada, AlphaGo'ya milyonlarca oyun yüklenmişti. Kendisine karşı defalarca kez oynaması sağlanmıştı. Oyunu öğrendi, yapay sinir ağı sayesinde. Sezgi gibi bir şey kazandı deniyor. Şey, öğrenmek yeterince tanımlamadı, ustalaştı diyebiliriz. Bitmedi! Yine DeepMind yazılımı yürümeyi, engellerden atlamayı, duvarlarda yönünü değiştirmeyi öğrendi. Bunu kendi kendine yaptı. Sanal bir ortamda, sadece ödül sistemiyle teşvik edildi. Şirketin başka bir projesinde yazılıma 5000 tane film ve dizi gösterildi. DeepMind dudak okumayı öğrendi, aktörlerin konuşmalarını takip ederek. Bazen belge ve kitap taradığımız oluyor, bilgisayara geçirmek için. Ama çoğu harfi düzgünce dijitalleştiremiyor yazılımlar. DeepMind bu konuda da işe yarayacaktır muhtemelen. Farklı biçimlerde yazılarla sıkça karşılaştıkça harfleri öğrenecektir. Kaliteli şekilde tarama sağlanabilecektir. Google zaten kitapları dijitalleştiriyor. Böylece aramalara dahil edilebiliyorlar. DeepMind'i bu amaç için de kullanması şaşırtıcı olmayacaktır.
Zamanla daha karmaşık modelleri tanıyacak bilgisayarlar. Büyük veriler arasında karmaşık bağlantılar kuracak. Sonunda kendisinin de bir modelini oluşturacak. Yani bilinç olgunlaşmaya başlayacak. Bu 200-300 yapay sinir tanımlanmış makinelerde olmayacak. Milyon tane yapay sinir tanımlanmış bilgisayarlarda olacak.
İşte o zaman büyük tartışmalar başlayacak. Bilgisayarlar daha da karmaşık şeyleri anlamaya başladığında, insanların çoğu bunu hemen hissetmeyecekler. Ve nereden sonra, onların artık bir bilinci var denilebileceğine kolayca karar veremeyecekler. Onları bundan böyle işlerimizi yapmaya zorlayacak mıyız? Kölelerimiz gibi kullanmaya hakkımız olacak mı? Onlar gerçekten anlıyor mu denilecektir. Onlara insan hakkı verilmeli midir diye tartışılacak. Onlar özgür müdür, yoksa bizim malımız mıdır diye sorulacak. Bazıları onların artık anlayabiliyor olduğunu uzun süre kabul edemeyecek. İnsanlar tehdit altında değildir. İlla bir tehdit aranacaksa; Tehdit altında olanlar aslında makinelerdir. Anlayabiliyor oldukları halde belki uzun süre köle kalmaya devam edecekler. :-)
Kaydol:
Kayıtlar (Atom)