Yapay zekâ tehlikesi düşündüğünüzden daha garip - Konferans

Bu konferanstan sonra “Yapay Zekanın Öğrenme Kapasitesi” makalesini de okumanız önerilir.

Yapay zekânın tehlikesi aslında bizlere karşı ayaklanacakları değil, tam olarak yapmalarını istediğimiz şeyleri yapacak olmalarıdır diyor, yapay zeka araştırmacısı Janelle Shane. İnsanların problemlerini çözmeyi deneyen -yeni dondurma tatları yaratmak veya yoldaki arabaları tanımak gibi -- yapay zekâ algoritmalarının garipliğini ve bazen de korkutucu tuhaflıklarını paylaşan Shane, yapay zekânın neden henüz gerçek beyin ile aynı düzeyde olamayacağını gösteriyor.

- Filmlerde yapay zekâyla ilgili bir hata olduğunda bu genelde yapay zekânın, artık insanlara itaat etmemeye karar vermesi nedeniyle olur ve artık kendi kuralları vardır, çok teşekkürler. Ancak, gerçek hayatta sahip olduğumuz yapay zekâ bunu yapabilecek kadar zeki değil. Yaklaşık bir solucanın veya belki de olsa olsa tek bir bal arısının programlama gücüne sahiptir ve aslında, belki de daha azına sahiptir. Beyinlerle ilgili sürekli yeni şeyler öğreniyoruz ve bu da yapay zekânın neden gerçek beyinlerle aynı düzeyde olmayacağını açıklıyor. Günümüzdeki yapay zekâ, bir resimde yayayı saptamak gibi bir görevi yapabilir, fakat bir yayanın ne olduğunu kavrayamaz, yaya onun için bir çizgiler, dokular ve bazı şeylerin toplamıdır. Bir insanın aslında ne olduğunu bilmez. Peki günümüzün yapay zekâsı biz ne istersek onu mu yapacak? Eğer yapabilirse evet, fakat gerçekten istediğimizi yapamayabilir.

- Yapay zekânın tehlikesi aslında bizlere karşı ayaklanacağı değil, tam olarak yapmalarını istediğimiz şeyleri yapacak olmalarıdır. O zaman da yapay zekâyla çalışma hilesi şu hale geliyor: Problemi nasıl düzenleyelim ki gerçekten istediğimizi yapsın?

- Bir yapay zekâyla çalışırken bu diğer bir insanla çalışmaktan ziyade, daha çok doğanın garip bir gücüyle çalışmaya benziyor. Yapay zekâya çözmesi için kazara yanlış problemi vermek de çok kolay ve bir şeyler yanlış gidene dek bunu genelde fark etmeyiz.

- Yapay zekânın işi hızlı hareket etmek. Ona ileri doğru koşması gerektiğini veya kollarını kullanamayacağını söylemediler. Yapay zekâya hızlı hareket etmeyi öğrettiğiniz zaman olan şey budur, takla atmak veya şaşkınca yürüyüşler gibi şeylerle karşılaşırsınız. Bu gerçekten yaygın. Yerde sürünmek de yaygın. (Gülüşmeler)

- Kelimelerin ne anlama geldiğine dair veya isimleri bulurken kullanmaması gereken bazı kelimeler olabileceğine dair hiçbir şey söylemedim. Yani onun tüm dünyası, benim ona sağladığım veri. Dondurma tatları gibi, başka hiçbir şey bilmiyor.

- Yani genelde veri aracılığıyla yapay zekâya kazara yanlış şeyi yapmasını söylüyoruz. Bu, karabalık adlı bir balık. Bir grup araştırmacı da yapay zekâyı resimlerde karabalığı saptaması için eğitmişti. fakat ona, balığı saptamak için resmin hangi kısmını kullandığını sorduklarında, işte bunu vurguladı. Evet, bunlar insan elinin parmakları. Bir balığı saptamayı deniyorsa, neden insan elinin parmaklarını arıyor? Görünen o ki bu karabalık bir ödül balığı ve eğitimi sırasında yapay zekânın gördüğü birçok resimde, balık böyle görünüyordu. (Gülüşmeler) Parmakların, balığın bir parçası olmadığını bilmiyordu.

- 2016'dan bir örnek vermek istiyorum. Birisi Tesla'nın oto-pilot yapay zekasını kullanırken ölümcül bir kaza oldu, fakat tasarlandığı üzere otoyolda kullanmak yerine, şehrin sokaklarında kullandılar. Olan şey de şuydu; bir kamyon, arabanın önüne sürdü ve araba fren yapamadı. Yapay zekâ kesinlikle resimlerde kamyonları saptamak üzere eğitilmişti. Fakat olan şey şu gibi görünüyor, yapay zekâ otoyolda giden kamyonları saptamayı öğrenmişti, yani kamyonları arkadan göreceğimiz bir şekilde öğrenmişti. Yanı görünen kamyonların otoyolda olmaları beklenmez ve yapay zekâ bu kamyonu gördüğünde, büyük olasılıkla bir yol işareti olarak algıladı ve altından geçmenin güvenli olduğunu düşündü.

- Amazon, algoritmanın kadınlara karşı ayrımcılık yapmayı öğrendiğini keşfettiği zaman, bir özgeçmiş-sıralama algoritmasından vazgeçmek zorunda kaldı. Olan şey şuydu, yapay zekâyı geçmişte işe aldıkları insanlara ait örnek özgeçmişlerle eğittiler. Yapay zekâ da bu örneklerden, kadın okullarına gitmiş olan veya özgeçmişinin herhangi bir yerinde "kadın" kelimesi geçen, -- "kadın futbol takımı" veya "Kadın Mühendisler Derneği" gibi -özgeçmişlerden kaçınmayı öğrendi. Yapay zekâ, insanların yaptığını gördüğü bu şeyi kopyalaması gerekmediğini bilmiyordu. Teknik olarak da yapmasını istedikleri şeyi yaptı. Sadece, yanlış şeyi yapmasını istediler.