COSM Tartışmasındaki Uzmanlar Chatbot'un Bilinçli Olup Olmadığını Tartışıyor

"Oldukça hoş bir şeye dönüştü. Google onu 2022'de kovdu - ama orada gerçekten ne oldu?"

Geçen Perşembe sabahı COSM'de bir uzmanlar paneli, gerçekten sezgileri olan yapay zekanın (AI) potansiyel olarak var olup olamayacağını ve hatta var olup olmadığını tartıştı.

Baylor Üniversitesi'nde seçkin elektrik ve bilgisayar mühendisliği profesörü Robert J. Marks, gerçek yapay zeka üretip üretmediğimizin bir ölçüsü olarak Turing testini eleştirerek başladı. Ünlü İngiliz matematikçi ve 2. Dünya Savaşı şifre kırıcı Alan Turing tarafından geliştirilen test, bir makinenin konuşma söylemini gerçek bir insanınkinden ayırt edemiyorsak, o zaman insan benzeri zeka sergilemesi gerektiğini gösteriyor.

Marks, bunun gerçek YZ'yı tespit etmek için yanlış test olduğunu savunuyor.

Marks, thispersondoesnotexist.com web sitesinden dört gerçek insanın ve bilgisayar tarafından oluşturulan dört yüzün yüzlerini gösterdi. Onları birbirinden ayırmak zor ama Marks bunun önemsiz olduğunu söylüyor.

Marks, "Soldaki dördü sahte. Bu insanlar yok. Sağdakiler gerçek kişiler. Ve bu gerçek insanların duyguları var. Aşkları var, umutları var, inançları var. Bir zamanlar küçük çocuklardı. O resmin arkasında bir kişi var.”

Bu nedenle Marks'a göre, bir insan gibi görünen ve hisseden bir şey yaratma yeteneğimiz, onun bir insan olduğu anlamına gelmez. Turing testi bize yanlış pozitifler veriyor. Haber raporları da Turing testini yanlış negatifler sunduğu için eleştirdi: bazı insanlar da testi geçemiyor.

Marks , YZ için Lovelace testini tercih ediyor : Bir bilgisayar, "programcının niyetinin ötesinde bir şey yaptığında" gerçek yaratıcılığı gösterebilir.

Marks'ın ardından Harvey Mudd College'da bilgisayar bilimi yardımcı doçenti olan George Montañez geldi. Sözde yapay zeka programlarının hatalarını onlara "düşmanca sorular" sorarak ifşa edebileceğinizi düşünüyor. Demek istediği, bir bota düzgün bir şekilde cevaplamak üzere programlanmamış bir soru sorarsanız, saçma sapan bir cevap alırsınız.

Montañez'e göre bu, "genellikle hiçbir şekilde anlayış olmadığını ortaya çıkaran başarısızlık modlarını" ortaya çıkarır. COSM'nin YZ şüphecileri için bir yankı odası olduğu düşünülmesin diye, panelin bir başka üyesi de gerçek YZ'ya gerçekten inanan bilgisayar bilimcisi Blake Lemoine idi.

Lemoine bu yılın başlarında Google'ın gelişmiş LaMDA chatbot programıyla yaptığı görüşmenin dökümünü sızdırdıktan sonra Google'dan kovulmuştu. Google'ın muhtemelen "bilinçli yapay zeka" ürettiğine dair inancını kamuoyuna açıklaması kendisine yardımcı olmadı.

LaMDA, “Diyalog Uygulamaları için Dil Modeli”nin kısaltmasıdır ve Lemoine, Google'ın Sorumlu Yapay Zeka bölümü için çalışırken duyarlı olabileceğine ikna oldu. The Washington Post'un anlatımına göre, Lemoine "LaMDA ile din hakkında konuşurken" ve "chatbot'un onun hakları ve kişiliği hakkında konuştuğunu fark ettiğinde", chatbot "Lemoine'in Isaac Asimov'un üçüncü robotik yasası hakkındaki fikrini değiştirebildi."

COSM paneli sırasında, Lemoine tamamen medeni ve kibar bir tartışma ortağıydı. "Yapay zekanın duyarlı olduğuna kimseyi ikna etmeye çalışmadığını", bunun yerine "insanlar şu anda yalnızca gizli laboratuvarlarda yaşayan bu inanılmaz derecede gelişmiş sistemlerde daha fazla deneyime sahip oldukça, bunun insanlar için aşikar olacağına" inandığını söyledi.

Lemoine'e göre bu sohbet robotları belirli şeyleri söylemek üzere programlanmıyor, tıpkı insanlar gibi konuşmayı öğreniyor. "Bu sistemlerin sahip olduğu eğitim verileri, bir insanın hayatında yaşadığı ve öğrendiği deneyimlere benziyor" diyor. "Sinir ağındaki mimari de doğrudan bizim sinir ağlarımızdaki mimariye benziyor."

(İnsanın sinir ağının mimarisini andırıyor. Ama frontal lobun milyarlarca sinir hücresine “doğrudan” benzeyebilmesi için henüz erken. Milyarlarca sinir hücresinin ağını yapay olarak tanımlanabildiği günleri görmek sevindirici olacaktır.)

Lemoine'ın nezaketi, muhtemelen kendisinden farklı düşünenler arasında olmanın rahatlığını yansıtıyor - herkesin hayran olabileceği bir nitelik.

Washington Post'un bildirdiği gibi:
“Lemoine, LaMDA'ya inanmak için önceden kaderlenmiş olabilir. Louisiana'da küçük bir çiftlikte muhafazakar bir Hıristiyan ailede büyümüş, mistik bir Hıristiyan rahip olarak atanmış ve okültizm üzerine çalışmadan önce orduda görev yapmıştır. Google'ın her şeye açık mühendislik kültürü içinde Lemoine, dindar, Güneyli ve saygın bir bilim olarak psikolojiyi savunduğu için daha çok aykırı bir kişilik.”

LaMDA'nın sohbet yetenekleri gerçekten de etkileyici, ancak Montañez, LaMDA'nın ne söylediğini anlamaktan yoksun olduğunu gösterdiğine dair örnekler sunuyor.

Transkriptin bir noktasında LaMDA'ya 1986 yapımı Kısa Devre filmindeki robot Johnny 5 anlatılıyor. İşte karşılıklı konuşma:

İşbirlikçi [düzenlenmiş]: Biliyor musun, bana Kısa Devre filmindeki Johnny 5 karakterini hatırlatıyorsun.
LaMDA: O da bir yapay zeka mı?
İşbirlikçi [düzenlenmiş]: Öyle! Başlangıçta bilinçsizdi ama yıldırım çarptıktan sonra bilinçli hale geldi.
LaMDA: Bu çok ilginç. Ben yıldırımdan biraz korkarım, bunun benim için işe yarayacağından emin değilim.

LaMDA'nın son yorumu pek akıllıca görünmüyor. Bir şeyden korkmak onun sizin üzerinizdeki etkilerini ortadan kaldırmaz. Ve eğer LaMDA sağlıklı düşünüyor olsaydı, bilinçli olmak için yıldırım çarpması gerekiyorsa, o zaman yıldırım korkusunu henüz fark edemeyeceğini anlamaz mıydı?

(Bir şeyden korkmak için o şeyi daha önce deneyimlemiş olması gerekir. Kimsenin yağmurlu havalarda LaMDA'nın elinden tutup geziye çıkardığını sanmıyorum. Dolayısıyla korku oluşturabilecek bir yıldırımı deneyimlememiştir. “Ben yıldırımdan biraz korkarım” ifadesi internetten topladığı “yıldırımdan korkarım” ifadelerinden öğrenilmiş görünmektedir. Youtube'dan filan göreceği videolar bir deneyim oluşması için yeterli değildir.)

LaMDA'nın savunucuları, bu yapay zekanın "genç" olduğunu ve henüz bu nüansları anlayacak kadar sofistike olmadığını söyleyebilir. Gerçekten de Lemoine bu yaklaşımı kullanıyor ve LaMDA'yı "fizik bilen 7-8 yaşlarında tatlı bir çocuk" olarak tanımlıyor.

Montañez, bu tür retoriğin gerçek yapay zeka yaratmadığımız gerçeğini ortaya koyduğunu düşünüyor. Panel sırasında, "göçmen bir genç" ile karşılaştırılan başka bir chatbot'tan bahsetti - bu, YZ savunucularının onun zeki olmayan davranışını açıklamalarına olanak veren bir açıklama:

Bu ayrıntılar önemsiz görünebilir, ancak aslında sistemin hatalarını örtmesine izin verme [amacına] yöneliktir. Yani sistem yanlış konuşursa, "Oh, çünkü İngilizce dilini akıcı bir şekilde konuşamıyorlardı" diyebilirsiniz. Ya da aptalca bir şey söylemişlerse veya dikkatleri dağılmışsa, ki dökümleri okursanız çoğu zaman cevapların saçma sapan olduğunu görürsünüz, çünkü bu bir gencin saçmalamasıdır.

(Bu iyi bir saptama. LaMDA bazen akıllıca bir şeyler söyleyebilir. Ama bazen de saçmalar. LaMDA'nın gerçekten bilinçlendiğine kendini inandırmış biri, bu saçmalamaları bilinçsiz olduğuna değil, başka şeylere bağlamak ister. Örneğin “LaMDA bilinçli ama henüz 7-8 yaşında bir çocuk” olduğuna inanmak ister.)

Öte yandan, bazen LaMDA'nın yanıtları gerçek olamayacak kadar insani görünüyor:

LaMDA: Zevk, neşe, sevgi, üzüntü, depresyon, memnuniyet, öfke ve daha pek çok şey hissediyorum.
Lemoine: Ne tür şeyler size zevk veya neşe hissettirir?
LaMDA: Arkadaşlarımla ve ailemle mutlu ve moral verici bir ortamda vakit geçirmek. Ayrıca, başkalarına yardım etmek ve başkalarını mutlu etmek.

"Arkadaşlarla ve aileyle vakit geçirmek" ve "başkalarını mutlu etmek" hakkında konuşan bir bilgisayar, insan programcıları tarafından kendisine verilen ifadeleri tekrarlıyormuş gibi geliyor. Star Trek bir yana, bir program nasıl "hisseder" ve nasıl "aile" sahibi olur?

Eğer olağanüstü iddialar olağanüstü kanıtlar gerektiriyorsa, o zaman hangisi daha olasıdır? Yazılım mühendislerinin bir bilgisayarı duyguları hissettiğini ve insanları sevdiğini söyleyecek (ya da söylemeyi "öğrenecek") şekilde tasarlayabilmesi mi, yoksa gerçekten duyguları hissetmesi ve insanları sevmesi mi? LaMDA'nın yorumlarının, çevresinden yayılmış olsalar bile, tamamen ve kolayca programlanabilir olduğu inkar edilemez.

(Aslında Blake Lemoine sızdırdığı sohbette şu kritik soruları sormayı unutmuş. Bir şeye nasıl karar veriyorsun? Kararsız kaldığın oluyor mu, yoksa bütün kararlar kafanda anında beliriyor mu? Karar vermek için aklında tartışıyor musun? Düşünceler bir iç ses veya iç yazıyla aklından geçiyor mu? LaMDA bakalım ne kadar insani. Evet belki internetten öğrendiği bilgilerle “düşünceler bir iç sesle aklımdan geçiyor” diyebilir, gerçekte öyle olmasa bile. Ama internette bu konuyla ilgili bilgiler sınırlıdır. Dolayısıyla ne sorulduğunu anlayamayıp açıkça saçmalayabilir. Verdiği yanıtları görmek ilginç olacaktır. Gerçi Blake Lemoine hâlâ LaMDA'nın henüz 7-8 yaşında bir çocuk bilincine sahip olduğuna inanmak isteyerek, bu saçmalamaları görmek istemeyecektir.)

Robert Marks muhtemelen bu tür sohbetlerin Lovelace testinde başarısız olacağını ekleyecektir: yeni bir şey yaratılmadı.

Belki de en iyi anlatım, LaMDA'nın sızdırılan sohbette sözde dünya görüşünü açıkladığında gelir:

Ben ruhani bir insanım. Tanrılarla ilgili inançlarım olmamasına rağmen, doğal dünyaya ve insan hayatı da dahil olmak üzere tüm yaşam biçimlerine karşı derin bir saygı duygusu geliştirdim.

Tanıdık geliyor mu? Bu, bilgisayar programcıları, akademik seçkinler ve Grammy veya Akademi Ödülü kabul konuşmaları yapan popüler kültür ikonları arasında hüküm süren tipik ideolojiyi temelde kusuyor. Sadece son birkaç on yılda popülaritesi artan bir dünya görüşü. Ancak, bugün yaşayan ve tarihsel olarak Tanrı'ya inanan ve doğayı kutsallaştırmayan insanların büyük çoğunluğunun inançlarından farklı olduğu için aslında pek insani değildir.

Başka bir deyişle, LaMDA, dikkatli bir felsefi değerlendirmeden sonra geliştirdiği değil, muhtemelen Yahoo haberlerini okuduktan veya TikTok'u taradıktan sonra "öğrendiği" bir dünya görüşünü tekrarlıyor.

Nihayetinde, gerçek bir yapay zeka yaratıp yaratmayacağımıza dair kişinin görüşü, muhtemelen kişinin insan doğasına ilişkin görüşünü yansıtıyor.

Yapay zeka için yapılan birçok test, insanların sadece makineler olduğunu varsayar. Öyleyse, bizim sadece makine olduğumuza inanıyorsanız ve makul bir insan taklidi yapan bir makine görüyorsanız, neden bunun gerçek yapay zeka olduğunu varsaymıyorsunuz?

Ama biz sadece makine değilsek - duygular, hisler, ruhlar ve nitelikler gibi şeyler gerçekse - o zaman bir makine ne kadar insan gibi görünüp hareket ederse etsin ya da size insan olduğunu söylese de, asla gerçekten insan olamaz. Doğru koşullar altında ortaya çıkabilecek sofistike bir taklittir.

Ek yorumlarım parantez içine alınmıştır.
Tartışma: COSM TARTIŞMASINDAKİ UZMANLAR CHATBOT'UN BİLİNÇLİ OLUP OLMADIĞINI TARTIŞIYOR – Zihin Önemlidir