2013年LG杯世界圍棋棋王戰(zhàn)，李喆勝姜東潤(rùn) （李喆提供/圖）
“這里面的利害遠(yuǎn)遠(yuǎn)超過(guò)了對(duì)索拉里斯文明的探索，因?yàn)樗鶢可娴氖俏覀冏约?，事關(guān)人類認(rèn)知的局限性。”
當(dāng)我在《索拉里斯星》里讀到這句話的時(shí)候，心里一震。
2023年3月22日跟李喆通話時(shí)，他提到了這本科幻小說(shuō)——波蘭作家斯坦尼斯瓦夫·萊姆在上世紀(jì)六七十年代以不可思議的想象力，寫出了這個(gè)人類與外星文明相遇的故事。
索拉里斯星文明是一個(gè)類似于智能海洋文明的超級(jí)存在，充滿人類科學(xué)家不能解釋的現(xiàn)象，“這片活海洋”仿佛一個(gè)巨型大腦，它比人類文明領(lǐng)先數(shù)百萬(wàn)年，但它的行為并不依照“人類的觀念”，它不建造城市和橋梁，也不造飛行器或試圖穿越太空，也不試圖征服宇宙，而是“整天忙于進(jìn)行成千上萬(wàn)次的‘本體自發(fā)變形’”。
2022年7月29日，福建福州，參加世界人工智能圍棋大賽開幕式的小朋友在了解參賽的人工智能圍棋代表 （視覺中國(guó)/圖）
像不像黑匣子里不知疲倦地自主學(xué)習(xí)不斷進(jìn)化的AI？
小說(shuō)里萊姆寫道，承認(rèn)這片大海具有意識(shí)已經(jīng)需要極大的勇氣，跟這個(gè)會(huì)思考、擁有心理活動(dòng)卻非人類觀念的龐然大物“對(duì)話”更是要逼瘋?cè)祟悺?/p>
“歸根到底，一個(gè)人只能用他自己的大腦來(lái)思考?！?/span>
“再說(shuō)，就算真的和會(huì)思考的海洋實(shí)現(xiàn)了‘信息交流’，人們究竟希望從中得到些什么呢？他們又能從中期待些什么呢？”
“誰(shuí)知道呢？也許這樣是值得的，……我們恐怕不會(huì)對(duì)它有任何了解，但也許能夠了解一下我們自己……”
索拉里斯星上的智慧大海沉默不語(yǔ)，精神瀕臨崩潰的人類科學(xué)家喃喃自語(yǔ)。
我是跟李喆通完電話后，才看的這本小說(shuō)，書上讀到的這些句子，讓我對(duì)他的思考和認(rèn)知更新有了更多理解。
2019年12月19日，韓國(guó)首爾，李世石退役告別戰(zhàn)對(duì)陣人工智能。李世石宣布退役時(shí)說(shuō)，“AI把圍棋變成勝率的游戲，失去了最初學(xué)棋所追求的藝與道?！?（視覺中國(guó)/圖）
李世石退役的時(shí)候，李喆在《圍棋天地》上發(fā)表了一篇文章，流傳甚廣。他在文中稱，李世石的退役標(biāo)志著充滿智慧創(chuàng)造和個(gè)人風(fēng)格的棋士時(shí)代的終結(jié)，稱之為“一個(gè)時(shí)代的退隱”。
李喆在那篇文章里借用了文學(xué)批評(píng)中“作者已死”的觀念，以此關(guān)照AI出現(xiàn)后被迫“從創(chuàng)造主體降格為模仿者”的人類頂級(jí)棋手，“作者的隱匿退出，作品的同質(zhì)化與套路化，創(chuàng)造性的消亡，新形式的缺失……如果說(shuō)這些危機(jī)在文藝領(lǐng)域還只是影影綽綽地呈現(xiàn)于敏銳專業(yè)的人群心中，那么在圍棋界，這些危機(jī)在技術(shù)飛躍的這兩三年里，已經(jīng)實(shí)實(shí)在在地?cái)[在所有人面前?！?/p>
李喆在武漢大學(xué)開設(shè)圍棋課程，研究圍棋文化 （李喆提供/圖）
跟李喆通話的時(shí)候，武漢大學(xué)正是櫻花盛放的時(shí)節(jié)，在這所被譽(yù)為全國(guó)最美的花園大學(xué)里，李喆給武大學(xué)生開了一門圍棋課，下棋不多討論不少，期末考試，學(xué)生并不需要在棋盤上鏖戰(zhàn)收官，而是要交一篇小文章。
李喆總是會(huì)聯(lián)系最新的新聞，讓同學(xué)們展開討論。思辨是人類最強(qiáng)大的認(rèn)知更新工具，而ChatGPT永遠(yuǎn)“自信滿滿”，研究人員迄今還未攻克的一個(gè)難題是訓(xùn)練它，讓它知道自己“不知道”，遇到未知領(lǐng)域的問(wèn)題，可以直接回復(fù)“我不知道”，而不是一本正經(jīng)地說(shuō)瞎話。
如今的職業(yè)高手們都用AI輔助來(lái)研究棋局 （李喆提供/圖）
3月份有一個(gè)重大新聞，美國(guó)棋手凱琳·佩林并非職業(yè)棋手，甚至在業(yè)余棋手中也算不上高手，然而他與頂級(jí)圍棋AIKataGo對(duì)陣竟然14勝1負(fù)，這個(gè)戰(zhàn)績(jī)令世界頂級(jí)棋手都不敢想象。
“他取勝的方式并不是人類常規(guī)的行棋思路，而是一個(gè)科技公司開發(fā)出來(lái)的，由另一個(gè)AI算出的針對(duì)AI盲點(diǎn)的下法?！?/p>
研究人員表示，KataGo之所以失手，可能是因?yàn)樵谒膶?duì)抗性演練中，并沒有經(jīng)歷過(guò)足夠多的此類下法——或者說(shuō)，這種制造“包圍圈”的下法往往在剛開始時(shí)就因?yàn)槔速M(fèi)棋子太多，而被認(rèn)為注定落敗，所以圍棋AI也沒有意識(shí)到如果讓“包圍圈”合圍，自己就會(huì)落敗。
2018年9月17日，上海2018世界人工智能大會(huì)，工作人員與圍棋機(jī)器人對(duì)弈 （視覺中國(guó)/圖）
這個(gè)棋盤上的實(shí)驗(yàn)充分顯示了AI快速部署的潛在風(fēng)險(xiǎn)，如同開發(fā)這個(gè)擊敗頂級(jí)圍棋AI程序的美國(guó)加州科技公司FARAI的首席執(zhí)行官所言，“我們能看到，非常龐大的AI系統(tǒng)在幾乎沒有被驗(yàn)證的情況下就被大規(guī)模部署了。”
除了人工智能并非全知全能、在部署上必須慎重可控這個(gè)點(diǎn)，李喆更想要引導(dǎo)學(xué)生們通過(guò)這則新聞深入思考圍棋AI的思維模式與人類的差異，以此理解縱使AI可以在知識(shí)層面上迅速超過(guò)人類，人類與AI之間的學(xué)習(xí)過(guò)程仍然是復(fù)雜的、長(zhǎng)期的。
2001年中國(guó)圍棋乙級(jí)聯(lián)賽，12歲的李喆取得五勝二負(fù) （李喆提供/圖）
在李喆看來(lái)，人類棋手這些年在做一個(gè)非常前沿的思維實(shí)驗(yàn)，將AI所展示的下法，通過(guò)人類的思維方式進(jìn)行理解，“轉(zhuǎn)化為人類的知識(shí)?！?/p>
“我們都在說(shuō)人類棋手在學(xué)習(xí)AI，其實(shí)AI怎么想的，人們并不知道，它在黑匣子里運(yùn)行，它的啟示是一種沉默的啟示。人類向AI學(xué)習(xí)的過(guò)程是非常漫長(zhǎng)的，這個(gè)過(guò)程中人類會(huì)看到AI的邊界，也會(huì)更多認(rèn)識(shí)自己。”
2018年4月27日，福州長(zhǎng)樂，2018世界人工智能圍棋大賽，柯潔對(duì)陣中國(guó)“星陣” （視覺中國(guó)/圖）
“人類棋手與AI共存七年，你最深的感觸和思考是什么？”李喆在我們結(jié)束通話前的最后一問(wèn)中陷入了長(zhǎng)考，“我要想一下再回答你，我給你發(fā)微信吧！”
李喆九歲時(shí)與棋手常昊和俞斌合影 （李喆提供/圖）
掛斷電話幾分鐘后，我的手機(jī)對(duì)話框里跳出這樣一段話——“七年來(lái)，和圍棋領(lǐng)域一樣，AI在各行業(yè)生成超越以往人類認(rèn)知的信息，這些信息之精確和高效將帶來(lái)許多外在的行業(yè)結(jié)構(gòu)變化和內(nèi)在的反思性，也引發(fā)一些焦慮不安。不安和抗拒的源頭或許關(guān)于人類思維與AI算法的對(duì)照：解AI算法bug不易，破人類思維慣性更難。”
李喆在北京大學(xué)圖書館臺(tái)階上 （李喆提供/圖）
以下是李喆關(guān)于人類智慧與人工智能如何“接觸”的思考：
這學(xué)期開始我給學(xué)生出了一個(gè)題目：“AlphaGo之后ChatGPT又引發(fā)了一個(gè)人工智能的熱潮，為什么AI在圍棋和語(yǔ)言方面的應(yīng)用會(huì)引起全世界的關(guān)注？”
有一個(gè)學(xué)生交的作業(yè)寫得特別好，他說(shuō)就他而言，AI最讓人感興趣的是，它就像是人類認(rèn)知世界思考問(wèn)題的一面鏡子，圍棋AI甚至沒有收官的概念，只有勝率和最好的下法，恰恰反映出人類對(duì)圍棋是以自己的思維方式來(lái)認(rèn)知的。
他說(shuō)就像科幻小說(shuō)《索拉里斯星》里的一句話，“在人類不存在的地方也就不存在人類能夠理解的邏輯?！?/span>
這位同學(xué)說(shuō)，“人類的有限性促使我們必須追求在自我的理解中實(shí)現(xiàn)最優(yōu)解，同時(shí)還要明白世界存在著各種各樣的認(rèn)知方式，對(duì)此我們必須理解和尊重。”
我上學(xué)期給他們上課的時(shí)候講了很多關(guān)于AI的算法和我們?nèi)祟愊缕宓乃季S差異性，首先是為什么AI能贏我們，其次是除了勝負(fù)以外還有什么內(nèi)容。
這里面肯定不光是輸贏，還有很多關(guān)于認(rèn)知方面的問(wèn)題——我們?nèi)祟愊缕迨峭ㄟ^(guò)一個(gè)什么樣的認(rèn)知和決策結(jié)合起來(lái)的；AI下棋是怎么下的？這些異同都會(huì)反映在棋盤上。
有了AI之后，AI的下法是不是真的能被我們理解，我們所謂的理解到底是什么？這些都很值得去探討。
AI為我們展現(xiàn)并揭示出一種更真實(shí)、更正確的“認(rèn)識(shí)”或者可稱之為真理，當(dāng)然它們現(xiàn)在能力還有限，不是絕對(duì)正確。
這種揭示是一種沉默的揭示，它不會(huì)告訴你為什么。如果不告訴你為什么的話，其實(shí)它給出的知識(shí)就還不完全是一個(gè)可以直接在思維上指導(dǎo)你的一種工具，思維的重新建立，還是要人類自己來(lái)做的。
我們依靠AI先拿到一個(gè)結(jié)果，然后我們?nèi)ネ七@個(gè)過(guò)程，這和以往我們的認(rèn)知方式是相反的，而且這個(gè)過(guò)程并不是AI本身的過(guò)程，因?yàn)锳I的過(guò)程我們是不知道的，我們也無(wú)法模仿。
我們要用人的思維模式來(lái)完成這個(gè)過(guò)程，這個(gè)過(guò)程實(shí)際上也只是對(duì)我們?nèi)祟愖约河幸饬x，對(duì)人類提高自身的認(rèn)知能力有意義。
我們這一代跨越了前AI和AI兩個(gè)時(shí)代的“過(guò)渡時(shí)期的棋手”都在做這個(gè)工作，從小學(xué)的都是傳統(tǒng)的人類整體的經(jīng)驗(yàn)，加上自己個(gè)體的天賦和經(jīng)驗(yàn)的結(jié)合，這是我們?cè)贏I出現(xiàn)之前的學(xué)習(xí)方式和知識(shí)獲得的方式。
AI出現(xiàn)之后，它呼喚了一種新的能力，一種在AI給出的信息和你自身的認(rèn)知之間建立起一種新的連接的能力。掌握這種能力不是一件很容易的事情，在AI的算法和人類的道理中，要建立起一個(gè)術(shù)和道的對(duì)話，這是比較困難的，是一個(gè)長(zhǎng)期的事情，不是一下子能夠完成的。
AI時(shí)代的圍棋也是這樣，整體更快更強(qiáng)，但由于知識(shí)轉(zhuǎn)化過(guò)程中特別依賴于個(gè)人的思維，每個(gè)人從AI下法收獲到的東西是不一樣的，反映出來(lái)就可能是下棋質(zhì)量的高低，也有可能是風(fēng)格的不同。我認(rèn)為隨著對(duì)AI下法和信息的不同角度的理解轉(zhuǎn)化，未來(lái)或許反而是更加具有個(gè)人風(fēng)格的時(shí)代。
AI不僅對(duì)棋手提出了要求，對(duì)圍棋解說(shuō)評(píng)論和寫作闡釋都提出了更高的要求，這些從業(yè)者也要具備更高的認(rèn)知轉(zhuǎn)化能力才能將棋盤上的思維撞擊闡釋得更加精彩。
我一直很遺憾，AI出來(lái)后，我們沒有利用這個(gè)工具，更生動(dòng)更準(zhǔn)確地展示出棋手下棋時(shí)頭腦中的風(fēng)云變幻。都說(shuō)圍棋很難，難在哪里？懂棋的人看得大呼過(guò)癮，能不能把激烈的智力戰(zhàn)斗用AI這個(gè)輔助工具更直觀地展現(xiàn)出來(lái)？這些工作都沒有做，只盯著AI的實(shí)時(shí)勝率看，太可惜了。
對(duì)于行業(yè)來(lái)說(shuō)，AI改變了訓(xùn)練方式、改變了行業(yè)格局，但非?？上?，在揭示圍棋真理上，還有很多可能性沒有被實(shí)現(xiàn)出來(lái)。AI讓我們有了一個(gè)自我關(guān)照的對(duì)象，可能更能夠讓我們明白自己是什么，然后我們的能力是什么，我們的思維是什么，我們下棋的時(shí)候思維到底是什么樣子的，到底是由哪些部分組成的？厚薄、死活、輕重、官子……這些圍棋知識(shí)的性質(zhì)和區(qū)別是什么？棋感、計(jì)算、判斷，這些下棋時(shí)的基本思維，又與人的哪些認(rèn)知能力和特點(diǎn)有關(guān)？由于可以跟AI做對(duì)比，人類思維的長(zhǎng)處和弱點(diǎn)更容易體現(xiàn)出來(lái)，這些東西都是非常有價(jià)值的。在這些重新理解和回顧認(rèn)知的基礎(chǔ)上，我們或許還可以向前一步，借助AI技術(shù)上的超越性來(lái)創(chuàng)造一些新的有效的概念，由此突破人類自身原有的思維邊界。
我們下棋到底用了什么樣的思維方式，然后我們的認(rèn)知和情緒是怎么產(chǎn)生作用的，這些東西其實(shí)是構(gòu)成人性的東西，里面有關(guān)于人本身的知識(shí)。
不管怎么樣，AI至少讓我們看到了圍棋更美的東西，我們?nèi)祟悋暹M(jìn)步的速度是很慢的，我們的界限就在那里了。AI出來(lái)，打破了藩籬，讓我們對(duì)圍棋的認(rèn)知因?yàn)楦咏胬矶a(chǎn)生了一種美感，這種影響是不可能磨滅的，AI給我們打開了一個(gè)新世界的大門，看到了更廣闊的世界，而不是相反。
這個(gè)過(guò)程中所涉及的關(guān)于知識(shí)論和認(rèn)知科學(xué)的部分，如何利用AI這面鏡子，更深地把握人類的認(rèn)知和思考的某種真實(shí)，這是我現(xiàn)在最感興趣的問(wèn)題。
