人工智能不能做什么

現(xiàn)在我們應(yīng)該對(duì)人工智能提一個(gè)終極的問(wèn)題：人工智能不能做什么？

這個(gè)問(wèn)題可以分為兩類：一類是基于人工智能的局限性，或者基于人工智能與人類心智的本質(zhì)差異，人工智能不能做什么。另一類是即使出現(xiàn)了全智全能的人工智能，出于道德的考慮和對(duì)人類命運(yùn)的關(guān)切，人工智能不能做什么。這兩類問(wèn)題是互相關(guān)聯(lián)的。

不能產(chǎn)生意識(shí)和自我意識(shí)。人工智能的根本局限性是不能產(chǎn)生意識(shí)和自我意識(shí)。這個(gè)問(wèn)題筆者曾在《大科學(xué)時(shí)代的基礎(chǔ)研究、核心技術(shù)和綜合創(chuàng)新》一文中作過(guò)論述。[10]郞咸平教授最近在《AlphaGo風(fēng)光背后：人工智能時(shí)代加速到來(lái)》節(jié)目中，以“智能經(jīng)濟(jì)”、“智能犯罪”、“智能天網(wǎng)”和“智能意識(shí)”四種人工智能為例，分析人工智能發(fā)展如何陷入二律背反。

以“智能經(jīng)濟(jì)”為例，如果人工智能完全取代人工，則勞動(dòng)價(jià)值歸零，工資也歸零，經(jīng)濟(jì)卻無(wú)限增長(zhǎng)，社會(huì)產(chǎn)品無(wú)限豐富，社會(huì)產(chǎn)品按照公平原則分配給每個(gè)人。這就是“智能經(jīng)濟(jì)”的前景。試問(wèn)，在這樣的情況下，還有誰(shuí)會(huì)來(lái)投資“智能經(jīng)濟(jì)”呢？

正題：智能經(jīng)濟(jì)導(dǎo)致經(jīng)濟(jì)無(wú)限增長(zhǎng)。

反題：智能經(jīng)濟(jì)導(dǎo)致GDP歸零。

二律背反也稱作“二律悖反”，它是一種悖論，即從它的正題可以推出它的反題；同時(shí)，從它的反題可以推出它的正題。

機(jī)器人意識(shí)也是一個(gè)悖論。

如果機(jī)器產(chǎn)生了意識(shí)和自我意識(shí)，那么，這樣的機(jī)器人沒(méi)有人敢用。請(qǐng)問(wèn)，工廠的生產(chǎn)線敢用這樣的機(jī)器人嗎？你不怕它自我意識(shí)覺(jué)醒后罷工、造反、破壞生產(chǎn)線嗎？又問(wèn)，陪護(hù)機(jī)器人、性愛(ài)機(jī)器人你敢用嗎？你不怕它哪一天突然自我意識(shí)覺(jué)醒，殺死它的陪護(hù)對(duì)象和性愛(ài)伙伴？如果發(fā)生這種事情，請(qǐng)問(wèn)你如何訴訟？你會(huì)勝訴嗎？你沒(méi)有機(jī)會(huì)，因?yàn)樯碳以缇妥屇阍谫?gòu)買(mǎi)機(jī)器人時(shí)簽下了免責(zé)協(xié)議書(shū)。

正題：有意識(shí)的AI能夠?yàn)槟闾峁└诵缘姆?wù)。

反題：有意識(shí)的AI可能按自己的意志行事，從而違背其服務(wù)對(duì)象的意志。

所以，沒(méi)人敢使用具有意識(shí)和自我意識(shí)的機(jī)器人。

筆者認(rèn)為，有意識(shí)的人工智能永遠(yuǎn)不會(huì)出現(xiàn)。一是基于人工智能的局限性，或者基于人工智能與人類心智的本質(zhì)差異，人工智能不是生命，所以，它永遠(yuǎn)也不會(huì)產(chǎn)生意識(shí)。二是出于道德的考慮和對(duì)人類命運(yùn)的關(guān)切，具有理性和正常思維的人類永遠(yuǎn)也不會(huì)允許人工智能具有意識(shí)和自我意識(shí)。

不能發(fā)明語(yǔ)言和使用語(yǔ)言，也就不可能有思維。1997年，“深藍(lán)”超級(jí)計(jì)算機(jī)戰(zhàn)勝國(guó)際象棋大師卡斯帕羅夫。2016年，谷歌公司的AlphaGo以五戰(zhàn)全勝的成績(jī)完勝人類圍棋高手李世石。可以說(shuō)，在推理的某些領(lǐng)域，人工智能已經(jīng)戰(zhàn)勝人類。那么是否可以說(shuō)，人工智能也能夠像人類一樣思考，甚至還要?jiǎng)龠^(guò)人類呢？

其實(shí)，迄今所有的機(jī)器行為和人工智能在推理方面都只是模仿人類心智，是按照一種叫做“演繹規(guī)則”（Modus Ponens, MP）的非智能方式來(lái)完成推理。這條規(guī)則表述為：

如果天下雨，地面就會(huì)濕；天下雨了，所以，地面會(huì)濕。這個(gè)推理過(guò)程是一個(gè)客觀因果性的反映，不論你是否認(rèn)識(shí)到這種因果性，其運(yùn)行方式都是一樣的。非人類動(dòng)物也能認(rèn)識(shí)到這種因果關(guān)系，并形成條件反射。這是人和動(dòng)物共同的學(xué)習(xí)機(jī)制，人工智能的學(xué)習(xí)訓(xùn)練也是基于這一原理。所以，盡管人工智能在某些推理和學(xué)習(xí)的領(lǐng)域已經(jīng)遠(yuǎn)超人類，但它們并不是運(yùn)用與人類一樣的思維能力，而是僅僅運(yùn)用了基于刺激反應(yīng)的學(xué)習(xí)訓(xùn)練原理，并且這種推理和學(xué)習(xí)的能力也是人類賦予它的。

人類的思維有何不同？根據(jù)人類認(rèn)知五層級(jí)理論，人類思維是一種以語(yǔ)言為基礎(chǔ)的高階認(rèn)知能力。人類的抽象思維能力是以抽象概念為基礎(chǔ)的，歷史和邏輯在這里是如此的統(tǒng)一。200萬(wàn)年前，南方古猿發(fā)明了能夠表達(dá)抽象概念的符號(hào)語(yǔ)言，人類終于完成了從猿到人的進(jìn)化。在概念語(yǔ)言的基礎(chǔ)上，人類產(chǎn)生了抽象思維，其核心是四種基本的推理能力：由因及果的演繹推理、從個(gè)別到一般的歸納推理、從個(gè)別到個(gè)別的類比推理以及由果溯因的溯因推理。此外，人類還形成了兩種主要的思維加工方式：自上而下（top-down）的分析方法和自下而上（bottom-up）的綜合方法。200萬(wàn)年以來(lái)，特別是發(fā)明文字5000年以來(lái)，建立城邦、創(chuàng)建文明2500年以來(lái)，人類憑借在進(jìn)化中獲得的強(qiáng)大的語(yǔ)言和思維這兩種最重要的認(rèn)知能力，創(chuàng)建了人類全部的知識(shí)體系，現(xiàn)在已經(jīng)穩(wěn)居于生命進(jìn)化鏈的最高端，成為“萬(wàn)物之靈”。

完全在進(jìn)化過(guò)程之外的人工智能，沒(méi)有語(yǔ)言，也不可能產(chǎn)生思維。人類現(xiàn)今仍然從語(yǔ)言、思維這兩個(gè)方面牢牢控制著人工智能。只要這個(gè)過(guò)程不被破壞，機(jī)器或人工智能統(tǒng)治人類的幻想永遠(yuǎn)也不可能實(shí)現(xiàn)。

不能擁有健全心智和豐富情感，也就不可能超越人類。是否擁有情感，是人和機(jī)器（人工智能）最本質(zhì)的差異。以筆者欣賞的鋼琴家王羽佳和跳水運(yùn)動(dòng)員全紅嬋為例，我們來(lái)探討人和人工智能的差異到底有多大，人不可超越的品質(zhì)又在哪里？這兩位優(yōu)秀的中國(guó)人表現(xiàn)出的令人驚嘆的行為能力，貫穿和滲透著腦與神經(jīng)心智、心理心智、語(yǔ)言心智、思維心智、文化心智的高超能力。

音樂(lè)語(yǔ)言也是一種符號(hào)語(yǔ)言。王羽佳具有對(duì)音樂(lè)符號(hào)的超強(qiáng)理解力、記憶力和音樂(lè)表現(xiàn)能力。演奏一首樂(lè)曲，需要從句法、語(yǔ)義和語(yǔ)用三個(gè)層次來(lái)把握它。句法保證不會(huì)出現(xiàn)音符的錯(cuò)誤，語(yǔ)義和語(yǔ)用則保證傳達(dá)演奏者對(duì)樂(lè)曲意義的正確理解和演奏者的個(gè)性和風(fēng)格，而這一切都是瞬間貫通的。此外，藝術(shù)作為一種最高級(jí)的文化認(rèn)知能力，向下包含著思維認(rèn)知、語(yǔ)言認(rèn)知、心理認(rèn)知和腦與神經(jīng)認(rèn)知能力，這些也都是瞬間貫通的。在演奏每一個(gè)音符時(shí)，王羽佳在以上各個(gè)層級(jí)上的超凡的心智和認(rèn)知能力都在瞬間得到了出色的展現(xiàn)。

人工智能是否可以和王羽佳演奏同一首樂(lè)曲且同樣表現(xiàn)優(yōu)秀呢？在今天當(dāng)然不行，但按照人工智能目前的發(fā)展，我相信終究有一天它會(huì)達(dá)到幾乎相同的水平。但筆者想提醒大家，用人工智能做出來(lái)的樂(lè)曲可以算是音樂(lè)，但絕對(duì)稱不上藝術(shù)。正如用電腦打印出來(lái)的各種漢字字體，盡管十分規(guī)范，但絕對(duì)算不上書(shū)法作品一樣。聽(tīng)王羽佳的鋼琴演奏，我能體會(huì)到她的感情，感受到她的溫度，但聽(tīng)人工智能演奏同一首樂(lè)曲，我立刻知道那不是人，而是冷冰冰的機(jī)器。有一天會(huì)舉行人工智能的鋼琴比賽嗎？沒(méi)有人會(huì)阻止這樣做。但筆者決不會(huì)去看這樣的演出，相信絕大多數(shù)人也不會(huì)對(duì)它有興趣，當(dāng)然，人工智能的設(shè)計(jì)者和懷著商業(yè)目的的演出公司除外。

全紅嬋的故事與王羽佳幾乎是同一個(gè)道理。全紅嬋的“水花消失術(shù)”創(chuàng)造了跳水運(yùn)動(dòng)的奇跡，這需要多么強(qiáng)大的心理素質(zhì)以及身體和心理的控制能力，需要多么強(qiáng)大的自信！我相信可以設(shè)計(jì)一款機(jī)器人，像針一樣地入水，完全沒(méi)有一滴水花，但我相信沒(méi)有人去看這樣的機(jī)器人跳水比賽。所以，如果人工智能達(dá)不到擁有健全心智和豐富情感的藝術(shù)家王羽佳和運(yùn)動(dòng)員全紅嬋的水平，就不要妄言超越人類。

不能成為生命體，不能完成自我進(jìn)化。已經(jīng)有人預(yù)言人工智能會(huì)成為新的生命形式，即“生命3.0”。邁克斯·泰格馬克（Max Tegmark）在《生命3.0》中這樣定義我們這個(gè)星球上曾經(jīng)出現(xiàn)和將來(lái)出現(xiàn)的生命：生命1.0，硬件不能更新、軟件不能更新，這是非人類的生命形式；生命2.0，硬件不能更新，軟件能夠更新，這是人類的生命形式；生命3.0，硬件能更新，軟件也能更新，這是未來(lái)的生命形式，即人工智能生命。[11]這是一種以科學(xué)幻想的方式設(shè)想出來(lái)的在進(jìn)化過(guò)程之外突然蹦出來(lái)的生命，但它是不可能存在的，因?yàn)樗猩问蕉际窃谶M(jìn)化中產(chǎn)生的，從最簡(jiǎn)單的病毒到最復(fù)雜的人類，沒(méi)有進(jìn)化之外的生命。[12]

泰格馬克的《生命3.0》甚至斷言生命不必是碳基的，可以有所謂“硅基生命”，這同樣是科幻電影和神魔小說(shuō)的情節(jié)。為何在35億年的生命進(jìn)化史中，生命最初產(chǎn)生于海洋，最終進(jìn)化出來(lái)的也是以碳為基本元素、以水為介質(zhì)的碳基生命，而從未產(chǎn)生過(guò)“硅基生命”？這個(gè)問(wèn)題，恐怕只有上帝才能回答。這個(gè)上帝，是斯賓諾莎的上帝，是萬(wàn)物的主宰——自然。

因此，沒(méi)有所謂“硅基生命”，而且永遠(yuǎn)也不會(huì)有！因?yàn)槿斯ぶ悄懿荒艹蔀樯簿筒豢赡芡瓿伤^“進(jìn)化”，因?yàn)樗械倪M(jìn)化都是自然過(guò)程，迄今為止人工智能的所有智能，都是人類賦予的，而不是機(jī)器自身進(jìn)化出來(lái)的。

在教育領(lǐng)域，請(qǐng)遠(yuǎn)離ChatGPT。語(yǔ)言、思維和文化是人類特有的認(rèn)知能力。人類認(rèn)知是以語(yǔ)言為基礎(chǔ)，以思維和文化為特色的。因此，語(yǔ)言和思維是人類認(rèn)知的根基，“我言，故我在。”“我思，故我在。”[13]人類的語(yǔ)言、思維和文化認(rèn)知能力是在進(jìn)化中獲得的，并且在整個(gè)基礎(chǔ)教育、高等教育階段和終身發(fā)展中都在學(xué)習(xí)、訓(xùn)練和提高這些心智認(rèn)知能力。這是人類心智和認(rèn)知能力得以永遠(yuǎn)保存、不斷進(jìn)化和發(fā)展的根本原因。

我們不能設(shè)想在人的心智和認(rèn)知發(fā)展過(guò)程中某種甚至全部的能力都被人工智能所替代，因?yàn)槲覀儾荒茉O(shè)想在學(xué)前的言語(yǔ)（口語(yǔ)）能力形成和發(fā)展階段就用ChatGPT來(lái)替代兒童的聽(tīng)說(shuō)能力、會(huì)話能力、語(yǔ)言交際能力和圖畫(huà)能力；我們同樣不能設(shè)想在小學(xué)識(shí)字和思維發(fā)展階段就讓孩子們使用ChatGPT來(lái)寫(xiě)字、寫(xiě)作文、背誦課文、做算術(shù)題和繪畫(huà)；初中和高中階段是學(xué)生的語(yǔ)言和思維能力進(jìn)一步發(fā)展提高的時(shí)期，我們不能設(shè)想中學(xué)生使用ChatGPT來(lái)學(xué)習(xí)古文和寫(xiě)作格律詩(shī)詞、學(xué)習(xí)外語(yǔ)和解數(shù)理化難題、查詢資料和寫(xiě)作文、甚至匪夷所思地用它作替身參加高考（試驗(yàn)表明ChatGPT能夠取得比優(yōu)等生更好的考試成績(jī)）。可能有人會(huì)問(wèn)，既然它做得比人好，為什么不呢？要知道在基礎(chǔ)教育階段，上述的這些學(xué)習(xí)、訓(xùn)練和考試都是孩子的心智發(fā)育成長(zhǎng)所必需的，不能用ChatGPT和任何人工智能來(lái)替代。所以，ChatGPT請(qǐng)離我們的孩子遠(yuǎn)點(diǎn)！大學(xué)和研究生階段，仍然是人的心智和認(rèn)知發(fā)展的重要時(shí)期，這個(gè)時(shí)期除了學(xué)習(xí)知識(shí)，更是進(jìn)行科學(xué)研究和知識(shí)創(chuàng)新的重要時(shí)期，同樣不需要也不能用ChatGPT和任何人工智能來(lái)替代人類心智的認(rèn)知能力的發(fā)展和提高。所以，在教育領(lǐng)域，請(qǐng)遠(yuǎn)離ChatGPT，否則將會(huì)帶來(lái)難以預(yù)料的負(fù)面結(jié)果。

當(dāng)然，我們不否認(rèn)人工智能包括ChatGPT的某些功能，例如，現(xiàn)在有人用它來(lái)給領(lǐng)導(dǎo)寫(xiě)講話稿；也有人用它寫(xiě)體育比賽的報(bào)道；還有人用它來(lái)查資料，或用它來(lái)做翻譯。這些工作，盡管用ChatGPT來(lái)做好了。但在教育領(lǐng)域，不能讓人工智能包括ChatGPT來(lái)取代人類心智和認(rèn)知。這不是行不行的問(wèn)題，而是允許不允許的問(wèn)題。對(duì)這個(gè)問(wèn)題，我們堅(jiān)定地回答“不”！這里我們倒是想反問(wèn)一下ChatGPT軟件和其他人工智能的設(shè)計(jì)者和制造者，如果當(dāng)年你從學(xué)前、小學(xué)、初中、高中到大學(xué)，一路都使用代替你說(shuō)話、思考、閱讀、計(jì)算和寫(xiě)作的軟件，請(qǐng)問(wèn)你還能成為現(xiàn)在的你嗎？

人工智能不能瘋狂，不能主宰人類命運(yùn)。其實(shí)令人擔(dān)心的不是人工智能，而是制造人工智能的人類。所有可能危及人類生存和發(fā)展的“壞的”科學(xué)技術(shù)，其共同之處是它們都違背了人類生存和發(fā)展的自然基礎(chǔ)，它們?cè)噲D改變自然，甚至想成為自然的主宰，成為人類命運(yùn)的主宰。

現(xiàn)代科學(xué)技術(shù)的發(fā)展出現(xiàn)了越來(lái)越背離自然的傾向。自然語(yǔ)言是好的，ChatGPT說(shuō)，來(lái)用我的語(yǔ)言吧，它比你的語(yǔ)言更強(qiáng)大；自然思維是好的，ChatGPT說(shuō)，讓我來(lái)幫你寫(xiě)作和思維吧；芯片專家說(shuō)，來(lái)做芯片植入吧，你的孩子可以贏在起跑線……

科學(xué)技術(shù)包括人工智能和ChatGPT似乎成了某些人手中的“玩物”，他們考慮的不是人類的生存和發(fā)展，不是人類的道德和理想，他們考慮的只是自身的利益。對(duì)于當(dāng)前“走火入魔”的ChatGPT，筆者既不懷疑它僅有的那一點(diǎn)點(diǎn)價(jià)值，也不擔(dān)心它將替代多少人的工作，這是技術(shù)宣傳的需要和因商業(yè)利益而人為制造的恐慌，并不是而且永遠(yuǎn)也不可能成為現(xiàn)實(shí)。

意大利文藝復(fù)興時(shí)期的科學(xué)巨匠伽利略曾經(jīng)說(shuō)過(guò)：“自然是完美的（Nature is Perfect）。”喬姆斯基在《生成轉(zhuǎn)換語(yǔ)言導(dǎo)論：從原則參數(shù)到最簡(jiǎn)方案》一書(shū)前言中引用了這一名言，讓我們以這兩位科學(xué)大師的話來(lái)結(jié)束本文，也希望這兩位相隔數(shù)百年但同樣有深厚人文情懷的科學(xué)大師的話對(duì)今天的科學(xué)家有所啟發(fā)。

伽利略說(shuō)：“自然是完美的。”這個(gè)理論啟發(fā)了現(xiàn)代科學(xué)，而科學(xué)家的任務(wù)就是要去證明這個(gè)理論，無(wú)論是研究運(yùn)動(dòng)定律、雪花的結(jié)構(gòu)、花朵的形狀和生長(zhǎng)，還是我們所知道的最復(fù)雜的系統(tǒng)，人類的大腦。[14]

（本文系國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“語(yǔ)言、思維、文化層級(jí)的高階認(rèn)知研究”、貴州省哲學(xué)社會(huì)科學(xué)規(guī)劃國(guó)學(xué)單列重大項(xiàng)目“認(rèn)知科學(xué)與陽(yáng)明心學(xué)的實(shí)證研究”的階段性成果，項(xiàng)目編號(hào)分別為:15ZDB017、20GZGX10）

注釋

[1]蔡曙山：《言語(yǔ)行為和語(yǔ)用邏輯》，北京：中國(guó)社會(huì)科學(xué)出版社，1998年，第335～400頁(yè)；蔡曙山：《沒(méi)有喬姆斯基，世界將會(huì)怎樣》，《社會(huì)科學(xué)論壇》，2006年第6期；蔡曙山、鄒崇理：《自然語(yǔ)言形式理論研究》，北京：人民出版社，2010年，第141～299頁(yè)。

[2]蔡曙山：《認(rèn)知科學(xué)導(dǎo)論》，北京：人民出版社，2021年，第3頁(yè)。

[3][12]蔡曙山：《生命進(jìn)化與人工智能》，《上海師范大學(xué)學(xué)報(bào)》，2020年第3期。

[4]詳細(xì)論述可參見(jiàn)米黑爾·羅科、威廉·班布里奇編：《聚合四大科技 提高人類能力》，蔡曙山、王志棟等譯，北京：清華大學(xué)出版社，2010年。

[5]維特根斯坦：《邏輯哲學(xué)論》，賀紹甲譯，北京：商務(wù)印書(shū)館，1996年，第88頁(yè)。

[6]“唔，上帝到了。我今天在五點(diǎn)一刻的火車(chē)上碰到他了。”在一封落款日期為1929年1月18日，寫(xiě)給妻子莉迪婭·洛普科娃的信里，著名經(jīng)濟(jì)學(xué)家凱恩斯就是這樣描述維特根斯坦回到劍橋的。見(jiàn)瑞·蒙克：《維特根斯坦傳：天才之為責(zé)任》，王宇光譯，杭州：浙江大學(xué)出版社，2014年，第397頁(yè)。

[7][8]喬姆斯基：《ChatGPT的虛假承諾》，2023年3月8日，https://news.ifeng.com/c/8O29XJjYKOO。

[9]1967年，菲利帕·福特發(fā)表的《墮胎問(wèn)題和教條雙重影響》中，首次提到了“電車(chē)難題”（Trolley Problem）。Sebastian Krügel, Andreas Ostermaier & Matthias Uhl, "ChatGPT's Inconsistent Moral Advice Influences Users' Judgment," Scientific Reports, 2023(13), p. 4569, https://doi.org/10.1038/s41598-023-31341-0。

[10]蔡曙山：《大科學(xué)時(shí)代的基礎(chǔ)研究、核心技術(shù)和綜合創(chuàng)新》，《人民論壇·學(xué)術(shù)前沿》，2023年5月上。

[11]M. 泰格馬克：《生命3.0》，汪婕舒譯，杭州：浙江教育出版社，2018年，第32頁(yè)。

[13]蔡曙山：《我言，故我在：語(yǔ)言、思維、文化層級(jí)的高階認(rèn)知研究》，北京：人民出版社，2023年（待出版）。

[14]Jamal Ouhalla , Introducing Transformational Grammar: From Principles and Parameters to Minimalism, Edward Arnold Publishers Limited, 1999, Preface by Chomsky, p. 19.

The Future Development of AI from the Perspective of Cognitive Science

Cai Shushan

Abstract: Chomsky's Generative translational grammar (GT grammar) is the foundation of the revolution of linguistics and the cognitive science. Today it is also the theoretical basis of ChatGPT. How far has AI really been going from GT to ChatGPT? Starting from Chomsky GT grammar analysis and his language cognition, we re-comprehend the significance of Chomsky linguistic revolution, and reveal the close correlation, dependency and development motivation between artificial intelligence and human mind. The establishment of cognitive science has made it possible for us to understand the human mind and artificial intelligence from a multidisciplinary and synthetical perspective. On this basis, take ChatGPT as an example, we analyze the advantages and disadvantages of this AI software and the confusion it causes, ask the ultimate question "what can't artificial intelligence do", and try to give our answers. Artificial intelligence is non-human intelligence built by humans, which is nothing more than an imitation of the human mind. The essential difference between artificial intelligence and human mind lies in higher order cognition (human cognition), i.e., in thinking cognition and language cognition as its basic. The future development of AI is bound to be a new generation of AI that reflects the human mental and cognitive characteristics, that is, language cognition, thinking cognition and cultural cognition driven by language. Language cognition, thinking cognition and cultural cognition will play an important role in the future development of artificial intelligence.

Keywords: human mind, AI, N. Chomsky, GT grammar, ChatGPT