【摘要】隨著近年來人工智能技術的發展，在人機融合智能中“向善/向惡”問題越來越受到社會的關注。本文闡述了對人機融合智能時代人心問題的幾點思考，首先簡要介紹人機及其融合智能，并對人機融合智能的有關研究背景進行了闡述；進而討論了當前人機智能融合時代所面臨的種種困難和瓶頸；最后分析了人機智能融合時代的人心善惡問題及其影響。

【關鍵詞】人工智能 人機融合智能 人心

【中圖分類號】TP18 【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2020.01.004

人機融合智能的起源及未來發展方向

智能，包括人工智能，都是復雜系統，其中的許多事情不是都能用邏輯思維解釋清楚的，還有大量的非線性、非邏輯成分，可解釋性、終身學習、動態表征、強弱推理都需要類比，但類比的機制機理遠遠不是單純用科學技術所能解決了的，尤其涉及情感、情境、虛體等，更是如此。試圖單純用數學，尤其是用現代不完備的數學解決智能或人工智能的核心問題，無異于緣木求魚、畫餅充饑、水中撈月，如同拿著木棒、石頭造飛機和火箭一般，原因很簡單：定性的真東西尚都在遙遙無期中探索，定量的只能是自動化吧！

人、機、環境系統之間的相互作用產生了智能，這不僅是一個科學問題，也包含非科學部分的研究（如人文藝術、哲學宗教）。其中，人是復雜系統，機是相對簡單的系統，環境的漲落變化非常大，所以我們研究的人機環境系統既有“確定性”，又有“隨機性”，是“復雜的巨系統”。錢學森認為，針對“復雜的巨系統”，人類目前還沒有找到解決的一般原理和方法，人機融合智能系統理論可能就是一種有益的嘗試。然而，人機中的時空、邏輯機制不一致是引發智能融合困難的關鍵，人機融合智能的瓶頸還是如何實現有理、有利、有節的節奏和韻律。譬如，在人機融合過程中有些問題將會變得越來越突出：如何進行有效的人機功能分配？人機何時何處以何方式進行何種分配？當人、機速度不匹配時，以人速為準較好還是以機速為準較好？人機怎樣融合學習？人機怎樣融合理解？人機怎樣融合決策？人機怎樣融合推理？人機怎樣融合感知？人機怎樣融合意圖？還有數據、信息、知識、智能、智慧之間究竟是如何相互作用并轉化的？《易經》析動靜，《道德經》論是非，《孫子兵法》談虛實，維特根斯坦證有無，布爾代數說0、1，圖靈測試言相似，馮·諾依曼共存算，這些概念之間是什么關系？在數字邏輯中，與或非及其之外的關系存在嗎？在非數字邏輯中，如何定義類比程度的計算？以人為本的思路還對嗎？如果不對，以啥為本？如果對，會不會割裂人、物（機）、環境之間的共在關系？如何表征既是又不是？既應又不應？既能又不能？既要又不要？既肯定又否定？既……又不……呢？如何表征宏觀、中觀的疊加和糾纏態？如何在人機融合中產生并培養容忍、讓步、妥協等機制機理呢？

當代人工智能由最初的完全人工編譯的機器自動化發展到了人工預編譯的機器學習，接下來的發展可能是通過人機融合智能的方法來實現機器認知，最終實現機器覺醒。

現今人機融合智能面對的困難

現今人機融合智能的瓶頸之一是沒有物理上的定理或定律出現，即界定什么是人機融合智能。要研究清楚這個問題，首先要對智能的本質進行探究。根本上說機器智能、人工智能是人類智能概念化、系統化、程序化了的反映，而碎片化的知識+碎片化的邏輯構成了各種紛繁復雜著的人類智能，碎片化的知識+碎片化的邏輯+隱/顯性的倫理道德法律規定構成了人類的智慧，人的真正智能需要不同領域不同角度邏輯的組合、混合、融合，所以真實的智能是縫補聯結后的百納衣，而不是漂亮靚麗的制成品。

經過人工智能的幾次高潮低谷之后，理性的權威以及形式化方法背后的樂觀主義招致了大量質疑。符號、聯結、行為技術不僅帶來了進步，也帶來了人們對智能領域更多的困惑，同時，人工智能、基因工程等變革性科技讓人類似乎比歷史上的任何一個時代都更可能給自己帶來心理、倫理和思維上的挑戰。用理性尋找真理不再重要，存在的意義才是最核心的問題。啟蒙主義用理性代替上帝，結果卻是一切價值的崩潰，存在越來越走向虛無——海德格爾用《存在與時間》試圖解答存在本質的問題，胡塞爾從前期《邏輯研究》轉向后期《大觀念》的思路；同時，分析哲學領袖維特根斯坦也從前期《邏輯哲學論》轉向后期《哲學研究》的思路，兩次轉變都不約而同地去掉了“邏輯”，分別走向了“觀念”和“哲學”，這也許不是巧合和偶然。

“邏輯”主要涉及判斷和推理，它屬于較高層次的意識活動，而要講清楚判斷理論，還要對感覺、知覺等較低層次的意識活動進行研究，尤其是需要對物理性的數據、心理性的信息知識等的一多彌聚表征機理進行深入研究，“名可名非常名”中的“名”主要是講這種動態的表征、命名、定義、范疇化。而“道可道非常道”中的“道”反映的則是事實與價值、事物與關系的混合，既包括客觀（being）也包括主觀（should），既涉及邏輯和數學的普遍有效性，也涵蓋了心理規律偶然性的真理，是邏輯與非邏輯的集合體，情感也許是一種自己邏輯與他人非邏輯的復合體。

老子的道極其自然，比如，他說“智慧出，有大偽”，其意思是人越追求智慧，人為的東西就越多，自以為是的成分就越大。這就需要把平常對待世界的看法顛倒過來，讓事物來看我們，如同昆蟲的復眼一般。塞尚說過：好的畫家不是從外面而是從里面看世界。有智慧的人也經常用和日常相反的方法看世界的，譬如，塞翁失馬里的塞翁、井岡山上的星星之火們等，我們不應該只是用科學的方法看世界，智能及其哲學應該使人真正向自然開放，使自然中的人機環境系統以它自有的形態向我們說話、展示。

智能的倫理問題。人工智能或數字化能否“向善”的問題表面上是人機交互或融合的問題，人和機器配合給世界演雙簧看，實質上還是人性的問題。如果把科學看成是物真，是客觀存在的being，那么藝術就是人善，是主觀想象的should，兩者融合就是美，用有限去表征無限。善就是初心，人之初的心，也是人曾活著的意義和價值，當然人性也有弱點，個人不時會在善與偽善中間徘徊，但對整個人類而言，善就是應該（should）的主流和方向，否則，后果會不言而喻吧！

從源頭上看，智能與倫理本是同根生，即“是非之心，智也”，從發展的角度看，能夠明辨是非也是個人及群體綿延不斷的主要倚仗了。只有科技的真，沒有藝術的善，人們常常會在各個領域的邊緣緊張焦慮，如物理性原子下的蛋（彈）該怎樣處理？生理性基因編的輯（忌）應如何對待？數理性智能控的制（治）怎樣把握？管理性不足失的分（紛）如何彌補？……這一切，都會涉及到自然人與自己創造的物質、文明世界怎樣進行交互的問題，最后又需要自己不得不回答的問題，如人與人之間的愛和情會被取代嗎？美顏反映了人性的弱和優點嗎？

人機融合的關鍵是人的機化+機的人化之平衡，其本質是人、機、環境系統各種資源的優化配置與適宜調度，涉及人力資源、物理裝備資源、時空管理資源、各種環境資源等的一多分有。其中的一個難點和瓶頸是——感覺不等于知覺，生理測量值（心電、腦電、皮膚電等）不一定反映心理情緒值（記憶、理解、認知等），更不要說思維/意識/智能值等，如人臉識別與人心理解的非線性。人機融合的態、勢、感、知之間既不是簡單的時序關系，也不是復雜的無序關系，而是一種事實與價值的主客觀融合關系。

也許，從道德角度分析，宗教不僅是一種迷信，而且是揚善去惡一種途徑和關系，關系本身就有人賦予的意義部分，科技是中性的，只有功能而沒有能力，這是因為能力是有人性的，功能是沒有人性的，如何實現這兩者的結合呢？這就需要考慮科技所不能單獨解決的部分——善的問題，例如，針對技術的不確定，人在設計算法時，要提前考慮數字世界之外存在著的現實世界，適時地融入相應的基本前提和規范，以使人們面對不可能完全掌控的未來時，不過分地擔憂焦慮，重啟內在的認知原力，進而在更大程度上把握可以掌控的部分。也許每個人身體上都有一種原力，有些可以發現世界（事實），有些可以發明世界（價值）。每件事物都有一種待開發的原力，有些可以被發現，有些可以被發明，但這需要在一定的情境下。

準確地說，智能不僅包含自然科學和工程技術，還涉及許多社會科學的領域，如人文、哲學、宗教乃至藝術等等，這從世界上最早的兵書之一《孫子兵法》的英文名字可見一斑：The Art of War。這說明：好的智能有時候不僅是技術還是藝術。美軍2016年發布的《自主性》研究報告中指出，AI可用于對部隊和指揮官進行告警及提供行動方案的建議，但還遠遠沒有達到能夠代替人類制定決策的程度。這個觀點是比較客觀、務實、有效的?？创藱C智能化發展的這個難題，不同視角會得出不同的結論。從新技術落地發展的角度看，當前發展人機融合智能面臨著三大瓶頸問題：缺大小實在樣本數據、缺算法人因驗證手段、缺復合專業融合。三大瓶頸問題，說到底是缺乏研究的認識論及方法論——人都說不清楚，指望機器說清楚，在短期內是很難做到的，所以人機融合的研究確實必要：人解決“做正確的事”，機解決“正確地做事”。人機融合智能的本質就是把事實與價值統一起來：人負責價值，而機處理事實。人機融合智能也許可以破解“休謨之問”：Being與Should、自然與自覺的一致性。曾有人說，在計算開始的地方，理解便終結了。而人機結合在一起的深度態勢感知就可以實現可理解的計算+算計。

以人為本的思想，在初級的人機融合智能中是可以理解的，機器的主要角色是輔助性的，但隨著機器各種功能的不斷提高，尤其是隱約出現類人能力的跡象時，“以人為本”的觀念可能會被發生變化，我們從《道德經》中的啟示可見一斑：一、要把道的存在本身和人為構造區分開來；二、為了克服以人為中心就需要避免人為努力。這是由于要克服人為努力，又需要另外一種人為。老子主要是要克服人道主義，這種人道主義以儒家為代表，突出人的地位和作用，天在人道主義里是被遮蔽的。他認為：人并不重要，自然中存在的道才是中心。人只是自然中的一分子，只是物的一種而已，無限廣闊的宇宙里存在著無窮無盡的變化，只有與之隨動的人才能更好地發揮主觀、客觀能動性吧！例如，從文藝復興到工業革命再到后來，每隔一段時間，世界情境就會更新一次。在西方，每一個階段都會產生新的對世界的看法。

人文藝術之所以比科學技術容易產生顛覆原創思想，主要是追求主觀價值和意義，而不是單純的客觀事實存在。人文藝術哲學宗教給人提供了更廣闊的想象空間，正可謂人們看見什么并不重要，重要的是人們如何詮釋看見的事物。

情感的本質就是價值的判斷。價值的量化非常困難，這需要把價值的本質和計算的本質都搞清楚，才可能做價值計算。有人認為“絕對價值不好搞，能計算相對價值也行”，其實，相對價值計算更難，各種因素都在變，連坐標系都在變。

價值、意義本質上應該是隨主體、客體與環境相互作用的變化而改變的，比如，有可能一條信息上一秒有價值，下一秒就完全沒有價值了，也可能下下一秒又有更大的價值了，事物之間關系改變很快，價值因此在過程中的變化也很大。價值的計算怎么通過算法實現，理論都還沒搞清楚。

人機認知不一致性問題。好的人機融合智能主要解決機器對人的助智（輔助分析、決策）和學伴（個性化、彈性成長），可以通過知幾、趣時、變通實現不同數據、信息、知識的往返跳躍、匹配對接、循證查詢，即不斷使得多種數據/信息/知識進行動態演化組合以達到任務要求。其中的抽象提煉，舉一反三就是類比、歸納、演繹混合機制使然，其中類比起著非常重要的作用，相比歸納、演繹兩種推理而言，類比具有鮮明的穿透效應，它可以穿透物質與意識、主觀與客觀、表象與本質、真實與虛擬、感性與理性、倫理與道德、線性與非線性、確定與不確定等之間的隔閡，讓休謨之問不再成為問題，讓萊布尼茲的理性演算更為感性，讓維特根斯坦的邏輯與非邏輯融合的越發完美，讓人、物（機）、環境之間的協調綿綿不斷。

人機智能難于融合的主要原因就在于時空和認知的不一致性，人處理的信息與知識能夠變異，其表征的事物/事實千變萬化，一直具有相對性，機器處理的數據標識缺乏這種相對變化性。

在西方倫理學界一般認為倫理學的基本問題有兩個基準：一個是我們應該如何行動？另一個是我們應該成為什么樣的人？前者以行為為中心，屬于規范倫理學研究范疇，也是休謨之問的應該（should）問題；后者以行為者為中心，屬于美德倫理學研究范疇，也是休謨之問的being問題。這與智能生成的基本問題：“事實與價值能否相符”是一致的。智能的生成將涉及到主觀目的與行為動機，并與情境中的客觀事實變化密切相關。產生智能不僅需要形式化的計算，更需要意識性的類比。掌握事實性與價值性的因果關系，深研人機融合智能，開展深度態勢感知，將是智能研究的重大突破口之一。

人機之間的適時干預要求：干預的既不能早也不能晚，既不超前也不滯后，干預早了，往往會造成雙方的措手不及，干預晚了，時過“時遷”，為時已晚。所以如何實現人機之間結合任務要求的適時、適當干預將是未來人機一致性研究的難點和關鍵。

區塊鏈就是把人機群體智能之間的事實與價值關系統一起來的一種工具，優點是可以通過信用/智能合約手段揚善抑惡、安全/高效整合各種資源；缺點是這是一個烏托邦，除了明鏈，許多暗鏈會并行不悖，如（一開始就）預置隱患，還有真實的虛假問題（某人有某種學位，但是別人給他寫的答辯論文，而答辯委員們又不太了解他的研究內容，造成事實上的學位，價值上的假學位），所以單純數字上的區塊鏈很可能只有有/無，沒有陰/陽和虛/實。

人機融合智能的難點——人心研究

近來，許多學者和普通人都提出未來人工智能的問題。這是因為現在的人工智能還遠遠未達到大家的期望，現在大家看到的AI在某種意義上都是自動化或者是高級自動化，那智能化和自動化有什么區別呢？自動化是這樣的，固定的輸入及可期望的輸出，如很多生產線都是自動化生產線，而智能化不是這樣，輸入可以固定也可以不固定，但是輸出一定是非預期性的，絕大部分是非預期性，出乎意料的東西，這才是智能。什么叫做智能？有兩個說法：第一個說法是孟子寫過的“智者是非之心也”，是非之心就是“智”，你可以有意識，但不一定有智能，意識是無關乎是非的，而智能是要知道是非的，明白倫理的。根據我們的研究，倫理和智能應該是一回事。什么是倫理？在古希臘看來，倫是分類，分類的道理就是倫理；智能的本質也是分類——是非之心。第二個說法是，西方著名學者米塞斯曾認為：“所謂知識就是區別A與非A，智能也與之相似”。從這兩個說法我們可以看出，東西方對智能的認識是類同的。中國傳統文化倡導“仁義”。什么叫仁？孔子的仁就是一撇一捺——人，通假字通到那個人身上。什么叫義？義就是應該，孟子特別講義和仗義。東方和西方智能的共同交界處可能就是這個義——應該（should）。

智能研究領域里面這幾位東西方的先驅值得關注：第一是休謨，是智能哲學起源的根，休謨之問，即從事實里面能不能推導出價值觀，這是休謨很重要的觀點，筆者認為這可能是未來強人工智能的突破點，也是人機融合智能的關鍵之處。第二個是智能科學之源萊布尼茲，他第一次提出“普遍語言”和“理性演算”，在這兩個詞的基礎上弗雷格提出了分析哲學里面的涵項一詞。后來出現了布爾，也是從萊布尼茲的思想里面演化出布爾代數的，再后來是圖靈、馮諾依曼都是從這延伸出來的……真正的技術起源是萊布尼茲。若還有點牽強的話，那么大家都知道圖靈，實際上圖靈的老師和朋友是維特根斯坦，這是一個很厲害的人，他是圖靈的老師和朋友，他給了圖靈很多好的智能和哲學思想，但是很多人很少知道他，這是非常遺憾的，也是人工智能界的遺憾，不提他是不行的，他人生里面兩部書：第一部書是翻譯成中文只有幾十頁的《邏輯哲學論》，這部書里面講人的語言是撬開人和人、人和世界關系的切入點，規范化的社會語言是非常重要的，即按照規則語法一句話一句話地說可以理解世界；當他40多歲之后，他又回到劍橋，他寫了一些手稿，后來他的一個女學生安斯康姆給他整理出版了第二本書叫做《哲學研究》，這本書也不厚，翻譯成漢語一兩百頁，他否定了第一本書的思想，認為真正了解人類智能最重要的切入點是自然化和生活化的語言，如集貿市場人與人之間省略了主謂賓補的無語法的對話等。這兩部書就是弱人工智能和強人工智能的哲學基礎，第一部書有關邏輯哲學論，第二部書則涉及哲學研究，沒有邏輯。真正強人工智能里面肯定不全是邏輯，僅有邏輯，那都是自動化，那都是規則化的東西，非理性的東西才是揪人心的東西，才是人類智慧的東西。總之，智能的哲學思辨起源于休謨、笛卡爾、弗雷格、維特根斯坦，從事實到價值，從生理到心理，從形式到意向，從邏輯到非邏輯；而智能的科學技術起源于萊布尼茲、布爾、圖靈、馮·諾依曼，從文字到演算，從表征到推理，從指令到編碼，從存儲到計算……

東方思想這方面知識從《易經》開始，《易經》非常棒。但西方是不承認東方有哲學的，認為東方思想里面少邏輯性的東西，只有結果性的東西。最早是伏羲氏，他看到四季變化就開始寫了《易經》；《易經》第二個作者是周文王——“文王拘而演周易”，文王把社會管理放在《易經》里面，除了自然以外放入了社會化管理；《易經》第三個作者是孔子，他把人與人之間的倫理放入了《易經》里面，《易經》就是這三個人接力集成所著?！兑捉洝防锩嬗腥齻€詞六個字是人類智慧的核心：第一個詞叫“知幾”，就是要看到事物發展的苗頭、兆頭；第二個詞是“趣時”，即要及時抓住時機；第三個詞是“變通”，即隨機應變、因時而變?，F在智能產品里面有這些東西嗎？什么苗頭，什么抓住時機，什么變通，你看看大部分都是自動化。第二本書是老子《道德經》，第一句話可能是智能里面最重要的一句話，“道可道非常道，名可名非常名”，老子的“名”里面涉及到智能里面的第一階段——輸入表征階段，英語叫representation，就是表達、表示，一個事物有萬種表征，一花一世界，一樹一菩提，人能把一個事物表征為很多方面，但在知識圖譜里面就非常糟糕，知識圖譜的對象、屬性、關系都是死的，那是一個標簽的世界，什么時候出現活的知識圖譜現在還看不到邊界，因為現有的表征手段解決不了這個問題。老子《道德經》里面的“道”，包含了算法，算法不是單純的數學計算方法，也包含了人非邏輯性的算計之法在里面，這是人特有的直覺性的東西。

“人智”之所以很難轉成“機智”，是因為人腦不是電腦，“人智”主要是明辨是非，“機智”側重于模式識別。只有在把一物與它物區分開來，才會對該物有了認知；只有把一個人的知識或信仰狀態與他人的區分開來，才對一個人有了解。哲學上最難，也是最重要的任務之一，是明確世界的兩類特征，即那些獨立于任何觀察者而存在的內在特征和那些相對于觀察者或使用者而存在的外在特征。例如，一個物體有質量（無論對誰而言）與這個物體是浴缸（也可是水缸、飾缸、糧缸）。所以對智能態勢感知系統研究的下一步工作，就是將其具體應用到某一或某些情境中，檢驗其有效性和可靠性。科學和數學中的陳述乃是描述性的being，因為它們描述了客觀事實；而倫理學和美學中的陳述則是評價性的should，因為它們被用來表達感覺和態度、指導行為，而不是陳述事實。而人機融合智能中的深度態勢感知就是試圖讓人、機、環境三者像石榴籽一樣緊緊地抱在一起。

一個學科領域常常是以一個錯誤為基礎發展起來的，但這并不必然是致命的，事實上許多領域都是以錯誤為基礎的。比如，化學就是以煉金術為基礎的，認知科學就是假設“腦是一個數字化的計算機”這個錯誤為基礎的，同樣，人工智能則是以邏輯推理這個錯誤為研究基礎開始的。

人總是從無知開始的：知道的越多，知道的越少。人之智能中可程序性的一部分被轉化成了人工智能，而人智中許多可陳述但不可程序的部分和更多不可陳述的部分遠遠沒有被轉化，尤其涉及到不可解釋、不可學習的非邏輯部分（如情感的深層次、意識的隨機變、思維的模糊化）。人，有一種更抽象的能力仍未被發現，這就是從非邏輯開始的智能系統。這種智能也可以從錯誤開始，但總能找到適合的正確；這種智能可以從混亂開始，但總能找到依稀的有序；這種智能可以從事實開始，但總能找到意向的價值……同時，這種智能也可以從正確開始，但總能找到各種的錯誤；這種智能也可以從有序開始，但總能找到各樣的混亂；這種智能也可以從主觀價值開始，但總能找到相關的客觀事實。正可謂，數據價值化產生了信息，信息系統化形成了知識，知識邏輯化構成了智能，智能非邏輯化演化成了智慧，智慧落實到行為就表現為有意義……

結束語

有專家仔細研究機器學習后發現，機器學習就像一個理發的故事：老和尚讓小和尚用南瓜練習理發，小和尚理完后常常下意識地把剪刀插在南瓜上，所以，對于可以實現人們期待的強智能而言，現有的數學、物理等形式化工具都需要改變，只有誕生出新的數學、物理、生理、心理、倫理、法理、管理……也許才可能衍生出新的人機融合智能形式。

世界是復雜的，復雜即不確定性，而人的認知往往是從一個確定的部分開始探索不確定性的，其中充滿了試錯和反思，進而完成從事實到價值的一跳。義，也就是應該、should機制，功不可沒，也許人機融合智能里的“人心”就是“應該”吧，即人和其他智能體的內在驅動力，不斷驅使數據、信息、知識、概念、意識、物質在不同時間空間中進行流轉、變異，并在物理、心理、數理等業務時/空間中得到拓撲應用。

（本文系國家社科基金重大項目“智能革命與人類深度科技化前景的哲學研究”階段性成果，項目批準號：17ZDA028）

參考文獻

劉偉，2019，人機融合智能的現狀與展望，《國家治理》，第4期。

Endsley, M. R., 1995, "Measurement of situation awareness in dynamic systems", Human Factors, 37(1), pp. 65-84.

Wickens, c. et al. 2003, "Attention-situation awareness (A-SA) model", NASA Aviation Safety Program Conference on Human Performance Modeling of Approach and Landing with Augmented Displays, p. 189.

Hooey, B. L.; Gore, B. F.; Wickens, C. D.; Scott-Nash, S.; Socash, C.; Salud, E. & Foyle, D. C., 2011, "Modeling pilot situation awareness", Human Modelling in Assisted Transportation, Springer, Milano, pp. 207-213.

劉偉，2017，《關于人機融合智能中深度態勢感知問題的思考》，《山東科技大學學報》，第6期。

劉偉，2016，《關于人工智能若干重要問題的思考》，《人民論壇·學術前沿》，第4期。

劉偉，2019，《追問人工智能：從劍橋到北京》，北京：科學出版社。

劉偉，北京郵電大學崗位教授、中國信息與電子工程科技發展中心專家委員會特聘專家、國家自然科學基金評議專家。研究方向為人機融合智能、認知工程、人機環境系統工程、未來態勢感知模式與行為分析/預測技術。主要著作有《人機交互技術與評估》《追問人工智能：從劍橋到北京》等。

責 編／趙鑫洋

The Human Mind in the Age of Man-Machine Integration Intelligence

Liu Wei

Abstract: With the development of AI technology in recent years, the "good or evil" issue arising in the human-computer integration intelligence has attracted more and more attention. This paper expounds some thoughts on the human mind issue in the era of human-computer integration intelligence. Firstly, it briefly introduces the human-computer concept and their integration intelligence, and expounds the research background of human-computer integration intelligence. Then it discusses all kinds of difficulties and bottlenecks in the era of human-computer integration intelligence. Finally, it analyzes the issue of "good or evil" human mind in the era of human-computer integration intelligence and their impacts.

Keywords: AI, human-machine fusion, human mind