“皇帝新脑”与强人工智能批判

聚维时尚网 2019-06-24


贾开


问题的提出:强人工智能能否实现?


近日,阿里达摩院发布2019年十大科技趋势,其中的“超大规模图神经网络系统将赋予机器常识”再次引发了人们对于“强人工智能能否实现(甚至是能否在近期实现)”这一问题的讨论。近年来,伴随着自1956年后人工智能第三次发展浪潮的到来,人工智能作为一项技术不仅在科学研究领域取得了长足进步,其在产业应用方面也实现了一定程度的普及,并最终引发了各国在战略层面的政策重视。在此背景下,关于“强人工智能”的讨论再次频频出现,“似乎”有越来越多的学者(无论是自然科学领域还是社会科学领域)正在接受“强人工智能”的论点,并甚至开始讨论在强人工智能时代下的社会形态与治理政策。不过值得注意的是,围绕“强人工智能”的讨论并非今天才有,而从历史上来看其所引发的争议也远远大于可能存在的共识;相比之下,当前的许多热议还更多停留于表面(研究者的想象空间)而未能触及更严肃、更深层次的科学命题。正因为此,重读历史上的经典文献或许对于当前的讨论有更多的裨益与帮助。本文即使图重温英国数学物理学家Roger Penrose于1989年出版的人工智能科普读物《皇帝新脑——有关电脑、人脑及物理定律》一书的主要内容,以此丰富当前围绕“强人工智能”的讨论。

“强人工智能”的支持者认为人类社会可以且必将由人工智能所取代,或者如马文-明斯基所认为的,“人类本质上就是机器”;另一方面,包括彭罗斯在内的反对者则对此持强烈怀疑态度。二者争论的焦点可被浓缩为对于“电脑是否具有精神?”这一问题的不同理解。更具体而言,这一问题又可扩展为“什么是思维/感觉/精神?”、“精神是否存在?”、“精神若存在,其在何种程度上依赖于与其相关联的身体建构,或者能否完全独立于这种结构?”、“精神是否服从物理定律,而(这样的)物理定律究竟是什么?”等一系列问题的集合。彭罗斯在《皇帝新脑》中,即对上述问题进行了集中的探讨。值得注意的是,不同于一般学者的泛泛分析,彭罗斯凭借其博大的知识面,从数学、物理学、生物学等不同角度展开论述,从而使其论述过程与逻辑更具系统性与科学性——尽管彭罗斯的论述仍然引发了强烈批评,不过正是这些争论才最终推动围绕强人工智能的讨论走向深入。



彭罗斯简介


彭罗斯是英国数学物理学家,其在数学物理方面的工作(尤其在广义相对论和宇宙学方面)拥有高度评价。彭罗斯曾与史蒂夫-霍金合作证明了黑洞奇点的存在,并在广义逆矩阵、扭量理论、晶体结构等多个领域做出了突出贡献。彭罗斯对于人工智能的兴趣,始于其对于强人工智能提倡者所发表的极端人工智能观点的刺激,从而开始撰写探讨基础物理与人类意识之间联系的科普书籍。值得指出的是,彭罗斯的观点与分析并非没有争议,例如其关于哥德尔不完备定理在人类智能的计算理论方面所具有的含义的观点便受到了来自数学家、计算机科学家和哲学家方面的广泛批评;而作为对这些批评的回应,彭罗斯又进一步在1994年和1997年分别出版《意识的阴影》、《庞大、渺小及人类意识》。本文并不试图对彭罗斯的思想做系统的阐发,而仅仅是对《皇帝新脑》一书的主要内容进行概括——但即使如此,考虑到书中所涉及的大量定理、推导与分析,对于全书的系统性分析也仍然是非常困难的。


强人工智能与西尔勒中文屋子


一般而言,人们会倾向于将感情、意识乃至精神作为人类独有而机器所不能拥有的特殊品质,并以此为基础认为人工智能并不会完全取代人类;然而,强人工智能的观点却坚持认为,即使是最简单的计算仪器的逻辑功能都具有某种“精神”的品质,而这种精神活动便是或复杂、或简单的“算法”的运算。换言之,“精神”是可以被算法化的。支持强人工智能观点的思想具有行为主义的哲学基础,只要算法处理的结果与人类处理的结果一致——按照图灵机的判定标准,只要在人类“看来”二者的结果一致——那么就有理由相信算法具有了感情、意识乃至精神。例如在提供一定输入后,算法和人类都同时输出“快乐”(无论是以何种形式的输出),那么我们便没有理由否定算法不具有“感情”。

将“精神”和“算法”等同的强人工智能观点并非无懈可击。彭罗斯引用了美国哲学家约翰-西尔勒的思想实验作为反证。西尔勒假定了一个“中文屋子”的概念来论证算法实际上并没有“理解”人类社会。西尔勒中文屋子假定存在一个密闭屋子,屋子里的程序对输入的任务进行处理并输出结果;此时,如果将所输入任务的描述方式由英文改为中文(这种改变是非本质的),则该程序只要正确执行其算法指令,则同样能够和真正理解该任务的中国人做的一样好;但事实上,如果将一个懂英文但不懂中文的的人类置于该屋子,则任务描述语言的改变将使得该人完全不能理解任务并因而不能输出结果。也正因为此,西尔勒中文屋子的思想实验证明“算法”事实上并不像人类一样“理解”其所执行的任何任务。

西尔勒中文屋子对人工智能是否真正在“理解”提出了疑义,但这种质疑也并非没有漏洞。具体而言,究竟什么才是“理解”,是否会存在不同于人类所习以为常的“理解”内涵的另外一种源自机器视角的“理解”?事实上,西尔勒中文屋子对于强人工智能的攻击并不完全,只有指出强人工智能观点的内在矛盾(而非强调人类视角)才可能明确其局限性。事实上,正如彭罗斯接着论述到,西尔勒本人在讨论中也隐含的接受了强人工智能的论点,即认为“我们(人类)是任何电脑程序的体现”,二者的差别在于生物体(头脑)具有“意图性”和“语义性”这两种精神活动的特征,而电子仪器却没有。彭罗斯指出,西尔勒的这种解释并不能令人信服的接受究竟何为“意图”或“语义”,而“头脑”和“电脑”其究竟又存在何种差别。正是在此基础上,彭罗斯展开了其分析过程,从数学、物理、生物学不同领域对强人工智能的观点进行了反驳。


数学:可计算性、不可计算性与哥德尔不可能


算法、图灵机或者普适图灵机是强人工智能实现的基础,其甚至也可被视为强人工智能的核心。因为正如图灵本人所言,任何硬件达到一定程度复杂性和灵活性的机器,其都等效于其他同类机器,而实现这种等效性的关键就是作为接口的软件(或算法)。事实上,在此逻辑下,强人工智能遵循了笛卡尔的二元论思想(即物质与精神的二分),算法作为一般精神的体现,其是独立于硬件而“实际”存在的。

“算法”概念的历史源远流长,而最直接、最有说服力、也最重要的便是“图灵机”的概念。值得注意的是,图灵机的设计目的并非是制造一台机器(电脑),而是为了解决数学领域被称为“判决问题”的一个范围广阔的系列命题,后者正是由希尔伯特所提出。图灵关心的希尔伯特问题(判决问题)超越了数学形式,而具体聚焦为“是否存在能在原则上一个接一个解决所有数学问题的某种一般的机械步骤”。所谓的“机械步骤”,是指该仪器具有有限数目的不同可能状态的分立集合(有限状态集合),而其可以处理大小不受限制的输入并产生大小不受限制的输出。

将图灵机与一般性的数学问题联系起来并非多此一举或故弄玄虚,而是具有本质意义。事实上,正如彭罗斯所指出,美国逻辑学家阿伦佐-撤屈完全独立地(并比图灵较早的)提出了旨在解决希尔伯特判决问题的拉姆达计算,以及波兰-美国逻辑学家埃米尔-波斯特提出独立设想(比图灵稍晚),所有这些方案很快就被证明是完全等效。由此,图灵机概念便可从数学意义上加以理解,而关于强人工智能的观点自然也可从数学意义上得到支持或反驳。

在数学意义上,彭罗斯对于强人工智能得出的结论是否定性的,分析的关键一方面在于对于“可计算性”与“不可计算性”这两个概念的区分与强调,另一方面则在于哥德尔不可能定律对于希尔伯特问题的否定性回答。首先,数学上的可计算性等效于图灵机的停止判定问题,因而强人工智能的观点同样可被描述为“可计算的数学结构能否足够描述实在的物理对象(比如人脑)”(此问题将在下一节物理学领域做更进一步的讨论)。此时,许多数学问题(例如费玛最后定理、哥德巴赫猜想)便同样可被等效于即图灵机的停机问题(即决定某个图灵机是否会“停”)。正因为此,如果这些数学问题能够被解决(这即是希尔伯特所致力于建设的一般形式化系统),那么普适图灵机便也将存在,强人工智能的论点也将得到支持。但遗憾的是,1931年哥德尔不可能定理的提出,宣告了希尔伯特及其追随者希望的落空。在彭罗斯看来,哥德尔不可能定理实际上指出,“数学真理的概念不能包容于任何形式主义跌框架之中,数学真理是某种超越纯粹形式主义的东西,其处于超越人为构造框架之外”。由此自然得出的结论便是普适图灵机的不可能存在,而彭罗斯也在此意义上反驳了强人工智能支持者的观点。

数学意义上的探讨虽然可能逻辑严密,但却不免存在与现实相脱离的不足。由此,彭罗斯又进入了物理学和生物学领域,开始讨论强人工智能在现实世界的可能性。


物理学与生物学:决定性、不确定性与整体性


强人工智能的支持者认为,感情、意识、精神这些被认为是人类特殊性质的“东西”都是可被算法化的。要对这一问题作出回答,便牵涉到对于“意识(或精神)”本质的探究。具体而言,究竟什么才是“意识(精神)”,其是如何产生并又以何种形式存在于世界之中,其运行或作用的发挥遵循何种规律?这些问题同时涉及物理学和生物学,而彭罗斯也正是通过对于物理学和生物学基本问题的探究,对强人工智能的支持者做出了反驳性回答。

强人工智能认为“精神可被算法化”的很重要思想基础便是认为人脑的可算法化。基于大脑的生物学模型,强人工智能的支持者认为大脑事实上等效于一台超等计算机。但事实上,人脑和现代电脑之间仍然存在着部分差异。例如,神经元激发的信号并非全有或全无,其事实上发射出了一整串距离很近的脉冲,并存在随机性(即同样的刺激不总产生同样的结果);再例如,大脑行为并不需要电子电脑电流所需要的那么准确的计时(神经元动作的最快速率为每秒1千次,比最快速的电子线路慢很多),同时神经元可有大量的突触附着,而逻辑门只有很少的输入输出。在彭罗斯看来,这些差异虽然也有意义,但却并不关键,二者的本质差异还在于大脑的“可塑性”。具体而言,神经元的相互连接会随时间不断改变,在生物学上这又具体是指不同神经元的突触结实际发生联络的地方经常改变;同时,突触结释放神经传递物质有时并不发生在突触裂,而是进入一般的细胞之间的液体,以影响非常远处的其他神经元。前者与不确定性有关,而后者则表明了大脑活动的整体性(非局域性)。

在彭罗斯看来,从生物学对于大脑实际运作过程所做的分析与物理学紧密相关,而这又具体是指量子理论。事实上,彭罗斯指出,单量子水平的作用对神经活动都很重要(例如相关实验表明,视网膜中存在对单光子敏感的细胞,即单光子就能触发某些神经元)。不过这还不是关键,前文所指出的大脑运行的不确定性、整体性与量子理论才具有更紧密的联系。

彭罗斯在全书中对于现代物理学的基本问题做出了概要性的解释,从经典物理到相对论(狭义/广义)再到量子物理,简明而又清晰地展现了现代物理学的成功与困境。在彭罗斯看来,“意识(或精神)”不可能是经典世界的一部分,必须以某种方式依赖于对经典物理的特殊的偏离,而这更可能体现为量子世界。就后者而言,其实际上包含两个过程:首先是由决定性的薛定谔方程所控制的演化过程,此时不存在任何不确定性或随机性;而当“进行一次测量”时,便将量子效应放大到了经典水平,从而引入了不确定性和概率,也就改变了规则。就当前而言,尽管量子理论已经得到了充分的发展,但其仍然存在尚未客服的困境,而这又尤其体现在对于量子世界的客观存在性的争议方面(也即爱因斯坦-波尔的争论)。对于爱因斯坦而言,其最困扰的是量子力学的描述方式明显地缺乏“客观性”,但他坚信在量子力学的微小尺度下,必须存在一个客观的物理世界(也即“上帝不玩骰子”);另一方面,波尔却认为系统的量子态并没有物理的真正的实在,只不过是关于该系统的“某人知识”的总结而已。

在彭罗斯看来,爱因斯坦和波尔的争论(也即量子世界的未解困境)同样与强人工智能相关。彭罗斯更偏向于爱因斯坦的观点——正是在此意义上,彭罗斯才认为“意识(精神)”是客观存在的,其运行规律与量子世界高度一致,且其并非附着于某一经典物理实体,因而自然不能通过算法来实现。

结论:普遍存在的非算法性


彭罗斯并未停留于在数学、物理学、生物学单个领域的独立分析,而是更进一步地阐述了不同领域的共通性。这并非是为了寻求跨领域的统一理论,而是因为这一共通性正是指向了全书的要旨——论述意识(精神)的非算法性。

彭罗斯在最后一章打通了数学、物理学、生物学的界限,其创造性地提出柏拉图数学世界与物理世界的可能等同性。柏拉图主义认为,数学真理具有绝对性、外在性、永恒性,不依赖于时间的变化,也不依赖于人造的判据。换言之,数学家所提出的定理或公约仅仅只是对于已经客观存在的数学真理的“发现”而已。彭罗斯认为,实际物理世界以惊人方式符合一些非常紧密的数学方案(例如麦克斯韦方程、薛定谔方程以及广义相对论事实上都具有同样的哈密顿方程形式),因而数学领域存在的非算法特性,可能同样存在于物理世界。更进一步地,非算法特性并未止步于数学和物理学领域,其同时也是“意识(精神)”的本质属性。正是在这一点上,彭罗斯最终回归到了对于强人工智能观点的批判。

总结而言,彭罗斯的论述严谨而翔实,不过也正如其在书中所写,其描述的对象却是日常发生的现实。对于每个人可能都很常见的“灵感”、“洞察”、“创造性”,彭罗斯给出了科学性的证明与论述。尽管当前人工智能的发展浪潮并未建立在模拟人脑的基础上,不过本文所提出的诸多命题可能仍然具有重要意义。例如彭罗斯在书中明确指出,“从错误中判断出真理(从丑恶中得到美丽)才是意识的标志”,这对于当前基于大数据的机器学习同样具有启发性。

本文转载自实验主义治理