[转帖]对强人工智能的反对意见

ruiaijun

（本人分析：
在关于算法的讨论时，我们已经指出算法并没有限定程序一定是一个形式体系。因此也没有必要把计算机系统看成一个形式体系。
例如，设计一个同样的计算得出两个不同的结果的程序，是算法允许的。但是它的结果允许两个对立命题成立，是非形式体系。
可是，算法的理论和自动机理论都是经过形式逻辑的证明的，因而人们认为它们自然是形式体系，不可能不是形式体系。但是这种认为确是一种错觉。前面我们已经指出算法是可以使一个程序不成为形式体系。
我们上述一席话的真正意思在于，人脑之所以能够看出形式体系无法证明的定义的存在，不是因为人心（即人的智能体系）有什么过于特殊的性能，就是因为它具有非形式逻辑处理信息和非逻辑处理信息的能力，也就是说大脑是一个非形式体系。鲁卡斯的论证的漏洞就在这里。
因此我们必须打破传统思想的束缚，也就是说，构建模拟智能的起点就是要把它构建为一个非形式体系。而把它构建成形式体系就一定不是在模拟人类智能。
比如，一个网友对我叫阵，说，“你要是把模拟智能理论用高等数学写出来，我就服你！”他这种态度就是被传统思想束缚的典型。用高等数学，或其它严格数学形式表示的模拟智能系统，一定是个形式体系，也是受哥德尔定理限制的系统。它是远远不如人脑的系统，怎么能够模拟人类智能呢？

ruiaijun

作者：艾泽拉斯大陆2006-6-27　12:46:28
　　纵观人类历史，人类思维不断进步的过程就是对客观世界不断抽象的过程。
　　从上古语言文字的出现，到目前软件工程的发展，无一不是如是。
　　如果楼主认为，数学形式的表示是完全不必要的，抛弃抽象能力，发展出一套完全不同的思维方式。
　　那您可以说是人类历史上最重要的人物了。什么牛顿、爱因斯坦在您面前不过是个小儿科罢了。
　　------------------------------------------------------------
　　看来，我是没有成为历史上最重要的人物的希望了，这大概是我的思想还没有脱俗。我一边想构建一个不依赖数学模型、不依赖形式逻辑的智能系统，一边还在极力想用数学、用形式逻辑来证明这个系统。很矛盾吧？也许我的脑子就是由非逻辑体系构成的

ruiaijun

　　作者：2006听我的　2006-6-27　13:46:45　
　　按照目前的科技水平，根本就不可能有“人工智能”。人们对人的思维、感情等的原理，几乎没有什么了解。
　　一个男人可以在一秒钟内判断出一个女人是不是美女；杨过会因为深爱小龙女而跳下悬崖；你问一个人是否能借钱给你，他不回答能或不能，而是说“我想一下”，你就知道他是不肯借了。
　　这些事情，难道是一大堆二极管、三极管可以完成的吗？
　　------------------------------------------------------------
　　你说的这些完全可以，如想了解请关注我的“模拟智能的整体思路”（其情感理论尚未贴出）。
　　顺便说一声，现在的电脑不是用“是一大堆二极管、三极管”做成的。但是你可以把大规模集成电路叫成硅元件

ruiaijun

（本人说明：
　　“皇帝新脑”是一本对人工智能表示反对，甚至有些讽刺的著作，在网上搜索可以看到它的原文。此处的引文只是顺便提一下而已。）

ruiaijun

　　哥德尔对心－脑－计算机问题的解
　　作者：刘晓力
　　今天，计算机文化愈益在人类文化中凸现其重要地位，“电脑是否可代替人脑”，“人类心智是否胜过计算机”，“人类能否沦为机器的奴隶”？这类问题随着超级电脑“深蓝”战胜世界国际象棋大师的不凡之举，更加成为大众关注的热点，争论了半个世纪的心－脑－计算机问题20世纪末再度在心灵哲学家、自然科学家和人工智能专家中白热化。强人工智能观点的支持者似乎从“深蓝”的行为进一步获得了支持证据。因为按照他们的观点，精神活动过程同机器执行程序一样，不过是在从事某种良定义的被称为算法的运算过程。而人脑和简单的计算机的主要差别仅仅在于人脑活动具有更大的复杂性，或者表现为更高级的结构，但人的所有精神品质，包括思维、情感、智慧、意识都不过是大脑执行的“算法”特征而已。这些观点曾一度受到许多科学家的强烈抨击，进入90年代以来，更遭到一些反对心－脑同一论的心灵哲学家的深刻批判。
　　按照当代心灵哲学领域最著名的代表人物之一塞尔（J.R.Searle）的严格区分，弱人工智能观点认为计算机的主要价值就在于为心（Mind）的研究提供有利的工具，例如，它能使我们用更严格精确的方式把各种假说形式化、程序化并加以核验。强人工智能观点不仅把计算机看作心的研究工具，更极端地认为适当程序化的计算机本身就处于心的状态之中，认为被赋予正确程序的计算机确实能够理解事物并具有其他的认知状态。这样，“计算机程序就不仅仅能帮助我们验证心理解释，相反，程序本身就是解释。”1997年塞尔出版了他探索心－脑－计算机问题的新作《意识之谜》，对强人工智能观点发起了新一轮哲学攻势。
　　塞尔通过讲述那个著名的“汉堡包”的故事，并用他的所谓“中文屋”概念批驳了强人工智能专家所持有的观点：完全可以在精确的意义上说，计算机具有人类理解故事和解答相关问题的能力。在塞尔看来，计算机的理解力与汽车和计算器的理解能力没有什么不同，计算机与人类的心智相比，其理解力不仅是不完全的，而且可以说完全是一个空白。当然，对塞尔来说，重要的不是要论证“计算机不能思维”，而是要回答“正确的输入输出加上正确的计算本身是否足以保证思维的存在？”“如果我们所说的机器是指一个具有某种功能的物理系统，或者只从计算的角度讲，大脑就是一台计算机”，然而心的本质并非如此。塞尔认为，计算机程序纯粹是按照语法规则来定义的，而语法本身不足以担保心的意向性和语义呈现，程序的运行只具有在机器运行时产生下一步形式化的能力，并不保证心的状态的出现。只有那些使用计算机并给计算机一定输入同时还能解释输出的人才具有意向性。意向性是人心的功能，心的本质绝不能被程序化，也就是说，心的本质不是算法的。因此，要探讨心－脑－计算机的问题，应当首先明确“算法”概念。
　　（未完待续）

ruiaijun

（本人说明：
　　这是转载的另一篇文章，上一段论述与前一篇论述标题不同，但是大同小异。）

ruiaijun

（续前）
　　１、算法概念的流变
　　本世纪３０年代以前算法只是一个直观的概念，人们直观理解的算法就是在有限的时间内，可以根据明确规定的运算规则，在有穷步骤内得出确切计算结果的机械步骤。人们最熟悉的例子是欧几里得的求两个数的最大公约数的经典算法。１９２８年德国数学家希尔伯特（D.Hilbert）在波伦亚国际数学家大会上提出如下判定问题：是否存在一般的能在原则上一个接一个地解决所有（属于某种适当定义的类的）数学问题的机械步骤？这里的“机械步骤”实际上就是“算法”的直观概念。１９３６年英国数学家，非凡的密码破译专家图灵（A.M.Turing）引进“图灵机”概念，第一次给出算法概念严格的数学表达，“算法可计算函数”即“图灵机可计算函数”。此后人们发现，“λ－可计算函数”、“一般递归函数”、“正规算法”和“波斯特演算”都是与“图灵机可计算函数”等价的关于“算法”的数学界定。正是有了算法的精确定义，人们很快证明了不存在解决所有数学问题的一般算法，而且还具体证明了不存在解决一些重要的判定问题的算法（例如谓词演算的判定、停机问题的判定、半群上字的等价性的判定、丢番图方程可解性的判定等）。图灵是通过证明不存在决定图灵机停机问题的算法来证明不存在判定所有数学问题是否可解的一般算法的，丘奇（A.Church）则用此完全不同的方法证明了相同的结论。更重要的是，正是算法概念精确的数学表述使现代意义上的电子计算机得以产生。今天，随着计算机应用和理论的发展，研究算法的静态和动态复杂性的计算复杂性理论已经成为一个重要的专门领域。
　　１９３６年，图灵在《伦敦数学会通报》上对心－脑－计算机这一话题发表了一篇重要文章《论可计算数》，其中指出，“我们将假定需要计数的心的状态数是有穷的。这是因为，如果我们承认心的状态有无穷多，它们中的某些状态就会由于‘任意接近’而被混淆。”图灵的这段话当时曾被看作“人类心灵活动不可能超越机械程序”的一个论证。１９５０年图灵又在《心》（Mind）杂志上发表了一篇题为《计算机与心智》的文章，开篇写道：“我准备考虑一个问题：机器能思维吗？”，并提出了著名的“图灵检验”的概念。文章隐含着“人心等价于一台计算机”的论断，这一论断对40年代后期刚刚兴起的人工智能方案无疑是一强有力的声援，也自然引起了一场大争论。在这场争论中反对派营垒中的一些哲学家和逻辑学家更热衷于以哥德尔定理为依据反对图灵的论断。
　　人们很难抵御一种强烈的诱惑：从１９３１年哥德尔的不完全性定理出发证明“人心胜过计算机”这一论断。因为由哥德尔定理，在任何包含初等数论的形式系统中，都必定存在一个不可判定命题，即它和它的否定在系统中都不可证。或者说，任何定理证明机器和程序都将遗漏真的数学命题，数学真理不可能完全归为算法的性质。
　　１９６１年美国哲学家鲁卡斯（JohnLucas）在《哲学》（Philosophy）36卷上以极其激烈的言辞首先撰文《心、机器、哥德尔》，试图用哥德尔定理证明“人心超过计算机”的结论：“依我看，哥德尔定理证明了机械论是错误的，也就是说，心不能解释成机器。”因为，“无论我们构造出多么复杂的机器，只要它是机器，就都对应于一个形式系统，接着就能找到一个在该系统内不可证的公式而使之受到哥德尔程序的打击，机器不能把这个公式作为定理推导出来，但是人心却能看出它是真的。因此这台机器不是心的一个恰当模型。我们总想制造心的一种机械模型，即从本质上是‘死’的模型，而心是‘活’的，它总能比任何形式的、僵死的系统干得好”。随后，另一位美国哲学家怀特利（C.H.Whitely）在接下来的３７卷《哲学》杂志上发表了虽简短但强有力的批驳文章《心、机器、哥德尔回应鲁卡斯》，遂引起许多人卷入并长达几十年的争论。１９７９年获得普利策文学大奖的美国畅销书《哥德尔、艾舍尔、巴赫一条永恒的金带》将艾舍尔义蕴深刻的绘画、巴赫脍炙人口的乐章及哥德尔定理以一种独特的方式连接起来，极具戏剧性地谱写了一曲心－脑－计算机的“隐喻赋格曲”，其中从多个视角阐述了如何用哥德尔定理否证人工智能方案的观点。１９８９年英国的数学家、物理学家罗杰彭罗斯（RogerPenrose）在那本风靡全球的《皇帝新脑计算机、心智和物理定律》中仍以大量笔墨试图从哥德尔定理出发直接论证“人心超过计算机”，被称为“对哥德尔定理令人吃惊的强应用。”因此在１９９０年的《行为和大脑科学》（BehaviorandBrainSciences）杂志第１３卷上，借评价该书的机会重又引发了许多人介入的一场争论，（包括作者撰写的该书的内容摘要，他人的书评和作者对书评的答复，竟达６２页之多，pp.643－705.）。彭罗斯的强硬论证大致是：由哥德尔定理可以得出，人类判断数学真理的过程是超越任何算法的，因为，意识是我们赖以理解数学真理的关键，这种意识是我们能够借直觉的洞察力“看出”（see）某些在数学形式系统中不能证明的数学命题的真理性，而意识是不能被形式化的，它必定是非算法的。因此计算机绝不可能超越人类心智，计算机不过是强人工智能专家所钟爱的一副“皇帝新脑”而已。而这里的“算法”已经演变为计算机所能模拟的一切，包括“并行计算”、“神经网络”、“启发”、“学习”及与环境的作用等。
（未完待续）

ruiaijun

　　　　　　　　　　　　　　　（续前）
　　２、哥德尔定理是否蕴涵“人心胜过计算机”的结论？
　　从新近发现的哥德尔的一部分重要手稿和７０年代与王浩的谈话记录中我们得知，首先，哥德尔本人并不反对用他的定理作为证明“人心超过计算机”这一结论的部分证据，因为在他看来，不完全性定理并未给出人类理性的极限，只揭示了数学中形式主义的内在局限，但是，仅仅使用他的不完全性定理不足以作出如此强硬论断，还需附加新的假设。但哥德尔也同样明确断言，“大脑的功能不过像一台自动计算机”，而心的本质并非如此。
　　事实上在严格区分了心、脑、计算机的功能后，“人心是否胜过计算机”的问题可以转换为两个子问题：①是否大脑和心的功能一样等价于一台计算机，而计算机等价于一个形式系统。②是否所有精神活动都是可计算的，而且存在能完全捕获人类所有精神活动的计算机。第一个问题即心脑同一论（TheIdenticalTheoryofBodyandMind）是否正确的问题，第二个问题是精神可计算主义（MentalComputabilism）是否成立的问题。心脑同一论是５０年代末以来西方颇为流行的占据主流地位的心灵哲学理论，其核心是将动物及人类的心理活动等同于大脑的运动，其中有物理主义的心脑同一论（分为实体等同，语言等同和功能等同理论）和非物理主义的心脑同一论。同时精神可计算主义主张如下论题，大脑和心的功能基本上像一台计算机，大脑对于精神现象的解释是完全充分的，所有精神现象都是可计算的事实上，涉及哥德尔定理，我们的注意力将更集中于“机器是否能完全捕获人心的数学能力”这个更具体的问题上。在哥德尔的一些手稿和与王浩７０年代的谈话中，可以看到哥德尔对心脑同一论和可计算主义的严厉批驳，在他看来心脑同一论和可计算主义完全是“时代的偏见”。
　　我们知道哥德尔定理蕴涵着对于任何定理证明的机器，都存在某些我们直觉上能看出它的真，但由这台机器不能证明它是定理的数学命题。因此，这似乎表明，在证明定理这一点上人心的能力超过任何计算机。然而，当我们试图严格地对此作出论证时，发现这其中包含着一个令人难以察觉的漏洞。
　　在１９５１年所作的吉布斯演讲《数学基础中的若干基本定理极其哲学义蕴》（演讲稿手稿１９９５年发表）中，哥德尔指出，“从我的定理可以推出的一个可能的结论是如下包含两个支命题的选言判断：或者（ａ）数学在下述意义上是不可完全的，即它的自明的公理不可能包含在有穷规则中，因此人心超过有穷机器；或者（ｂ）存在人心绝对不可判定的丢番图问题。……两个选言支都是与机械唯物主义哲学对立的。选言支（ａ）与心脑同一论对立。选言支（ｂ）否证了数学对象仅仅是我们的创造的观点。”
　　在１９７２年的一篇题为“图灵工作中的一个哲学错误”的评论（１９７２）中，哥德尔首先指出，图灵给出的“心灵过程不能比机械过程走得更远”的论证是不充分的，因为它依赖于心只能呈现有穷多个可区分的状态这个假定，显然图灵忽略了一个事实，即心在其运用中不是静止的，而是不停地在发展的。虽然在其发展的每一阶段，心的可能的状态数是有穷的，但没有理由说，这个数在心的发展过程中不收敛到无穷大。哥德尔曾在与王浩的讨论中说，图灵的论证再附加两个假定之后就会站得住脚：①没有与物质相分离的心。②大脑的功能基本上像一台数字计算机。哥德尔认为。②的概然性很高，但无论如何①是将要被科学所否证的，是我们时代的偏见。接下来哥德尔用他称之为“理性乐观主义”的立场对上述选言判断进行了分析：如果我们像希尔伯特那样，坚信“人类理性提出的问题人类理性一定能够解答”，那么就可以否定第二选言支，因为，承认存在人心绝对不可判定的数论问题是与我们的这一信念背道而弛的。这样第一选言支就应当成立，即人心胜过计算机。可见，在哥德尔看来，附加了“人类理性提出的问题人类理性一定能够解答”这样一个哲学假定，就能从不完全性定理推出“人心胜过计算机”的结论。当然，哥德尔也意识到，这种对于心脑同一论和可计算主义的否证未必令人信服，因为它毕竟是一种推论式的。

ruiaijun

　　更值得注意的一点是，哥德尔定理的一种形式是说，任何恰当的定理证明机器，或者定理证明程序，如果它是一致的，那么它不能证明表达它自身一致性的命题是定理。在吉布斯演讲中哥德尔沿着这一条思路又得出下面的结论：
　　（1）“人心没有能力将它的全部数学直觉公式化（formulating）（或机械化mechanizing）。这就是说，如果人心把它的某些数学直觉公式化了，这件事本身就会产生新的直觉知识，例如，关于该形式系统的一致性的知识。这一事实可以称为数学的‘不可完全性”（incompletability）。另一方面，基于迄今为止我们已经证明的结果，仍然不排除有可能存在（甚至能凭经验方法去发现）一台定理证明机器，它事实上确与〔人心的〕数学直觉等价，但是，我们不可能证明它确实能做到这点，甚至也不能证明它刚好得出有穷主义数论的正确（correcte）的定理”。
　　（2）“或者人心胜过一切机器（更严格地讲，它能比任何机器判定更多的数论问题），或者存在人心〔绝对〕不可判定的数论问题（不排除二者都真的情形）。”
哥德尔承认，不排除存在一台定理证明机器M确实等价于数学直觉这种可能，但重要的在于，假定有这样的机器，由不完全性定理立即可得出如下两个结论：①不可能证明M确实能做到这点；②M甚至不能证明它刚好产生正确的定理。因为假定我们能证明M刚好产生正确的定理，由于我们的直觉能证明M是一致的，即“M是一致的”的结论在直觉上是正确的，那么由M的假定，M也应当能够证明M本身是一致的，这显然与哥德尔定理矛盾。所以②是真的。此外，假定我们能够证明M确实是一台等价于人类数学直觉的定理证明机器，即它完全捕获了人心的数学能力（有理由假定，这里的“能力”是指正确的而非出错的数学能力；“证明”是指数学上的证明），那么，这就意味着我们具有一种数学证明，它能够证明M刚好产生正确的定理，这显然是与②矛盾的，而用哥德尔定理我们已经证明了②是真的。因此问题的核心并不在于是否存在能捕获人类直觉的定理证明机器，而恰恰在于，即使存在这样一台机器，也不能证明它确实做到了这一步。恰如哥德尔所说：
　　“不排除这种可能，即存在能够产生它的所有自明公理的有穷规则（或一台计算机）。然而如果这样的规则存在，按照我们人类的理解力永远不可能确切知道它一定如此；即，我们永远不可能数学上确切地知道它所产生的定理都是正确的；或者，换句话说，我们只能一个一个地感知（percive）有穷数目的命题的真。但是，对于它们所有的都是真的至多是能经验可知的，这种断言是基于充分大数目的特例的考察，或者使用了其他归纳推理。”
　　因此“没有有穷规则能够完全捕获我们的数学直觉因为，假定如此，我们也能知道它的一致性，这已经超出这些规则本身了。”
　　哥德尔还区分了主观意义上的数学和客观意义上的数学的概念：主观意义的数学是所有可判定的数学命题的体系；客观意义的数学是所有真的数学命题的体系。作了这一区分，哥德尔指出“或者主观数学超过了所有计算机的计算能力，或者客观数学超过了所有主观数学，或者二者都真。”然后哥德尔给出几个引起争论的结论：
　　“如果第一个选言支成立，就蕴涵着人类心智的操作不可能归于大脑的操作，大脑的所有操作似乎是由有穷多部件，即神经元和它们的连接构成的有穷机器。”
　　“第二选言支成立似乎就否证了数学仅仅是我们自己的创造这种观点；因为创造者必然知晓他的创造物的所有特性，由于除了创造者赋予它们的那些特性外它们不可能具有其他特性，这似乎就意味着，数学对象和数学事实（至少它们中的某些）是客观存在的，而且是独立于我们的精神活动和意愿的，也就是说，关于数学对象的某种形式的‘柏拉图主义’或‘实在论’是成立的。”
　　如果我们接受了哥德尔的这种推理，我们就有了如上论证的一个变体：或者可计算主义是假的，或者数学中的柏拉图主义是真的；不排除两个结论都真的情形。事实上，吉布斯演讲的目的之一就是企图论证数学柏拉图主义立场的合理性。在晚年与王浩的谈话中，哥德尔再次重申他的观点：
“不完全性结果并不排除存在事实上等价于数学直觉的定理证明计算机的可能性。但是定理蕴涵着，在这种情况下，或者我们不能确切知道这台计算机的详情，或者不能确切知道它是否会准确无误地（correctly）工作。”
　　“我的不完全性定理使心智不是机器，或者机器不可能理解它自身的结论成为可能。”
　　“如果将我的结果与希尔伯特所持有的，用我的结果不能反驳的理性主义立场（理性提出的问题理性一定能够解答）结合起来，那么〔我们能推出〕心智不是机器的明确结论。这是由于，如果心智是一台机器，那么，存在人类心智不能判定的数论问题就将与这种理性主义立场矛盾。”
　　哥德尔曾对王浩解释：
　　“我所说的心智是指有无限寿命的个体的心智。这与物种的心智的聚合不同。设想有一个人致力于解决整个问题集：这与实在性问题有关，为此人们会不断引进新公理。”
（未完待续）

ruiaijun

本人分析：
　　在晚年与王浩的谈话中，哥德尔再次重申他的观点：“不完全性结果并不排除存在事实上等价于数学直觉的定理证明计算机的可能性。但是定理蕴涵着，在这种情况下，或者我们不能确切知道这台计算机的详情，或者不能确切知道它是否会准确无误地（correctly）工作。”
　　-----------------------------------------------------------
　　哥德尔虽然不支持图灵提出的人工智能的思想，但是作为一个逻辑学家、数学家，他还是尊重正常的思维结果。在上一段话中，他就依靠思维提出了人工智能实现的一些可能。
　　我以为，我们站在支持强人工智能的立场，也可以说：“哥德尔说对了！”
　　在我的《模拟智能的整体思路》中，就强调了系统的容错性和随机性。而容错性就是“不能确切知道它是否会准确无误地（correctly）工作”，随机性就是“不能确切知道这台计算机的详情”。
　　一些人工智能研究者仅仅注意到抗拒哥德尔弟子们的反对意见，没有注意到吸收哥德尔思想的合理内核