Philodoxer的回答 - 知乎。
中文房间思想实验是什么？它是否成功地否决了图灵测试的有效性？ - Philodoxer的回答 - 知乎
https://www.zhihu.com/question/39447528/answer/141000616
作者：Philodoxer
链接：https://www.zhihu.com/question/39447528/answer/141000616
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
我个人非常，非常，非常喜欢Chinese Room Argument，尽管它离它的原本想要达到的最终目的还差了一些——驳倒图灵测试背后的想法，即行为主义或功能主义(Behaviorism/Funtionalism)，或者说，一切将心灵现象还原为物理现象的思想流派(Physicalism)。这个任务要等到1986年Frank Jackson写"What Mary Didn't Know"，提出Knowledge Argument，才更接近完成。我喜欢它的主要原因1.名字里有Chinese 2.简洁形象好玩儿，展现了哲学命题的力量。

1980年，UCBerkley的哲学教授John Searle发表了一篇题为"Minds, Brains and Programs"的论文。在这篇论文中，Searle旗帜鲜明地反对图灵：他认为一个计算机程序通过图灵测试并不意味着它具有智能，而至多只能是对智能的一个模拟。为了论证自己的观点，Searle提出了一个名为“中文屋”(Chinese Room)的思想实验。

这个思想实验的内容大概如下。
想象一个从小说英语但完全不会中文的人被反锁在一个房间里。房间里有一盒中文字卡片和一本规则书(rulebook)。这本规则用英文写就，告诉房间里的人一些如何操作汉字卡片的规则，但并没有告诉这个人任何一个中文字或者中文词句表示的含义。（注意，这本规则不是汉英字典！只是一个操作特定汉字卡片的规程）这本规则的本质其实是一个程序（任何一个图灵机上可运行的程序都可以被写成这样的一本规则书）。现在，房间外面有人向房间内递送纸条，纸条上用中文写了一些问题（输入）。假设房间内的规则书（程序）写得如此之好，以至于，房间里的人只要严格按照规则书操作，就可以用房间内的中文字卡片组合出一些词句（输出）来完美地回答输入的问题。于是，这个人提供的输出通过了关于“理解中文”这个心智状态的图灵测试。然而，Searle指出，这个人仍然一点不会中文。更进一步，在无论是在这个房间中，还是考虑这个房间整体，都找不到任何理解中文的心智存在(There is no mental state of understanding Chinese in the room)。因此，通过图灵测试并不意味着拥有智能或者心智。


（是的这张照片就是Searle)

下面是1999年Searle简写过的一个版本:

“Imagine a native English speaker who knows no Chinese locked in a room full of boxes of Chinese symbols (a data base) together with a book of instructions for manipulating the symbols (the program). Imagine that people outside the room send in other Chinese symbols which, unknown to the person in the room, are questions in Chinese (the input). And imagine that by following the instructions in the program the man in the room is able to pass out Chinese symbols which are correct answers to the questions (the output). The program enables the person in the room to pass the Turing Test for understanding Chinese but he does not understand a word of Chinese.”

Chinese Room Argument其实比表面上看要复杂。那篇80年的经典论文整整写了20页，这个Argument本身只占了1页。在后面的十多页中，Searle做了几乎所有20世纪欧美哲学家写论文时候大部分时间在做的事情——考虑可能的反驳，并试图将其一一消解。在这个时代做哲学，光有一个牛逼的直觉是不够的，还得擅长以别人信服的方式论证和捍卫自己的观点。Searle在发表这篇论文前已经在各学校的研讨会上和其他哲学家交流过自己的想法，对于各种质疑，Searle也是见得太多了。在文章的后半部分Searle回应了对中文屋实验的至少六类不同的反驳：系统反驳(System Reply), 机器人反驳(The Robot Reply)，大脑模拟器反驳(Brain Simulator Reply)，组合反驳(Combination Reply)，其他心智反驳(Other Mind Reply)，多实现反驳(Many Mansions Reply)等。（这些都不太好翻译…见笑了）

这六类反驳中，比较符合大部分人直觉的是前两个，System Reply和Robot Reply。Combination Reply其实是把前两个组合在一起。另外三个，Searle回应所用的篇幅相对较小，因为他认为这些反驳并没有驳到点上，对此我也同意。因此在接下来的篇幅中主要讨论一下System Reply和Robot Reply。

先来看System Reply。

一个很直觉的想法是，虽然房间里的人不懂中文，房间里的书、卡片也不懂中文，但是，考虑这个房间作为一个整体的话，这个房间似乎可以说是懂了中文的。之前其它答主们的回答都是基于类似的直觉。正如 

@张居正
 等知友提到，就像人类的脑细胞本身没有意识，但是大脑作为脑细胞的集合体是有意识的。这就是System Reply了：房间作为一个系统，总体来说具有某种心智状态。

然而Searle嘿嘿嘿一笑，祭出了下一个更变态的思想实验。他说，想象房间里的这个人在房间里呆了足够久，已经把规则书和中文汉字的形状都牢记在心。于是我们打开房门让此人走出房间。现在，她走在大街上，自己本身变成了一间行走的中文屋。房间的其他部分，即规则书和汉字卡片，都已经被她内化了。Searle称此情景为Internalized Room。此时，如果别人传递给她中文字条，她还是能对答如流，但是她并不知道任何这些笔谈的真正内容！如果我们问她，我送你一朵小红花吼不吼啊？她说吼啊！但她并不知道我们在谈论的任何一个词，比如“小红花”、“我”、“你”,“吼”等等的一丁点儿含义。即是她面前有一朵小红花，她也不会知道我们的句子其实是关于这朵花的。这么一看，房间整体似乎也还是不懂中文的。

Searle因此指出，通过图灵测试的中文屋和它背后的程序所达到的只是对于“理解中文”这个心智状态的模拟，而并不是真正的对中文的理解。（铁杆的System Reply的支持者会说，内化了规则书和卡片的那位同学虽然本人并不懂中文，但是她大脑中的某个子系统(sub-system)理解中文。这种反驳我个人认为有些勉强。）真正的对语言的理解，乃至任何一个心智状态的存在，都需要思维主体知道心中所想到底意指何物。这一点在哲学上被称为Intentionality（是不是翻译成意向性？但好像和现象学那个意向性不是一个东西）。Searle认为，计算机和程序无法达到意向性，它必须由人脑或者具有人脑类似的生理结构和组成的组织才能达到。我不太同意Searle在这里的看法，限于篇幅和主题，在这里暂时先放过。

如果System Reply有问题，Searle的反对者们还有Robot Reply。

有些人认为，意向性完全可以由电脑和机器来达到。既然这个房间作为一个系统不能把汉字符号和它们所对应的物体联系在一起，那么我们想办法建立这种联系即可。把这个房间接上一系列传感器，比如摄像头、麦克风、触觉、味觉传感器等，以及一系列运动处理器，简单来说，把这个房间变成一个机器人的大脑。再修改一下规则书，使得这个房间不仅仅能处理中文文字的输入输出，而是可以处理整个机器人身上的声光电触热等传感器所受到的“感觉”信号，并且给出相应的输出，不仅有文字、声音甚至还有肢体行动。这个房间可能需要缩小，比如用蚁人的技术缩小后放入机器人脑中；或者不用缩小，我们让这个房间远程接收信号。现在，我们面对这个机器人，指着手里的小红花，说我送你小红花吼不吼啊？和System Reply里的姑娘不一样，机器人不仅仅会回复说吼啊，它的视觉系统就会锁定小红花这个物体，并且微微一笑接过花朵。我们是不是可以说这个机器人知道了它所说的汉语句子的含义，从而也真正具有了“理解中文”这样一种心智能力呢？

Searle依然不肯退缩。他说，还记得机器人脑袋里的房间里的歪果仁嘛？这个小人儿(Homunculus, 拉丁文homo的小词，直译即小人儿)在屋里收到的来自机器人传感器的信号，完全可能并非是直接的图像、声音等，而是一串数字化的数据。比如，机器人的“眼睛”，即摄像头，看到一朵花时，并不是说房间里有个屏幕上面反映出了小花，而是摄像头采集到了一串数据传送到房间里由我们的小人。此时，尽管小人给出了一串输出数据，引领机器人“说”出了中文的“花”这个词语，并且“伸手”去采摘，但小人仍然不知道他刚才的操作是关于一朵花儿。意向性似乎依然缺乏，因此真正的理解似乎还是不存在。此为Searle的Homunculus Argument。

对于Homunculus Argument的回应方式之一是将System Reply和Robot Reply结合在一起，即所谓的Combination Reply。虽然屋内小人不理解中文，但机器人作为一个整体似乎真的具有了某种心智理解能力。至少在外观、行为、功能上，这个机器人不仅可以用中文对答如流，而且处理一切事物似乎与正常中国人无异了。我们似乎没有理由说这样完美的机器人不具有智能，就像《西部世界》里的Hosts，或者机械姬：他们看着像人，摸着像人，说话做事儿都跟人一摸一样了，有什么理由拒绝承认他们具有心智呢？

关于这点，John Searle给出的回应不是很令我满意。至少在我看来，他只是反复强调某些特定的意向性只能由人脑的生理结构给出，但对于这个断言本身他没有提供更深层次的理由。大家可以自己把他的论文找来看看，自己得出自己的结论。

至于Chinese Room Argument是否成功否决了图灵测试的有效性这个问题，和所有哲学问题一样，其实是见仁见智。我个人的倾向于认为，Searle的大方向是正确的：图灵测试及其背后的Functionalism是不对的。不过Chinese Room还是离真正的核心问题差了一步。完美执行人类所有功能的机器人仍然可能缺乏真正的意识，不过这里的理由在Chinese Room Argument里并没有涉及。如前文所述，意识的真正核心问题，至少在当今大多数哲学家看来，可能是Frank Jackson在1986年的论文中指出的Qualia。然而这又是另一个问题了。挖个坑，以后填。 

不管Chinese Room Argument是否驳倒了图灵，我还是觉得它是一个非常有意思的思想实验，关于它的讨论也集中了许多最优秀的当代哲学家的工作。然而比较讽刺的是，这个叫做中文屋的思想实验在中国被讨论得并不多。在这里做了一些微小的介绍，希望大家一起讨论，多多批评指正。
1/15/2017补充 这幅漫画的最后一格反映了很多评论中的朋友们的感觉 :P


参考文献

1. Searle, John. R. (1980) Minds, brains, and programs. Behavioral and Brain Sciences 3 (3): 417-457 这就是那篇著名的论文原文，有免费的pdf在这里可以找到:

http://cogprints.org/7150/1/10.1.1.83.5248.pdf
 

2. 

The Chinese Room Argument
 Stanford Encyclopedia of Philosophy上关于Chinese Room的介绍，写得非常好，把主要流行的各大Reply都总结进去了。

3. Block, N., 1978, ‘Troubles with Functionalism’, in C. W. Savage (ed.), 

Perception and Cognition: Issues in the Foundations of Psychology
, Minneapolis: University of Minnesota Press.  这是我校老师Ned Block写的一篇文章，在Searle的文章之前，也谈到了类似的想法。图灵测试背后的想法即是functionalism，而Block这篇文章也是从一些角度指出了functionalism可能存在的问题。巧合的是Block也想到了一个跟中国有关的思想实验，叫The Chinese Nation。文章很短，而且Ned Block写东西很好玩，即使为了Chinese Nation也值得一看。

4. Turing, A 1950, ‘Computing Machinery and Intelligence’, 

Mind
, 59: 433–460. 图灵自己对于图灵测试的阐述。

编辑于 2017-01-15 22:14