什么人工智能不会产生“意识”？

  拥有自我意识和情感的超级人工智能到底会不会出现?说实话，这个话题都烂大街了。科学家、科技大佬、各国政要们争论得头破血流，我们也不可能知道答案。
  
  但我们想说的是，什么事都要讲逻辑。有没有一些理论或者猜想可以触发AI觉醒这个话题呢?有没有一些理论或者猜想，让我们不会云里雾里或者一腔热血地想象人工智能的未来?
  
  巧合的是，确实有一些这样的理论，比如说著名的“中文房间悖论”。这个情景猜想在大部分情况下都被用来否定“图灵测试”。但它更深层的本意，其实是在阐释人工智能永远不可能像人类那样拥有自我意识。
  
  什么是“中文房间悖论”
  
  所谓的“中文房间实验”，是由美国哲学家约翰·希尔勒(John Searle)在1980年发表论文提出的一个思维试验。
  
  这个思维实验是说，如果把一位只会说英语的人关在一个封闭的房间里，他只能靠墙上的一个小洞传递纸条来与外界交流，而外面传进来的纸条全部由中文写成。
  
  这个人带着一本写有中文翻译程序的书，房间里还有足够的稿纸、铅笔和橱柜。那么利用中文翻译程序，这个人就可以把传进来的文字翻译成英文，再利用程序把自己的回复翻译成中文传出去。
  
  在这样的情景里，外面的人会认为屋里的人完全通晓中文，但事实上这个人只会操作翻译工具，对中文一窍不通。
  
  为什么人工智能不会产生“意识”？
  
  当然了，这是个思维实验，具体操作起来近乎不可能。但这个实验里蕴含的思想却在表达这样一个可能：机器所表现出的智能(理解中文)，很可能只是翻译程序带来的假象，其实它对真正的人类智能一无所知。
  
  这个实验本来是为了反驳图灵测试的，认为即使通过了图灵测试，机器也不见得有了智能。但或多或少有点牵强，始终也没有把图灵测试彻底反驳掉。但“中文房间悖论”却可能在技术发展之路上告诉了我们另一件事：我们所有的技术探索与研究，可能都是在完善那个中英文翻译程序，从来不是去教机器真的智能。
  
  通用人工智能和强人工智能的界限
  
  这里要来认识两个大家经常听到，但有可能混淆的概念——通用人工智能与强人工智能。
  
  所谓通用人工智能(Artificial General Intelligence，AGI)，是指在不特别编码知识与应用区域的情况下，应对多种甚至泛化问题的人工智能技术。这个技术虽然冷门并遥远，但其实也有不少学术机构与企业在做，一般被认为是人工智能技术的未来发展方向。
  
  而强人工智能(Strong Artificial Intelligence)则是约翰·希尔勒在提出“中文房间实验”时设定的人工智能级别。这个等级的人工智能，不仅要具备人类的某些能力，还要有知觉、有自我意识，可以独立思考并解决问题。
  
  虽然两个概念似乎都对应着人工智能解决问题的能力，但我们可以把前者想象为无所不能的计算机，后者则类似穿着钢铁侠战甲的人类。
  
  “中文房间悖论”表达的思想，是人类研究的方向根本无法逼近强人工智能。即使能够满足人类各种需求的通用人工智能，也与自我意识觉醒的强人工智能之间不存在递进关系。
  
  现实中的技术发展好像也确实是这样的。
  
  在通用人工智能领域，人类已经提出了一些设想与架构模型。其中最著名的应该是澳大利亚国立大学学者马库斯赫特(Marcus Hutter)在2000年提出的AIXI。这个计算模型据说可以涵盖各种算法与技术，逼近通用人工智能的本质……当然，这个算法的复杂程度奇高，根本无法执行，所以仅仅是个设想。
  
  而OpenAI和DeepMind这样的企业在近两年则都开始了具体层面的AGI研究，其中DeepMind被认为是继承AIXI的先锋军。
  
  从DeepMind进行的通用人工智能性质的研发与实验中，我们可以看到其“通用性”主要集中在四个层面：智能体应对复杂环境、陌生环境处理、时间变量应对、多个信息源同时处理任务。
  
  而这些技术都指向同一个方向，就是智能体与外界的交互——也许可以理解为AI与这个世界的翻译程序吧?
  
  换言之，人类所做的仅仅是给“那个人”更好的翻译程序，而非教他中文(当然也没法教)。所以通用智能这种已经很玄的东西，依旧与强人工智能保持着清晰的界限。
  
  绝望的强AI：能力和意识，也许南辕北辙
  
  让我们把“中文房间实验”极限化一点，把整个房间放在一个人的大脑里。
  
  假如一个人记住了所有翻译程序，看到任何中文他都能调用回忆，能写出相应的回答，那么他是不是就懂中文了呢?对于人类来说，可能他自然而然就已经理解中文了。但对机器来说，即使这个过程速度再快、反应再灵敏，它也依旧没有理解任何一个汉字。
  
  确切地说，这个人(智能体)获得的是使用中文的能力，但他(它)对中文没有意识。
  
  能力与意识的区别，是我们在想象未来超级智能时最容易混淆的问题。但从现实的逻辑推理，就会发现这二者差别很大，而且近乎没有关联。
  
  知识表示、机器学习、NLP等等人工智能技术，只是在不断强化人工智能模仿人类能力(这句话有点绕)，但让人工智能模仿人类意识，直到现在依旧是一片空白。
  
  没有因，自然无果。“中文房间理论”讲述的，就是按照人类遵循的技术轨迹，智能体崛起意识这个命题将永远缺乏基础条件。
  
  如果这个结论成立，那么对于强人工智能来说可谓是非常绝望的。它们只能继续在时空的长河里沉睡。在人类的幻想中，一如远古的神祇，一如都市传说里的鬼怪。