计算机能够给图片打上“人们在公园里扔飞盘”的标签，却不可能回答那些问题。除去他们仅仅会给更多的图片打标签却根本不能回答前述问题的事实之外，他们对于以下内容根本没有概念：人是什么、公园通常在室外、人是有年龄的、天气除了让照片显示为照片之外还有更多内涵，诸如此类。
这并不意味着这些系统是毫无用处的；他们对于搜索引擎具有极高价值。但是这正是问题所在。人们听说某些
机器人或者某些 AI 系统已经完成了某些任务。然后他们将这一性能（performance）归纳为一种能力（performance），即一个完成同样任务的人被认为会具备的能力。他们把这一归纳应用到了机器人或 AI 系统。
现在的机器人和 AI 系统在他们能做的事情方面还极其狭隘。人类风格的归纳还不适用。
JOOST SWARTE
4. 手提箱文字
Marvin Minsky 将那些具有多重含义的文字称为“手提箱文字”。“学习”（learning）就是一个很强大的手提箱文字；他可以指代如此众多不同类型的体验。学习使用筷子是跟学习一首新歌非常不同的体验。学习写代码是跟学习在城市里认路非常不同的体验。
当人们听说机器学习正在某一新领域取得巨大进步的时候 ，他们倾向于将其作为一种新的思维模式，即人类学习新领域的思维模式。然而，机器学习是非常脆弱的，他需要人类研究人员或者工程师的大量准备工作，特殊用途的编码，特殊用途的训练数据集以及为每一个新的问题领域定制的学习结构。现在的机器学习完全不像是人类那样的海绵式学习，人类不需要外科手术改变什么或者是特殊用途的设计就能够在新的领域取得快速突破。
与之类似的是，当人们听说计算机可以打败国际象棋冠军（ 1997 年）或者世界顶尖围棋选手（ 2016 年）的时候，他们倾向于认为，计算机在像人类一样“下”棋。当然了，现实中那些程序根本不知道游戏是什么，甚至是他们在玩儿什么。他们的适应性也很差。人类玩游戏的时候，规则的微小变动对人类影响不大。对于 打败世界顶尖围棋选手的 AlphaGo 或者打败国际象棋冠军的 Deep Blue 而言却并非如此。
手提箱文字导致人们错误理解了机器能够在人类从事的任务中做得多好。这部分归咎于 AI 研究人员——更不可饶恕的是他们所在的研究机构的新闻办公司——急于采用手提箱概念的实例来声明研究进展。这里的重点是“实例”（an instance）。这一细节很快就消逝了。标题党们宣扬手提箱文字，并扭曲了大众对于人工智能当前进展和未来前景的理解。
5. 指数定律
很多人都在遭受“指数主义”滥用的折磨。
每个人都对摩尔定律有些见解。摩尔定律说的是，计算机会按照时钟般的时间表变得越来越好。戈登·摩尔实际上说的是，装在微芯片上的元件数量每年都会翻倍。这在过去的 50 年是成立的，尽管翻番所需的时间常量从一年延长到了超过两年，但这种模式即将终结。
芯片上的元件数量翻番已经使得计算机速度持续翻番，引发内存容量每两年翻两番，还使数码相机分辨率越来越高、LCD 屏幕像素数也呈指数级增加。
摩尔定律生效的原因在于，它适用于非真即假问题的数字化抽象。在任何给定的电路中，是否存在电荷或电压？只要芯片原件越来越小，这一答案就始终是明确的——直到达到物理尺寸极限，我们面对的是只有几个电子存在的元件，量子效应开始占据主导。这就是我们现在的硅基芯片技术面临的问题。
在人们遭受指数主义折磨的时候，他们可能会觉得，用来证明论点的指数会继续快速增长。但摩尔定律和其他看似有指数关系的定律可能都会失败，因为它们根本都不是真正的指数级的。
本世纪初期，我在领导麻省理工学院的计算机科学与人工智能实验室（CSAIL）并需要帮助超过 90 个不同的研究项目组筹集资金时，我尽量利用 iPods 的内存增长向捐赠者展示事物在何等快速地变化。以下是用 400 美金或者更低价格买到的 iPod 中存储的歌曲的数据。
随后，我会推断出未来几年的数据，并问捐赠者这些随身携带的内存空间可以用来做什么。
按照上述方法推断到今天，我们应该得到的是一个有着超过 160000 GB 内存的、价格为 400 美元的 iPod。然而今天的顶配 iPhone （价格远不止 400 美元）也只有 256 GB 的内存，还不到 2007 年的 iPod 内存的两倍。一旦内存容量大到足够容纳任何一个普通人的音乐、APP、照片和视频的时候，这个指数定律就突然失效了。在达到物理极限，或者没有更多经济理由继续下去的时候，指数定律就会失效。
类似的，得益于深度学习的成果，AI 系统的性能获得了迅速的提升。很多人似乎认为，这就意味着我们会持续看到 AI 性能在正常基础上的同等倍数的提升。但是，深度学习的成果是 30 年的历史积累，而且是个孤立事件。
这并不意味着不会有更多的孤立事件，平淡的 AI 研究中出现的孤立事件会突然极大地提高许多 AI 应用的性能。但是，并没有说明孤立事件多久发生一次的“定律”。
6. 好莱坞的场景
许多好莱坞科幻电影的情节都是，世界和现在完全一样，除了有个新的转折。
在《机器管家》中，Sam Neill 扮演的理查德·马丁在坐着吃早餐，由 Robin Williams 扮演的人形机器人服侍着他。理查德拿起了一份报纸，边吃早餐边读着。一份报纸！纸质报纸。不是平板电脑，不是亚马逊 Echo 这样的播放设备，也没有与互联网直接进行神经连接。
事实证明，许多人工智能研究人员和人工智能专家，尤其是那些沉溺于人工智能失控和屠戮人类的预测的悲观主义者，都是同样的想象力匮乏的。他们忽略了这样一个事实，如果我们最终能够制造出如此智能的设备，彼时世界将已经发生了巨大变化。我们不会瞬间惊讶于这种超级智能的存在。人工智能会随着时间的推移而不断进化，我们的世界会被许多其他智能填充，并且我们将会拥有丰富的经验。早在想要摆脱人类控制的邪恶超级智能出现之前，就会有不那么智能、不那么好战的机器出现。在此之前，就会有脾气相当暴躁的机器出现。在那之前，就会有相当烦人的机器出现。在他们之前，还会有傲慢和不开心的机器出现。我们将在这个过程中一点点改变我们的世界，同时不断调整新技术及其应用环境。我并不是说未来不会有什么挑战。我要说的是，挑战不会像很多人想的那样突然而至和不期而至。
上页 1 2 3 下页