如果机器的智力超出了创造者掌控范围会怎么样?机器人统治世界还要多久？2015夏季达沃斯论坛首日展开的“情景假设What If”系列对话上,来自不同国家的专家对这个问题展开了讨论。
主持人、《科学美国人》杂志的主编马里埃特·迪克里斯蒂娜在现场抛出三个问题,如果你犯罪了,希望人类法官还是机器人法官?如果你被诊断出严重疾病,你是希望人类医生,还是人工智能的医生治疗?最严肃的问题是,如果你的国家突然爆发战争,希望人类来防御还是机器人防御?
现场观众举手投票的选择中,人类法官略胜一筹,而后两个问题机器都获得胜利。而在主持人公布的网络票选中,机器在三项中全部获得胜利。
机器已经比人类聪明?
“其实机器在很多方面已经比人类聪明了。除了我妻子,手机对我了解最多。”卡内基梅隆大学计算机科学学院教授汤姆·米切尔说。
“机器在算术、图像处理等很多方面都比我们聪明,一旦计算机比我们更好,是不是能帮助人类变得更加聪明,我们需要他们的帮助和支持。”米切尔说。
专家和现场提问观众都对人工智能的快速发展表达出了担忧。首当其冲的就是就业问题,人工智能已经在和人类抢饭碗了。
米切尔观察到,计算机在很多方面取代了人的工作,未来会做更多的工作,很多岗位将会受到影响,自动驾驶就是一个很典型的例子。
日本学术振兴会理事长安西佑一郎认为,一些专业人士已经被人工智能部分取代。“未来10年、20年间,人工智能将取得巨大进展,与商业的联系将会更加紧密。”他预言。
安西认为,人工智能正在变得更加多元化,将会帮助人类在很多事情上做出决定,也将会在商业、教育、医疗、设计各个领域,帮助人类做到更好。
当人工智能拥有光明前景,就业岗位就会减少。当人们担忧丢工作的时候,Vicarious公司联合创始人迪利普·乔治认为最好的情况是人工智能充分就业,未来人类就不需要工作了。“决策者应该仔细考虑这个问题。”他说。而Vicarious一词的意思就是“替代”或者“代理”。
米切尔相信,未来5到10年,计算机开车将更加安全,计算机可以阅读文件,对文章进行推理摘要,帮助人类判断,也会在医疗中获得大量新的数据,改善生活,从而影响经济。
安西提出,随着人工智能的发展,会引申出很多伦理问题和社会问题,是时候让人类讨论机器人的法律问题了。
杀人机器人有多远?
“我们需要机器人和我们站在同一边。”加州大学伯克利分校教授、全球议程理事会人工智能与机器人议题组专家斯图尔特·罗素说。
他认为,这是30年到50年后需要重视的问题。
“机器人会杀人,就业会终结,甚至会对人性产生影响。”他说,已经有人在创造一种在没有人类控制的情况下自动杀死人类的机器人,机器对就业的影响也将对世界经济造成最大的挑战,需要更多的社会保障。
在回答观众提问的机器人武器化问题时,罗素表示,武器是由人使用的,是针对人的。“不是人和机器的对抗,而是人和邪恶的对抗。”
他认为,未来会不会更加严重取决于你希望看到什么样的未来。
当人们在担忧杀人机器人的时候,隔壁展览中的几个机器人正在展示自己帮助人类的功能。
Anthrotronix公司的意念控制手套和机械手臂在体验区供人们尝试,制造者期待未来它们可以进入危险环境和医疗领域。卡内基梅隆大学的虚拟同伴学习人工智能尚未投入市场,意在通过语音交流帮助幼儿学习交流和沟通。
记者体验了香港科技大学研制情感识别机器人,它会通过面部识别和声音识别交互者的感情状态。在问了记者三个问题之后,它死机了。
人工智能统治世界与“意识”无关
罗素认为,智能程序不会有恶意,但如果他们能够像人一样做决策的话,就能够打败人的智能了。
他认为,人们所讨论的人工智能对人类的威胁,今天还很难预测。但是就像当年说原子武器是一种威胁,也不是就不要研究物理了。他更倾向于认为,人工智能不是威胁,而是挑战。
对于机器会不会有意识,他认为,“意识”仍是生物学家、哲学家探讨的问题,是一个没有定论的概念。
“不要认为机器是有意识才能控制世界,没有意识也能控制我们。一个机器控制世界、人类的能力和他是否有意识完全没有关系。”罗素说,这主要取决于机器人做出什么样的决策来实现目标。
在“机器人将会占领世界?”的讨论中,Rethink Robotics公司创始人、董事长兼首席技术官罗迪·布鲁克斯和罗素持不同意见,他认为,目前对机器的一些担忧是会在技术发展中解决的。
“当我们发明出非常坏、非常恨我们的机器之前,我们会先发明出比较不那么讨厌的机器。”布鲁克斯说,科技是一点一点进步的,以我们今天的科技水平不必担忧明天的科技带来的问题。
布鲁克斯说,人类发明的机器还不一定会讨厌人类。“我的孩子们都还没有恨我。”他笑道。
人类将不能理解机器
机器的发展已经超出人类预期。
布鲁克斯说,机器人目前在识别方面做得很好,这是电子游戏行业的巨大推动,而机器人的协调和感知仍需要材料的进步和新的运算机制的诞生。
未来的机器有可能产生出人类无法理解的思维方式,导致人类和机器无法交流。“我们现在已经有一些这样的例子了,比如谷歌的‘做梦’人工智能,产生了奇怪的动物的画面,但它是怎么做到的呢,谁也不知道。”
罗素说,当给定机器人一个目标,它实现起来的手段和方法可能是完全超出人类思考范畴的。“我们希望他们的方法是我们会感到满意的。”他说。