人工智能正在重型定义我们的时代?--未来智能机器人的觉醒与反抗

人工智能正在重型定义我们的时代？

——未来智能机器人的觉醒与反抗

吴飞     2017-01-19

人工智能技术与相关的产业，已经成为当下全球最热门的领域之一。全球主要发达国家都投入了大量的物力、财力与人力，展示了人工智能方面的研发。基于大数据生产产品的智库机构乌镇智库联合多家媒体在乌镇正式发布《乌镇指数：全球人工智能发展报告2016》显示，2015年全球共有超过800家人工智能企业成立。

中国也认识到这一前沿领域的重要的性。在出台《中国制造2025》之后，2016年4月，工信部、国家发改委、财政部又联合发布了《机器人产业发展规划（2016-2020年）》。《规划》明确，未来五年我国机器人产业要实现“两突破”、“三提升”，即实现机器人关键零部件和高端产品的重大突破，实现机器人质量可靠性、市场占有率和龙头企业竞争力的大幅提升。目前，包括百度、腾讯、阿里巴巴等企业都将人工智能提到了公司战略层面，不少企业已经在人工智能领域占据一席之地。华为等企业也纷纷表示，将启动人工智能领域的研发，并将之称为“改变人类信息化时代最重要的一个领域”。据中国机器人产业联盟统计，2016年国产工业机器人销量继续增长，上半年累计销售19257台，按可比口径计算较上年增长37.7%，增速比上年同期加快10.2个百分点；考虑到前期研发企业实现投产、新企业进入等因素，实际销量比上年增长70.8%，已连续多年保持了较高的增长速度，产业发展处于上升通道。但我国机器人产业在核心技术上、在关键零部件上，与国际一流水平存在一定差距。国外品牌占据了中国工业机器人市场60%以上的份额；至于六轴以上的多关节机器人，国外品牌占据的市场份额甚至更大，超过了80%。

一般意义上的机器换人，大概是企业发展的必然趋势。事实上，服务性的家用机器人，也进入到了人们的日常生活，笔者好几位同事就购买了机器人帮助打印卫生。

人工智能时代

这些机器人，都完全听从于人的指令，按人的意志来工作。但机器人如果插上了更智能化的神经，又会怎么样呢？

2017年1月13日，《纽约时报》首席书评人角谷美智子（Michiko Kakutani）采访了即将离任的美国总统奥巴马。奥巴马提到了中国科幻小说家刘慈欣的《三体》。奥巴马称三体背景宏大，而相比这部小说，他平日和国会的缠斗就显得分外渺小，毕竟他不需要担心外星人入侵。奥巴马说：“我不担心小说会因为科技而死去，因为人类就是一个喜欢讲故事的生物。我认为政治家最重要的任务之一就是讲一个好故事，并把人们都汇聚到一起。美国是个很特别的国家，我们不是一个单民族国家，我们也不是一个部落，大家也并不是在同一时间来到这个国家的。所以让我们和谐相处的基础就是共同的理念，而这就是一个关于我们是谁和什么对我们重要的故事。”

并不是所有人都像奥巴马一样乐观，牛津大学历史学博士尤瓦尔·赫拉利（ Yuval Noah Harari）在其新作《人类上帝：未来简史》中有着深深的担忧。Harari 声称，人类的旧敌——瘟疫、饥荒和战争，都已经是可控的了。“历史上首次”，他写到，“现在每天因为吃太多而丧命的人比被饿死的人要多；因为太老死去的人比感染病毒死去的人多；自杀而死的比被战士、恐怖主义和罪犯杀害的人多”。他认为，下一个世纪，人类要面临的挑战是如何获得永生、幸福和神圣，后者指的是提高人类的身体和认知能力，超越生物规范。

他认为，人类只是创造万物互联的工具，而万物互联可扩展到整个宇宙，这个宇宙数据处理系统如同上帝，人类注定会并入系统之中。他认为，几百万年来，人的感觉就是全世界最好的算法。但人类的大脑无法理解新的终极算法。但是，如果人类放弃以人为中心的世界观，秉持以数据为中心的世界观，人类的健康和幸福看来也就不再那么重要。人类只会成为宇宙数据流里的一片小小涟漪。他相信，让数据流最大化，把一切连接到系统。全球数据处理系统变得全知全能。新科学教信奉所有生物都是算法，而生命则是进行数据处理；智能正与意识脱钩；无意识但具备高度智能的算法，可能很快就会比我们更了解我们自己。他写道：“27.数据主义将人类体验等同于数据模式。18世纪，人文主义从以神为中心走向以人为中心，把神推到一边，21世纪，数据主义可能从以人为中心走向以数据为中心，把人推到一边。”

二十一世纪三种发展趋势

尽管有人认为，《未来简史》是一本华而不实的著作，但我还是认为，读一读并不是什么坏事。那么赫拉利提出了一些什么观点呢？我比较感兴趣的是他认为，人工智能强大后，人作为一个工作者的经济价值和军事价值都没有了，那么政治经济系统就会认为人没有价值。世界有三个趋势，对应着人的三种不同命运。人类整体可能还是有价值的，但每个人作为个体是没有价值的。也许有些个体还是有价值的，但他们是经过生物学升级改造的“神人”。

其一，人变得没用

为什么自由主义能成为欧美发达国家的主要意识形态？因为在工业化国家，人力是非常宝贵的资源。大工厂时代每个工人都特别有用，战场上也是人越多越好。重视每一个人，不仅仅是高大上的概念，也因为那时候的经济和军事需要每一个人。如果以后不需要了呢？现代战争越来越依赖高科技，网络战甚至就是几分钟的事。过去机器取代一些人的工作，人总是能发明新的工作，赫拉利说这可不是自然定律。而现在的趋势就是机器智能越来越比人更适合工作。比如股市的高频交易、普通律师、医疗诊断等等职业，都会慢慢被机器取代，而且准确率和效率更高。工业革命带来了无产阶级，现在人工智能革命也会带来一个新阶层：一个对经济和军事来说都没用的阶层。

其二，没用自主的人

随着人工智能的发展，人会变得慢慢放弃决策权。计算机与我们的关系，大概分三步走：算法相当于我们身边的先知，你有什么问题问它下，但决策权在你手里。算法相当于是我们的代理人，它告诉你一个大的方向和原则，它去执行，执行中的一些小的决策，它自己说了算。算法成了我们的君主，你索性什么都听它的。也许有种人不受算法控制，他们就是控制算法的人。

其三，变成“神人”

世界上总有一些精英是一直重要和有用的。算法不能理解这些精英，也不知道他们有什么需求，这些人才是世界的主人，站在算法系统背后，做最重要决策的人。普通人听算法的，算法听他们的。而且他们不是普通的“智人”，而是利用生物技术主动升级了的人，成了“神人”。20世纪的医疗技术以治病为主，21世纪的医疗技术可能给人升级为主要目的。而且只有极少数富人能花得起这个费用。也只有极少数人，系统认为给你升级是值得的。

尤瓦尔·赫拉利展望的，是精英阶层正在进化到某种无法辨识的人类状态，文中称为 Homo deus （神人）。在这个华丽的新世界中，其他人将会被抛弃，就想好像“华尔街上的一名远古猎人”一样，格格不入。

尤瓦尔·赫拉利的预言虽让人绝望，但也并不新鲜了。更有趣的，他把自己关于技术的推断置于自由民主演化的背景下进行。Harari 说，人类历史的大部分时间，人类是相信上帝的，这让他们的世界拥有宇宙秩序。但是，至少在世界上部分地区，科学又几乎同时给予人类力量，让人类把宗教放在一边，去寻求生存的意义。这种矛盾带来的漏洞现在被一个新的信仰——人文主义（Humanism）所填补。人文主义指的 是“把旧人类的生命、幸福和权力神圣化”，他写到。人文主义和科学之间的盟约已经定义了现代社会：后者帮助人们实现前者设定的目标。

《西部世界》：我们未来就是这样生活？

最近看了一部热播的美剧——《西部世界》。

https://v.qq.com/x/cover/vtxb95np45a6ooz/j002109hlhs.html

这是2016年HBO发行的科幻类连续剧，于2016年10月2日在美国首播。该剧的创意源自1973年同名电影，由安东尼·霍普金斯、埃文·蕾切尔·伍德、艾德·哈里斯主演。乔纳森·诺兰担任总导演，迈克尔·克莱顿担任总编剧。该剧讲述了一个令人深思的未来问题：机器人的反抗。在这电视剧中，人类已经不再热衷于玩网络游戏，而是创造了高科技成人乐园，体验更加真实刺激的游戏。里面有不少机器人接待员，他们过着设定好的剧情生活。而游客呢，现实中不敢的胡作非为，在公园里都能无限制放纵，嫖妓、追凶甚至滥杀无辜。提供服务的智能机器人，也不是一般的机器人。他们不仅具有超高仿真外形，还有自身情感，而且能带给游客最真实的体验。比如，中弹以后会流血，受伤以后会痛苦地嗷叫。智能机器人可以按照乐园开发者设定的程序有限“反抗”，但他们向新住民各种攻击都不会对新住民造成伤害。被新住民杀戮的人造人，每天晚上则由乐园管理人员们回收、清洁、修复、记忆清零，第二天太阳升起，新一批游客入园，智能机器人再进乐园中按既定情节“生活”，迎接新一波乘着火车进入西部世界的新住民。

不过，在程序的失误以及程序员要求机器人更接近于人类思维和情感的情况下，智能机器人的自主意识和思维使他们开始怀疑这个世界的本质，随着接待员（智能机器人）有了自主意识和思维，他们开始怀疑这个世界的本质，进而觉醒并反抗人类的故事。

这是第三集剧情：

人造人设计师伯纳德早就察觉到德洛丽丝的与众不同，但是他没有把这异常的情况上报，而是私下跟德洛丽丝接触。这天，伯纳德再次把德洛丽丝召回玻璃研究室里，与她交谈。伯纳德让德洛丽丝朗读爱丽丝梦游仙境的小说，并故意让她接触一些与“改版”有关的情节，德洛丽丝似乎在思想上也多少受到影响。当然这是伯纳德可控的范围，也是想看到的结果。年轻男子又来到了西部世界，这次，他在乐园遇到了一场骚动。

一名暴徒在随意杀人，一名妓女成了被挟持者。年轻男子看不过眼，终于拔枪把暴徒打倒，而他自己也中枪受了轻伤。虽然他们不会在这里有生命危险，但是一些为了真实感和刺激感而为的临场情景，总是为了满足部分顾客的需求而设计得极为真实。年轻男子的朋友这时赶来，看见年轻男子终于肯放下理性，投入到乐园的场景中，为此他也感到十分兴奋。两人看见了墙上的悬赏通知，年轻男子决定要在这里冒险一番。泰迪在德洛丽丝的故事线里，作为关键人物的存在。在最近，他似乎也受到德洛丽丝的影响，行为出现一些异常。

福特特意把泰迪召回，把他的故事背景加上，让他的思想更加饱满。因为泰迪之前的故事情节，一直是从外地处理完事情回来，然后重遇德洛丽丝，但到底之前发生了什么，与何人有深仇大恨，泰迪自己也不得而知。泰迪重新回到西部世界，这次，他要暂别德洛丽丝，然后和治安官等人一起去干掉“怀亚特”。“怀亚特”既是一个人，又是一个类似瘟疫的存在，就像魔鬼，可以干掉任何他想干掉的人。一位接待员跟他所待的群体失散了，运营人员察觉后，只好进入西部世界，把他找回来。埃尔希和她的同事一起做这个差事，两人找到这群接待员后，把他们定住，然后在他们扎营的地方研究一番。一切都没什么异常，但那位落单的接待员就这么离开大伙了。埃尔希在营地搜索时看见接待员们做的石雕，而让她感到奇怪的是，这些石雕背后都有一些奇怪的图案。埃尔希感到出现了异常的地方，于是拿着石雕研究起来。她的同事为埃尔希的行为感到好笑，笑话她再这么看下去，就能显示出星象图了。这番无意的玩笑却说出了重点，是的，这石雕上刻的图案跟猎户座星系图简直一模一样。埃尔希直觉认为，有什么事情即将发生。

天色渐晚，泰迪和大伙儿深入“怀亚特“的地盘，却遭遇到伏击。大部分伙伴都惨遭蒙面土著们的毒手，当场毙命。泰迪尚在垂死挣扎，然而他也意识到，这已是回天乏术之势。泰迪让他的一位同伴趁机逃走，然后带人过来支援。埃尔希和她的同事继续前行，但搜索了很久，都没见到落单的接待员。埃尔希找了个地方蹲下解手，突然，她听见附近的岩石传来异响，她立即拉上裤子走到声源的地方，发现那个落单的接待员，就卡在了两排岩石形成的深坑里。埃尔希立即呼叫男同事上来，随后用控制器让接待员进入睡眠状态，男同事套着绳索下了深坑开始干活。他们没打算把接待员整个人救出，因为只要脑袋还在便能继续研究，并重设一个接待员。就在男同事掏出刀子开始切割头部时，接待员突然醒来，任凭埃尔希怎么操作控制器，这个接待员都不听使唤。接待员打倒男同事后，爬出了深坑，随后搬起脚边的一块石头，举到头顶。埃尔希吓得屁滚尿流，她脚都软了，只想着下一刻，这个凶猛的接待员就要拿石头把自己砸死。意外地，接待员用搬起的石头猛砸自己的脑袋。埃尔希看着眼前的一幕，松了一口气之余，陷入了沉思。伯纳德再之前一次与福特的会面中，知道了福特曾经有一名叫“阿诺德”的拍档，现在已经身故。这个拍档跟福特不同，福特一直很清楚，这些人造人只是一件东西，而“阿诺德”则把这些人造人，当作是有意识的个体。伯纳德问起这个人，是因为最近很多接待员的言词中，都出现了“阿诺德”这个词，在听完福特的话后，伯纳德更加肯定，“阿诺德”生前留下一些程式还存在于这些人造人的思维里。这也跟伯纳德内心的想法不谋而合。

伯纳德再次与德洛丽丝会面，他这次没有强制地让德洛丽丝按照程式设定的话回答自己的问题，他希望她可以自由地发散自己的思维。德洛丽丝不知道自己懂不懂，但是一些奇妙的想法，和纵横交错的回忆，开始在她的思维里根植了。

德洛丽丝再次开始了新的一天，这次，泰迪没有回来。夜里，她独自回家，面对父母的死亡。就在她即将被暴徒沾污时，她拿起自己藏下的手枪，向暴徒开了一枪。逃跑中的德洛丽丝也中枪了，但她摸了摸自己中枪的地方，却发现毫发无损。她的思维开始错乱，整个人都跌跌撞撞，失控了。年轻男子在荒地上扎营过夜。突然，一个摇摇晃晃的身影往他这边走来。德洛丽丝支持不住，倒在了年轻男子的怀里。

面向未来，我们如何过好当下？

人创造智能技术，技术在人的压迫下反抗，这似乎不是什么新鲜的主题。因为当年爱因斯坦就提醒人们技术是双面剑。它在造福人类的同时，也会给人类带来极大的风险。有人分析说，《西部世界》这盘HBO科幻迷局并非毫无瑕疵，却很容易被人忽略，因为它提出的关于人工智能与科技的问题正是即将成为现实的科学未来。《西部世界》还利用了互联网的蜂巢式思维，对剧中隐藏各种秘密的线索框架进行审视。真正让该剧大受欢迎的还是融入经典西部元素的浓重科幻主题，并结合了西部片经典人物冲突威胁和永恒的生存困局，从多重角度挑战观众的智商，很难预料，如此众多的发展方向会把剧粉带到何种境界。

未来，人与机器，真实与虚拟的边界都消失了，人的主体性受到了严重的挑战。人工智能技术的发展，可能会将人放在一个特别危险的位置。也有人觉得，主体性是人傲慢的体现，觉得人是世界的主人，但实际上人和物本就该是平等的。当然人和自然物之间的平等是可以理解的，但是说到人和自己创造的物的平等，尤其是不能预测它的未来的时候，这种风险性，不止是对人类本身，还有整个自然环境，就是说技术的异化可能对世界带来破坏性的影响。

人类创造和发明技术，当然旨在造福人类自身，但技术一旦产生，却未必受制于创新发明技术的人。这是技术的诡吊之处。刘易斯·芒福德就认为，虽然人类发明了机器，带来一定程度的社会进步，但又并不仅仅是文明进步那么简单，技术更是一把双刃剑——技术并不仅仅只是技术而已，它实际上也深深地改变、甚至强制了人类自己。机器还带来了一种秩序意志和权力意志。芒福德认为，人类依靠机器摆脱了自然界的控制，却又接受了相应的社会控制。“有了电话以后，个人的精力和注意力不再由自己控制，有时要受某个陌生人自私的打扰或者支配”。这种控制已经非常之深，以至于一个抱怨很忙的城市白领，当他真的有时间支配时往往不知道怎么利用自己的自由。换言之，一旦离开现代工业奠定的体系，人们常会处于一种精神失调的状态。从这一角度来说，一个现代人其实生活得远不及古人自由。

美国乔治亚理工学院教授杰·大卫·博尔特写过一本书《图灵的人》，书名是个隐喻。从印刷术产生至今，人们主要是通过阅读印刷媒介而感知世界并与他人交换思想，不过，今天计算机却成为我们这个时代的主导隐喻。“计算机创造了人类与信息、工作、力量和自然之间的新型关系，从而定义了我们的时代。对这种关系的最佳描述是，计算机将人类重新定义为信息处理器，人类本质上则是被处理的信息。简而言之，计算机最基本的隐喻信息是人类是机器，是会思考的机器，是确确实实除了机器什么也不是的机器”。波兹曼更是用幽默的笔调写道：“新技术重新定义了‘自由’、‘真相’、‘智力’、‘事实’、‘智慧’、‘记忆’、‘历史’这些与我们生活休戚相关的词汇，而且从来没有想过停下脚步通知我们一声，而我们也从来没有停下来问一声”。

显然我们需要对人工智能可能会对人类社会产生的影响进行更全面的评估，无论是自然科学家外，还是人文社科的学者们都需要对这一未来进行深入的思考，其中人文社科的思考尤其必不可少，因为他们的思考会有另一种不同的向度，将有利于对这种未来世界中技术与人的价值、道德和意义进行更深入更全面的评估。