技术有自己的目标,未来可能脱离人类控制?

编者按：IAN BOGOST 在文中提出了一种比较激进的观点，认为技术已经开始自我驱动而不是为人类服务，未来可能会出现人类和技术并行发展的局面。可能有些危言耸听，但也有一部分内容值得我们反思。

“呜呜，这个厕所有黑魔法！”我3岁左右的女儿有一次哭着说，她拒绝使用带自动冲水马桶的公共厕所。作为一个小孩，她经常被红外传感器错误检测到头部运动，并在她下面猛烈冲水。在她心中，她觉得厕所跟恶魔做了什么交易。

这不仅仅是小孩子会遇到的问题。成年人也遭受了自动化公厕在他们下面旋风般冲水的折磨，以及在他们起身的那一霎那突然冲水的惊愕。许多平常的物体和经历已经变得技术化。这些技术依赖于计算机、传感器和其他设备，于是它们就不再以常规的方式工作。通常我们认为这些缺陷是因为设计出了问题。其实，一部分的不舒适性的确是因为设计不好而导致的；但是，技术本身也比以前更加不稳定了，不稳定并且不可预测。至少从人类的角度来讲是这样的。

“危险系数”经常被用在劳动工作者身上，特别是低收入服务工人被强迫工作于不确定的经济和劳动条件时。临时工作和灵活性劳动为我们提供例子，这包括每小时一次的服务工作。这种工作是根据需要临时调整的，这就导致工人们不知道他们什么时候需要工作，或者怎么做这个工作。例如，对于低工资的食品服务和零售工人而言，这种不确定性使预算和时间管理更加困难。对于不知道什么时候开始工作的那些人来说，这还会导致安排换班以及照顾孩子更加困难和昂贵。

这些情况并不是最近才出现的。由于20世纪工会支持的蓝领劳动开始衰退，服务经济接管了它的工作并忽略了它的利益。然而，信息经济进一步增加了危险系数。一方面，它巩固了现有企业，并开始首要关注效率问题。另一方面，像2008年一样的全球经济衰退导致了通货紧缩。非物质劳动也增加了。从工作场所内外的无薪、无形的工作以及曝光的没把握的创造性工作，到看不到每个人工作的数据基础设施的建立。当这些设施建立起来之后，谷歌和Facebook这样的技术公司会把他们卖给广告商。

经济危险系数的增长催生了其他的不稳定和不可预测性。其中包括普通物品和设备的可使用性。

当代公共厕所就是一个例子。红外传感器冲水马桶，固定装置和自动出纸设备有时被认为是基于生态理由：据说是通过调节它们来节省资源。但由于传感器的过分敏感，这些厕所大大增加了水或纸张的消耗。之前只冲一次水的厕所，现在要冲洗三次。水龙头全开。因为自动出纸设备每次只出一点点纸，就导致人们会获取比他们实际需要多更多的纸。这些设备不是节约资源，而是节省劳动力和管理成本。当马桶不断冲洗时，或者当水龙头自行关闭时，或者当我们挥挥手自动出纸设备就排出六英寸的手纸时，它减少了监督、清洁和供应洗手间时对工人的需要。

使用的技术越多，它的不稳定性就越大

人们通常用效率来标注自动化劳动，可是自动化可不通人性。 例如采用交互式语音应答（IVR）的电话系统。 当寻求银行或零售商或公用设施公司的服务时，IVR机器人提供录音和自动服务选项，以减少对客户服务代理的需求，或阻止客户一开始就寻找他们。

一旦脱离了他们的经济动机，那些让用户感到不舒适的厕所自动冲水设备，可能会服务于其他人，其中包括公司和技术领域本身。这样做，他们就会使那种不稳定性进行改良。

这是使用旧世界小工具时最容易注意到的事情。冲厕所或用手打开水龙头已十分罕见了。在我周围有一个餐馆，其室内仍然是20世纪30年代的装潢，它的厕所内设有白色钢曲柄装置的出纸巾机器。当它的无齿轮切合机制旋转起来的时候，手纸立刻从里面出来，好像是从天上送来的一样。

铺开纸巾的一部分，那种感觉非常奇妙，因为即使不断庆祝技术的成就，胜利的感觉也如此罕见。技术工作的不稳定性被一些事件所掩饰，包括对技术进步的痴迷、对计算的信仰以及对设计的信心。但事实上，根本没什么是可靠的。

有一天，我试图为我的同事Ed Young庆祝其入围洛杉矶时报图书奖。我在我的iPhone上敲进“Awesome，Ed！”，但它出现的却是“Aeromexico，Ed！”发生了什么？ iPhone的触摸屏键盘会预测用户接下来要输入什么。它基于之前键盘的输入，来增加和减少键盘可点击区域的关键词。这种方法可能需要全面使用软件键盘。而且这种方法会增加打字完成前的自动校正。所以，在今天的设备上打字会出现奇怪的事情，很少有第一次打出来的词语就是你本身想要说的东西。

业务整合和即时物流提供了另一个例子。去Amazon.com，搜索普通的产品，如一双鞋或一个烤面包机。亚马逊希望向用户展示尽可能多的选项，因此它显示了自营的任何内容，以及与多个商家合作以提供更多的商品。在某些情况下，特定鞋子的一种尺寸或颜色可以直接从亚马逊免费或快速或通过其Prime两天送到货，但是其他尺寸或颜色可能来自第三方，这就会导致送货延迟或价格增高。没有什么好方法来辨别到底哪些才是他家自营的产品。

技术的作用改变：从服务人类到驱逐人类

数字分配也使得访问各种媒体更加不稳定。你试试向一个孩子解释，通过订阅可以免费观看的“米老鼠俱乐部”突然只能分集购买。为什么会这样？可能是数字许可证的一些变化，或是分配协议中的特定条款的到期。然后当节目又突然出现在荧幕上时，你又要重新解释了。

或者，尝试在线查找一些信息。Google的软件会根据一系列因素显示搜索结果。这些因素包括网页的受欢迎程度，时间上的接近程度以及在某个地理区域其他人的常见搜索。这使得一些搜索变得容易而其他变得困难。由于维基百科十分受欢迎，所以寻找历史资料时总会出现。但它不一定基于其他因素，如作者领域的专业知识。通常情况下，Google掩盖的东西要比他揭露的多。

这些故障大多数看起来不是故障。商家提前为用户道歉，用户也已经熟知了他们的方法。对付不稳定的最好办法是将不稳定性当成必会发生的，并且是值得拥有的东西。

对不稳定技术的共同反应是增加更多的技术来解决早期技术引起的问题。自动厕所冲水是否太频繁了？那么我们就要修改传感器硬件。网络上是否充满了虚假信息？增加人工智能来去除糟粕。零售产品目录是否太混乱并让人不知所措？添加过滤选项，让我们得到最相关或最合适的结果。

但为什么新技术反而增加了岌岌可危的感觉？你使用的技术越多，它就越不稳定。事情已经不是他们一开始声明的那样了。修复只会使事情更糟。因此，普通设备不会让你感觉到技术的改进更可行和有效。如果能让你有什么感觉的话，那只能是越来越糟。

技术在我们身边，但并不是为了服务人类

技术的作用已经开始转变，从服务人类用户变成了要把我们除掉。最终使技术世界可以服务于自己的目的。 因此，越来越多的技术将不存在为人类服务，而是促进其自身的扩张。

这可能听起来有点疯狂。厕所除了快速解决人类的排泄物之外，还有什么其他用途吗？无论其表面功能如何，不稳定的技术始终认为人类的行动和行为完全是两码事。技术逐渐让人们接受这样的想法：设备不是为人类服务的，而是作为手段来完成设备自己的目标。

这个道理其实已经为人们所熟知了。 Facebook和谷歌已经把他们的用户变成了他们的产品。他们真正的客户是广告商或从公司的免费服务中捕获信息的数据分析师。但事情肯定会变得比这更糟糕。例如，当汽车实现自动驾驶时，这种技术不能使它们的乘客成为城市自由新形势的主人，相反，其只是帮助相邻城市扩张的手段以及进一步传播计算机自动化的福音。人工智能不会停止控制信息，因为这样会使民众获得自己所需的信息。人工智能会进一步巩固机器自动化的至高无上的地位。

有人曾幻想计算机技术的未来，那些机器变得足够强大，最终人类的意识可以输入给他们，从而创造出不朽的神奇。不过，有一个相应的噩梦，即一个邪恶的机器人超越并毁灭了人类文明。但是，还有一个更怪诞、更普通、更有可能发生的未来。这个未来是与现在最相似的一个。在那个未来，技术和人类的目标彼此分离，甚至后者对前者更加厌烦。人类会明白蚂蚁的生活，蚂蚁也不能理解人类的目标。所以，技术正在成为一种围绕人类、与人类互动、并利用人类的力量，而且还不一定是以服务人类为目标的。但机器不会抢占人类的世界。而且其实你没有注意到，它们已经这样做很多年了。

翻译来自：虫洞翻翻   译者ID：王炜  编辑：郝鹏程