机器并不爱你，它们满怀恶意

2016-02-01 11:08阅读：

http://blog.sina.cn/dpool/blog/u/1812671331

机器并不爱你，它们满怀恶意

如今我们在生活中享受到的无限便利以及与世界的连接程度，放在 20 年之前是完全不能想象的。但是人们为了享受这些好处，必须要取悦那些将一切化为现实的技术。事实上，技术已经具有了某种人格，甚至于几乎成为了我们本体人格的一部分。但是这种与技术的亲密关系也时不时地会让我们看到这种关系当中的黑暗面：有时候我们的机器设备看上去似乎是想着法子与我们对着干。手机会在你急需的时候自顾自地重新启动，电脑会在你还没来得及保存的时候突然死机，当你演示代码的时候一个 Bug 会突然蹦出来。
机器们的这种反常行为看上去并不是简单的故障，而是更像英国作家保罗 · 詹宁斯（Paul Jennings）在上世纪 60 年代提出来的概念「Resistentialism」——来自于无生命物体的恶意。我们经常会 FOBIO（被无生命物体挫败）或者 FOILED（被无生命物体或者难用的电子设备骗倒）。作家爱德华 · 滕纳（Edward Tenner）总结了新技术给人们带来的一些出其不意的负面效果，这更像是一种技术对人类的报复：让每个人都用上电子邮件，但结果并不是实现无纸化办公的理想境界，反而消耗了办公纸张；让每个人的网络连接速度变得更快，但随之而来的并非闲暇时光的增加，而是让人们在工作时间更加容易走神。程序员们谈论着神出鬼没的海森堡 Bug（（Heisenbugs））：这个 Bug 让程序崩溃了，但当程序重启后，这个 Bug 又消失了。不论你用多少的时间和精力来试图让 Bug 重现，Bug 就是不见了。它得名于德国物理学家、量子力学的创始人沃纳 · 海森堡（Werner Heisenberg），在海森堡学说中最著名的就是「测不准原理

」。

机器并不爱你，它们满怀恶意

如今你已经可以把将整个世界的信息都囊括其中的小巧手机装入口袋之中，然而将这些智能设备设计得太过小巧也会带来乌龙指问题：设备屏幕上显示的数字对于人类手指来说太小了，点错在所难免。（一些骗子会利用乌龙指问题带来的漏洞，比如说设置一个与人们常用电话号码非常相似的诈骗号码，只要你误拨了就会损失钱财。）针对乌龙指问题的解决方案就会有自动矫正软件来检查我们的拼写问题，但是这又带来了新的问题：这一类自动矫正软件往往会让我们输入的信息中出现不合礼节甚至是荒谬的错误。其中一种错误被称作库比蒂诺效应（Cupertino effect），之所以会起这个名字是因为在早期的苹果自动校正软件中经常错误地将单词 cooperation 更正为苹果公司总部所在地的 Cupertino。这是因为早期的苹果自动校正软件体只能识别有加连字符的 co-operation（合作），不能识别出 cooperation。
数字技术给我们带来了五花八门的选择，但是这只会让它变得更加难用。尤其是在它很难辨别出设备的确切状态时，它就会陷入模式混淆中，这不仅会带来相当严重的后果（比如说空难），还会给人们带来许多琐碎的烦恼（当你在无意中锁定大写键的时候尝试多次输入密码错误，当下就知道有多烦恼）。
我们所生活的世界越来越多地由复杂的系统所操纵，这些系统中所使用的多种技术不仅仅相互联系，而且一损俱损，一荣俱荣，只要有一个不能正常工作，其他都歇菜（这就是人们所说的紧密耦合系统）。大部分的复杂系统会留有余地并且具备防错机制去避免失误，然而在一个系统当中的所使用的多种技术之间存在的互动是如此的复杂，以至于系统本身也无法预测到那些可能对于系统造成伤害的种种失误都会以何种方式出现。因此，在这些系统当中出现各种问题只是多与少的问题，想要完全避免是不太可能的，这些问题有一个听上去矛盾的名字——正常的事故。系统并不是严格地按照墨菲定律行事，它更像是遵循着墨菲定律的变体：「如果一件事情要出错，它通常不会马上出错，但是早晚要出事的。」别忘了，这些无生命的物体就是要与人们对着干呢。
文章来源：IEEE，由 TECH2IPO / 创见陈铮编译，首发于创见科技（http://tech2ipo.com/），转载请注明出处

举报/Report

我的更多文章

下载客户端阅读体验更佳