新浪博客

智能陷阱（一）：免费的互联网游泳里,我们如何成了那个被卖掉的产品？

2025-08-08 15:37阅读：

http://blog.sina.cn/dpool/blog/u/1132436634

大约是欧美的智能机器人方面的电影看多了，我一直很担心AI将来强过人类，把人类分分钟灭掉。这些天打开电视，到处都是秀机器人的节目，虽然这些人行机器人动作还僵硬甚至需要人的遥控，但想想昨年才是AI元年，这样的发展，应该是相当快速的了。
昨天刷到一部2020年美国拍的纪录片“智能陷阱”（The Social Dilemma），里面有句话是这样说的：我们都在担心这个时刻，技术什么时候超越人类的智慧和力量。但有更早的时刻，技术超越人类的弱点时，这个超越点就是上瘾。我原来以为那些玩手机上瘾的人单纯就是意志力薄弱，控制不住诱惑。看了这部纪录片才知道，原来这并不仅仅是意志力薄弱的问题，这一切的发生更多的是技术和算法利用人类弱点对人类的一个操控。我原来一直觉得手机上那些免费的东西还是挺不错的，好玩又不花钱，唯一浪费的可能就是我的时间。但我的时间大部分也是在做无聊的事情，所以好像也不算多么浪费。我们最初也不明白那些免费的社交软件和平台为何会有那么的经济创收，后来我们也知道了他们的收入来源于广告。我觉得有广告也没有什么啊，看电视不一样有广告。在没有看这部记录片之前，我真的完全没有意识到或许“技术和算法”已经操控了很多人的正常生活（“很多人”里或许也包括我自己）。
这部片子里提到了这样一个现象：谷歌并不只是一个搜索工具，脸书并不只是一个你和朋友联系的社交工具，其实种种互联网产品，他们都是在抢夺我们的注意力。仔细想一下这些互联网公司是怎样运作的。用户免费，广告商付费，广告商为什么付费？他要花钱交换你看广告，我们的关注就是卖给广告商的产品。这样说可能过于简单了，产品其实是我们的行为和认知的逐渐的一点点未察觉的改变。这才是他们拿来赚钱的唯一的东西：改变你做的事，你的思维方式，改变你这个人。
那么他们又是怎样改变你这个人的呢？这就要从商业广告说起了。每种商业都有个梦想：投放一个广告，有成功的保障！这就是广告平台的生意，出售确定性。为了这个商业成功，必须有预判的能力，而优秀的预判能力始于一个必要的条件那
就是数据。
现在有个词“大数据时代”，上网的人都知道我们自己的数据也是这大数据游戏play里面重要的一环。我们清楚地知道我们免费使用的那些平台或APP会卖掉我们的数据，最终汇聚成这“大数据”。只是很多人都没有意识到这些被卖掉的数据意味着什么。首先我们来看看这些数据是怎样生成的：我们使用互联网社交产品的一切行为数据都被监控和记录，具体到你在某张图片停留多久，我们的孤独、抑郁时刻，我们爱看前任的信息，我们深夜做什么，这些系统统统知道。这些我们不经意流露出的数据，都被喂养给系统，而这几乎不需要人看管，系统会不断做出越来越好的预判，判断出我们是什么样的人，我们要做什么。平台应用的兴趣肯定不是卖掉数据，而是用数据建立一个可以预测我们行为的模型，拥有最优秀模型的公司就是最后的赢家。
《智能陷阱》这部纪录片里还提到：特里斯坦·哈里斯在斯坦福大学的劝服技术实验室研究如何用心理学知识劝服人们，以及如何把这个运用到互联网技术中。很多硅谷的互联网公司的人都学过这样的知识。他们想修改一个人的行为，让人们按照他们的意愿去做，譬如不停的用手指滑动屏幕浏览信息。往下拉，最上面是新的内容，再往下拉，上面又是新的每次都一样，这在心理学上被称作积极正强化。你不知道什么时候能刷到，或者你能刷到什么。这其实和赌场里老虎机的原理一样。无数工程师的工作就像黑客一样黑进人们的心里，然后获得更多产品数据的增长，更多的用户增长，更多的活跃。他们会做大量的AB测试，然后根据结果不断优化就可以让用户做他们想让用户做的事，这就是操纵。很多时候他们诉诸的是人的潜意识，你被影响时甚至根本没有意识到，因为这是在利用人心理中最脆弱的部分挣钱。
纪录片还明确提出“facebook”等的社交软件的推送方式非常错误。这些技术产品不是由努力保护儿童的心理专家设计的，他们的设计是让算法非常善于给你推荐下一个视频，非常善于让你拍照加滤镜。这些东西不仅在控制我们注意力放在哪里，而且越来越深入到大脑的根部，夺走孩子的注意力和自我价值。即使是两个很相似的朋友，看到的也是完全不同的内容，因为算法会按照怎样对一个人来说最完美来呈现内容。逐渐你会有一个错觉，所有人都赞同你，因为给你推送的新闻中，每个人都和你极其相似，一但达到这种状态，你就容易被操控了。所以《智能陷阱》说：我们用互联网技术创造了全球一整代人，他们成长的背景中，彼此之间的交流，文化中都渗透着操纵的鬼影。
那么我们可以逃出这种“被监视被操控”的生活吗？纪录片里并没有给出解决方案。那些创造出这些技术的精英们自己貌似也摆脱不了，他们和我们不同的是他们能清晰地意识到这些监视和操控，但是他们也知道：算法有自己的思想，虽然它们是由人写的。它被写出来的目的，是建立一个机器，这个机器会自己改变。作为人类，我们几乎已经失去对这些系统的控制，因为是它们在控制我们看到的信息。算法是内嵌在代码中的观点，算法并不是客观中立的，算法被某种成功的定义优化。你给AI一个目标，我想要这样一个结果，AI自己去学习怎样实现，这是机器学习概念的由来。没人真正明白，为了实现这个目标，他们在做什么。
有一种说法是，我们应该去适应它。我们要学着与这些设备共存，就像我们学着与其它事物共存一样。但这个说法忽略的是，有些东西明显是全新的。这其中最危险的是，这是由技术驱动的成指数级向前发展的。计算机处理能力，从上世纪60年代至今，增长了亿万倍，我们身边没有任何东西以这个速率增长。而我们人类生理上，大脑根本没有丝毫进化。我们的大脑已经存在几百万年，然后出现了这样一块屏幕，屏幕的另一端是数千工程师和超级计算机，有着与你不同的目标，那么这个游戏谁会赢呢？
果然，这天下就没有免费的午餐，如果有，那必然有着要让你付出更多代价的陷阱。因为，免费的东西才是最贵的。一场交易里，如果你没有花钱买产品，那么你就是被卖的产品。就问你，怕不怕？

我的更多文章

下载客户端阅读体验更佳

APP专享