有人说，这是网飞今年最好的纪录片，因为它告诉了我们一个沉默的真相。

知情者不愿告诉我们的真相。

《监视资本主义：智能陷阱》宣传海报

《监视资本主义：智能陷阱》是一部挖掘社群网路如何对现代人际关係及社会造成影响的纪录片，它提出很多社群媒体网路造成的问题，更直指我们切身观察到的：人民世界观趋向两极化，社会出现极端政治的倾向，这些问题核心其实都与数十年网路科技的大跃进息息相关。

这部影片中采访了各大网络公司离职的业界大佬。

由他们之口，说出一个细思极恐的事实：

过去，用户使用产品，付费购买。

现在，用户免费使用产品，广告商对产品付费。

也就是说，广告商才是顾客，而我们成为了商品。

影片中有一句话，”如果你没有花钱买产品，那你就是被卖的产品”。

影片截图

互联网的产业模式，正在从售卖商品，转变为售卖用户。

为什么社交软件让你上瘾？

上文提到了，用户成为了被售卖的商品。为了更多的盈利，就必须提高用户的黏性和数量。于是，各种推荐算法机制产生，这些算法的目的一致，就是要让你的手不断地在屏幕上滑动，让你上瘾，让你无法放下手机。

影片中提到，网络利用了心理学中的“强化理论”来让用户产生黏性。

影片截图

美国著名心理学家斯金纳( B. F. Skinner) 经过对人和动物的学习进行的长期实验研究，提出了强化理论，又叫操作条件反射理论。他所倡导的强化理论是以学习的强化原则为基础的关于理解和修正人的行为的一种学说。

斯金纳认为人或动物为了达到某种目的, 会采取一定的行为作用于环境。当这种行为的后果对他有利时, 这种行为就会在以后重复出现; 不利时, 这种行为就减弱或消失。人们可以用这种正强化或负强化的办法来影响行为的后果, 从而修正其行为, 这就是强化理论, 也叫做行为修正理论。

在首次打开软件的时候，我们都会被问及要不要打开通知推送。如果选择打开，那么一旦在软件上收到信息通知、点赞、评论，手机就会立即弹出铃声，消息悬浮在屏幕上，提醒你：有新的消息了。

人们看到新的推送，内心会产生愉悦之感，然后注意力就会不断地被分散到手机上。这种通知的铃声，正像招魂铃一样，把你的思绪从连贯的工作、学习状态中拉出来，打碎。

为什么推送消息会对人产生正积极强化？影片从生物学角度进行了解释。

影片截图

影片中说，问题是，社交媒体就是一种毒品。我们有着基本的生物学欲望，去和别人联系，这直接影响着悬赏通路中的多巴胺释放。这个机制背后，是几百万年的进化，让我们聚在一起，群居生活，找到伴侣，繁殖我们的物种。

算法是内嵌在代码中的观点

影片中提到技术公司中的三个主要目标，一个是参与度目标，就是增加你的使用，让你一直滑动屏幕。一个是增长目标，让你不断回来，尽可能多地邀请朋友，让他们再邀请更多的朋友。最后一个目标是广告目标，确保一切按照预期发展。

为了实现目标，各个技术公司都建立了一套自己独特的算法。

在当前的人工智能时代，算法在决策体系中逐渐占据主导地位，那么算法是如何产生的？

算法依据风险评估结果或相关分类，来决定是否提供一些机会，或将他人无需承担的成本强加于某客体。算法歧视之所以普遍存在，是因为算法的目的、设计理念、技术标准等无不渗透着设计者或使用者的主观选择与价值追求，设计者或使用者可能将自身的歧视或偏见嵌入算法决策系统。

Pere、Elkin-Kore认为，算法自动化决策不是根据人类易懂的规则做出的，不仅没有人工干预，而且常常缺少可解读的数学技术。更糟糕的是，算法所做出的决策可能是错误的、带偏见的甚至具有破坏性。

另外，数据质量本身也会影响算法决策的结果，因为算法是根据历史数据进行训练而生成的，存在复制不公平/歧视性历史记录的风险。

数据的不正确、不完整可能造成算法决策所谓的“带病进出”现象。数据是社会现实的电子化反映，本身也可能带有歧视或不公，如此数据喂养的算法结果自然会烙上歧视的印记。

在社会层面，算法歧视会放大用户的弱势（缺陷）效应，导致弱势群体越来越被无情排斥，加剧现存的不公平现象，给整个社会造成无法弥合的裂痕。

所以，Cathy O'Neil说，算法是嵌入在代码中的观点。

因算法不会让事情变得公平。如果你只是轻率地、盲目地应用算法，它们不会让事情变得公平。正如之前饿了么上线的“多等五分钟”功能，看似是在解决问题，其实是在隔靴搔痒。因为这个矛盾的根源在平台的算法与外卖员，让顾客让渡部分利益无法真正地拯救那些“困在系统里的外卖员”。

算法与人的反思

算法和人类的关系分为为三个阶段：

第一步，算法是我们的工具，我们有什么问题都可以问它，但决策权在我们手里。

第二步，算法是我们的指示灯，它会告诉我们大方向和原则，然后我们去执行。

第三步，算法成了我们的上帝，我们索性放弃思考，什么都听它的，任由他们指挥。

但我们放弃思考，就丧失了主动权，完完全全成为了算法的奴隶，落入算法的四大圈套中。

第一，工具奴隶圈套：你是他的奴隶。

第二，圆形监狱圈套：你干什么他都知道。

第三，信息茧房圈套：你只会收到这些信息。

第四，价值迷失圈套：你可能被坏内容影响

快手创始人宿华有一段话被许多媒体引用：算法是没有价值观的，但是做算法的工程师是有价值观的，就好像科学虽无国界，但是科学家有国籍的。

所以算法的背后是人，算法的价值观就是人的价值观，算法的缺陷就是人价值观上的缺陷。

《小王子》里写道，如果你要驯服一个人，就要冒着掉眼泪的危险，一旦你驯服了什么，就要对她负责任，永远的责任。

人创造出算法，就需要对它负责。否则，算法就会开始试图驯服人类，想把人类驯服成宠物一样，或许人类终于有一天觉悟了，就会联合起来推倒“算法”。那么也许尤瓦尔·赫拉利在《未来简史》中的预言就会成真。

“人类将进化成新物种”，“人作为个体的价值将不复存在，将近99%人类工作将是毫无价值”，并且“算法将统治21世纪，全人类就是一个数据处理系统，而每个人只是里边的一个芯片，一旦这个系统找到更高效的计算方式，人类将有可能被抛弃。

——《未来简史》

-END-

更多温州心理咨询|乐清心理咨询优秀文章请关注童莉茴心理咨询中心。