公告：脸书新闻--facebook刷粉丝网站
文 | 冯皓辰 （中国人民大学硕士研究生）
从菲利普·迪克的科幻文学《仿生人会梦见电子羊吗》，到詹姆斯·卡梅隆的《终结者》系列电影，再到大友克洋的动画电影《阿基拉》，以上种种经典的赛博朋克作品往往共享同一类似的主旨：映射现代发达社会的人们对于日益进步的信息与人工智能技术所携带的潜在危险性的焦虑与恐惧。而在这类作品当中，作为圈养人类的奴隶主的人工智能往往以一种具象化的存在形式被呈现于众。但倘使我们去回想当下日常生活里的点滴时刻：在结束了一天的工作之余，瘫陷于沙发里，手指游走于手机屏幕上，沉醉于社交媒体不断推荐给我们的海量信息与精彩内容，不知不觉间便投注了大部分的空闲时间，已然忘记最先浏览的内容为何。基于以上，我们会发现，在手机依赖症与社交媒体成瘾现象日益流行的今日，我们同样，正在丝毫无法察觉到具象化敌人的前提下，不断地以某种潜移默化的方式，接近着赛博朋克作品所描绘出的技术对人类进行操控的图景。
近日，Netflix请来前脸书业务拓展总监、点赞按钮设计师、图钉网前总裁、谷歌前设计伦理学家以及推特工程副总裁等互联网科技公司的从业者，拍摄了纪录片《监控资本主义：智能陷阱》(The Social Dilemma)，展现给我们互联网企业、注意力经济模式，乃至更为宏观的监视资本主义机制，如何通过大数据技术对用户进行个性化定制的内容精准投放，从而使用户逐渐对社交媒体产生病态的依赖心理，侵蚀个体的自由选择权，并最终在用户之间营造出信息茧房，进而威胁到整个现代社会的协商民主机制。
注意力经济下，用户如何成为商品？
在《监控资本主义：智能陷阱》一片中，曾经供职于谷歌公司的设计师特里斯坦·哈里斯指出，社交媒体的用户们担心自己的数据会被科技公司作为商品出售，以获取利益，但实际上，像脸书等科技公司的商业兴趣并非是卖掉这些数据，而是通过这些数据做出预判人们行为的模式。
换言之，从脸书、谷歌，到国内网民普遍使用的微博与抖音，通过不断更新算法方式，做到愈发精准地揣测、判断用户的观看喜好，以达成用户数量的不断增长，提高用户对于软件的使用频率，并培养用户的持续关注，来换得广告商的青睐与合作，这才是全球各大互联网企业最主要的盈利方式。然而，从纸质报刊上的头版头条，到电视频道中的黄金时段，无论是传统媒体，还是当下新兴的互联网媒体，通过以观众的关注度获取广告费用的注意力经济早已有之，并作为一种商业模式贯穿于传媒产业的发展轨迹始终。只不过，互联网社交媒体在此领域的革新之处在于，其通过人工智能与算法技术，不断揣摩用户心理，从而预判用户的浏览喜好与倾向，做到个性化的精准内容投放，这种做法，相比传统媒体而言，更能准确、高效地持续吸引用户注意力。
然而，日益引起公众关注的，人们对于社交媒体的上瘾式依赖，却同此种个性化定制的内容投放手段息息相关，正如片中受访者杰夫·希伯特所言：互联网公司获取用户持续的注意力所利用的是根植于人类本性中的东西。脸书前主席西恩·帕克也认为：社交媒体是在利用人类心理中的脆弱挣钱，注意力经济直接影响着奖赏通路中的多巴胺释放，而当算法能够做到超越人类生物属性所具有的弱点时，上瘾便由此产生。斯坦福大学医学院的安娜·兰博克博士指出：算法、社交媒体与监视资本主义，为了使其用户对社交媒体保持长久的使用与关注，不断利用着每个互联网使用者共有的、基本生物学因素。
换言之，算法技术的先进足以做到依据用户浏览内容的范畴与用户在特定页面所停留观看的市场，透视、预判用户的喜好与心理，加之猜你喜欢等推荐功能不断在各大社交平台当中得到普遍推广，个性化投放不仅能够做到迎合用户的观看取向，还可以以此激发并制造用户更多的浏览欲望，从而保证用户在算法技术的运作下，永远不会在屏幕的另一端因没有更多内容可看而感到无聊，由此导致了人们对于社交媒体的成瘾式依赖：这不仅体现在用户消耗在手机与社交媒体上的时间因猜你喜欢等功能的设计而不断延长，还体现在当用户自身作为人类所受到其生物属性的限制被算法技术不断超越时，用户会逐渐产生如下的错误信念：只有通过猜你喜欢功能、社交媒体、互联网与算法技术这唯一路径，才能够满足获取信息、交往他人与体验世界等诸多需要。在某种意义上，用户在使用社交媒体的过程当中所应用的自主选择权正在被以上种种致瘾性的设计所剥夺，人们主动探索完整世界的脚步也同样正在被另一个世界所取代，这个世界就是通过算法不断喂养给我们数据、信息与精彩内容而呈现的。
此外，由于注意力经济这一商业模式本身的特性，即用户无需为社交媒体的使用支付费用，而互联网企业依靠同广告商的合作而获取利润，从而其只需要对广告商负责，用户的注意力乃至用户本身便成为互联网企业利用社交媒体这一平台兜售给广告商的商品。社交媒体的使用者，虽然在形式上扮演着消费者的主体性角色，却在实质上沦为了作为商品的客体。而对于互联网企业而言，由于受到利益最大化的商业逻辑的支配，若想达成最大化的盈利，则必须将用户对于自身产品的忠诚度，乃至用户对社交媒体的病态式依赖作为必要性的前提。换言之，商业逻辑使得互联网必须做出致瘾性的设计方可获利，由此，如前谷歌设计伦理学家特里斯坦•哈里斯所言，互联网企业会将对用户增长与获得用户持续关注度的考量完全凌驾于其尝试解决愈演愈烈的手机成瘾现象的社会道德考量之上，从而不得不继续将用户仅仅视作供其兜售出去的商品与盈利的工具。
信息的碎片化、技术的异化控制与交流鸿沟
在《监控资本主义：智能陷阱》一片中，曾经供职于脸书的点赞按钮设计师曾坦言，脸书的点赞功能其设计的初衷是为了让网民通过这一方式感受、传播并分享更多的爱，但是却导致了预期之外的糟糕结果：青少年群体对于自己所收获的点赞量的关注变得愈发病态，甚至因此感到自卑、焦虑与嫉妒。在某种意义上，点赞功能激化并放大了用户人性当中的黑暗一面。片中大多数的讲述者同样亦乐观地相信社交媒体对于猜你喜欢等功能的设计是便于让用户们发掘到更多感兴趣的事物，然而，无论是手机成瘾症，还是人们有关点赞数量的负面情绪，这类功能所带来的结果往往同其美好的设计初衷背离并渐行渐远。
在法兰克福学派哲学家马尔库塞笔下，以上所发生的种种同技术乐观主义相背离的现象，其发生的必然性深深根植于现代性的基本特征里，马尔库塞在其著作《单向度的人：发达工业社会意识形态研究》当中写道：无论是早期资本主义制度当中的启蒙精神，还是晚期发达资本主义社会对于效率的狂热追捧，对于以量化与利益最大化为表征的工具理性的追求，往往会导致以反思性与批判性为代表的价值理性遭到扼杀。
此种工具理性侵蚀价值理性的现代性特征会导致灾难性结果的生成：一方面，之于社会而言，对于效率与利润的偏执追求反而会带来社会整体的效率下降现象——回想注意力经济与互联网公司的算法技术，海量而永不枯竭的个性化定制内容推送虽然极其高效地迎合了用户的浏览喜好，但是却慢慢导致用户无法专心于特定内容的深度性理解，并同时制造了猖獗的垃圾信息与虚假新闻，从而使得全面性思维的肢解、信息的碎片化，乃至真相、权威与专业性观点的消失成为了我们这个时代的主流趋势；另一方面，至于个体而言，人对于技术的盲目乐观与依赖往往会使其自身丧失掉进行反思与质疑的主体性，技术所带来的高效与便利，如同现代社会版本的莫菲斯特对于浮士德的诡诈许诺一般，让人们丢弃了察觉并反对其潜在危险性的能力，从而使得人们在不知不觉中合谋地将技术捧向神坛，奉其为人的统治者——当我们沉浸于个性化推荐所带来的精神鸦片式的愉悦，并逐渐对手机与社交媒体产生依赖时，我们正在不断接近赫胥黎所描绘出的反乌托邦技术极权主义的预言图景：人们终将为自己喜欢的事物所异化、控制，并无法拥有反思此种愉悦之隐忧的能力。
此外，影片后半段也以美国社会为例，指出在社交网站的影响下美国社会的群体政治观点分化达到二十年来的最高点，并向观众揭示出，在监视资本主义机制的操纵下，选举乃至民主制度可以在潜形之中，被以一种完全合法化的方式操控。诚然，个性化推送在用户之中所营造的信息茧房正在不断破坏着现代社会协商民主的精神内核，并间接地导致了当下全球民众政治观念日趋极化的态势：社交媒体往往并不能如其许诺的一般向用户呈现更广阔的世界，反而会使得每一个体在无意识中拘泥于算法所强制营造的个性化的小小封闭社区里，并难以对其察觉：人们依据各自的喜好与观点倾向，孤立地停滞于各自所接受到的不同的信息圈内，并将这些被动接受的信息视作唯一的真理，从而再难容忍任何异见，丧失包容多元观点的能力，最终导致了更大规模的社会区隔、部落式群体分裂与交流鸿沟。精准而高效的个性化内容推送、致瘾性的社交媒体，与以注意力经济模式为代表的监视资本主义机制，正在以以上种种方式，在全球网民之间塑造出27亿个彼此相互隔绝的楚门的世界。
然而，想要破解日益流行的社交媒体成瘾难题，片中的受访者们所建议的，无论是更换一个不会记载历史记录的浏览器，拒斥算法所推荐于自己的个性化定制内容，还是依靠个人的自制力与意志力努力减少社交软件的使用频率，抑或是乐观地寄希望于互联网产业的道德自觉，均非釜底抽薪之道。从宏观角度而言，互联网社交媒体与注意力经济作为新兴的市场，仍处于缺乏管控的放任状态，如何设定相应门槛以抑制互联网企业对于用户关注度的病态追求，并以此变现，同样是一种值得思考与努力的方向。对于个体的用户而言，我们需要根本性地意识到包括人工智能与算法等在内的技术，尤其是在其牢牢镶嵌于资本市场的背景下，并非价值中立的客观物体，正如特里斯坦·哈里斯所指出的一般：如果一个东西不是工具，它会在你身上有所求。与此相反，社交媒体与算法技术往往具有深刻的，涉及控制与剥削的意识形态功能，因此，时刻对于社交媒体中的诸多设计保持警觉，唤醒作为主体的反思理性，对于摆脱互联网施加于自身的异化控制尤为重要。
（文章仅代表作者观点。责编邮箱：yanguihua@jiemian.com）
