近年来，算法诱导沉迷、营造“信息茧房”、加剧虚假劣质信息传播等乱象不断受到大众批判和谴责。这背后，平台正在利用算法的“成瘾性”推送机制，通过制造即时“爽感”，再加上无限滚动设计，侵蚀年轻一代的深度思考能力，甚至加剧舆论和认知撕裂，最终削弱社会共识。
对于这类现象，当前有的国家出台法律加以约束，甚至施行未成年人“社媒禁令”，引发全球热议。
在笔者看来，“一禁了之”的治理思路不免太过简单粗暴，要从根源上破解这一问题，归根结底还是要打破“黑箱”，推动算法走向透明。
图源：视觉中国
一
平台的运行机制虽然不尽相同，却常常潜藏着一个共同“目标”的冲动，那就是使人上瘾。至于这种上瘾行为是如何发生的，则要“归功”于“黑箱”中的算法。打开社交软件，一不留神，几个小时过去了，人们在不知不觉中沦为了算法的“提线木偶”。之所以说算法犹如“黑箱”，其实并非贬义，而是意在揭示一个不容忽视的事实——平台算法的内部决策和运行机制对于社会公众而言是不透明的。那么，算法究竟是如何使人上瘾的？
比如，通过推送强刺激内容，抢夺受众“首次注意力”。算法要想使人上瘾，秘诀就是构建“用户画像”，根据年龄、性别、地理位置、经济状况、观看记录、点赞偏好等个性化数据，精准推送使人沉迷的内容或商品。而为了快速抢占受众注意力，平台往往对娱乐解压内容格外“偏爱”，尤其在尚未获取新注册用户的个人信息时，索性向其“大胆”展示强感官刺激的内容，以此试探“喜好”，决定下一拨推送。很多人在通勤、排队等碎片化时间，以及感到学习工作压力较大时，普遍倾向于选择娱乐内容作为放松方式，算法恰好迎合了这一需要。这种情况下，一旦捕捉到受众可能感兴趣的“信号”，平台更是乐此不疲，通过反复“投喂”，刺激“多巴胺分泌”，甚至促成过度消费。于是，人们就在这成瘾的快感中，耗费了大量时间和金钱。
比如，通过推送“情绪剧情”，吸引受众持续停留、点击、评论。一时刺激所带来的新鲜感只是暂时的，为了持续吸引受众，一些平台十分善于利用人性弱点，实现对用户注意力的操纵。众所周知，人类有丰富的情感，如爱、恨、兴奋、愤怒等。在社交平台上，一个话题、一个事件能否引爆舆论，很多时候要看这个话题事件能否充分调动网民的情感，这是由人类心理机制的本能所决定的。不少平台为了激发受众的情绪反应，甚至有意将一些极端性、情绪性言论优先呈现，导致个体事例被无限放大、公共话题沦为网友“对骂”。比如，在“上海女子打赏骑手200元被网暴”一案中，“善良这么廉价吗”“双十一快递买了100多个，结果给人家200元”等情绪化评论被置顶推荐、广为传播，而为女子声援的内容却迅速被淹没。
比如，通过制造“信息茧房”让受众对平台产生深度依赖。有学者曾指出，由于个人对信息的追求并非全方位的，因此极易因长期追求相似信息而受困于“茧房”桎梏中。算法的同质化推荐，使得许多受众长期被困在所谓的“回音室”，沉迷于被认同的虚幻中，对批评声音自动过滤，从而对平台产生一种“你太懂我了”的依赖感。在日常生活中，人们不难发现，同一则视频的评论区，不同人群所看到的内容竟然截然不同，这是因为平台算法在深谙用户的取向和偏好之后，选择了“投其所好”。这也就不难解释，为何同样的内容在不同平台可能出现迥异的舆论反应。比如，在以女性用户为主的社交平台，“不婚不育保平安”“远离渣男”等话题总能获得诸多认同，但若跳转到以男性用户为主的平台，则又是另一番景象了。
图源：视觉中国
二
算法的“成瘾性推送”之所以成为困扰人们的一大难题，且久治不愈，与算法的不透明、不可解释性等密切相关。
不得不承认，尽管算法已被广泛使用，但由于算法技术具有高度专业性和复杂性，其具体运行逻辑和规则仍然难以被社会大众直观地观察和理解，因而时常面临维权难、监管难、追责难等多重困境。近年来，要求平台公开算法的呼声越来越高，但究竟公开到什么程度、公开的具体标准等，仍然缺乏清晰规定，这也意味着打开“算法黑箱”，使其接受社会监督，并非易事。如果将算法公开简单等同于披露源代码，会损害企业核心利益，对于缺少相关专业知识的网民来说，理解门槛也过高；但如果由平台自行选择公开内容，有时又难免流于形式、避重就轻，一旦出现偏差结果或侵害行为，还可能面临责任难以界定等问题。
目前，对算法的规制正在不断加码。比如，推行算法备案制度，要求平台公开算法运行规则，开展“清朗·网络平台算法典型问题治理”专项行动，等等。但在实际运行中，由于平台不断对算法进行优化调整，导致备案、公示与实际应用的版本并不相符，一定程度上加大了有关部门的监管难度。还有一些平台在公示时故意采用大量晦涩难懂的专业术语，使得一般用户不明就里，更遑论对其进行监督。这也提醒我们，推动算法公开透明绝非一朝一夕之事，要知道，对于平台来说，利用算法“黏住”用户，无疑符合其商业利益，因而缺乏足够动力打开“黑箱”。
以“商业秘密”为由拒绝公开算法，以“技术中立”为由将算法责任推给算法设计者，以及用平台协议等方式，将责任推给普通网民等，也成为一些平台规避监管的“完美”借口。有关部门如果不能对算法内在逻辑进行穿透式监管，面对“千人千面”的信息分发模式，将难以实时监测、调查、取证。几年前，就有平台被曝向未成年人推荐性暗示内容，但平台通过在其制定的《儿童青少年个人信息保护规则》中注明相关条款，将算法推荐不良内容的责任推给监护人，引发舆论高度关注后，该平台公开致歉。
漫画 图源：新华社
三
算法的“成瘾性推送”给正常社会秩序造成严重危害，对其加强规范管理已是大势所趋。如何打破“算法黑箱”，推动算法公开透明，还需要多方协同发力。
提高算法的可解释性，推动平台用公众能够理解的方式，简单明了地解释数据来源、运算逻辑和输出结果，是打开“算法黑箱”的必然之举。在具体实践中，一些平台出于担心失去受众，往往不愿意明确告知算法推荐原理及依据，这种不透明也在不断加剧公众对算法的误解。比如，每当一些热点事件引发全网炒作，产生负面影响时，不少网民不由得发出质疑，认为是平台算法故意加推所致，但有时真实情况也可能是因为网民主动关注、主动搜索。从这个意义上来说，平台及时、合理、有效地公开算法信息，赢得公众理解支持，对于更好地维护企业形象、平息种种争议、助力平台生态健康向好等都是大有好处的。
而对于监管部门来说，却正面临两难困境，一方面加强法律规制必不可少，另一方面又必须防止“一刀切”阻碍平台发展。对此，有业内人士建议，不妨建立算法清单制，对算法使用边界予以明确，对于敏感性强、可能造成侵权或侵害公共利益等领域的内容，禁止利用算法进行推送。还可以协同行业协会、平台企业、法律专家等，共同出台算法应用合规指引，规定平台算法设计应包含内容去重功能，不得反复向受众推荐相同或类似内容致其上瘾等。与此同时，也可考虑设立专门的算法审计机构，由熟悉算法、法律等相关专业知识人员构成，定期对平台算法进行严格审查和动态监测，及时纠正算法偏见和算法歧视，一旦发现存在诱导成瘾等行为，可以将其作为追责依据。
还要看到，算法自诞生之日起就表现出极强的公共性、社会性，算法技术业已深深嵌入社会治理的各个方面，不能仅仅停留在技术治理层面，而应形成全社会协同的治理机制。考虑到算法通常涉及多个监管部门，有必要进一步加强协调、细化职责。再加上，算法对社会大众的认知和判断都会构成一定影响，社会公众监督也应在算法治理中发挥积极作用。中消协曾提出，建立算法投诉审评机制，保障消费者和社会各界的投诉、监督权。当感到自己的正当权益被算法侵害时，普通网民便可以向有关机构进行举报。除此之外，平台自律也至关重要，比如通过定期进行自我审计，确保将主流价值导向系统性融入算法设计，促进算法应用向上向善。
在这场科技与伦理的博弈中，我们需要重新审视算法的使用边界。技术的发展若以扭曲人性、危害社会为代价，就如同在沙堆上建高楼，难以为继。打破“算法黑箱”，治理“成瘾性内容推送”，不仅是平台的责任，也是全社会的共同责任。
作者：之江轩
[复制链接]
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡
