作者丨王军潇潇实习生隋佳
编辑丨王军、张明新
图片来源丨AI
11月24日，四部门联合开展“清浪·网络平台算法治理典型问题”专项行动。虽然信息是周末发布的，但由于上周中钟岁夜攻击算法作恶、快手上周五未落实青春模式等违法信息传播及处罚等消息，纷纷传出。引起了市场和公众的高度关注。
21世纪经济报道记者注意到，此次专项行动的要求非常详细，提出重点整治同质化推送信息打造“信息茧房”、非法操纵和干预榜单热点、盲目追求利润等问题。新型就业形式侵害劳动者权益。 、利用算法实施大数据“杀戮”、算法缺乏向上善意服务侵犯用户合法权益等关键问题。不过，很多要求在之前的文件如《互联网信息服务算法推荐管理规定》等文件中都有踪迹。业内人士告诉21世纪经济报道记者，国家网信办前些年也曾进行过算法检查，此次专项行动或意味着算法管理的常态化。
算法治理始于2021年，三年来，相关法律法规不断完善。但公众对算法的认知与治理要求之间仍存在较大差距。
接受采访的业内人士指出，推荐算法往往是平台最核心、最赚钱的部门； DAU（日活跃用户）指标背后主要部门，算法合规性影响用户活跃度和留存率。如果没有外部影响，算法内部必须严格控制。治理往往缺乏动力。
也就是说，算法合规性与平台业务逻辑之间存在核心冲突，两者自然形成紧张关系。 “算法治理就像在瓷器店里抓老鼠”，一位专家如此形容。
算法治理旋风刮起，或将走向常态化监管
发现，自2021年起，算法治理被纳入监管范围，治理内容从“推送不良广告行为”到整治“非法导流行为、宣传违法产品、在搜索中推送低俗负面关联词”结果”，并打破“算法歧视”、“大数据杀戮”等。
2022年起，《互联网信息服务算法推荐管理规定》《互联网信息服务深度综合管理规定》《生成人工智能服务管理暂行办法》等政策将陆续实施，均涉及治理细则对于算法。
此次，四部门联合开展“清浪·网络平台算法典型问题治理”专项行动。与以往专项行动相比，要求更加细化。除了专项行动要求外，《通知》还提供了《算法专项治理清单指引》，列出了核查项目、核查点、核查内容。某领先平台合规负责人告诉21世纪经济报道记者，往年国家网信办也会走访企业进行算法检查。这种对算法治理的特殊操作，或许意味着算法治理的常态化。
而且，本次专项行动的任务落实到了地方层面：地方网信部门要发挥协调作用，牵头开展专项行动。加强与当地电信、公安、市场监管等相关部门的协调，细化分工，压实工作责任。
推荐算法：明确禁止推送高度同质化内容
根据专项行动要求，有几个重点：一是深入整治“信息茧”、诱沉迷。 2.提高名单透明度，严厉打击名单操纵行为； 3、防止新就业形式中盲目追求利益侵害劳动者权益； 4、严禁利用算法实施大数据“杀戮”； 5、强化算法提供正向服务，保护网民合法权益； 6、落实算法安全主体责任。
对于具体如何应对乱象，《特殊算法管理清单指南》提出了明确的核查要求。
比如，针对“信息茧房”问题，专项行动要求严禁推送高度同质化内容诱导用户沉迷。不得强迫用户选择兴趣标签，不得在用户标签中记录违法有害信息并用于信息推送，不得超出内容推送范围收集用户个人信息。
该需求主要针对推荐算法。推荐算法包括多种类型，例如基于内容的推荐算法，侧重于分析内容本身的特征，从用户过去喜欢的内容中提取关键特征，匹配用户的兴趣和偏好。简而言之，推荐算法的本质就是“坚持用户的喜好”，从而增加平台的访问量，延长停留时间，提高用户粘性。
2022年实施的《互联网信息服务算法推荐管理规定》首次将算法防沉迷写入规定，要求“算法推荐服务提供者不得设置诱导用户沉迷、过度消费等的算法”。违反法律法规或违反道德的行为。”模型”。
此次专项行动再次明确禁止：严禁推送高度同质化内容诱导用户沉迷。
专项行动还强调：“不得将违法有害信息记录在用户标签中并用于推送信息”。实践中，一些平台为了留住用户，会向用户推送低俗、色情信息。
根据专项整治行动，推动去除标签等合规行动。
同济大学法学院助理教授、上海人工智能社会治理协同创新中心研究员朱跃指出，广义标签可以是自然语言表达，由用户自己提供，也可以通过算法学习获得。 “后一类通常也称为表示或嵌入。”
如果是前者，拆解一般难度不大，但业务上会有一定损失，损失大小与场景有关。但如果数据管理本身做得不好，在弥补标签合规性方面就会有一定的工作量。
专项行动要求平台对“信息茧房”、“同质化推荐”等网民普遍关心的问题要有防范措施。平台应通过内容去重、碎片介入等技术策略，提高推送内容的多样性和丰富性，并及时总结。并配合有关部门的监督检查工作。
决策算法：以优惠政策复杂、空间越来越窄为由解释“杀熟”
决策算法也是本次专项行动的重点。专项行动要求：严防盲目压缩配送时间导致配送超时率、交通违章率、事故率上升。详细披露时间预估、成本计算、路线规划等算法规则。建立畅通的投诉渠道，及时受理因交通管制、交通事故、恶劣天气等不可控因素导致送货超时等工人投诉。
大数据“杀死熟悉感”是近年来消费者关注的焦点。它是指企业通过收集分析用户的历史购买记录、浏览习惯、个人信息等数据来建立用户画像，然后根据这些信息对新老用户采取不同的定价策略。简而言之，当平台存在“杀戮”机制时，老用户可能会因为粘性较高而被收取更高的价格，而新用户可能会享受到更多的折扣。
在黑猫投诉平台上，搜索关键词“大数据杀熟度”，出现了6000多条投诉。投诉原因多为价格短时间内波动较大、价格因人而异、手机不同、平台不同价格差异较大。购买后价格大幅降低等，目标针对主流电商、在线旅游、外卖、网约车等领先主流电商平台。
在实践中，“大数据成熟度”的定义并不容易。 21世纪经济报道记者使用不同移动设备对携程、飞猪、去哪儿等进行测试发现，不同的会员级别、不同的平台、不同的优惠政策可能导致价格不一致，且相关行为的模糊性、隐蔽性和复杂性。性别让人很难判断“成熟”。
值得注意的是，此次专项行动明确提出：提高折扣促销透明度，明确说明优惠券领取条件、发放数量、使用规则。客观、如实解释未领取优惠券的原因。严禁以“来不及”、“过去”等提示掩盖真实原因。
而且，《算法专项治理清单指引》还要求平台应说明优惠促销规则，如适用范围、参与条件、具体限制等。对于使用优惠券的场景，平台应说明优惠券发放范围、用户身份限制、发行数量、使用条件等信息。
这也意味着平台以优惠政策为由解释“杀熟”的空间越来越窄。
算法治理就像在瓷器店里抓老鼠吗？
从前文不难看出，《通知》和《算法特殊治理清单指引》中的要求并不是新规定。其中很多内容在以往有关政策文件和专项行动中已经多次强调。但问题是，实施效果似乎并不理想。
以用户标签为例，《互联网信息服务算法推荐管理规定》要求“平台应当为用户提供个人兴趣标签管理功能，进行个性化推荐服务”。这一点在这份《算法专项治理清单指南》中也得到了重申。
但事实上，目前几乎没有主流应用程序可以提供标签管理工具。大多数平台只允许用户对单条内容点击“不感兴趣”。
对外经济贸易大学法学院教授张欣长期跟踪算法治理。她了解到存在两个实施问题：
首先，很多平台不再使用个性化标签，用户自然无法选择标签。算法治理规则与现实存在“时间差”；
另一个更重要的问题可能是，个性化推荐一直是用户对算法安全性和可信度感知最强的领域。但平台在执法、监督、执法等方面仍存在不足。
本质上，算法治理与平台业务逻辑之间存在核心冲突。一位前社交平台法务官向21世纪经济报道记者透露，推荐算法是核心部门。 “即使不考虑技术的复杂性，在利润部门推动合规约束也不容易。”
另一位领先短视频平台的前员工也有类似感受，“各大部门都要达到DAU（日活跃用户）目标。管理肯定会影响用户活跃度和留存，风控部门几乎没有发言权。 。如果没有外部影响，内部很难严格执行合规性，标准也会非常宽松。”
只有那些稳居行业顶端的平台才有底气严格执行内容生态合规。一位学者因此将算法治理形容为“瓷器店里抓老鼠”，而最令人担忧的就是瓷器店里抓老鼠。
不过，在张欣看来，算法公开、提高算法透明度是可行的出发点，而且经过了全球经验的检验，并不完全是“盲目捉老鼠”。 “其实这次专项行动也是对我们之前小、快、灵活的立法的一次考验，接下来最重要的是落实一些问题。”
