算法必须为社会服务，而不是反过来

    2022年3月1日，国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》（以下简称《规定》），正式实施。算法推荐技术一般指通过抓取用户日常的使用数据，分析得出人们的行为、习惯和喜好，进而精准化地提供信息、娱乐、消费等各类服务。

    算法推荐的本意，是在更好地挖掘用户潜在需求的基础上，提升企业服务水平，实现用户与企业的双赢。早期沃尔玛通过数据分析发现啤酒与尿布在周末存在高度相关的销售关系，进而改变货架陈列，就是一个经典的案例。

    然而，近年来算法推荐在为用户提供便利的同时，“大数据杀熟”、诱导沉迷等不合理的应用也在影响用户的正常生活。随着《规定》的实施，算法推荐会在更加规范的框架下运营，对企业和个人会带来哪些影响？我们邀请了北京大学新闻与传播学院教授、“信息社会50人论坛”成员胡泳，进行了深度解读。

一、算法如何（秘密地）管理世界

    当你在网上浏览一双新鞋，在Netflix上挑选一部流媒体电影，或申请住房贷款时，一个算法很可能对结果有话要说。

    复杂的数学公式在各行各业发挥着越来越大的作用：从检测皮肤癌，到推荐新的社交媒体朋友，决定谁能得到一份工作，如何部署警察资源，谁能以何种成本获得保险，或者哪一位在“禁飞”名单上。

    我们可以看到算法在这个世界上的工作。我们知道它们正在塑造我们周围许多事务的结果。但我们大多数人都不知道算法是什么，或者我们是如何被它们影响的。

算法是一个黑盒子。

    我们熟悉一些明显的例子，比如谷歌搜索算法、亚马逊推荐算法、百度地图算法或美团外卖算法。但人们很少觉察到，算法已经被邀请进入我们的政府、法庭、医院和学校，它们正在代表我们作出很多决定，悄悄地、但是巧妙地改变了社会的运作方式。

    往往只有在算法出错的时候，我们才意识到其深入人类生活的程度。往好了说，我们与算法的关系都是一言难尽的。人对机器的态度十分复杂：有的时候，我们盲目信任机器。我们期望它们成为几乎是神一样的存在，如此完美，如此精准，以至于我们会盲目地跟随它们，去往其所带领的任何地方。

    另一方面，我们又有一种习惯，一旦某一算法被证明有一点缺陷，我们马上就会否定它。如果Siri出错，或者GPS导航错误，我们就会认为整部机器都是垃圾。更不用说机器人医生误诊、自动驾驶汽车撞死行人这类事。

    其实两种截然相反的态度都没有任何意义。算法并不完美，它们往往包含创造它们的人的偏见，但很多时候，它们仍然令人难以置信地有效，使我们所有人的生活也变得更加容易。因此，最正确的态度应该是介于两者之间。我们不应盲目地相信算法，但也不应完全否定它们。

    人类和机器不一定要相互对立。我们必须与机器合作，承认它们有缺陷，就像我们一样。它们也会犯错，就像我们一样。

    如同伦敦大学学院的数学家汉娜·弗莱所说：“我们不必创造一个机器告诉我们该做什么或如何思考的世界，尽管我们很可能最终进入这样一个世界。我更喜欢一个人类与机器、人类与算法都是伙伴的世界。”

    现在，我们花大量精力讨论，人类和人工算法最终很可能会以模糊两者区别的方式结合起来。其实这个愿景距离我们还非常遥远，因此，尽管这样的对话很有趣，但却也可能令我们对目前正在发生的事情分散了注意力。我们迫切需要关注的是，管理我们生活的规则和系统正在我们周围发生变化，而算法是其中的关键部分。

    我们一直生活在技术的狂野西部，在那里大科技公司可以在未经允许的情况下收集私人数据并将其出售给广告商。平台正在把人变成产品，而他们甚至没有意识到这一点。互联网巨头实际上成为巨大的媒体公司，但假扮成中立的平台，吞食曾经维持旧媒体生态系统的收入，同时拒绝承担正常形式的编辑责任。同时，它们的领导人拥有跨国管辖权，行使着传统的种种权力——从文化审查、政治放逐到构建巨大的市场——却缺乏传统的监督机制。

    在此过程中，即便某一个特定的算法是有效的，也没有人评估它是否为社会提供了净利益，还是消耗了大量的社会成本。不存在任何人、任何机构做这些检查。只有到一系列问题浮出水面之后，各方才逐渐形成共识：社会需要一个强大的算法监管框架。

二、中国走在全世界算法监管的前列

    在中国，应用程序（App）近年来蓬勃发展，这要归功于它们为用户提供其所喜好的视频、开展产品和服务比价或完美定制消费的能力。但是中国第一部算法法规的出台，似乎将会限制科技巨头的这些能力。

    2021年11月16日，国家互联网信息办公室审议通过了《互联网信息服务算法推荐管理规定》，2022年伊始，会同工业和信息化部、公安部、国家市场监督管理总局联合发布，自2022年3月1日起施行。《规定》旨在遏制算法不合理应用导致的问题。由于种种不合理的应用，在过去很长一段时间里，公司和商家能够利用看似无所不知的算法来锁定特定人群或个人，以销售产品或影响意见。

    算法新规是否会影响从阿里巴巴、腾讯到美团、字节跳动等公司的商业模式，以及监管机构又将如何执行该法规，都值得我们下一步密切关注。

    以下是算法法规中的一些重要条款：

公司不得利用算法推荐从事法律、行政法规禁止的活动，如危害国家安全和社会公共利益、扰乱经济秩序和社会秩序等。
算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。
算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。
算法推荐服务提供者应当以显著方式告知用户“算法推荐服务的基本原理、目的意图和主要运行机制”等。
算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。
算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。
算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求。
算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。
算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

    然而，无论从哪方面看，这些规定都代表了全球最领先的算法监管框架之一。所有本地消费产品和零售服务商、电商公司、短视频应用和社交媒体平台都将受到这一法规的影响。根据新规则，算法将不再被允许影响网络舆论，逃避监督管理，或促成垄断和不公平竞争。当然，对于收入可能在短期内受到影响的企业来说，这不是一个好消息。但是，如果企业现在必须重新谈判他们与用户的关系，而把数字生活的控制权至少部分交还给用户，这难道不是一件好事吗？

三、大规模展开的社会实验，必须认真对待