规制算法：莫让算法“算计”人
李世刚 包丁裕睿
将于3月1日起施行的《互联网信息服务算法推荐管理规定》(以下简称《规定》)，对各种算法乱象“亮剑”。这是我国第一部以算法作为专门规制对象的部门规章。算法究竟是什么?为何要对它进行规制?《规定》有何创新?在规制的同时，如何让算法更好造福人类?
算法，无处不在
在互联网大数据时代，算法已无处不在，计算机和手机中几乎所有的服务和应用程序都在利用算法进行运作，关于算法的新闻也屡见不鲜。
算法(algorithm)一词的英文名得名于波斯数学家花拉子密(al-Khwarizmi)，意为“运算的方法”。在计算机领域，算法特指“计算机的计算方法”，即为了解决一类问题或执行一项计算而设计出来的一套依靠数学模型、定义明确、步骤有限的计算方法。
将现实问题抽象为一个或几个数学问题，就落入了算法的世界。在互联网服务中，算法得到了广泛应用，给人们生产生活带来极大便利。
例如，搜索引擎的搜索排序算法，大幅提高了人类在互联网世界中寻找需要的信息的效率;翻译软件的自然语言识别和处理算法，降低了人类获取其他语言信息的难度;地图导航中的路径规划算法，可以帮助人类规划时间最短、路程最短、红绿灯最少的信息;打车软件与外卖软件中的调度算法，可以实现服务供应端与需求端快速且高效的匹配……
算法“黑箱”潜藏风险
随着算法的发展、演进和迭代，算法被广泛应用于各行各业。然而，算法作为一个“黑箱”，对算法拥有者或设计者之外的人而言，人们只能观测到它的输入与输出，而无法了解其运作过程机制，这就可能使得算法在不知不觉中对个人和社会带来负面影响。以最常见的算法推荐技术为例，它对信息传播、用户权益、社会稳定都可能带来极大影响。
首先，算法推荐的信息可能带来违法和不良信息传播问题。算法服务提供者在开展新闻信息推送、热点榜单、信息发布等活动时，可能存在传播违法和不良信息的情况，包括传播虚假信息、片面追求流量炒作低俗内容等情况。
其次，算法推荐还可能侵害用户权益，带来不公正不公平的情况。这包括“大数据杀熟”，即根据消费者的偏好、交易习惯等特征，在交易条件上实行不合理的差别待遇;诱导用户沉迷网络、过度消费;在采用调度决策类算法进行工作调度时忽视劳动权益保障;通过用户画像形成不合理的算法歧视等。
最后，算法推荐服务提供者还可能存在操纵社会舆论的可能。在个性化推荐、热点榜单、信息发布等服务中，算法可能频繁推荐用户感兴趣的内容，形成意见极化的“信息茧房”;算法可能被用于实施虚假点赞、评论、转发等流量造假行为，鼓动用户情绪、影响网络舆论;算法还可能被用于屏蔽信息、过度推荐，操纵干预检索结果排序、实施不正当竞争等。
规制算法的主要措施
显然，算法是一把双刃剑，对算法进行一定的规制和引导十分必要。
《规定》规制的算法主要是推荐类算法，包括生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法。这些算法已经被各大平台广泛应用，成为平台收集和处理数据、推送信息、调配资源的核心力量。《规定》明确，算法推荐服务提供者应当对算法负责。
《规定》明确算法推荐服务的用户享有算法知情权、选择权、管理权和退出权;未成年人、老年人、劳动者、消费者等主体应当受特别保护;算法推荐服务提供者应当允许用户和公众便捷地进行申诉、投诉和举报，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。
《规定》创新性地提出了贯穿算法推荐服务流程的监管体系：根据算法推荐服务的舆论属性或者社会动员能力、用户规模、处理的数据敏感程度等，对服务提供者实施分级分类管理;建立了算法备案制度，具有舆论属性或者社会动员能力的算法推荐服务提供者应当对其名称、服务形式、应用领域等信息进行备案;建立了算法安全评估机制，要求算法服务提供者设置算法安全管理组织机构和安全责任制度、科技伦理审查制度，并配备与算法推荐服务规模相适应的专业人员和技术支撑;严厉打击算法推荐违法违规行为，国家和地方网信部门将负责会同有关部门开展算法安全评估和监督检查工作，形成多部门协同的规制体系。
《规定》还明确规定了严厉的法律责任，建立起权责明确的问责体系。以往频发的算法问题，如算法歧视、大数据杀熟、诱导沉迷、电信网络诈骗、网络“水军”、垄断和不正当竞争等有望得到有效遏制。
实现算法积极良性发展
针对算法这一新兴技术，规制算法必须考虑技术创新与用户权益保障之间的良性动态平衡。总体而言，《规定》体现了整体统筹协调的监管机制以及综合治理和精细治理并进的治理理念。《规定》的规制举措具有创新性和实践性，对保障信息内容安全、维护市场竞争秩序、保护公民权益等具有重要的作用。
当然，法律对算法的规制不能面面俱到。在《规定》具体落地层面，让用户单纯退出算法推荐是否能满足用户最佳需求，如何清晰地满足用户对大量标签的选择和删除的权利，如何针对隐性标签进行管理，如何平衡算法备案的有效性和商业秘密的保护等，都需要进一步探索。在法律规制之外，还需要积极发挥行业标准、伦理规则、企业实践等“软法”作用。
在互联网时代，对算法的监管不应仅局限于“纸面”上的法律制度，更应提升算法的综合治理能力，让算法既符合技术逻辑又能发挥积极作用。法律既应当保护社会秩序和个人权利，防止算法作恶、引导算法向善，还应当在鼓励提升我国的算法创新能力、促进算法应用安全、增强我国算法核心竞争力等方面发挥重要作用。未来的时代是算法的时代，技术与规制部门应当相互沟通学习，从而实现算法积极良性的发展。(作者单位分别为：复旦大学法学院、中国人民大学法学院)
（刊于《半月谈》2022年第2期）
关键词： 半月谈丨规制算法：莫让算法“算计”人 半月谈 算法推荐
营业执照公示信息