市场监管总局发展研究中心 陈梦缘

算法是指以数据为要素，通过计算步骤得到具体结果的过程。

网络营销活动算法应用是指通过互联网等信息网络销售商品或者提供服务时，应用算法技术实施各类自动化决策，包括向消费者个人进行信息推送或商业营销、提供搜索结果、开展交易等。

近年来，算法技术广泛普及，但由于其架构复杂性不断增加、稳定性难以保证、责任界定不清及治理机制不健全等，导致算法共谋、自我优待、算法价格歧视、不正当竞争等问题不断涌现，对社会的负面影响日益突出，其中许多问题与市场监管密切相关，应予以充分重视。

一、国内外算法治理现状

（一）我国算法治理现状

我国从2021年步入算法治理轨道，当前已初步建成立法层级广、多部门联动、快速扩张的算法治理体系，相继发布《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等。但是相关治理体系仍需进一步完善，一是上位法依据缺失，目前的规范主要聚焦在部门规章、规范性文件及国家标准，其法律效力有待加强；二是立规部门分散，易造成各部门职责划分不清、标准不一，也对平台企业合规发展造成困扰；三是技术性规范较少，目前规范主要集中在法律风险、网络安全等方面。

从各地方算法治理来看，虽然各地探索治理的积极性较强，截至2023年6月已有至少94份地方相关法规或规范性文件提及算法治理相关内容，一是大部分地方仅在数字经济、平台经济、电子商务、数据治理等相关促进条例中简要提及算法治理相关内容；二是各地牵头单位过于分散，主要涉及到发改、工信、网信、市场监管等部门；三是算法治理 专题规范性文件集中于经济发达地区，目前仅有北京、上海 发布了地方性算法合规相关指引。

（二）国际算法治理现状

针对算法现实风险及技术发展需要，欧盟、美国、英国、加拿大、韩国等开始逐步探索算法治理方案。

欧洲国家相对趋于保守，更倾向保护个人信息、公民私权力，对技术创新应用较为谨慎。2016年4月欧盟通过《通用数据保护条例》，赋予个人关于算法自动化决策的事前拒绝权和事后获得人工干预和表达观点、提出异议权，以增强个人在自动化决策中的数据权益保护。2019年4月发布《算法问责及透明度监管框架》，建立“算法影响评估”机制。2023年4月，欧盟宣布成立算法透明度中心，为《数字服务法》监管大型平台提供技术支持。2023年6月欧盟通过了《人工智能法案》谈判授权草案，严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。

美国、俄罗斯等国家注重包容审慎监管以进一步促进技术创新。2020年，俄罗斯开创性地提出了一项新的试验性法律制度《第123-FZ号俄罗斯联邦法律》，引入“数字沙盒”开展关于建立特殊法规的试验，目的是为人工智能技术的开发和部署创造必要条件。美国关于算法治理虽有诸多研究，但迟迟没有出台联邦层面法案，而是形成了“多元共治”治理模式。纽约、佛蒙特州、加州、伊利诺伊州依次通过数据代理、消费者隐私、人脸识别等相关法案。行业协会、企业、研究机构等都较为重视算法治理问题，已进行诸多尝试并形成研究成果。

韩国在体系建设与案例实践方面已进行诸多尝试，于2021年集中发布算法监管机制、为保护企业商业秘密制定算法公开标准，保障算法运行的公开和透明机制等。引入特定系统来自动评估和管理信用打分、产品推荐、产品定价以及人员招聘等领域算法可能产生的偏差和错误，以确保算法的透明性和公平性，建立应用人工智能技术的信任基础。实践案例包括，韩国最大的搜索引擎公司Naver被指控操纵有利于其搜索算法的设计方式，韩国领先的打车服务平台Kakao Mobility被指控操纵平台算法，向其特许经营的出租车提供更多接单机会，被处以257亿韩元（约合1.43亿人民币）罚款。

二、现阶段算法治理亟待解决的三大问题

从底层技术逻辑来看，算法在网络平台的硬件基础设施（架构）、应用程序中均发挥着核心作用，甚至决定了平台的运行模式和用户的习惯与价值观。从市场监管角度来看，算法治理涉及的突出问题包括网络交易平台监管的算法问责问题、算法个性化定价引发大数据杀熟问题、算法推荐广告监管问题、算法共谋行为的反垄断规制、算法自我优待问题、算法歧视侵害消费者权益、算法治理执法过程的取证存证问题等。总的来看，现阶段市场监管领域算法治理主要涉及以下三大亟待解决的问题。

（一）监管的不确定性已成为阻碍技术创新发展的重要因素

当前，算法技术正在颠覆行业运行的底层逻辑，部分适用于传统工业经济或者实体经济的法律、规则不再适用于算法治理领域，需要有创新监管手段或标准应对新业态、新模式带来的挑战，明确法律监管的红线，提振市场预期和信心。但监管思维往往基于过去的经验和模式，使得创新和监管之间经常存在摩擦。部分国内头部互联网企业曾公开表示，监管政策的不确定性正在严重打击他们对于科技创新的积极性，导致其对于科技创新投入大幅缩减，希望尽快明确责任底线，或者施行监管沙盒或避风港等模式，使其在监管规则不明确的情况下能够获得制度保障。

（二）线索发现极为困难

目前市场监管场景中，线索来源主要包括投诉举报、上级交办转办、抽查检查等。由于算法领域存在技术壁垒高、信息不对称性强、违法行为更加隐蔽等特点，线索发现极为困难。以算法价格歧视为例，其表现为基于消费者的各项个人信息进行多维度的综合判断后，针对相同的商品或者服务向不同的消费者提供不同价格，但消费者往往难以在限定条件的情况下（例如相同时间、相同地点、相同会员等级等）发现价格存在差异。同时，市场监管执法人员也受限于各大平台只有实名制账号登录才能显示详细价格信息，如果执法人员使用自身账号登录难以证实实际情况，且极易被平台监测发现列为白名单（白名单查看真实信息受限制），使用虚拟账号又存在合法性质疑，同时市场监管部门暂时也不具备对平台算法技术审查的能力，导致线索发现极为困难。

（三）技术性鸿沟难以跨越

目前学界多数观点认为当前数智化技术仍处于弱人工智能阶段，强人工智能尚未大批量投入实践，即平台企业对算法具有现实的把控能力，算法技术的中立性一般难以成立。在这种情况下，算法问责机制可以按照谁受益谁负责的原则进行梳理，技术上也具备算法主程序、服务器日志备份、算法备案和审计的可能性，但是当前市场监管部门普遍存在技术水平与头部平台存在巨大差距的问题，即使不考虑知识产权问题将各大平台算法底层代码和运行原理全面披露，技术性知识鸿沟也导致监管者无从问责。同时，由于技术认知差距过大，即使平台企业以社会公众可感知、可理解的方式公开算法原理，监管部门对其真实性、可信度也难以作出判断。

三、思考建议

目前我国算法治理体系呈现多部门联合协动的特点，但尚处在探索阶段，市场监管部门在算法治理领域的职责任务尚不十分清晰，应进一步加强相关研究，明确市场监管部门的职责边界，从市场监管视角研究布局算法治理工作，搭建常态化研究机制，探索算法综合治理格局。

(一）建设创新监管机制——以平台为抓手布局“沙盒监管”模式

“沙盒监管”，即划定一个范围，对范围内的企业采取包容审慎的监管措施，在可控的范围之内实行容错纠错机制。推行“沙盒监管”的目的是以更安全的方式鼓励创新，减少政府对企业的干预，并达到不断优化监管模式的效果，在创新与监管之间找到最佳结合点。我国算法治理具有聚焦平台经济的特征，通过为平台设定算法义务、赋予个体权利初步形成了复合型的算法治理路径，因此宜选取互联网平台试点采用“沙盒监管”的方式划定试验性监管的范围，对人身、财产和公共安全以外的领域，以不触犯安全底线为原则，开展包容审慎监管，对其采用的创新性算法进行监管探索，总结治理经验，逐步扩大试点范围构成算法治理横向辐射。

（二）建立线索发现机制——以模拟仿真方式构建线索发现模型

当前《互联网信息服务算法推荐管理规定》等均明确算法备案是算法安全综合治理格局中的关键一项，具有合法性。目前算法备案的形式主要是由具有舆论属性或者社会动员能力的算法推荐服务提供者填报其名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，但针对市场监管领域而言，应主要针对维护市场秩序、消费者合法权益等方面，要求平台算法备案的提交物形式为应用级可测验算法内容（可运行程序），同时建立动态备案机制，建设模拟仿真实验室，根据不同监管需要训练仿真模型，通过输入模拟账号验证平台提交物运行结果，从而发现违法准线索，针对运行结果开展针对性研判或移交执法部门。

（三）探索技术审查机制——组建算法技术审查委员会

算法治理领域具有学科高度复合的特点，必须寻求法律与技术相结合的综合治理方式来规避技术带来的风险。针对市场监管领域现行人员结构固化、可调整幅度较小等问题，可组建算法技术审查委员会，为算法监管提供技术支持。算法技术审查委员会人员构成可包括高校、科研机构、平台企业等从事相关技术研究人员，其工作内容主要包括：一是定期针对已公开披露的算法技术信息进行讨论，并以可理解、可感知的方式出具算法技术审查报告提交给市场监管部门，审查委员会应对其提交报告的真实性、准确性负责；二是审查委员会需为市场监管部门提供定制化技术解释，在市场监管部门算法备案等工作中面临难以理解的技术问题时，及时提供技术解释，并在工作中签署保密协议；三是审查委员会需定期提交算法技术动态追踪报告，追踪随着新技术迭代升级，对市场监管职责范围内的违法行为可能提供技术帮助的情况进行风险提示。

参考文献

[1]张凌寒. 算法规制的迭代与革新[J]. 法学论坛,2019,(02):16-26.

[2]《上海市网络交易平台网络营销活动算法应用指引（试行）》

[3]张凌寒. 网络平台监管的算法问责制构建[J]. 东方法学,2021,(03):22-40.

[4]孙颖. 消费领域数据平台算法价格歧视的外部规制[J]. 中国市场监管研究,2022,(03):16-21.

[5]王健;赵秉元. 互联网金融创新的沙盒监管：挑战与应对[J]. 兰州学刊,2021,(10):111-123.

[6]张欣. 从算法危机到算法信任：算法治理的多元方案和本土化路径[J]. 华东政法大学学报,2019,(06):17-30.