自动化驾驶、个性化资讯推荐、差别化定价……未来将会是一个“算法无处不在”的社会。身处其中的我们，在享受便利的同时，又该如何避免受到算法侵害？

2024年全国两会，全国政协委员、北京国际城市发展研究院创始院长连玉明带来的一份提案，尝试为防范算法风险建言献策。

连玉明认为，算法治理是应对算法侵权的综合举措，既涉及侵害发生前的预防性防控，又涉及侵害发生后对侵害进行归责、追责与救济。他建议强化司法救济，将算法侵权领域纳入公益诉讼法定范畴。未来还应着重将个人在算法应用中的救济权利制度化和规范化。

图为全国政协委员、北京国际城市发展研究院创始院长连玉明。

今年两会，连玉明还有一份提案聚焦数据要素市场。他建议，在建立“三权分置”数据产权制度基础上，加快探索数据要素“三级市场”，推动数据资产向数据资本跃升。与此同时，他认为既要“数尽其用”，更要保护数权；建议加大立法的理论研究，适时启动《数权法》立法。

近日，围绕算法治理、数据要素化、数据产权等热点问题，南都记者专访了连玉明。

谈AI安全与发展

算法治理是实现AI向善的重要一环

南都：过去一年多来，从聊天机器人ChatGPT到文生视频模型Sora，生成式AI的火爆持续引发科技圈讨论。你怎么看这一现象？

连玉明：以ChatGPT和Sora为代表的生成式人工智能是引领新一轮科技革命和产业变革的战略性技术，具有强大的溢出带动性，这一点是毋庸置疑的。

从目前来看，它对传统行业的颠覆以及对产业转型升级的推动方式尚未明确，但其带来的现实问题已显而易见。比如，随着生成式人工智能模型不断成熟，深度伪造技术将带来更多网络安全风险，成为人工智能治理领域不可回避的问题。

南都：生成式AI火爆的同时，也让全球警惕AI风险的担忧加剧。我们关注到，包括中国在内的许多国家均在抓紧研究和推进人工智能立法工作。如何应对人工智能带来的挑战，目前是否已经形成了一些相关的共识？

连玉明：据我了解，全球范围内至少有60多个国家制定和实施了相关治理政策，我国也发布了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等政策文件，并提出了《全球人工智能治理倡议》。在全球范围内，人工智能领域的规则秩序正处于形成阶段，伦理治理发展趋势逐渐同步。

因此，我们必须强调和建立一个共识，即便是最先进的技术也不能脱离法律法规、社会道德和行业规范等制约条件无序发展。人工智能的真正价值在于造福人类，开发者虽不能完全预测潜在风险，但至少应尽力将潜在风险降至最低。

作为人工智能治理的核心环节，算法治理是实现人工智能“向善”的重要一环。面对层出不穷的算法侵权问题，我国建立包括算法治理在内的人工智能治理体系刻不容缓。

南都：今年你有一份提案正是与算法治理有关，现阶段强调算法治理的重要性和迫切性是什么？

连玉明：2019年4月，《自然》杂志上刊登了一篇研究性综述，其中指出未来将是一个“算法无所不在”的社会，自动化的新闻推荐、算法辅助法官判案、无人驾驶汽车、针对个体的差别化定价等等，都将无缝接入我们的生活。

现在，这个“未来”已经到来，我们每一个人都已身在其中。算法为人类社会生活带来了诸多福音，但与此同时算法侵权的挑战和风险也日益显现，诸如侵犯隐私、名誉损害、身体伤害、群体歧视、区隔控制以及信息操纵等算法侵权危害现象日渐突出。

当前，算法风险防范与算法侵权治理已从学界走向国家治理层面，成为重要的社会议题之一。

南都：如何理解算法侵权，它有哪些典型的表现形式？

连玉明：我认为，算法侵权与传统物理社会的权利或权益侵害有很大不同。有学者将其区分为基于风险或过程的抽象性算法妨害和基于结果的具象化算法损害。

算法侵权有多种方式，存在诸多潜在威胁，比较常见的有四种：一是算法歧视，比如大数据杀熟。二是算法操纵。比如根据用户兴趣偏好过度推荐，造成“信息茧房”及诱导沉迷，或者利用算法注册虚假账号进行流量造假、刷量控评、饭圈互撕；通过屏蔽信息操纵热搜、榜单或检索结果排序等；配送算法设置严格的时间计算规则，对骑手进行剥削操纵等。

三是算法滥用。利用相关软件进行人脸替换、虚拟角色生成、模仿声音、伪造图像和视频等，进而实施电信诈骗和网络敲诈。四是算法错误。由算法控制的智能机器人或自动驾驶汽车等有形载体，因算法错误而造成个人财产损失和人身伤害。

在现实中，从个案来看算法侵权可能都比较轻微，但因算法的广泛应用具有集合性、累积性、系统性，可能对社会集体造成的负面影响则是广泛而深远的。

谈算法治理

遭遇算法侵权后维权难？建议强化司法救济

南都：当前算法治理面临哪些难题？

连玉明：就我国来说，由于算法侵权的参与主体多、技术复杂，算法治理面临诸多困境，形成治理困境的原因主要体现在三个方面：

一是立法严重滞后。欧盟与美国早已开始重视算法领域的法律责任问题。2018年5月，欧盟出台《一般数据保护条例》，2019年4月，美国国会提出《算法问责法》。我国虽已发布《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等文件，但整体立法进程仍显缓慢，还存在较大差距。

二是监管体系不健全。我国尚未设立类似于国家算法安全委员会的专门性算法审查和监管机构。现有算法应用监管制度还不完善，急需加快制定算法应用规则和标准规范。建立算法问责制，强化算法侵权司法救济。加强算法伦理建设，提升算法公平性。

三是维权难度大。由于算法黑箱或技术不透明性，与传统的侵害行为相比，算法侵权的因果进程更加冗长、复杂、不透明，导致不仅难以对算法的决策机制作出人们可理解的解释，甚至将侵害结果追溯到具体的行为主体都变得非常困难。同时，算法应用主体往往具有资本优势、权力优势和技术优势，由单独的个体进行维权时普遍遭遇举证难、认定难和追责难等现实困境。

南都：面对这样的困境，该如何破解？

连玉明：我在今年的两会提案中，主要围绕算法侵权事后司法救济中的公益诉讼制度建设提出相关建议，当前应该主要从以下三个方面加快行动。

一是将算法侵权领域纳入公益诉讼法定范畴，建议最高人民法院和最高人民检察院尽快出台针对算法侵权的司法解释和专题指导案例。

二是加快构建以人民检察院为主导、社会组织和个人共同参与的算法侵权公益诉讼多元主体模式，推动多元主体协同治理。由于算法侵权案件特有的专业性和复杂性，要调动全社会、各领域、多层次的专门组织和专业人士，构建公益诉讼支持系统，降低法律成本。

三是加强算法侵权公益诉讼制度的宣传工作。通过多种形式、多种渠道扩大社会公众对算法侵权公益诉讼制度的知晓度和参与度，让公众充分了解算法侵权公益诉讼对保护群体利益、守护公共利益的重要作用。

谈数据资产化

建议建立数据资产核算和入表的全链条管理体系

南都：这两年从中央到地方，关于推进数据要素化的政策文件不断发布，国家数据局挂牌成立后，地方新组建的数据局也密集亮相。如何看待当前数据要素化建设的进展？

连玉明：2023年是我国推进数据要素市场体系建设具有标志性的一年，从顶层设计到体制改革再到落地实施，取得突破性进展。

我认为，其中有三件事情对于激活数据要素市场具有特殊意义：一是国务院印发《数字中国建设整体布局规划》，二是组建国家数据局，三是两个重要政策文件推动数据要素从概念进入落地阶段。

这两个文件分别是，国家数据局等部门发布《“数据要素×”三年行动计划（2024-2026年）》，提出“发挥数据要素乘数效应，赋能经济社会发展”。财政部印发《企业数据资源相关会计处理暂行规定》，明确企业数据资源可作为资产列入财务报表。

这为统筹解决数据协同难、确权难、应用难等问题，加速数据这一新型生产要素融入生产、分配、流通、消费和社会服务管理等各环节，大力发展数字化新质生产力提供了支撑。

图为连玉明（受访者供图）

南都：2024年1月1日，数据被视为一种资产进入财务报表。数据入表是数据资产化的第一步。你认为，接下来要让数据充分发挥价值，还需要考虑哪些关键问题？

连玉明：数据的产权、定价、流通、分配等制度构建十分复杂，在世界范围内都是一个“无人区”。我国推动实施“数据资源入表”，可以说是在构建数据要素市场中迈出了关键一步。

但“数据资源入表”是在没有突破传统的会计准则、价值分配与计量方法框架下进行的，还需进一步破解数据产权界定不清晰、数据定价体系不完善、数据资产登记制度不健全、数据交易平台定位不准确等问题。

要推动“数据资源入表”走向“数据资产入表”，就必须建立数据资产核算和入表的全链条管理体系，从数据产权界定制度、资产登记制度、资产评估制度、交易定价制度、资产入表制度等入手，构建一个全流程的完整闭环，才能使数据资产的商品化、市场化、要素化真正见到成效。

谈数权立法

“既要‘数尽其用’，更要保护数权”

南都：为推动数据资产向数据资本跃升，你提出在“三权分置”的数据产权基础上，探索建立数据要素“三级市场”，能否谈谈主要思路？

连玉明：2022年12月，中共中央、国务院印发《关于构建数据基础制度更好发挥数据要素作用的意见》，提出建立数据“三权分置”产权运行机制，其核心是通过明确数据资源持有权，强化数据加工使用权，放活数据产品经营权。

在此基础上，可参考资本和土地等要素多级市场体系，探索构建零级、一级和二级联动的数据要素多级市场体系。

具体而言，一级市场即数据资源市场，主要承载以数据集或数据接口为主要流通方式的数据资源。

二级市场即数据产品和服务市场，数据加工方对数据资源进行加工处理和算法模型化，以产品和服务形式销售给购买者，是要素产品化的过程。

零级市场即非交易流通市场，属于未进入交易环节但发生数据共享交换和权益流转的市场行为，既包括企业内部或具有一定业务或股权关联关系的企业间发生的数据共享交换，也包括数据信托等新型数据权益流转。

我认为，应该逐步细化数据“三权分置”和数据“三级市场”之间的关系，推动数据资产向数据资本跃升。

南都：数据产权是你一直关注和研究的问题，也曾推出数权法方面的著作。关于数权，你一贯的主张是什么？

连玉明：数据既是信息载体又是生产要素，与劳动、资本、土地、知识、技术等生产要素不同，具有非竞争性、非排他性、可复制性等特点，这就决定了数据行为规则、数据权利保护不能套用传统的法治模式。

最大程度发挥数据的要素作用，既要解决好以“所有权”为重点的数据产权问题，更要加快完善基于“共享权”的数据权利保护问题，既要“数尽其用”，更要保护数权。

我建议应加大数权立法的理论研究，重点解决数据权属、形态、公共数据共享机制等关键问题，按照安全至上、互联互通、公益优先、贡献定酬的原则，适时推动《数权法》立法进程。

南都全国两会报道组

采写：南都记者李玲 胡耕硕 实习生陈奕帆 发自北京