算法备案的法律法规和注意事项

产品详情

人工智能核心技术就是算法与算力，算法决定了人工智能的学习能力。2022年3月1日，作为《互联网信息服务算法推荐管理规定》（以下简称《算法推荐管理规定》）的配套系统，我国“互联网信息服务算法备案系统”正式上线运行，由此开启了我国算法监管的新里程。算法备案作为多维一体算法监管体系的关键环节，将与算法评估、算法检查一道成为我国算法监管的“三驾马车”，协同推进算法透明、算法公平、算法安全等治理目标的实现，也必将推动算法治理体系的完善和企业算法应用的合规。

一、合规要点

1.算法机制机理审核

（1）不得危害国家安全或公共利益，扰乱经济秩序和社会秩序，侵犯他人合法权益；不得利用算法推荐服务传播法律、行政法规禁止的信息；不得侵害弱势群体利益等。

（2）定期审核、评估、验证算法机制机理、模型、数据和应用结果。

2.科技伦理审查

企业可参照《关于加强科技伦理治理的指导意见》明确的科技伦理治理的基本原则，并结合自身商业模式制定科技伦理审查规则，基本原则如下：

（1）增进人类福祉；

（2）尊重生命权利；

（3）坚持gongpinggongzheng；

（4）合理控制风险；

（5）保持公开透明。

3.用户注册

除满足现有法律要求的实名注册外，算法推荐技术还应：

（1）不得利用算法技术虚假注册；

（2）不得利用算法技术交易账户或操纵账户。

4.信息发布审核

参考《网络信息内容生态治理规定》等相关规定，落实内容治理义务。此外，《算法推荐管理规定》还对算法推荐技术的信息发布审核做出额外要求：

（1）健全用于识别违法和不良信息的特征库；

（2）发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输；

（3）发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。

5.数据安全和个人信息保护

按照《个人信息安全法》、《网络安全法》、《数据安全法》等相关法律，全面落实数据合规义务。

6.反电信网络诈骗

依法开展涉电信网络诈骗信息的监测、识别和处置；安全评估监测；加强信息安全管理。

7.安全评估监测

具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。参与算法推荐服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的个人隐私、个人信息和商业秘密应当依法予以保密，不得泄露或者非法向他人提供。

算法推荐服务提供者应当依法留存网络日志，配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。

8.安全事件应急处置

制定应急处理预案；进行安全事件应急演练；如发生安全事件按照法律规定及时上报主管部门。

9.算法推荐服务规则

（1）公示算法推荐服务的基本原理、目的意图和主要运行机制；

（2）提供便捷关闭算法服务的选项；

（3）提供选择或删除用于算法推荐服务的针对个人特征的用户标签的功能。

10.市场公平竞争机制

不得利用“算法共谋”方式形成垄断，排除市场竞争，遵循反垄断、反不正当竞争相关法律规定。

11.用户权益保障责任

首先，要告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。其次，提供不针对其个人特征的选项，并提供关闭渠道。再次，不得滥用大数据分析等技术手段，基于用户消费记录、偏好等设置不公平的交易条件，侵犯用户合法权益。

12.劳动者权益保护机制

算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

13.未成年人权益保护机制

结合《算法推荐管理规定》及《未成年人保护法》、《儿童个人信息网络保护规定》，算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息。针对未成年保护应注意以下合规事项:

（1）不得收集以及处理与提供的服务无关的未成年个人信息，并且需注意依法履行未成年人隐私保护义务（例如：个人信息处理者处理不满十四周岁未成年人个人信息的，应当取得未成年人的父母或者其他监护人的同意）；

（2）儿童个人信息发生或者可能发生泄露、毁损、丢失的，应当立即启动应急预案，采取补救措施；

（3）算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息；

（4）不得利用算法推荐服务诱导未成年人沉迷网络。

14.老年人权益保护机制

算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。