哪些企业需要进行算法推荐服务安全评估?
在中国环境提供算术推荐服务的具有航天属性或社会动员能力(相关评审标准分析参考以上算术备案部分)的算法推荐服务提供者平均需要进行安全评价。就深度合成技术而言,例如(1)在中国环境开发线上具有航天属性或社交能力的新产品、新应用、新功能的深度合成服务提供者;
(2)在中国环境提供工具有(i)生成或编辑人脸、人声等生物知识别信息的;(ii)生成或编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物质、场景等非生物信息的功能的模型、模板等工具的深度合成服务提供者和技术支持者。如同计算法备案,计算法推荐服务安全评价要请求亦实施属地管理原则。
算法推荐服务安全评估的要求是什么?基于《算法推荐管理规范》项下算法安全评估实际操作细节尚不明确,通过对上市案例的调查,我们注意到也存在于部分模拟发行人现场按照《安全评价规定》通过全国互联网安全管理服务平台向主管网信部和公共安全机关提供安全评价报告,以满足《算法推荐管理规范》项下算法推荐服务安全评价要请求。但如前所述,我们理应理解两项安全评估应属于相互独立的监控要求。
如同算法备案,目前算法推荐服务安全评估的监控实践也主要是企业对照相关规定与自身实际情况自主判断、依法依规进行安全评价,但不排除主管部门主要联系和要求相关企业进行算法推荐服务安全评价的可能性。因此,若相关企业是否需要进行算法推荐服务/深度合成服务安全评价以及如何进行安全评价存在疑问,建议进入下一步咨询主管部门进入执行机构确认。
另外,需要注意的是,为了加强深度合成技术监控,《深度合成管理规范》还进一步要求“互联网应用商店等应用程序分发布平台”应当落实上架审查、日常管理、应紧急处理等安全管理责任,核验深度合成类应用程序的安全评估、备案等情况;对违反国家有规定的,应及时采取不予上架、警告、暂停服务或者下架等处设置措施,国家对深度合成技术实施常态化监控的状态也可从中窥知一二。
备案后义务有哪些?公示信息链接:完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显示位置标明其备案号并提供公开信息链接。
变更备案:算法推荐服务提供者的备案信息发生变更的,应在变更之日起10个工作日内处理变更更多的手。
注销备案:算法推荐服务提供者终止服务的,应在终止服务之日起20个工作日内处理注销备案手册。
结语随着ChatGPT的横空出世,AIGC业务正以超乎想象的速度发展,加上深度合成技术由于其自身属性可能存在或带来的各种法律风险,深度合成类算法推荐服务与应用程序必将成为各级网络信息部门的监控重点之一。自《算法推荐管理规范》于2021年末生效及互联网络信息服务计算系统自2022年3月1日上线以来,在不到一年的时间里,相应数额的互联网企业逐步完成各类算法,算法备份监控管理规定的落地与执行情况已经趋于成熟。尽管目前算法推荐服务安全全面评价相关实际操作要求还有待主管理部门出台一步实施细则或指南,考虑到网信部监控口径与状态趋严,建议相关企业也提出高对算法推荐服务合规(尤其是算法备案与安全评估)估)的重视度。