财经 房产 娱乐 地方 美食
首页 » 社会

多部门联合出新规剑指算法乱象 算法应用衍生出新风险

2022-01-10 10:33:56 中国商报
A+ A-

新年伊始,互联网信息服务领域的严监管仍在持续。2022年1月4日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称规定)。规定将从2022年3月1日起施行,是我国首个互联网信息服务领域具有针对的算法推荐规章制度。中国商报记者注意到,规定不仅明确了算法推荐服务提供者的信息服务规范,还向流量造假、控制热搜、诱导未成年人等问题亮剑。有专家认为,规定之下相关公司必将迎来“阵痛”。

算法应用衍生出新风险

在互联网信息服务领域出台具有针对的算法推荐规章制度,是防范化解安全风险的需要,也是促进算法推荐服务健康发展、提升监管能力水的需要。

国家互联网信息办公室有关负责人表示,出台规定主要基于以下两个方面的考虑,一是深入推进互联网信息服务算法综合治理的需要。党中央印发的《法治社会建设实施纲要(2020-2025年)》提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律和《关于加强互联网信息服务算法综合治理的指导意见》等政策文件先后出台并作出相关顶层设计。

二是积极促进算法推荐服务规范健康发展的需要。算法应用日益普及深化,在给经济社会发展等方面注入新动能的同时,算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会公公正和网民合法权益带来挑战,迫切需要对算法推荐服务建章立制、加强规范,着力提升防范化解算法推荐安全风险的能力,促进算法相关行业健康有序发展。

腾讯安全战略研究中心联合赛博研究院发布的《人工智能时代数字内容治理的机遇与挑战》报告显示,算法精准推荐已经占据信息流分发主导地位,算法能够实现数字内容聚合和精准推荐,快速匹配信息与人。基于算法的个化内容推送在为用户提供精准化、个化服务的同时,也带来了国家安全风险因素增高、不良信息泛滥风险增加,以及传统权利保护难度加大等问题。

北京计算机学会数字经济专业委员会秘书长王娟也对中国商报记者表示,随着台海量数据的积累,“大数据杀熟”、安全数据权限、流量制造明星等问题不断出现。一段时间里,互联网企业把问题主体甩给了算法,让问题的解决走向空洞,而规定将对这些新问题、新现象作出进一步规范。

聚焦算法推荐乱象问题

中国商报记者梳理发现,规定中的亮点颇多,为应对算法推荐乱象提供指引和规范,聚焦违法和不良信息传播问题,引导算法应用合理规范,同时聚焦操纵社会舆论乱象,引导算法应用公开透明。

规定明确了算法推荐服务提供者的信息服务规范,要求算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,不得利用算法推荐服务从事违法活动或者传播违法信息,应当采取措施防范和抵制传播不良信息;建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施,定期审核、评估、验证算法机制机理、模型、数据和应用结果等;建立健全用于识别违法和不良信息的特征库,发现违法和不良信息的,应当采取相应的处置措施。

同时,规定要求加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则;加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在重点环节积极呈现符合主流价值导向的信息;规范开展互联网新闻信息服务,不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息;不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。

规定明确了对于算法推荐服务提供者的用户权益保护要求。一是算法知情权,要求告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等;二是算法选择权,要求向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务;三是针对向未成年人、老年人、劳动者、消费者等主体提供服务的算法推荐服务提供者作出具体规范。如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务。

而对具有舆论属或者社会动员能力的算法推荐服务提供者,应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型等备案信息,履行备案手续。同时,规定明确了备案编号标注、备案信息变更、备案注销等相关事宜。

算法驱动台将受到哪些影响

规定中明确,应用算法推荐技术是指利用生成合成类、个化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。而在现有的App中,基于算法驱动的产品和台越来越多,它们又将受到哪些影响?

上海财经大学研究员崔丽丽表示,互联网台作为消除信息不对称的先进技术代表,有责任维持技术手段的客观,反映流量的自然状态,呈现真实的公众意见,不应该因为商业利益的驱使在流量上作假。过去曾发生过一些涉及商业利益的新闻信息被操控的情况,这样获取商业利益是一种市场不公的表现,甚至是不合法的。

不论是UGC(用户生产内容)还是PGC(专业生产内容)台,内容的审核以及对于受众的推荐实际都有相应的规则,互联网信息台已经在形态上取代了过去的传统媒体,因此可能具备了一定的公共设施属,所以信息的产生、审核和分发应该符合公允、客观,以及符合事实等要求。

规定中也提到,算法推荐服务提供者应当加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。

西南政法大学数字经济与法制研究中心研究员邓若翰表示,规定的出台意味着算法推荐相关行业进入严监管时代,必将在很大程度上提高算法驱动公司的合规成本,同时对“大数据杀熟”、信息茧房等问题的扼制也将在一定程度上缩减算法驱动公司企业的盈利空间,相关公司必将迎来“阵痛”,如何寻找规范化的盈利增长点成为摆在其面前的难题。

与此同时,可以预见的是,规范算法服务未来仍需要多方努力。国家互联网信息办公室有关负责人表示,算法推荐服务治理需要政府、企业、社会、网民等多方主体共同参与,推动算法推荐服务公正公、规范透明,促进算法推荐服务向上向善,营造更加清朗的网络空间。(记者 祖爽)

责任编辑:bH_03116

关键词: 公司 互联网 多部门 联合出新规

点击查看全文(剩余0%)

相关新闻