算法备案:打破“信息茧房”,重塑互联网信息生态
在AI 技术飞速发展的今天,推送类算法技术已经成为上互联网信息传播的核心工具。它以精准、高效的方式为用户推送个性化内容,极大地提升了信息获取
的便利性。但是算法的广泛应用也产生了一个日益严峻的问题——“信息茧房”。用户被困在自己构建的信息孤岛中,视野逐渐狭窄,认知逐渐固化。为应对
这一挑战,国家出台了一系列算法备案制度,旨在规范算法应用,破除“信息茧房”,重塑健康的互联网信息生态。
一、信息茧房困境
“信息茧房”这一概念由美国学者桑斯坦提出,意指在信息传播中,公众因自身信息需求并非全方位,而只关注自己选择的和使自己愉悦的领域,久而久之,
将自己像蚕茧一般桎梏于“茧房”中。在现在互联网高度发达的时代,这一现象尤为显著。算法推荐技术根据用户的浏览历史、点赞收藏、兴趣偏好等数据,
为用户量身定制信息推送,使得用户接触到的信息越来越同质化,逐渐陷入“信息茧房”的困境。
这一困境不仅限制了用户的视野,还可能导致认知偏差和社会割裂。长期处于同质化信息环境中,用户难以接触到多元观点和新鲜事物,思维逐渐固化,创
新能力受限。同时,不同群体间的信息壁垒加剧,导致社会共识难以形成,甚至可能引发群体极化和冲突。

二、信息茧房问题
在互联网的算法中,信息茧房问题对个人、社会乃至整个信息生态都产生了不可忽视的负面影响。
从内容质量层面来看,信息茧房催生了内容生态的“劣币驱逐良币”现象。创作者为了在算法推荐机制下获取更多流量和关注,过度迎合算法偏好,制作出
大量吸引眼球、煽动情绪甚至误导性的内容。而这些内容往往缺乏深度思考与社会价值,只以夸张的标题、片面的事实和极端的观点来刺激用户的感官,博
取点击量。而真正优质、有深度、能引发思考的内容,却因不符合算法快速抓取和推荐的标准,被边缘化,难以获得足够的曝光机会。长此以往,平台上的
内容变得肤浅、碎片化,用户难以接触到高质量的信息,知识获取和思维提升受到极大阻碍。
算法的不透明性,进一步加剧了信息传播的混乱与不公。算法的决策过程隐藏在复杂的代码和模型背后,缺乏有效的解释和监督机制。这些都严重阻碍了信
息的公正、客观传播,破坏了健康的舆论环境。
信息茧房对特定群体的影响尤为显著,诱导未成年人沉迷问题也成为一大问题。大数据算法会根据他们的兴趣偏好和行为习惯,不断推送符合其口味的短视
频、游戏等内容,使他们沉浸其中无法自拔。未成年人可能会因此荒废学业,影响身心健康发育。这种沉迷现象不仅对个人造成伤害,也给家庭和社会带来
了沉重的负担。
为应对这些网络问题,国家网信办出台了一系列政策文件,将算法备案列为强制备案。根据《互联网信息服务算法推荐管理规定》规定具有舆论属性或者社
会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算
法类型、算法自评估报告、拟公示内容等信息并履行备案手续。这一制度的实施,旨在通过全面掌握平台算法基本情况,对算法运行实施有效监督,对于存
在问题的算法,监管部门有权责令平台及时整改。

三、国家备案制度
国家出台的算法备案制度是与一系列综合治理措施相辅相成,共同构成了一个全方位的治理体系。
(一)明确备案主体与范围
算法备案制度明确了备案主体为具有舆论属性或者社会动员能力的算法推荐服务提供者。这一界定涵盖了论坛、博客、微博客、短视频、网络直播等各类信
息服务或有相应功能的平台。同时,备案范围也涵盖了生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五类算法推荐技术,确保了对
算法应用的全面覆盖。

(二)算法透明度与用户权益
为提升算法透明度,国家要求平台公开算法运行规则,推进透明展示工作,保障用户知情权。此外,平台还为用户提供了便捷、精细的兴趣偏好管理功能,
如抖音为用户提供滑动对应兴趣标签调节不同内容推送强度的功能,设置不感兴趣、不看此博主、内容质量差等多种负反馈选项供用户选择,精准响应用户
需求。

(三)“信息茧房”防范机制
针对“信息茧房”问题,国家要求平台构建防范机制,提升推送内容多样性丰富性,严禁推送高度同质化内容诱导用户沉迷。例如,抖音全面升级“使用管
理助手”,创新内容偏好评估功能,以可视化形式呈现用户近期浏览内容;小红书设置“探索更多”功能,方便用户操作浏览更多元丰富的推荐内容,在算法
推荐中充分呈现。

(四)内容审核与正能量推送
为防范算法推荐低俗不良信息,国家要求平台不断健全推荐内容审核机制,加强正能量内容推送。微信视频号完善推荐机制,不断迭代升级识别打击模型,
严禁低俗恶俗等典型不良信息进入推荐池;抖音创新推出热点当事人核实机制,防止摆拍造假、仿冒蹭热、拼凑剪接等恶意传播行为。

(五)违法违规行为处罚
对于未依法进行算法备案的企业或服务提供者,国家将给予严厉处罚。未依法备案的企业将面临警告、通报批评、责令限期改正等处罚;拒不改正或情节严重
的,可能被责令暂停信息更新,并处以1-10 万元的罚款。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

四、结语
算法备案制度的实施,是国家治理“信息茧房”等问题的重要举措。通过明确备案主体与范围、强化算法透明度与用户赋权、构建防范机制、加强审核以及
严厉打击违法违规行为等措施,国家正逐步构建一个健康、多元、有序的互联网信息生态。让我们携手共进,用算法备案制度强有力的措施打破“信息茧房”
这类问题的束缚,迎接一个更加开放、多元、包容的互联网新时代。
扫一扫,关注我们