牢牢把握主动权 应对人工智能时代网络空间内容安全治理新挑战

网络空间内容安全，事关国家安全、社会稳定和文化繁荣，是网络空间安全综合治理中必须抓牢的关键环节。党的二十届四中全会通过的《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》提出“提高公共安全治理水平”，强调推动治理模式向事前预防转型，并明确要求“深化网络空间安全综合治理”。随着数字中国建设加速推进、“人工智能＋”全面实施，内容安全风险呈现技术化、链条化、外溢化特征，对治理的前瞻性、精准性、系统性提出更高要求。必须从总体国家安全观和意识形态安全高度，系统把握内容安全治理这一重大课题，牢牢掌握网络空间治理主动权。

内容安全治理，本质上是对网络空间信息秩序与价值秩序的制度化、体系化建构。内容安全治理不能仅停留在单条信息合规性层面，而要覆盖内容生产、分发、交互、再生产的全链条全过程；既要坚决管住违法和不良信息，更要牢牢守住公共讨论得以成立的事实基础、规则基础与责任基础。具体而言，有三个突出表现。

第一，公共事实的稳定性受到挑战。生成式人工智能的广泛应用，使虚假信息的生产从偶发性事件变为结构性风险。信息篡改、合成的门槛大幅降低，高仿真伪证在突发事件和重大社会议题中，极易误导公众认知。更为严峻的是，大批量人工智能生成内容急剧抬升信息噪声，压缩了权威信息的传播空间，增加事实核查与澄清的双重成本。

第二，舆论可见性与议题排序面临技术干预。随着人工智能深度嵌入内容分发全链条，进一步干预公共议程的聚集和排序。借助人工智能在账号运营、仿真交互等能力，虚假热度的制造和议题扭曲的操作成本大幅降低，基于真实用户反馈的舆论生态平衡遭到破坏。在算法推荐的催化作用下，极端化、情绪化观点更易获得传播，挤压理性讨论空间。不仅加剧了社会共识的分化，更对主流思想舆论的凝聚力与引领力构成直接挑战。

第三，内容安全治理面临持续性能力透支风险。上述问题对现有治理体系形成反向压力，迫切要求治理能力建设从“补短板”向“防透支”转变。一方面，人工智能技术快速迭代，各类规避手段层出不穷，单靠事后检测与被动响应已难以为继。另一方面，风险内容的跨平台跨场景流通，涉及模型研发方、平台运营商等多类主体。由于责任界定模糊、制度规范衔接困难，单一监管部门难以实现有效管控。若监管规则跟进滞后、技术支撑手段不足、追责体系缺失，不仅会导致治理资源低效运转甚至空转，更将削弱治理体系的权威性和公信力。

为此，必须坚持系统思维，推动制度、技术与机制三位一体的治理能力建设，筑牢人工智能时代的内容安全防线。具体而言，一是以主流思想舆论引领网络空间，把做强正面供给作为治本之策。面对AI驱动的传播格局变革，坚持建设与管理并重，推动正能量与大流量同频共振。聚焦党和国家中心工作，强化重大主题宣传和议题设置，提升权威信息发布的时效性、解释力与回应力，以确定性信息对冲不确定性风险。健全重大舆情和突发事件的应对机制，形成权威首发、持续释疑的有效闭环，压缩谣言滋生空间，把流量入口转化为治理关口。

二是加快构建系统化、全链条治理体系，把制度能力建设作为关键支撑。内容治理要从事后清理更多转向前端预防、过程管控与协同联动。完善内容标识治理，推动生成合成内容显著标识、可核验、可追溯，夯实依法处置和责任认定的证据基础。聚焦热搜榜单、算法推荐、直播短视频、评论区等关键节点，优化规则设计与运行机制，压实平台责任，提升对异常扩散、自动化操控等风险行为的识别处置能力。推动规则衔接、标准统一、责任贯通，形成覆盖模型、应用、平台、账号、内容的制度工具箱，实现“有法可依”向“可检可查、可追可责”深化。

三是强化网上网下协同与法治保障，夯实长效治理根基。坚持系统观念、法治思维和底线意识，健全网上网下联动机制，推动权威发布、平台处置、跨域协同、证据留存、依法追责、申诉救济等环节贯通，形成高效闭环。聚焦人工智能、深度合成等新技术新业态，加快重点领域立法与配套制度建设，强化执法统筹，依法严厉打击违法违规行为，切实保障网民合法权益。构建共建共治共享的网络治理共同体，形成党委领导、政府管理、企业履责、社会监督、网民自律的治理格局，确保技术创新始终在法治轨道上向善而行。

面对人工智能对网络空间内容安全综合治理的挑战，必须坚持更高站位、更宽视野，牢牢把握统筹发展和安全这一重大原则，既看到技术赋能的新机遇，也正视风险外溢的新变量。必须始终坚持党管互联网原则，把内容安全治理置于网络强国建设和总体国家安全观大局中统筹谋划，不断提升治理的前瞻性、精准性与系统性，更好服务“人工智能＋”背景下社会主义文化繁荣兴盛和数字经济高质量发展，以内容安全治理现代化有力支撑中国式现代化全局。

（中国人民大学新闻学院博士研究生：曹萩儿）

查看网址

分享到：