知识管理论坛 >

2026 , Vol. 11 >Issue 4: 323 - 332

DOI: https://doi.org/10.13266/j.issn.2095-5472.2026.027

研究论文

生成式人工智能背景下网络信息内容生态机制研究

  • 刘婷 ,
  • 周佳 ,
  • 徐晓芳 ,
  • 胡媛
展开
  • 南昌大学公共政策与管理学院 南昌 330031
胡媛，教授，博士，E-mail：。

作者贡献声明/Author contributions：

刘　婷：研究思路设计，资料分析，论文撰写与修改；

周　佳：资料收集和分析，论文撰写与修改；

徐晓芳：论文指导与修改；

胡　媛：研究框架设计，论文修改与定稿。

刘婷，讲师，博士；

周佳，硕士研究生；

徐晓芳，副教授，本科。

收稿日期: 2026-04-02

  网络出版日期: 2026-07-31

基金资助

国家社会科学基金项目“在线健康数据要素价值形成机理与释放路径研究”(24CTQ047)

收起

Research on the Ecological Mechanism of Online Information Content in the Context of Generative Artificial Intelligence

  • Liu Ting ,
  • Zhou Jia ,
  • Xu Xiaofang ,
  • Hu Yuan
Expand
  • School of Public Policy and Administration, Nanchang University, Nanchang 330031
Hu Yuan, Professor, PhD, E-mail: .

Liu Ting, Lecturer, PhD;

Zhou Jia, Postgraduate;

Xu Xiaofang, Associate Professor, Bachelor.

Received date: 2026-04-02

  Online published: 2026-07-31

Supported by

National Social Science Fund of China, titled "Research on the Value Formation Mechanism and Release Path of Online Health Data Elements"(24CTQ047)

Fold

摘要

［目的/意义］ 探究生成式人工智能的发展给网络信息内容生态机制带来的影响，为优化网络信息内容生态、提升信息利用效能提供作用。［方法/过程］ 采用扎根理论研究方法，对生成式人工智能和网络信息内容生态机制相关的文献及政策文件进行开放式编码、主轴编码及选择性编码，构建包含主体机制、参与机制、实现机制和保障机制的生成式人工智能背景下的网络信息内容生态机制。然后，对网络信息内容生态机制内部的相互影响关系进行分析，并解析生成式人工智能对网络信息内容机制的影响路径，在此基础上选择自媒体平台AI应用情况作为案例，验证4条影响路径的合理性。［结果/结论］ 研究发现，生成式人工智能对主体机制、参与机制、实现机制、保障机制存在4条影响路径，整体分析逻辑为生成式人工智能—信息内容—信息主体—信息服务—信息环境，在自媒体平台的案例中都能得到有效验证，印证了各路径的合理性与可行性，也充分体现了生成式人工智能对信息内容影响的系统性与动态性。最后，为优化生成式人工智能背景下的网络信息内容生态机制提出一些建议：需规范生成合成内容的传播、严格审查生成模型语料库的选择、强化用户信息判断和信息筛选的能力、明确生成内容涉及的版权问题。

关键词： 网络信息内容生态; 生成式人工智能; 扎根理论; 影响机制

本文引用格式

刘婷 , 周佳 , 徐晓芳 , 胡媛 . 生成式人工智能背景下网络信息内容生态机制研究[J]. 知识管理论坛, 2026 , 11(4) : 323 -332 . DOI: 10.13266/j.issn.2095-5472.2026.027

Abstract

[Purpose/Significance] This paper explores the impact of the development of generative artificial intelligence on the ecological mechanism of network information content, and provides a role in optimizing the ecological mechanism of network information content and improving the efficiency of information utilization. [Method/Process] This paper adopted the grounded theory research method to carry out open coding, axial coding and selective coding on the literature and policy documents related to the ecological mechanism of generative artificial intelligence and network information content, and construct the ecological mechanism of network information content under the background of generative artificial intelligence including subject mechanism, participation mechanism, realization mechanism and guarantee mechanism. Then, the mutual influence relationship within the ecological mechanism of network information content was analyzed, and the influence path of generative artificial intelligence on the mechanism of network information content was analyzed. On this basis, the application of self-media platform AI was selected as a case to verify the rationality of the four influence paths. [Result/Conclusion] The study finds that the overall analytical logic of generative artificial intelligence with respect to the subject mechanism, participation mechanism, realization mechanism, and guarantee mechanism follows the chain: generative artificial intelligence-information content-information subjects-information services-information environment. Moreover, all four influence pathways have been effectively validated through case studies on self-media platforms. This not only confirms the rationality and feasibility of each pathway, but also fully demonstrates the systematic and dynamic nature of generative artificial intelligence's impact on information content. Finally, some suggestions are put forward to optimize the ecological mechanism of network information content under the background of generative artificial intelligence: it is necessary to standardize the dissemination of generated synthetic content, strictly review the selection of generated model corpus, strengthen the ability of user information judgment and information screening, and clarify the copyright issues involved in generated content.

Key words： network information content ecology; generative artificial intelligence; grounded theory; influence mechanism

当前，生成式人工智能正在飞速发展。从2023年1月，由OpenAI研发的人工智能聊天机器人ChatGPT席卷全球，到2025年火爆全网的DeepSeek，生成式人工智能在生活、学习、工作等不同场景下给人类带来全新的变化。生成式人工智能是一种基于深度学习模型，通过学习大量数据生成原创内容的人工智能技术，其丰富的知识存储量能够拓宽人类的认知边界，提高人类对各类知识的调用效率，加速全球信息的流通，从而影响着网络信息内容生态的运行。
网络信息内容生态的健康运行能够促进高质量信息循环。然而，随着科学技术的飞速发展，人工智能这种新兴技术在丰富人们信息生活的同时也给网络信息内容生态机制带来一些挑战，如产生信息造假、信息伦理、信息产权等一系列问题。为了更好地利用新科技，有效促进技术成果的转化，国家和地方日益重视网络信息内容生态的塑造和维护。2019年12月，国家互联网信息办公室发布《网络信息内容生态治理规定》，该文件针对网络信息内容生产者、网络信息内容服务平台、网络信息内容服务使用者等主体做出了系统性规范。
目前，在生成式人工智能对不同行业的影响、技术层面的优化分析、利弊研究、问题解决等方面已经存在较多科研成果。生成式人工智能对信息内容生态存在双面性的影响，生成式人工智能背景下的信息获取既可能拓展信息边界和破除信息茧房，亦可因滋生行为惰性加剧信息窄化产生茧房[1]。目前，学者们比较关注生成式人工智能背景下网络信息内容生态的发展规律、产生的信息内容风险问题及其应对策略，关于生成式人工智能与网络信息内容生态机制影响分析的相关研究较少。鉴于此，本研究采用扎根理论的研究方法，总结归纳生成式人工智能背景下的网络信息内容生态机制，并探究相关影响路径，助力网络信息内容生态的优化和信息利用效能的提升。

1 文献综述/ Literature review

1.1 网络信息内容生态

信息时代，谣言、诈骗、网络暴力、隐私泄露等问题对网络生态的秩序造成了不容忽视的影响，引发了广大学者的关注。关于网络信息内容生态的研究，最早由张庆锋提出了网络生态学的概念，用生态学的方法探讨网络系统，认为用联系发展的眼光分析网络与网络生态环境之间相互作用、相互影响时，便形成了网络生态[2]。魏傲希等认为网络信息生态系统是指在网络媒介下利用系统论的观点，研究并揭示信息生态系统在网络信息空间的发展规律[3]。可以看出，网络信息内容生态与自然生态一样，具备完整的信息生态链，由不同的主体共同参与信息流通的各个环节，一旦失调可能会产生虚假信息泛滥、信息污染等问题，因此不少学者着眼于研究网络生态治理路径，X. Yin等将SVM（support vector machine，支持向量机）算法应用于网络信息内容识别过程，改良了网络信息提取和识别[4]，还有学者提出网络生态治理离不开网络内部参与主体的协同努力等解决措施[5]，以及要通过公众参与、技术推广和制度完善激发平台承担主体责任[6]。

1.2 生成式人工智能

关于生成式人工智能的研究主要有3个方面。首先，在对信息工作的影响方面，生成式人工智能的应用使得信息工作产生了新变化，张新新等发现了智能决策在出版领域以及智能机器人等5类新型应用场景中的重要作用[7]。李荣等则探讨了人工智能内容生成技术对开源情报工作的影响与改变，从开源情报全周期视角分析ChatGPT在开源情报工作中的潜在影响[8]。其次，在信息风险及解决策略方面，生成式人工智能改变了网络空间的信息生成模式，其提供的信息数量庞大且具有高仿真性，容易诱发虚假信息风险，针对这些风险，漆晨航提出需要建立虚假信息协同治理机制[9]；侯东德等认为信息风险的生成路径包括技术黑箱、技术失灵和结构嵌入，并从法律规制的角度提出了应对措施[10]，还提出了敏捷治理模式[11-12]；H. Du等从优化算法的角度提高生成内容的质量[13]。最后，在信息行为研究方面，生成式人工智能改变了人们获取信息的方式，使得信息更系统、全面。储节旺等对比了UGC（user generated content，用户生成内容）和AIGC（artificial intelligence generated content，人工智能生成内容）两种内容生成方式，总结了AIGC对信息生成内容变革的影响程度和特点[14]；F. Li 等分析了AIGC标签对用户的感知准确性、信息可信度或分享意图的影响[15]；已有研究还梳理总结了国外集群式信息攻防领域的研究[16]。
综上所述，关于生成式人工智能和网络信息内容生态相关要素的影响已经有了较为深入的探讨，并且不同学者从多角度致力于解决生成式人工智能给网络信息内容生态带来的不良影响。但是目前对于AIGC对网络信息内容生态机制构建影响的全面系统研究较少。基于此，本研究采用扎根理论对相关文献和政策资源进行深入分析与总结，全面分析生成式人工智能背景下的网络信息内容生态机制框架，为构建良好的网络信息内容生态机制提供一些可行的建议。

2 生成式人工智能影响网络信息内容生态机制构建/Construction of ecological mechanism of generative artificial intelligence affecting network information content

扎根理论是一种自下而上的质性研究方法，通过对数据进行系统性分析，从实际经验中提炼出概念和理论，以构建理论框架，便于理清研究内容[17]。本研究采用扎根理论方法中的三级编码工作，依次进行开放式编码、主轴编码和选择性编码3个阶段，对相关数据进行深入分析，以探究生成式人工智能对网络信息内容生态机制所产生的影响。

2.1 数据来源及筛选

本研究的主题是生成式人工智能对网络信息内容生态机制构建的影响，包含三方面的内容：生成式人工智能、网络信息内容生态机制现状、网络信息内容生态在生成式人工智能背景下的改变，现有的文献以及政策已经在这些方面分别有较多学术成果，对这些文献和政策数据进行扎根分析，能够统筹分析生成式人工智能对网络信息内容生态机制的影响路径。在文献数据方面，利用知网、万方、维普等平台进行检索，主题词为生成式人工智能（AIGC/人工智能/大语言模型）、网络信息内容生态等，共得到相关文献75篇。在政策文件数据方面，在官方网站以及北大法宝平台检索生成式人工智能及网络信息内容相关政策文件资源，共得到13份政策文件。
为了获得更加有效的研究数据，形成更加准确的分析逻辑，对检索出的数据建立筛选标准，去除研究内容与本研究相关度不高的文本，最终共选取58篇文献以及11份政策文件作为原始文本，其中，选取48篇文献和8份政策文件作为编码材料，预留10篇文献和3份政策文件用于后续理论饱和性检验。

2.2 数据编码结果

本研究使用Nvivo11软件作为编码工具，在开放式编码阶段，对筛选出的文献和政策文件进行排序、组合和再编码，提炼概念和范畴。经过分析，并去除重复的概念和范畴，最终共识别出211个初步概念，总结形成25个初始范畴，编码过程示例见表1。在主轴编码过程中，分析开放式编码中获得的范畴之间的联系，并将这些概念放置在特定的语境中进行理解和处理。通过编码分析，发现25个初始范畴之间存在不同程度的概念交叉，并且其中一些范畴展现出一定的层次性和包含关系[18]。基于这些发现，对初始范畴进行分类、归纳和总结，最终形成子范畴，具体内容和相关概念详见表2。
表1 开放式编码结果

Table 1 Open coding results

初始范畴 原始资料摘录（部分列举）
信息泄露 用户为促进与大型语言模型的交互而共享的个人数据可能会失去对其个人信息的控制，并削弱他们的权利和隐私保护[19]。（侵害用户隐私权）
信息失序 使用者在无意识情况下进行合理合规的借鉴，也可能产生侵权问题，引发不必要的信息失序问题[20]。（造成信息混乱）
信息茧房 算法优先推送用户偏好内容，导致公众认知逐渐收缩于同质化信息闭环，形成“数据投喂—观点固化—参与窄化”的信息茧房[21]。（同质化信息推荐）
信息诈骗 生成数据在网络空间中的扩散带来了安全和隐私问题，包括用于欺诈目的的伪造媒体内容[22]。（生成信息真假难辨）
偏见信息 生成式人工智能可能受到训练数据偏见的影响，导致信息服务中的过滤和呈现带有偏见，加强社会中的刻板印象和偏见[23]。（偏见信息传播）
信息共享 大模型的出现能纾解传统的信息壁垒和信息孤岛问题[24]。（加速信息流通）
方式多样 生成式人工智能的应用实现了信息服务的更大定制化，并改变了社会获取信息的方式[23]。（个性化信息服务）
形成规模 这一技术革新将迅速突破PGC和UGC模式下数据生成的速度限制，使网络信息内容规模达到空前体量[25]。（信息生成速度快）
信息技术 数字智能技术有助于提升国家治理的数字能力，增强国家对社会的数字可读性，推动国家治理信息机制的数字化和智能化[24]。（优化信息治理技术）
信息界限 这将改变移动互联网时代精英掌控内容生产的局面，帮助普通人激活和调动海量的外部资源，形成强大、丰富的社会表达和价值创造能力[26]。（更多主体加入）
生成成本 可以高效且低成本生成大规模三维场景和精细化的物件[27]。（低成本）
集合信息 生成式人工智能技术在信息的归纳与整合方面拥有极强的优势[28]。（关联整合能力强）
同质信息 社交媒体和阅读平台倾向于将用户归入兴趣相似的社交群组，进一步加剧信息同质化[29]。（相似内容多）
虚假信息 生成式人工智能可能编造虚假信息，其输出真实信息与虚假信息相互掺杂的低质量信息，并使用流畅的句子对编造的虚假事实进行阐述[27]。（编制虚假信息传播）
信息整治 AIGC虚假信息新特征带来技术上的难感知和难检测、管理上的难干预和难纠偏以及AIGC发展与监管难平衡[30]。（整治难度大）
信息鸿沟 生成式人工智能的高度智能化，可能会导致大众之间的认知差异，形成“智能鸿沟”[29]。（加剧认知差异）
生成速度 机器能够解读人类的动作、表情、话语所表达的信息，短时间内给出回答[26]。（反应和解答速度快）
门槛降低 互动与“信息助理”对话，实现对信息海洋中任意资源的访问呈现，而无需自行处理大数据任务[31]。（获取信息简捷）
地区差异 由于不同国家或地区接触新兴技术的条件也各不相同，生成式人工智能在不同国家或地区的使用频率也存在差异[32]。（增大地区信息差异）
信息筛选 公众在获得即时响应满足感的同时，丧失对信息源筛选、价值判断的自主性[21]。（产生信息依赖）
即时回应 读者可向生成式人工智能提出关于阅读材料的问题，生成式人工智能能够即时生成回应[29]。（互动性强）
语料库选择 不同数据库之间还存在元数据字段匹配割裂的问题，会影响模型理解信息的准确性，降低模型对复杂问题的把握能力[33]。（源头客观性难把握）
信息审核 难以从源头上把控生成内容的质量，这可能导致部署者需要花费更多的技术成本和人工审核成本[34]。（审核难度增大）
信息垄断 生成式人工智能技术及其背后的科技巨头企业可能演变为“准数据权力”机关[24]。（信息马太效应）
信息侵权 现有立法未明确AIGC的版权归属，也未将数据爬取、数据挖掘等智能分析行为规定为合理使用，产生版权侵权风险[35]。（责权界限不清）
表2 主轴编码结果

Table 2 Spindle coding results

子范畴 范畴 对应概念
信息数量 形成规模 短时间内能够生成大规模信息
生成成本 发送指令即可生成信息，生成成本低
信息质量 集合信息 能够跨越时空汇集海量信息
同质信息 大数据兴趣分析功能，输出相似信息
偏见信息 若数据有偏见信息，可能生成歧视信息
虚假信息 存在“信息幻觉”，输出真假难辨信息
信息生产者 语料库选择 含带偏见、敏感信息的语料库将使模型存在潜在风险
信息失序 创作者滥用生成信息可能使行业产品质量下降
信息使用者 信息筛选 面对大量输出信息，选择和判断难度加大
信息茧房 算法推荐使受众的信息获取窄化，固化思维
信息监管者 信息技术 可以借助AIGC技术实时监管某一领域信息动态
信息审核 生成虚假信息或评论，难以辨别网络舆情真实性
信息整治 虚假信息生成、传播快，扩大整治范围
响应效率 生成速度 能够快速查询、检索和整合信息
即时回应 能够即时响应用户指令，统筹各类信息
获取渠道 门槛降低 轻松获取传统的专业知识或政策信息等，便于使用
方式多样 回应指令同时标明信息来源，为用户提供查询方式参考
信息循环 信息界限 打破各种信息的界限，加速信息流通
信息共享 通过数据对话进行信息的隐性共享
信息垄断 数据高度集中于某些企业，存在垄断风险
信息安全 信息诈骗 通过AIGC能生成完整的诈骗套路话术，方便诈骗行为
信息侵权 若使用未经授权的数据进行学习和训练会产生侵权
信息泄露 用户无意上传的私人信息，可能被模型收集进行学习分析
信息公平 信息鸿沟 AIGC的高度智能化可能会导致大众之间的认知差异
地区差异 区域新兴技术发展差距引发居民信息获取水平差异
然后，在选择性编码阶段，通过对主轴编码形成的各个子范畴进行归纳总结，比较分析原始文本，进行概念类属间的合并，最终提炼出“生成式人工智能背景下的网络信息内容生态机制”这一核心范畴下的4个主范畴，即信息内容、信息主体、信息服务、信息环境。同时，根据4个主范畴在信息生命中的作用，分别赋予这4个部分主体机制、参与机制、实现机制和保障机制的名称，分别对应信息源头、信息处理、信息流通、信息监管4个环节，然后按照各个主范畴、子范畴间的关系绘制框架图（图1）。
图1 生成式人工智能背景下的网络信息内容生态机制

Figure 1 Ecological mechanism of network information content under the background of generative artificial intelligence

最后，在文献资料和政策文件均已完全编码的基础上，为保证结果不再出现新增概念、范畴或关联关系，需要对所得概念进行饱和度检验。因此，使用预留的文献和政策文件再次进行编码完成理论饱和度检验，发现即使新增相关文本资料，也无法通过编码工作进一步形成新的概念范畴或者理论观点，可认为该理论模型已经达到饱和。

3 生成式人工智能对网络信息内容生态机制的影响分析/Analysis of the impact of generative artificial intelligence on the ecological mechanism of network information content

3.1 网络信息内容生态机制内部影响关系

生成式人工智能影响下的网络信息内容生态机制由主体机制、参与机制、实现机制、保障机制四部分构成，这4个机制除了影响网络信息内容生态机制外，它们之间也是相互影响的，相互关系见图2。主体机制是网络信息内容生态机制的基础，其他3个机制的运行都离不开信息内容。信息内容是信息主体进行信息生产、利用、监管等信息处理活动的主要依据，而信息主体进行的信息活动又会丰富或破坏信息内容的质量与数量。此外，信息主体加工利用后的信息会通过信息服务进行流通，在信息服务的过程中信息主体又会进一步对信息进行精细化处理。最后，信息服务参与高质量或低质量信息的流通，影响着信息最终的价值转化率。同时，保障机制是维护整个网络信息内容生态有序运行的方向盘，信息环境的好坏也影响着信息服务质量的高低。
图2 网络信息内容生态机制内部关系

Figure 2 The internal relationship of network information content ecological mechanism

3.2 生成式人工智能对网络信息内容生态机制的影响路径分析

生成式人工智能的产生、更新与迭代，对网络信息生态内容机制产生一系列影响，本研究在上文对文献和政策文件的分析和编码的基础上，系统分析生成式人工智能对主类属和主次类属之间的关系内涵，构建生成式人工智能对主体机制、参与机制、实现机制、保障机制影响路径，整体分析逻辑为生成式人工智能—信息内容—信息主体—信息服务—信息环境。
路径一：生成式人工智能→信息质量→信息生产者→信息环境。在AI赋能下，信息内容呈现出规模化生产、快速迭代、形式多元等特征，但同时也伴随同质化严重、真实性下降、存在偏见等质量问题，使信息质量成为影响传导的第一中介环节。生成式人工智能的训练深度依赖大规模训练数据，语料库的选择对于模型的训练至关重要，丰富多样的语料库充实了模型的学习库，使模型拥有广阔的知识面，可以给予用户更全面的信息输出，但是如果选择的语料库中含有偏见或敏感信息，会使模型参考此类信息回答用户的提问，进而导致产出大量不符合事实的信息。信息生产者可以是个人，也可以是组织，包括内容创作者和新闻媒体机构等，他们是信息产生的重要源头之一，当高质量信息占据主流时，生产者会倾向于提升创作标准、强化内容审核与原创意识，但是当低质、虚假信息泛滥并获得流量与传播优势时，生产者易出现逐利行为，降低内容投入、简化创作流程，甚至主动生成劣质信息，形成行为层面的传导效应，如果他们过度依赖生成式人工智能来进行作品创作，形成的作品的创新性、准确性、客观性将较难考量[36]，进而影响信息环境的质量。
路径二：生成式人工智能→信息质量→信息使用者→信息公平。信息使用者是具有信息需求的个体或群体，包括普通用户和政企单位等。生成式人工智能背景下，用户面临的问题不是搜集的信息太少，而是如何从海量信息中筛选出真实且有效的内容。生成式人工智能在输出信息的时候往往会采用严谨的文风以及有理有据的说辞，让信息看起来没有漏洞，这使得用户很容易不假思索地直接采用这些信息[37]。在面对这些极具说服力的信息时，用户的信息判断力可能下降，导致筛选目标信息的准确率下降。通过对生成式人工智能生成的信息的进一步研究，可以明显看到这些生成的信息可能存在大量的重复，甚至模型会进行不恰当引用或编造内容从而导致将错误信息和虚假数据回馈给用户，而用户若不加以深究直接将这些信息运用到实际场景中，这将可能造成不可挽回的损失。并且，基于大数据的个性化推荐功能会根据用户的兴趣主动推荐相关信息，这种功能能够准确推送用户可能感兴趣的内容和话题，但事实上，长期接受相同的信息也将在一定程度上不利于用户对新信息的接收，使他们形成思想闭环，不利于创新意识的发展。此外，由于不同地区的基础设施条件有所差距，不同人群掌握新兴技术的水平也不一致，发展情况较差的地区与新兴事物接受能力不强的人群难以最大程度利用生成式人工智能，从而加剧信息鸿沟，扩大区域信息发展差距。
路径三：生成式人工智能→信息数量→信息使用者→信息服务→信息循环。相较于传统检索引擎，使用生成式人工智能能够快速生成海量且经过系统化梳理的信息，从而提高信息使用效率，降低用户获取信息的门槛，促进信息共享。生成式模型的训练依靠大量的数据，能够跨越时空掌握十分广泛的知识，并且还具有极强的记忆力，能够存储大规模知识，用户发送提问后模型便会迅速在知识库中调取相应的内容给出回答，信息整理的速度也非常快，能够做到即时回应用户需求，使得信息的获取既便捷又高效，节省信息使用者开展信息筛选的时间。生成式人工智能的应用也可以降低信息使用者获取信息的门槛，使大多数人群能够轻松获取各类信息资源库的简易使用方式，降低专业信息理解难度。信息获取及信息理解的难度降低，能够进一步推动信息的流通及循环。生成模型具有较强的交互性，除了会学习既有训练库存储的知识外，还会学习用户对话中有用的信息，使得用户之间能够通过模型进行信息的隐性共享。同时，模型的大范围使用也打破了信息的界限与壁垒，加速各类信息的交流互通。
路径四：生成式人工智能→信息内容→信息监管者→信息安全。信息监管者是维护信息市场秩序的关键环节，用户使用生成式人工智能产生的大规模虚假信息给信息监管带来了不少难题。在信息审核环节，利用生成式人工智能能快速产生海量影响舆情的信息和评论，这些评论又具有较大隐蔽性，难以辨析，加大了平台和检测者核查信息的范围和难度，难免会产生“漏网之鱼”，恶意引导网络舆情的发展。在信息整治环节，生成的信息极具说服力，使得用户可能成为潜在的虚假信息传播者，扩大虚假信息的传播面，增加信息整治的难度和成本。但实际上，生成式人工智能并非只带来监管难题，还带来了一些技术便利。例如，信息监管者可以利用生成式人工智能的大数据动态监管技术，实时检测信息市场动态，从而及时发现网络信息问题并处理。除了加大信息监管难度外，生成式人工智能也会引起一些信息安全问题。模型会针对用户的提问习惯或者在不经意间输出的私人信息对某一人群的特征进行关联分析，如果这些分析结果泄露并被不法分子利用，通过不合法的手段生成带有欺诈目的的内容，那么将会威胁人们的财产安全。此外，目前对于生成内容的版权归属尚未有十分明确的界定，并且模型在进行联网分析的时候可能会未经允许引用一些需要有版权的内容，在这种情况下，生成模型既可能直接产生侵权行为，也可能间接导致用户产生侵权行为。

3.3 具体场景下的路径验证

本研究选取自媒体平台AIGC应用情况作为典型案例，用以呈现4条影响路径的动态传导与系统流转过程。
路径一，生成式人工智能高效化、模板化的生成逻辑，在提升内容产出效率的同时，容易引发文本同质化、内容浅层化、事实性偏差、原创性弱化等问题，随着生成式人工智能工具的大众化普及，许多自媒体创作者普遍采用AI文案生成、智能改写、内容批量创作等工具辅助生产，直接引发信息质量整体波动与结构性变化，从而导致信息质量标准松动与创作平台环境更趋于流量导向，最终作用于整体网络信息环境。
路径二，AI的大规模使用，使大量自媒体生产者的同质化、轻量化、低质化创作行为不断累积，自媒体平台整体内容生态出现冗余信息泛滥、优质内容被稀释、网络舆论浮躁、信息可信度下降等问题，加重了普通用户筛选信息的压力与负担。同时，越来越多自媒体平台采用AI智能推送技术，针对某些用户定向推送信息内容，虽然这种技术能够满足用户个性化需求，但是也会让一些用户错过阅读重要信息的机会，造成信息的不对等。
路径三，当前许多自媒体平台嵌入AI大模型，能够针对用户提问关联大批量相关作品，给用户提供更广泛的参考意见，方便用户得到更全面的回答。同时也能够针对用户的提问快速整理不同创作者的相关作品，给用户呈现简洁明了、逻辑性强的回答。自媒体平台的这种改进除了优化信息服务外，还能让用户发现更多创作的途径与话题，鼓励更多用户进行个人创作，进而促进用户之间的信息交流共享。
路径四，自媒体平台以个人创作者为主体，用户活跃度高，部分创作者为压缩时间成本、追求更新频率与曝光流量，逐渐形成依赖AI的创作行为，生成了海量让人难辨真假的新闻，自媒体平台传播速度快的特性使得这些“虚假信息”广泛传播，给信息监管者带来了信息溯源与传播控制的难题。当部分错误信息绕过监管在自媒体平台广泛传播时，就很容易造成各种舆论问题，影响信息安全。
总的来说，上述4条路径在自媒体平台的案例中都能得到有效验证，这一案例清晰展现了4条路径在自媒体平台中如何运行，印证了各路径的合理性与可行性，也充分体现了生成式人工智能对信息内容影响的系统性与动态性。

4 优化网络信息内容生态机制的对策探讨/Discussion on the countermeasures of optimizing the ecological mechanism of network information content

通过对近几年发布的政策文件深入研究可以发现，目前国家较为重视生成式人工智能产生的问题，针对用户、服务提供者和政企平台都提出了相应的规定，如规定需在明显的地方对信息和作品标明为AI生成等。本研究根据剖析出的重点问题并参考现有政策规定，为优化生成式人工智能背景下的网络信息内容生态机制提出一些建议。
第一，在主体机制环节，需规范生成合成内容的传播。生成式人工智能背景下，信息的传播变得更加便捷与高效，同时也为虚假和错误信息的传播提供了更为方便的方式。目前已经出台了不少相关规定，如2025年3月发布的《人工智能生成合成内容标识办法》，要求服务提供者必须在明显的位置标明生成合成内容，以正确传播信息。虽然已经有条例规定，但还需要服务提供者严格执行，监管者严格监督，使用者准确识别。
第二，在参与机制环节，主要是需严格审查生成模型语料库的选择，防止算法滥用。语料库是生成信息的重要来源，也是风险信息产生的源头，各大科技公司在训练模型时，需要严格把控语料库的质量，避免出现隐性渗透价值观以及错误信息内容，污染网络信息内容生态。
第三，在实现机制环节，由于生成式人工智能具有极高的服务效率，能够提供丰富的信息检索渠道，这种快节奏的信息服务情形增加了用户信息筛查难度，可能导致用户误用某些错误生成信息。因此，所有用户在享受这种便捷服务的同时，需强化信息判断和信息筛选的能力，对生成信息加以严格审查，检查信息来源和引用是否恰当，避免出现盲目采用生成信息导致学术不规范等问题。
最后，在保障机制环节，需明确生成内容涉及的版权问题。目前。尚未明确界定生成内容版权归属，这就可能导致生成内容的误用和滥用，因此，相关部门还需依据生成内容属性界定其版权归属，同时使用者也需注意避免全盘搬运生成内容，防止出现侵权行为。

5 结语/Conclusion

本研究采用扎根理论对生成式人工智能和网络信息内容生态相关的文献和政策资料进行三级编码分析，逐步得出生成式人工智能背景下的网络信息内容生态机制。网络信息内容生态机制主要分为主体机制、参与机制、实现机制和保障机制4个方面，分析了这4个机制的影响关系后，探究生成式人工智能对网络信息内容机制的影响路径，最终解析出4条可能的影响路径，并选择自媒体平台AI应用情况作为案例验证4条路径。总体而言，生成模型既给信息内容生态带来了很多机遇，如促进了信息的产生、交流与共享，加快了信息的流通，同时也产生了不少问题，如侵权、信息泄露、信息诈骗等，威胁着人们的信息安全。
本研究也存在不足，如构建的模型主要依据文献和政策文件，缺乏实证数据。在未来的研究中，可增加对典型用户的深度访谈或小规模问卷调研，弥补纯文本质性分析的现实场景局限性，强化研究结论的可信度与应用价值。

参考文献

原文顺序 | 文献年度倒序 | 文中引用次数倒序
[1]
张力, 何振, 毛太田. 生成式人工智能信息获取对信息茧房的双刃剑效应[J]. 情报资料工作, 2026, 47(3): 104-112.

Zhang Li, He Zhen, Mao Taitian. "Breaking the Cocoon" or "Spinning one"? the double-edged sword effect of generative artificial intelligence information acquisition on information cocoons[J]. Information and documentation services, 2026, 47(3): 104-112.

[2]
张庆锋. 网络生态论[J]. 情报资料工作, 2000(4): 2-4.

Zhang Qingfeng. Network ecology theory[J]. Information and documentation services, 2000(4): 2-4.

[3]
魏傲希, 马捷, 韩朝. 网络信息生态系统自我调整能力及实现机制研究[J]. 图书情报工作, 2014, 58(15): 14-21.

Wei Aoxi, Ma Jie, Han Cao. Study on the self-adjustment and the implementation mechanism of the network information ecosystem[J]. Library and information service, 2014, 58(15): 14-21.

[4]
Yin X, Chen X, Duan Y, et al. Research on SVM and apply to network information content audit[J]. Computer engineering and design, 2012, 33(4): 1266-1270.

[5]
娄策群, 李青维, 娄冬. 网络信息生态环境中的信息制度环境优化研究[J]. 图书馆学研究, 2016(23): 2-6.

Lou Cequn, Li Qingwei, Lou Dong. Research on the optimization of information institutional environment in network information ecology[J]. Research on library science, 2016(23): 2-6.

[6]
He Hongyang, Zhang Bin. Effective synergy of market agents: the core of achieving multi-agent governance on the internet platform[J]. Sustainability, 2022, 14(24): 20.

[7]
张新新, 黄如花. 生成式智能出版的应用场景、风险挑战与调治路径[J]. 图书情报知识, 2023, 40(5): 77-86, 27.

Zhang Xinxin, Huang Ruhua. Application scenarios, risk challenges and regulatory pathways of generative intelligent publishing[J]. Documentation, information & knowledge, 2023, 40(5): 77-86, 27.

[8]
李荣, 吴晨生, 董洁, 等. ChatGPT对开源情报工作的影响及对策[J]. 情报理论与实践, 2023, 46(5): 1-5.

Li Rong, Wu Chensheng, Dong Jie, et al. Study on the impact of ChatGPT on open source intelligence work and countermeasures[J]. Information studies: theory & application, 2023, 46(5): 1-5.

[9]
漆晨航. 生成式人工智能的虚假信息风险特征及其治理路径[J]. 情报理论与实践, 2024, 47(3): 112-120.

Qi Chenhang. Research on the risks of disinformation from generative artificial intelligence and its governance paths[J]. Information studies: theory & application, 2024, 47(3): 112-120.

[10]
侯东德, 张丽萍. 生成式人工智能背景下网络信息生态风险的法律规制[J]. 社会科学研究, 2023(6): 93-104.

Hou Dongde, Zhang Liping. Legal regulation of network information ecological risks under the background of generative artificial intelligence[J]. Social science research, 2023(6): 93-104.

[11]
薛志华. 生成式人工智能对网络信息内容治理的挑战及应对[J]. 中国广播电视学刊, 2023(10): 13-16.

Xue Zhihua. Challenges and responses of generative artificial intelligence to network information content governance[J]. Social science research, 2023(10): 13-16.

[12]
赵梓羽. 生成式人工智能数据安全风险及其应对[J]. 情报资料工作, 2024, 45(2): 30-37.

Zhao Ziyu. Data security risks and countermeasures of generative artificial intelligence[J]. Information and documentation services, 2024, 45(2): 30-37.

[13]
Du Hongyang, Li Zonghang, Niyato D, et al. Enabling AI-generated content services in wireless edge networks[J]. IEEE wireless communications, 2024, 31(3): 226-234.

[14]
储节旺, 罗怡帆, 李佳轩. AIGC对信息生成方式及用户信息行为的影响[J]. 图书情报工作, 2023, 67(24): 13-23.

Chu Jiewang, Luo Yifan, Li Jiaxuan. The influence of AIGC on information generation mode and user information behavior[J]. Library and information service, 2023, 67(24): 13-23.

[15]
Li Fan, Yang Ya. Impact of artificial intelligence-generated content labels on perceived accuracy, message credibility, and sharing intentions for misinformation: Web-based, randomized, controlled experiment[J]. JMIR formative research, 2024, 8: e60024.

[16]
苏君华, 宋雯琪. 人工智能生成内容技术赋能下的集群式信息攻防研究综述[J]. 情报理论与实践, 2024, 47(9): 9-21.

Su Junhua, Song Wenqi. Review of cluster-based information offense and defense research empowered by AIGC technology[J]. Information studies: theory & application, 2024, 47(9): 9-21.

[17]
王贇芝, 王欣昱, 陈洁. 面向网络信息内容生态治理的旁观者用户干预意愿触发机理研究[J]. 情报资料工作, 2024, 45(6): 66-74.

Wang Yunzhi, Wang Xinyi, Chen Jie. Research on the triggering mechanism of bystander users intervention intention for network information content ecological governance[J]. Information and documentation services, 2024, 45(6): 66-74.

[18]
严炜炜, 宋佳慧, 王妍妍. 基于制度文本分析的网络信息内容生态协同治理研究[J]. 图书情报知识, 2024, 41(5): 115-127.

Yan Weiwei, Song Jiahui, Wang Yanyan. Ecological collaborative governance of network information content based on institutional text analysis[J]. Documentation, information & knowledge, 2024, 41(5): 115-127.

[19]
Guo Danhuai, Chen Huixuan, Wu Ruoling, et al. AIGC challenges and opportunities related to public safety: a case study of ChatGPT[J]. Journal of safety science and resilience, 2023, 4(4): 329-339.

[20]
聂冰, 王婷, Lund B D. 生成式人工智能时代学术信息失序问题治理研究——以ChatGPT为例[J]. 机器人产业, 2024(1): 103-108.

Nie Bing, Wang Ting, Lund B D. Research on the governance of academic information disorder in the era of generative artificial intelligence: a case study of ChatGPT[J]. Robot industry, 2024(1): 103-108.

[21]
喻国明, 金丽萍. 生成式媒介的极致优化: DeepSeek对传播生态的系统性影响[J]. 新疆师范大学学报(哲学社会科学版), 2025(4): 1-9.

Yu Guoming, Jin Liping. The ultimate optimization of generative media: DeepSeek's systemic impact on the communication ecosystem[J]. Journal of Xinjiang Normal University(edition of philosophy and social sciences), 2025(4): 1-9.

[22]
Wang Tao, Zhang Yushu, Qi Shuren, et al. Security and privacy on generative data in AIGC: a survey[J]. ACM computing surveys, 2025, 57(4): 1-34.

[23]
张瑞娟. 生成式人工智能驱动信息资源组织与服务研究向度质性分析与反思[J]. 档案管理, 2024(3): 19-21.

Zhang Ruijuan. Qualitative analysis and reflection on the research dimensions of information resource organization and service driven by generative artificial intelligence[J]. Archives management, 2024(3): 19-21.

[24]
曾森. 生成式人工智能与国家治理信息机制变革: 以ChatGPT为例[J]. 理论月刊, 2024(8): 82-94.

Zeng Sen. Generative artificial intelligence and the transformation of national governance information mechanisms: a case study of ChatGPT[J]. Theory monthly, 2024(8): 82-94.

[25]
梁怀新, 宋诚. AIGC时代的网络信息内容生态安全风险及其治理——兼以ChatGPT为对象的实验访谈案例分析[J]. 图书情报工作, 2023, 67(20): 58-69.

Liang Huaixin, Song Cheng. Ecological security risk and governance of network information content in AIGC era——take ChatGPT as an example[J]. Library and information service, 2023, 67(20): 58-69.

[26]
李孟瑶. 生成式人工智能浪潮下的内容生产革新[J]. 全媒体探索, 2024(6): 136-138.

Li Mengyao. Content production innovation under the wave of generative artificial intelligence[J]. All-media explorations, 2024(6): 136-138.

[27]
支振锋. 生成式人工智能大模型的信息内容治理[J]. 政法论坛, 2023, 41(4): 34-48.

Zhi Zhenfeng. Information content governance of large model of generative artificial intelligence[J]. Tribune of political science and law, 2023, 41(4): 34-48.

[28]
张涛甫. 人工智能推动舆论生态转型及其治理进路[J]. 学术月刊, 2024, 56(2): 149-157.

Zhang Taofu. When artificial intelligence involves in the ecology of public opinion: structure, discourse and governance[J]. Academic monthly, 2024, 56(2): 149-157.

[29]
徐腾飞. 生成式人工智能阅读推广与读者思维的信息茧房[J]. 图书情报导刊, 2024, 9(1): 25-31.

Xu Tengfei. Generative artificial intelligence reading promotion and information cocoon for reader thinking[J]. Journal of library and information science, 2024, 9(1): 25-31.

[30]
李瑾颉, 吴联仁, 齐佳音. 对抗AIGC虚假信息的行为助推与认知干预研究[J]. 青年记者, 2025(5): 53-57.

Li Jinxie, Wu Lianren, Qi Jiayin. Research on behavioral nudging and cognitive intervention against AIGC misinformation[J]. Youth journalist, 2025(5): 53-57.

[31]
蒙新梦. 生成式人工智能对话式搜索对个人用户信息搜寻行为的影响研究[J]. 社会科学前沿, 2024, 13(7): 591-598.

Meng Xinmeng. Impact of generative artificial intelligence conversational search on individual users' information-seeking behavior[J]. Advances in social sciences, 2024, 13(7): 591-598.

[32]
宋行健. 生成式人工智能处理信息的法律风险应对[J]. 黑龙江省政法管理干部学院学报, 2024(5): 129-135.

Song Xingjian. Legal risk response to information processing by generative artificial intelligence[J]. Journal of Heilongjiang administrative cadre college of politics and law, 2024(5): 129-135.

[33]
吴进, 王立杰, 昝栋. DeepSeek赋能高校图书馆信息服务提升研究——以中国海洋大学图书馆为例[J].高校图书馆工作, 2025, 45(2): 22-29.

Wu Jin, Wang Lijie, Zan Dong. Reflection on current alienation phenomena in Chinese libraries[J]. Library work in colleges and universities, 2025, 45(2): 22-29.

[34]
张欣. 面向产业链的治理: 人工智能生成内容的技术机理与治理逻辑[J]. 行政法学研究, 2023(6): 43-60.

Zhang Xin. Industry chain-oriented governance: technological mechanisms and governance logic in the management of artificial intelligence generated content[J]. Administrative law review, 2023(6): 43-60.

[35]
丁亚南. 人工智能生成内容的传播风险及其法律规制研究[J]. 四川轻化工大学学报(社会科学版), 2025(4): 1-12.

Ding Yanan. The dissemination risks of artificial intelligence generated contents and their legal regulations[J]. Journal of Sichuan University of Science & Engineering(social sciences edition), 2025(4): 1-12.

[36]
Yang Weiquan, Lu Zhaolin, Li Zengrui, et al. The impact of human-AIGC tools collaboration on the learning effect of college students: a key factor for future education?[J]. Kybernetes, 2024, 54(15): 7746-7763.

[37]
Li Chenxi, Lin Yixun, Chen Ruqing, et al. How do users adopt AI-generated content (AIGC)? an exploration of content cues and interactive cues[J]. Technology in society, 2025, 81: 102830.

Options
文章导航

/

〈 〉