生成式人工智能时代信息生态秩序的失衡风险与治理方案
网络安全与数据治理
王文玉，代金亮
西南大学法学院
摘要： 生成式人工智能驱动了人工智能生成内容时代的到来，变革了信息生成和传播的机制。在变革过程中，信息生态秩序的失衡风险也随之产生。受到语料库、模型目标设定、模型微调中相关主体价值观念等内外因素影响，生成式人工智能存在输出和传播虚构信息、错误信息、误导性信息的问题，会对现有信息生态的有序性、真实性、可信性产生影响。为应对失衡风险，应在包容审慎、动态敏捷的柔性治理理念指引下，调动政府部门、运营管理主体、产品使用者等多元主体共同参与风险治理；针对模型训练、服务嵌入、内容生成、内容发布、信息传播等具体阶段和场景展开分层分类精细治理；综合采取法律规制、伦理规制、行业自律、技术规制等多种治理方案展开立体化治理。
中图分类号：TP18;G206文献标识码：ADOI:10.19358/j.issn.2097-1788.2025.04.006
引用格式：王文玉，代金亮. 生成式人工智能时代信息生态秩序的失衡风险与治理方案［J］.网络安全与数据治理，2025，44（4）：40-45.
引用格式：王文玉，代金亮. 生成式人工智能时代信息生态秩序的失衡风险与治理方案［J］.网络安全与数据治理，2025，44（4）：40-45.
Imbalance risks of information ecological order in the era of generative artificial intelligence and governance scheme
Wang Wenyu, Dai Jinliang
Law School, Southwest University
Abstract： Generative artificial intelligence drives the era of artificial intelligence generating content, and changes the mechanism and process of information generation and dissemination. In the process of change, it will lead to the risk of imbalance of information ecological order. Influenced by internal and external factors such as corpus, model goal setting and related subject values in model finetuning, generative artificial intelligence has the problems of outputting and disseminating fictitious information, false information and misleading information, which will affect the order, authenticity and credibility of the existing information ecology. In order to cope with the risk of imbalance, multi-subjects such as government departments, operational management entities, and product users should be mobilized to jointly participate in risk governance under the guidance of the flexible governance concept that is inclusive, prudent, dynamic and agile. For specific stages and scenarios such as model training, service embedding, content generation, content publishing and information dissemination, hierarchical and classified fine governance should be carried out.Finally, we should comprehensively adopt various governance schemes such as legal regulation, ethical regulation, industry self-discipline and technical regulation to carry out three-dimensional governance.
Key words : generative artificial intelligence; information ecological order; imbalance risk; risk management; prudent and comprehensive
引言
2022年底以ChatGPT为代表的生成式人工智能凭借流畅的问题应答和强大的文本处理能力引发了信息情报和新闻传媒界的热烈讨论。生成式人工智能区别于以往人工智能算法的核心之处在于信息的产出方式，有赖于强大的信息处理和输出能力，生成式人工智能驱动人类从专业生成内容（Professionally-generated Content，PGC）、用户生成内容（User-generated Content，UGC）的时代逐步走向了人工智能生成内容（AI-generated Content，AIGC）的时代。这无疑会对当前信息生成、传播的机制和流程产生重构效应，在变革中，信息生态秩序的失衡风险也随之产生。当前已有学者针对生成式人工智能的信息生成和传播风险展开了研究。一方面，多数研究在分析生成式人工智能宏观应用风险时，将信息生成和传播风险问题作为其中的一部分予以探讨［1］。但往往缺乏对信息生成和传播问题独特性的关注，造成相关风险应对方案缺乏针对性和可行性。另一方面，一些学者则从更为具体和细化的视角对这一问题展开了讨论。如漆晨航针对生成式人工智能的虚假信息风险特征及其治理方案展开了探讨［2］。向继友、吴学琴则关注生成式人工智能所可能引发的意识形态风险，并提出了防控方案［3］，具有较强的针对性。但生成式人工智能所引发的各类信息生态秩序失衡风险具有较强关联性和系统性。因此，本文将以生成式人工智能对信息生态秩序可能造成的损害为主题，分析相关风险的内容和成因，并在现有理论和实践探索基础上，提出具有针对性、可行性和系统性的风险治理方案。
本文详细内容请下载：
//www.51qz.net/resource/share/2000006411
作者信息：
王文玉，代金亮
（西南大学法学院，重庆400700）
此内容为AET网站原创，未经授权禁止转载。