Knowledge Management Forum >

2026 , Vol. 11 >Issue 3: 216 - 232

DOI: https://doi.org/10.13266/j.issn.2095-5472.2026.019

Artificial Intelligence and Risk Governance: Thematic Division and Future Outlook

  • Li Ruiyi
Expand
  • School of Public Administration and Policy, Dalian University of Technology, Dalian 116024

Li Ruiyi, Master's Candidate, E-mail: .

Received date: 2026-01-02

  Online published: 2026-05-22

Fold

Abstract

[Purpose/Significance] To summarize and sort out the thematic division and evolutionary trends in the field of artificial intelligence and risk governance research at home and abroad, clarify future research directions, and provide reference for promoting theoretical deepening and research system improvement in this field. [Method/Process] Based on the Web of Science core collection and CNKI database, 5560 foreign literature (1995-2025) and 1964 Chinese literature (2003-2025) in the field of artificial intelligence and risk governance were used as data samples. VOSviewer 1.6.20 and Cytoscape 3.10.4 software was used for scientific knowledge map analysis to clarify the overall publication trend, core research areas, thematic evolution time sequence, research feature differences, and future development path. [Result/Conclusion] The results indicate that the research topics of foreign literature can be divided into three major areas: uncertainty system risk governance driven by artificial intelligence, digital transformation risk governance driven by artificial intelligence, and personal risk governance driven by artificial intelligence. In terms of theme evolution, it follows a clear path from decentralization to integration, and from technology orientation to governance orientation. The research topics of Chinese literature include artificial intelligence algorithm risk governance, artificial intelligence strategic risk governance, and generative artificial intelligence application risk governance, following the evolutionary trend of "technology ontology governance - technology specification governance - technology application governance". There are significant differences in research orientation, research disciplines, research objects, and research paradigms between Chinese and foreign research. Future research should strengthen trustworthy AI applications, refine rational thinking cultivation, deepen interdisciplinary coupling, quantify theoretical implementation and empirical evidence, and optimize international cooperation consensus.

Key words： artificial intelligence; risk governance; thematic division; knowledge map

Cite this article

Li Ruiyi . Artificial Intelligence and Risk Governance: Thematic Division and Future Outlook[J]. Knowledge Management Forum, 2026 , 11(3) : 216 -232 . DOI: 10.13266/j.issn.2095-5472.2026.019

作为模拟和延展人类智能的颠覆性技术，人工智能（artificial intelligence, AI）以治理工具的角色同人类社会深度交叉耦合，渗入国家治理与社会公共事务治理的各个方面。其中，风险治理是社会治理的重要组成部分，其核心目标在于识别、评估、应对和监控全局社会系统中的各级各类风险，防止其向社会危机的恶性演变，保障全体人民生命财产安全，维持社会正常运转。人工智能的泛在化应用为风险治理提供了强劲的技术依托与智能支撑，大大提高了风险治理效能，但同时将人工智能作为治理工具时，其自身存在的技术风险亦被纳入其中，成为AI赋能风险治理的“元风险”，在此种意义上，其又成为风险治理的对象。
在人工智能与风险治理研究领域，中外学界已形成了数量可观的规模化成果集群，成为业界实践的重要智力支撑。然而，风险治理涉及内容复杂庞大，近年来受到持续热议与广泛关注，且伴随人工智能的嵌入，不同学科背景的研究者涌入其中，使该领域的研究视角较为分散，欠缺层次化整合与系统性梳理，不易实现统筹施策与全局把控。目前，人工智能与风险治理领域研究进展分析的专业性突出，多为人工智能技术辅助特定领域风险治理研究的针对性成果梳理，另外，部分学者从人工智能治理、人工智能安全、可信人工智能等视角对AI风险展开了研究述评。但现有研究的系统性不足，且文献计量分析的数据体量较小，欠缺对“人工智能赋能风险治理”与“人工智能风险治理”的全面性整合综述。因此，明晰人工智能工具在风险治理进程中的作用理路与内生风险，通过对中外研究文献的系统收集与全面辨析，查漏补缺，建构面向中国情境的、具有中国特色的人工智能与风险治理的本土化耦合研究进路，具有一定的紧迫性与战略意义。
本文基于文献计量学方法，对人工智能与风险治理领域的中外文研究文献展开系统性计量分析。通过对中外文献分别进行主题聚类划分与演进时序剖析，揭示其知识结构与演进脉络；进而基于对比分析，系统辨识中外研究在主题聚焦、演进路径、方法范式等研究特征上的共性与差异；综合上述比对分析结论，结合领域发展趋势，对未来研究方向的差异化路径与重点突破领域进行针对性展望，以期为推动该领域理论深化与国际对话提供参考依据。

1 数据来源与研究方法/Data sources and research methods

基于对学术文献标引规范性与术语语义明确性的审慎考量，尽管“AI”在部分学术语境中可作为“artificial intelligence”的等效缩写，但其在Web of Science与CNKI等跨学科数据库中也存在一定的语义模糊性与指代多义性。例如，“AI”在医学、生物学、化学、物理学等领域亦可指代artificial insemination（人工授精）、arterial infusion（动脉灌注）、activity index（活性指数）、affinity index（亲和指数）、acoustic impedance（声阻抗）、aeronautical information（航空情报）等。若在检索式中不加区分地纳入“AI”，将不可避免地引入一定数量与核心研究主题无关的噪声数据，影响后续文献计量分析结论的可靠性。因此，为确保研究样本的纯净度与主题相关性，采纳更为精确且无歧义的全称术语“artificial intelligence”和“人工智能”作为核心中英文检索词。
在人工智能与风险治理耦合互动的学术语境中，“治理”往往不局限于传统“政府”与“政策”等范畴的单向度、权威性统辖管治，而是倾向于构建一种多场域、多层次、多主体交叠互动的规范性社会协调过程，其核心在于通过智能技术赋能制度、规则、程序、关系和网络的建立与运作，更为高效、科学、精准和系统化地感知、识别、评估、分析和应对各级各类风险。既囊括了宏观的国际准则、国家法律与政策框架，中观的行业标准、伦理指南与认证体系，又可以细化到微观层面的组织内部控制、技术设计原则与审计问责规程的全谱系内涵。因此，将人工智能本身的技术风险及其在辅助风险治理进程中可能衍生出的新型风险纳入治理范畴，更符合这一交叉研究领域对“风险治理”内涵的定义，即将一整套风险治理的协调机制直接作用于人工智能系统研发、部署与迭代的全生命周期，而非仅将AI视为治理其他领域风险的工具性手段。因此，在确定“风险治理”领域的检索词时，不再使用“governance/治理”“regulation、supervision、oversight/监管”“policy/政策”等进行传统治理语境的狭义限定，而是使用“risk/风险”及其同义词，在作者关键词（Author Keywords）中进行模糊匹配，以此保证检全率。综上，构建检索策略并进行数据收集与清洗的过程如下：
基于Web of Science核心合集，以TS=“artificial intelligence” AND AK=(risk* OR danger* OR peril* OR hazard* OR uncertainty* OR exposure* OR vulnerability* OR threat*) 为检索式，文献类型（Document Types）限定为Article与Review Article，文献出版年（Publication Years）截至2025年，共检索并整合相关文献5 571篇，经数据去重，并剔除作者信息不明确样本与撤稿样本（Retracted Publication）等噪声数据后，最终纳入相关文献5 560篇，作为外文文献数据样本，时间跨度为1995—2025年，检索日期为2026年1月22日。
基于CNKI数据库，以SU=“人工智能” AND (KY % “风险” OR KY % “不确定性” OR KY % “隐患” OR KY % “隐忧” OR KY % “危机” OR KY % “危险” OR KY % “漏洞” OR KY % “脆弱性” OR KY % “威胁”) 为检索式，文献类型选择期刊文献，期刊类别为CSSCI和CSCD，文献发表年度截至2025年，共检索并整合相关文献2 005篇，经数据去重，并剔除简讯、报道、人物简介、项目简介、作者信息与机构信息同时不明确的其他样本等噪声数据，最终纳入相关文献1 964篇，作为中文文献数据样本，时间跨度为2003—2025年，检索日期为2026年1月22日。
利用VOSviewer与Cytoscape软件进行科学计量分析，构建科学知识图谱，进行中外发文趋势分析、主题词共现聚类分析与演化时序分析，明确中外研究的主题分野与随时间的变化趋势，据此进行研究特征比对，明确现有研究优势并识别研究局限，展望未来走向，确定相关研究的着力点与突破点。

2 发文趋势分析/Analysis of publishing trends

2.1 中外发文量分析

由图1可见，1995—2019年间，中外发文量均持续低迷，增长滞缓，中文文献总量为230篇，占样本总数的11.71%，外文文献出版总量为364篇，占比6.55%，在此时段内，仅在2019年出现中外发文量最高值（均为99篇），这与人工智能这一颠覆性技术在萌芽期的发展常态相吻合，国外研究最早出现于1995年，而国内研究起步于2003年；2020年，伴随人工智能大模型等成熟产品逐步从实验室试运行走向大规模商业化应用，中外几乎同时在此时段出现了发文量增长拐点，以规模化、集群化学术研究成果回应现实需求，此后持续上升，且增幅较大，呈井喷式增长态势，至2025年达到发文量峰值，其中，外文文献2 180篇，中文文献576篇，仅此一年的文献量便已分别占据样本总数的39.21%与29.33%，充分体现了AI技术的颠覆性特质。具体而言，在此时段内，AI被广泛用于地缘政治、数字经济、自然灾害等宏观环境风险治理领域以及医疗健康风险治理领域，而伴随AI的治理工具效能的深度发挥，国际学界对其自身存在的技术风险的探讨亦层出不穷。面向AI治理和AI风险治理的相关国际政策、决议的发布与出台，亦对发文量增长起到助推作用，包括《人工智能伦理建议书》（2021年11月）、《人工智能风险声明》（2023年5月）、《布莱切利宣言》（2023年11月）、《阿斯塔纳宣言》（2024年7月）、欧盟《人工智能法案》（2024年8月）、《全球数字契约》（2024年9月）等[1]。概言之，中外发文走势趋同，总体呈持续上升态势，研究热度持续走高，研究成熟度不断跃升，具有明显的现实需求导向、普及应用导向与全球政策导向。
图1 历年中外文献数量统计

Figure 1 Statistics of the number of Chinese and foreign literature from 1995 to 2025

2.2 基于WoS核心合集的国家发文态势分析

基于5 560篇外文文献数据样本，根据普赖斯定律计算公式： m = 0.749 × n m a x ，进行核心发文国家筛选，其中m代表核心国家的最小发文篇数，nmax 代表发文最多国家的文献量。经统计，共纳入126个国家，发文最多国家的文献数为1 411篇（中国），计算可得发文量≥29篇的国家为核心发文国，共51个。
利用VOSviewer软件统计51个核心发文国家文献出版总量与被引频次，部分结果见表1。利用Cytoscape软件进行核心发文国合作网络分析（图2），国家节点大小与其文献出版数量成正比，节点间连线表征国家间合作关系，连线粗细表示合作数量大小。由图2、表1可见，中美两国在发文量上具备“断层式”领先优势，在整体科研合作网络中占据关键地位，具有显著影响力。主要合作关系集中于中国、美国、英国、意大利、印度、德国、澳大利亚、加拿大等国，形成了紧密的跨国合作网络。从地域分布来看，以英国、意大利、德国为代表的欧洲国家，以中国、印度、韩国为代表的亚洲国家，以及以美国、加拿大、墨西哥为代表的北美洲国家，共同构成了该领域高产出科研集群，展现了突出的成果产出能力与研究引领作用。
表1 核心发文国家发文量统计（前20位）

Table 1 Statistics of the number of publications of core publishing countries (Top 20)

序号 国家 发文量/篇 被引频次/次
1 中国 1 411 23 584
2 美国 1 209 28 516
3 英国 569 13 122
4 意大利 374 7 096
5 印度 366 8 159
6 德国 353 7 580
7 澳大利亚 305 7 555
8 加拿大 277 6 995
9 西班牙 255 3 449
10 韩国 226 4 081
11 沙特阿拉伯 212 3 355
12 法国 188 2 668
13 荷兰 162 2 594
14 伊朗 156 4 964
15 土耳其 132 1 424
16 希腊 115 2 073
17 波兰 107 1 276
18 新加坡 105 3 520
19 瑞士 104 2 088
20 瑞典 97 2 522
图2 核心发文国家合作网络

Figure 2 Cooperation network of core publishing countries

2.3 中外发文期刊分析

为识别该领域核心期刊，笔者参照布拉德福定律进行1995—2025年人工智能与风险治理研究领域外文期刊载文统计，并按照期刊载文数量排序进行期刊分区划定。由表2可见，该领域期刊共2 313种，3个期刊分区载文总数大致接近，包括核心区（期刊载文量不低于7篇）、相关区（期刊载文量位于2—6篇区间）、边缘区（期刊载文量仅1篇），且期刊数目比为129:706:1478，近似于1:3.4:11.56（即1:3.4:3.42），核心区期刊的“核心”效应较强，其刊载文献的分散程度较低。由表3可知，该领域核心区期刊共129种，载文量占样本总数的37.20%。核心期刊涉及学科领域众多，以理工科、生命科学与生物医学、管理学等为主。
表2 1995—2025年人工智能与风险治理研究领域外文期刊分区表

Table 2 Division table of foreign journals in the field of artificial intelligence and risk governance research from 1995 to 2025

分区 期刊载文数量/篇 期刊数量/种 分区载文总量/篇 占总文献量比例/%
核心区 ≥7 129 2 068 37.20
相关区 2—6 706 2 014 36.22
边缘区 1 1 478 1 478 26.58
表3 1995—2025年人工智能与风险治理研究领域外文核心区期刊分布统计（前20位）

Table 3 Distribution statistics of foreign core journals in the field of artificial intelligence and risk governance research from 1995 to 2025 (Top 20)

序号 期刊名称 载文量/篇
1 IEEE Access 212
2 Applied Sciences-Basel 71
3 Sustainability 70
4 Sensors 45
5 Journal of Medical Internet Research 43
6 Electronics 41
7 AI Society 39
8 Diagnostics 39
9 Engineering Applications of Artificial Intelligence 39
10 Scientific Reports 38
11 Risk Analysis 34
12 Cancers 33
13 IEEE Transactions on Engineering Management 31
14 Journal of Clinical Medicine 29
15 Expert Systems with Applications 27
16 Frontiers in Public Health 27
17 Science of the Total Environment 27
18 Frontiers in Artificial Intelligence 25
19 IEEE Transactions on Intelligent Transportation Systems 24
20 Technological Forecasting and Social Change 24
具体而言，在理工科领域，包括综合性自然科学（Scientific Reports）、环境科学（Science of the Total Environment）、应用物理和材料科学（Applied Sciences-Basel）、计算机科学（IEEE Access）、传感器科学（Sensors）、电子科学（Electronics）、智能交通系统（IEEE Transactions on Intelligent Transportation Systems）、工程与技术管理（IEEE Transactions on Engineering Management）、人工智能基础与前沿（Frontiers in Artificial Intelligence）、人工智能工程应用（Engineering Applications of Artificial Intelligence）等，尤为强调人工智能技术在环境监测、基础设施建设、通信工程、交通工程、研发管理、项目管理、创新管理等领域风险治理的实际应用。
在生物医学领域，相关研究同样具有较强的应用导向性，强调利用人工智能技术进行以疾病治疗和健康监测等为代表的人身风险治理，具体包括数字医疗研究（Journal of Medical Internet Research）、影像学和病理学等医学诊断研究（Diagnostics）、肿瘤学研究（Cancers）、临床医学专科研究（Journal of Clinical Medicine）、公共卫生研究（Frontiers in Public Health）等。
在社会科学领域，学者们更多关注人工智能技术对宏观经济与社会风险的治理赋能，以及对人工智能风险的治理路径探讨，但哲学、文学、政治学、法学等领域的纯理论批判性研究占比较少，仍以管理学领域的实证研究范式为主。例如，在综合性社会科学领域，具体涉及人工智能与社会、伦理、文化、法律的交叉研究（AI Society），可持续发展领域的环境、文化、经济和社会等多重维度的应用研究（Sustainability），以及运筹学与管理科学领域的专家系统与人工智能应用研究，且尤为关注基于知识的智能系统开发及其在商业、金融、医疗等领域的实用解决方案（Expert Systems with Applications），风险评估、管理与沟通研究，涉及健康、环境、工程、金融等多领域的风险治理应用问题（Risk Analysis），以及技术创新预测、技术对社会经济的影响、战略规划、未来研究（Technological Forecasting and Social Change）等。
由表4可见，2003—2025年人工智能与风险治理研究领域中文期刊共612种，核心区（期刊载文量不低于8篇）、相关区（期刊载文量位于3—7篇区间）、边缘区（期刊载文量位于1—2篇区间）期刊数目比近似于1:2.6:6.76（即1:2.6:2.62）。由表4、表5可知，该领域核心区期刊共57种，载文量占样本总数的35.20%，涉及图书情报学、公共管理学、政治学与行政学、科学学、哲学、法学、教育学、新闻传播学、编辑出版学等多个学科领域，且绝大多数为CSSCI来源期刊（含扩展版），多归属于综合性人文社会科学领域，具有相当程度的理论深度，在研究范式上强调思辨性解构与批判性分析。由图3可见，在核心区期刊刊载的692篇论文摘要中，“智能化”“数字化”“现代化”“高质量”“全方位”“共同体”“颠覆性”“市场准入”“技术创新”“以人为本”等涉及前沿政策的主题词数目较多且出现频次较高，研究成果具有较为明显的政策导向性。
表4 2003—2025年人工智能与风险治理研究领域中文期刊分区表

Table 4 Division table of Chinese journals in the field of artificial intelligence and risk governance research from 2003 to 2025

分区 期刊载文数量/篇 期刊数量/种 分区载文总量/篇 占总文献量比例/%
核心区 ≥8 57 692 35.20
相关区 3—7 177 766 39.00
边缘区 1—2 378 506 25.80
表5 2003—2025年人工智能与风险治理研究领域中文核心区期刊分布统计（前20位）

Table 5 Distribution statistics of Chinese core journals in the field of artificial intelligence and risk governance research from 2003 to 2025 (Top 20)

序号 期刊名称 载文量/篇
1 情报杂志 35
2 电子政务 29
3 东方法学 21
4 人民论坛·学术前沿 21
5 自然辩证法研究 21
6 科学学研究 19
7 情报理论与实践 17
8 科技管理研究 17
9 中国电化教育 16
10 电化教育研究 16
11 中国出版 15
12 比较法研究 15
13 图书与情报 13
14 法律科学（西北政法大学学报） 13
15 现代教育技术 13
16 现代远距离教育 13
17 中国科技论坛 12
18 出版发行研究 12
19 出版广角 12
20 大连理工大学学报（社会科学版） 12
图3 基于中文核心区期刊刊载692篇论文的摘要词云

Figure 3 Abstract word cloud based on 692 papers published in Chinese core journals

3 外文文献研究主题分野与演进趋势/The thematic division and evolutionary trend of foreign literature

利用VOSviewer软件进行作者关键词（Author Keywords）共现聚类分析，关键词共现阈值（Minimum number of occurrences of a keyword）设置为12，Method选择Association strength，Min.cluster size设置为43，并进行同义词合并处理（如“AI”“artificial intelligence (AI)”均合并为“artificial intelligence”，“algorithms”合并为“algorithm”等），生成如图4所示的主题词共现聚类图谱。由图4可见，外文文献人工智能与风险治理领域研究主题可划分为人工智能驱动下的不确定性系统风险治理、数字化转型风险治理、人身风险治理三大领域，各主题领域内的代表性关键词及词频可见表6。
图4 外文文献关键词共现聚类图谱（关键词词频≥12，共有节点263个，连线6 111条）

Figure 4 Keyword co-occurrence clustering map of foreign literature（The keyword frequency is ≥12, with a total of 263 nodes and 6 111 connections）

表6 外文文献主题聚类结果

Table 6 Theme clustering results of foreign literature

聚类序号 主题归纳 代表性关键词（词频）
Cluster1 人工智能驱动下的不确定性系统风险治理 uncertainty(544)、cybersecurity(156)、predictive model(145)、decision making(131)、training(124)、security(103)、internet of things(95)、optimization(95)、neural network(93)、data models(79)、computational modeling(66)、data mining(55)、feature extraction(55)、reinforcement learning(45)、real-time systems(38)、threat detection(38)、blockchain(37)、federated learning(36)、anomaly detection(30)、digital twin(30)、robustness(29)、supply chain(29)、cyber threats(28)、threat assessment(28)、bayes methods(27)、industry 4.0(22)、uncertainty estimation(22)、autonomous vehicles(20)、complexity theory(17)、malware(17)、smart cities(17)、cloud computing(16)、transfer learning(16)、fuzzy sets(15)、vulnerability assessment(15)、cyber-physical systems(13)、data augmentation(13)、knowledge representation(13)、stochastic processes(13)、drones(12)、risk evaluation(12)、uncertainty modeling(12)
Cluster2 人工智能驱动下的数字化转型风险治理 artificial intelligence(2677)、risk management(281)、risk(273)、explainable AI(215)、generative AI(105)、large language model(90)、risk analysis(86)、big data(72)、artificial neural network(71)、natural language processing(64)、ChatGPT(63)、ethics(55)、climate change(46)、credit risk(40)、existential risk(37)、natural hazard(32)、decision support systems(23)、digital transformation(23)、data privacy(21)、AI ethics(20)、AI risks(18)、finance(18)、financial risk(17)、AI Act(16)、geopolitical risk(16)、trustworthy AI(16)、bayesian networks(15)、GIS(Geographic Information System, 14)、risk identification(13)、AI governance(12)、AI safety(12)、supply chain risk management(12)
Cluster3 人工智能驱动下的人身风险治理 machine learning(1023)、deep learning(430)、risk assessment(367)、risk factors(218)、risk prediction(216)、risk stratification(193)、cardiovascular disease(64)、radiomics(38)、precision medicine(37)、breast cancer(36)、digital health(34)、diabetes mellitus(33)、clinical decision support(26)、mental health(26)、osteoporosis(24)、public health(24)、cancer(18)、epidemiology(18)、radiotherapy(18)、organs at risk(17)、stroke(16)、electronic health records(15)、lung cancer(15)、acute kidney injury(13)、electrocardiogram(13)、prostate cancer(13)、hypertension(12)、telemedicine(12)
人工智能驱动下的不确定性系统风险治理是指在网络空间、信息物理系统及对抗决策等动态交互系统环境中，通过融合人工智能技术对系统性风险进行感知、评估、预警与应对的智能治理范式。该范式以不确定性建模为核心方法论，结合贝叶斯方法[2]、模糊集理论[3]、复杂性理论[4]、随机过程[5]等，构建具有鲁棒性与适应性的风险分析模型，以应对因环境复杂性、数据噪声及对抗行为导致的测量不确定度与认知盲区。其技术体系依托神经网络、强化学习、迁移学习[6]、联邦学习[7]等算法，实现对网络威胁、恶意软件、异常行为及系统脆弱性的实时监控与动态预测，保护网络基础设施和其他数字资产及信息的机密性、完整性、可用性。同时借助数据增扩、特征提取、数据挖掘、计算建模、数字孪生、知识表示、区块链、物联网、云计算等技术，在智慧城市[8]、工业4.0[9]、供应链管理[10]、智能交通、自动驾驶[11]、无人机[12]等场景中构建虚实融合的仿真推演与协同响应机制。治理目标在于通过威胁情报共享、自动化决策优化与资源调度策略构建，提升系统在网络安全、供应链安全及关键基础设施防护领域的可靠性与坚韧性，最终形成基于持续学习与动态博弈的主动式风险防控体系。
人工智能驱动下的数字化转型风险治理是一种系统性、动态性的综合治理框架，其核心在于以人工智能技术为关键支撑与治理对象，通过数据驱动、算法模型与智能分析等手段，对数字化转型进程中交织叠加的多维风险进行识别、评估、预警与应对。这一治理范式涵盖两个相互关联的维度：其一，运用AI技术优化对数字化转型进程中的政治风险、经济风险、社会风险、自然风险的监测与调控能力，提升风险应对的精准性与前瞻性；其二，针对数字化转型中的AI技术风险及其在风险治理过程中的衍生风险进行专门性、系统性、全周期性规制，即通过技术治理、制度设计、伦理约束的协同作用，对AI驱动风险治理的“元风险”进行监测管治，确保数字化转型在可控、可信、可溯、可持续的轨道上推进。该主题研究强调AI作为“风险治理工具”与“风险治理对象”的双重角色，体现了在数字文明演进中构建坚韧性、负责任且具备“人本”导向的治理生态的复杂需求。
具体而言，在政治风险治理方面，I. Ulnicane[13]、H. M. Roff[14]、M. Nazir等[15]分别探索对人工智能驱动下公共权力侵蚀、AI军备竞赛、地缘政治等政治风险问题的治理路径；在经济风险治理方面，主要成果包括在大数据分析、深度学习、联邦机器学习、可解释人工智能、前馈神经网络、区块链、数字孪生、生成式人工智能、量子计算等技术驱动下，对金融风险[16]、银行风险[17]、企业风险[18]、信贷风险[19]、市场风险[20]、供应链风险[21]等进行系统治理的使能方法研究；在社会风险治理方面，主要包括模糊贝叶斯LS_SVM模型在城市电网规划风险综合评估中的作用[22]，Transformer架构模型在食品安全风险评估中的应用[23]，以及5G技术赋能下云原生基础设施与物联网、人工智能算法的深度融合在城市安全风险治理中的应用[24]等系列研究；在自然风险治理方面，相关学者主要探讨了人工智能技术在土壤侵蚀[25]、滑坡[26]、地震[27]、森林火灾[28]等自然灾害治理中的应用。此外，S. Thekdi等在对比分析视角下，系统阐释了传统评估监测方法与新兴人工智能和机器学习方法在灾害风险治理中的兼容性[29]。
AI驱动风险治理的“元风险”，指向的是“AI驱动”本身有何风险，以及“AI风险”在渗入风险治理过程后，又将引致何种新型风险。元风险治理主要是对这两类风险的系统治理。AI风险可归纳为功能性风险、伦理性风险、结构性风险、生存性风险等。其中，功能性风险是指人工智能系统在完成特定任务时，由于算法复杂性、能力不足、设计缺陷或环境变化等诱因而导致的不可解释性、失败或错判，表现为技术黑箱[30]、算法偏见与歧视[31]、不稳定性、网络安全风险[32]等主要形态；伦理性风险指在人工智能的开发、部署和使用过程中衍生出的对人类道德、价值观念、公民权利与社会规范的冲突和挑战，包括道德理性缺陷[33]、责任归属困境、个人隐私侵犯[34]、公平正义侵蚀、人机主体异位等；结构性风险指在人工智能技术对社会经济、权力运行、国际格局等运行与演化结构进行系统性重塑的过程中，衍生出的大规模结构性失业、社会贫富分化加剧、技术垄断、技术霸权、技术民族主义、技术恶意操纵、数字鸿沟、智能鸿沟、信息茧房等风险；生存性风险指人工智能在自我进化过程中可能对人类文明、人类生存与物种延续构成的长期性、不可逆转性重大生存性威胁[35]，如价值对齐困境与技术权力异化等。此外，在风险治理过程中，AI风险又可能引致技术依赖超限、风险定义偏差、数据本位感知、归责纠偏困境、自我实现悖论、隐性对抗滋生等新型风险。
AI驱动下的人身风险治理主要指向医疗健康风险治理。数据、算法、算力的跨越式发展进一步推动了人工智能在国际医学领域的创新应用，使之从早期医学专家系统的概念验证阶段迈入智能医疗辅助工具的数据驱动阶段，渐次成为全球医疗生态中不可或缺的核心能力。机器学习与深度学习算法逐步用于临床决策支持、疾病风险分析、医学影像分析等临床诊疗辅助领域，例如，深度学习分割模型[36]在靶区与危及器官自动化勾画[37]等肿瘤精准放射治疗领域的应用，深度神经网络模型在精神疾病风险预测领域的运用[38]，人工智能增强型心电图（artificial intelligence-enhanced electrocardiography, AI-ECG）[39]在结构性心脏病识别与风险分层、心血管风险筛查、非心脏性疾病风险识别等领域的应用，以及基于电子健康档案的人工智能预测模型在临床风险评估中的应用[40]。此外，还在疫情早期预警、传染病传播建模等流行病监测领域，病原体基因测序、化合物虚拟筛选等药物研发领域，医疗供应链、公共卫生管理等资源调度与流程管理领域，可穿戴传感器、数字健康、远程医疗等健康监测与远程监护领域，以及基因组学等前沿医学科学研究领域进行广泛应用。随着生成式人工智能迈入成熟发展阶段，大语言模型等进一步拓展了应用边界，开始用于智能问诊、自动化医学报告生成、医患沟通、权威信息精准投放、谣言打击等领域，引发了新一轮医疗创新变革，为人身风险治理提供了重要支撑。
由图5可见，外文文献关键词演进时段集中于2022年至2024年，这一现象主要源于人工智能技术发展的颠覆性特质、历史性转折与学术研究的爆发性增长。尽管2020年为发文量增长拐点，但在2022年之前，文献量增长幅度同2022年后相比仍较小，因此经过对关键词出现年份与词频的加权平均计算后，演化时序图谱显示的年份以发文量居多的2022—2024年为主。导致该时段发文量集中的社会环境因素包括：其一，以深度学习、大语言模型为代表的AI技术在2020年后进入大规模应用与商业化阶段，引发了全球性的技术变革与治理需求，为该时段研究文献的急剧增加奠定了基础；其二，伴随AI技术对社会各领域的大规模渗透，其伦理、安全、隐私问题等潜在风险在2021年后受到学界、政策界与产业界的高度重视，促使“风险治理”成为该时段新兴交叉研究热点；其三，2022年至2024年间，ChatGPT发布、欧盟《人工智能法案》颁布等全球性事件的出现进一步加速了相关研究的集中产出，使得这一时期成为学术热度积聚的核心时段。VOSviewer基于对热点关键词出现年份及对应频次的加权平均计算，反映出这一阶段研究活跃度最高、主题演化最为显著的特征。
图5 外文文献关键词演化时序图谱

Figure 5 Evolutionary timeline map of keywords of foreign literature

早期研究聚焦于AI技术应用中的基础风险识别与评估方法，关键词呈现主题分散性与领域特异性。从高频词看，“uncertainty”(544)、“risk assessment”(367)、“risk”(273)占据核心地位，表明研究重点在于风险量化与评估框架构建。具体而言，研究内容可分为两大方向：一是技术架构，关注AI系统的不确定性分析（如“uncertainty analysis”“probabilistic logic”）、预测性能（如“prediction”“classification”）及算法优化（如“neural network”“support vector machine”）；二是应用场域，主要集中于医疗健康（如“cardiovascular disease”“breast cancer”“COVID-19”）、金融信贷（如“credit risk”）与自然灾害（如“natural hazard”）等场景中的风险建模与监测评估。“vulnerability”(73)、“decision making”(131)与“big data”(72)等代表性关键词反映出早期研究强调数据驱动下的脆弱性分析与决策支持，但尚未形成系统化治理框架。整体而言，该时段的研究仍处于问题发现与方法探索阶段，跨领域整合度较低。
中期研究呈现主题深化与跨界融合特征，关键词体系显著扩展，且“人工智能”与“机器学习”成为统摄性核心，“artificial intelligence”(2 677)、“machine learning”(1 023)等高频词表明研究范式转向AI技术的全局性风险治理。一方面，风险管理的专业化程度提升，出现了“risk stratification”(193)、“risk prediction”(216)、“explainable AI”(215)等细分主题，强调风险分层、可解释性与精准预测。另一方面，研究场景进一步拓宽，涵盖“cybersecurity”(156)、“climate change”(46)、“autonomous vehicles”(20)等新兴领域，同时注重技术伦理与社会影响，如“trust”(53)、“regulation”(41)、“AI ethics”(20)等关键词显现。此外，“systematic review”(56)与“bibliometric analysis”(23)显示研究开始向系统综述与量化分析转向，部分学者已着手梳理该领域知识体系。中期研究在早期基础上强化了跨学科整合，桥接了技术风险与治理需求。
晚期研究聚焦于AI风险治理的精细化、场景化与制度化，关键词凸显技术前沿与治理实践的深度融合。高频词“training”(124)、“generative AI”(105)与“large language model”(90)指向以生成式AI为代表的新型技术风险，研究重点转向模型训练、数据隐私与实时系统中的风险控制。同时，治理框架日益完善，“ethics”(55)、“privacy”(42)、“AI governance”(12)、“AI Act”(16)等反映出政策与法规层面的AI治理进展；而“trustworthy AI”(16)、“robustness”(29)、“conformal prediction”(14)则体现了技术层面可信AI的实现路径；且应用场景进一步细化，涵盖“digital twin”(30)、“supply chain”(29)、“mental health”(26)等领域，强调风险治理的实践落地。此外，“federated learning(36)”与“data privacy”(21)等关键词显示分布式学习与数据安全成为新兴研究焦点。晚期研究呈现出从理论探讨向操作化、标准化治理转变的明显趋势。
概言之，“AI与风险治理”领域的研究主题演化呈现出从分散到整合、从技术导向到治理导向的清晰路径。早期研究以AI赋能特定领域的风险评估与算法优化为主，缺乏系统性视角；中期通过引入AI的可解释性、伦理规范与跨领域应用，逐步形成技术风险与社会治理的初步融合；晚期则进一步聚焦生成式AI等前沿技术的制度性治理，强调可信性、实时性与落地性。该领域研究重心已从传统的风险建模转向全方位风险治理体系构建，涵盖技术、伦理、法律与应用等多维层面，反映出AI技术发展与社会适应性之间的动态平衡。未来研究或将继续深化合规性验证、自适应框架等治理工具创新，并在全球化与可持续性背景下拓展风险治理边界。

4 中文文献研究主题分野与演进趋势/The thematic division and evolutionary trend of Chinese literature

利用VOSviewer软件进行关键词共现聚类分析，关键词共现阈值（minimum number of occurrences of a keyword）设置为5，Method选择Association strength，Min.cluster size设置为43，并进行同义词合并处理（如“AIGC”合并为“生成式人工智能”，“AI治理”合并为“人工智能治理”，“大模型”合并为“人工智能大模型”等），生成如图6所示的关键词共现聚类图谱。由图6可见，中文文献人工智能与风险治理领域研究主题主要包括人工智能算法风险治理、人工智能战略风险治理、生成式人工智能应用风险治理，各主题领域内的代表性关键词及词频可见表7。
图6 中文文献关键词共现聚类图谱（词频≥5，共有节点199个，连线1 557条）

Figure 6 Keyword co-occurrence clustering map of Chinese literature（the keyword frequency is ≥5, with a total of 199 nodes and 1 557 connections）

表7 中文文献主题聚类结果

Table 7 Theme clustering results of Chinese literature

聚类序号 主题归纳 代表性关键词（词频)
Cluster1 生成式人工智能应用风险治理 生成式人工智能(307)、ChatGPT(141)、伦理风险(121)、风险治理(89)、技术风险(48)、数据安全(30)、风险管理(27)、人工智能大模型(24)、人工智能治理(22)、意识形态风险(22)、人工智能生成内容(20)、DeepSeek(19)、风险防控(19)、Sora(17)、风险识别(16)、人工智能立法(14)、风险预防(14)、风险感知(13)、人工智能风险(11)、人工智能法(10)、应用风险(10)、人机关系(9)、信息安全(9)、道德风险(9)、隐私风险(8)、风险分级(8)、风险控制(8)、侵权风险(6)
Cluster2 人工智能算法风险治理 人工智能(809)、机器学习(39)、风险评估(34)、安全风险(28)、治理(26)、深度学习(24)、潜在风险(21)、数据风险(15)、风险应对(14)、风险规避(12)、风险预警(12)、算法黑箱(11)、风险预测(10)、技术异化(8)、深度伪造(8)、风险分析(8)、风险管控(8)、智能算法(6)、算法歧视(6)、风险分配(5)
Cluster3 人工智能战略风险治理 风险(99)、不确定性(54)、风险规制(48)、算法(37)、大数据(34)、法律规制(33)、社会风险(29)、法律风险(25)、人工智能技术(21)、敏捷治理(19)、社会治理(15)、人工智能时代(14)、数字经济(11)、数智时代(9)、元宇宙(8)、数字化转型(8)、数字政府(7)、数字治理(7)、公共治理(5)、自动化行政(5)
算法风险是指由于人工智能算法在设计、开发、部署、使用过程中存在的固有缺陷或不可预测性，其决策或输出结果产生负面后果的或然性。核心关注点在于人工智能在执行特定任务时出错的可能性与出错后的危害性，表现为算法偏见与歧视、算法扰动对抗与恶意操纵、算法黑箱与问责难题、算法垄断与权力异化等多种形态。国内学者针对上述风险的根因追溯与治理路径进行了系列研究。具体而言，算法偏见与歧视通常来源于算法设计者的主观偏见与歧视，训练数据的选择、更新、抽样过程中掺杂的内在偏见，以及算法运行时与实然环境交互过程中滋生的外源偏见等。上述偏见的存在使人工智能算法难以具备绝对的价值中立性，因而需规避人类智能介入下伴生的不良影响[41]，通过法规体系、行业规范、伦理规制、技术标准、监管审查等强效约束形成治理合力，规范算法设计者行为以及算法运行和交互过程[42]；由于算法的脆弱性，其对微小的、难以察觉的输入扰动或对抗性攻击极其敏感，容易错判误判与滥用误用，以及出现信息迷雾下的算法恶意操纵[43]，造成算法的鲁棒性威胁，对此，需通过模型系统加固、流程管理优化、监测响应健全等方式进行精准施治与风险抵御；由于算法的高维空间学习、分布式表示、多层级特征抽象等复杂运行机理，其背后的推理决策逻辑难为人知，由此带来信息不对称问题、算法信任度挑战、算法问责难题、偏误纠正困境等主要风险，需从“主体—技术—用户”的三重框架出发，健全面向主体的资格审查标准，发展面向技术的内在可解释模型，并保障面向用户的可解释权利[44]。算法垄断是指少数大型科技巨头利用其数据资源、算法技术优势与网络效应，排除或限制竞争，从而形成和巩固其在特定领域的支配性地位与技术霸权。算法垄断为算法合谋提供了温床，导致市场机制失灵、消费者主权被侵蚀、社会阶层固化、数字鸿沟扩大等风险，成为算法权力异化的催化剂。因此，需持续健全反垄断治理法律体系[45]，推动智能算法治理平权，打造要素综治、均权共治、数字法治与智能善治的耦合互促模式。另外，数据治理是算法治理的先决条件，算法风险很大程度上源于数据偏见、数据伪劣、数据窃漏、数据投毒、数据概念偏移与数据标注不一等数据风险。数据通常定义了算法的显在使能边界与潜在内生缺陷，算法则促动了数据的优劣特性具象化与应用场景落地，数据风险是绝大多数算法风险的前因，而算法风险则是对数据风险的针对性放大。因此，需强化对算法风险的追本溯源，实现全生命周期治理，建立数据与算法双重规制的一体化风险管控范式。
在人工智能技术驱动下，原有的系统性风险易被放大，包括社会结构风险、国家安全风险、地缘政治风险、全球治理风险等，这需要战略层面的宏观规制与监测联控。对此，国内学者进行了系统研究。其一，在社会结构方面，人工智能驱动激化了新一轮市场系统冲击震荡、财富分配结构恶化、要素资源供需失衡等问题[46]，尤其对劳动者平等就业、自主择业和失业保障等带来较大挑战，同时也对公共文化服务与教育事业带来显著影响，需完善相关法制条款，减少技术性经济冲击，完善税收补偿与社会保险体系，以及人才培育政策[47]，以此应对AI驱动下的社会结构性风险。其二，在国家安全方面，人工智能正在成为国家间战略竞争的新核心，其带来的国家安全风险是直接且迫切的。因此，需以计算思维为主线，推进针对人工智能激化的战略风险的普惠性国际治理标准体系建设，强化透明、可解释的安全产品供应，健全问责机制，筑牢人工智能的战略安全防线[48]。其三，在地缘政治方面，人工智能正在重塑国家间的力量平衡，成为地缘政治博弈中的新变量。人工智能驱动易引致新的技术权力鸿沟、技术民族主义与技术霸权，针对不同的AI技术标准和生态系统，形成对立的技术阵营，导致全球技术体系分化，同时会使数据、算力、稀有矿产等资源成为新的争夺焦点，还会冲击多数发展中国家的劳动密集型经济模式，引发全球供应链重组与经济动荡。其四，在全球治理方面，现有的全球治理体系在应对AI驱动激化的战略风险时显得力不从心，AI技术的颠覆性已体现为指数级发展速度，现有国际协调机构面临边缘化风险，而具有普遍约束力的国际规则缺失，也进一步激化了治理赤字，国家间的良性竞合弱化，技术加速主义滋生蔓延，阻碍全球协作，冲击国际秩序。因此，推动科技善治、提升AI数据治理水平、深化“智能向善”国际共识等治理举措的落实尤为重要[49]。
生成式人工智能应用风险主要可分为数据与信息风险、伦理风险、侵权风险、个体风险等。详言之，其一，数据与信息风险是生成式AI在内容创作与传播过程中，对数据与信息来源与质量的真实性、可靠性、健康性和安全性造成的威胁，包括虚假生成、深度伪造、隐私侵犯、数据窃漏、信息熵增、AI“幻觉”[50]等，此外，智能算法自身具备的“上下文学习”机制能使其高效地利用上下文窗口信息调整结论输出，倾向于生成与上下文基调一致的结论，其内容的中立性与客观性易遭受侵蚀，由此产生“算法迎合”效应，引致用户“确认偏误”的强化，造成“信息茧房”[51]；其二，由于人工智能难以具备人类智能的思维批判性与情绪感知性，其工作内驱力为数据驱动，即基于海量数据集的收集、分类、整合、比对、推理、解释、训练，是对人类既往思维认知与行为模式的机理提炼与特征复制，并以此为基准进行未来的结果感知与趋势洞见，因而，一些原本就存在的社会偏见与歧视易在此过程中被持续放大和固化，AI算法难以在价值理性层面实现自我批判与解蔽，由此易引致价值伦理向度上的认知进化障碍，滋生了与社会道德规范和人类基本价值观相冲突的伦理风险，包括价值对齐困境、人格欺骗、情感落差与操控、情感异化与依赖等[52]，需以可信治理为主线进行精准施治[53]；其三，生成式AI在数据训练和内容生成过程中，亦存在着未经授权使用他人知识产权作品或侵犯个人合法权益的可能性，包括著作权侵权[54]、肖像权与隐私权侵权、商标权侵权等，可行的针对性治理路径包括训练数据合理使用范围限定与弹性条款增设、数字版权管理与数字水印等技术手段强化、知识共享许可协议订立等[55]；其四，生成式人工智能的普遍应用亦可能导致批判思维惰性、行动决策依赖、认知过度外包、辨别能力弱化、意识形态侵蚀等个体风险，需以科学素养培育为主线展开针对性治理。
由图7可见，中文文献主题演化时段同样高度集中于2022至2024年，亦归因于人工智能技术发展的阶段性突破与社会风险感知的同步深化。其一，2022年前，生成式人工智能尚未大规模爆发，早期研究多聚焦于传统机器学习、算法治理与金融科技、自动驾驶等特定领域风险，此时学术关注虽已显现，但文献积累尚处初级阶段；其二，2023年后，以ChatGPT为代表的生成式AI技术呈现颠覆性跃迁，驱动学术产出呈指数级增长，关键词频次显著攀升，反映出技术迭代对研究热点的直接牵引；其三，欧盟《人工智能法案》、中国《生成式人工智能服务管理暂行办法》等治理框架的快速演进亦促使学界聚焦于AI风险治理议题的探讨，反映了风险治理研究与社会技术变革高度同步的响应机制。
图7 中文文献关键词演化时序图谱

Figure 7 Evolutionary timeline map of keywords of Chinese literature

早期研究以“人工智能”(809)为核心，呈现出技术内生风险解析与基础治理框架建构的双重导向。一方面，研究深度聚焦算法本身的风险形态，如“算法风险”(32)、“算法黑箱”(11)、“算法歧视”(6)等技术性议题，同时结合“大数据”(34)、“深度学习”(24)等技术要素，探讨其在金融、刑事、教育等垂直领域的风险表征。另一方面，治理路径初现雏形，“法律规制”(33)、“风险管理”(27)、“算法治理”(26)等关键词频繁出现，显示国内学界试图从法律、伦理、管理等多重维度建立风险防控体系。此阶段研究虽已关注“风险社会”(20)等宏观理论，但整体仍以技术解构与局部规制为主，尚未形成系统性治理范式。
中期研究在技术爆发背景下，实现了从技术焦点向社会整合与战略关联的转向。关键词“ChatGPT”(141)和“伦理风险”(121)的高频显现，标志着生成式AI引发的伦理、安全与社会风险成为学界核心关切。研究主题呈现两大延展趋向：一是与国家战略、公共治理深度耦合，如“国家安全”(19)、“意识形态风险”(22)、“协同治理”(17)等关键词凸显了风险治理的宏观维度；二是跨领域风险感知深化，“数据安全”(30)、“思想政治教育”(12)、“高等教育(9)”等关键词反映了教育、传播、公共管理等场景中的AI风险渗透。此阶段研究不再局限于技术内部批判，而是强调“风险治理”(89)与“风险规制”(48)的系统建构，同时关注“技术赋能”(14)与“风险挑战”(17)的辩证关系，体现出治理思维的动态化与场景化特征。
晚期研究进入生成式AI普适化应用与治理范式创新阶段。关键词“生成式人工智能”(307)占据绝对中心，伴随“大语言模型”(24)、“DeepSeek”(19)“Sora”(17)等技术范畴细化与成熟产品落地，研究重心转向应用层风险治理与敏捷响应。一方面，治理框架趋向制度化与精细化，如“人工智能立法”(14)、“人工智能法”(10)指向立法探索，“风险分级”(8)、“监管沙盒”(6)体现工具创新；另一方面，研究深入技术价值链环节，如“训练数据”(13)、“价值对齐”(7)等关键词揭示对数据伦理、人机协同等本源性问题的反思。此外，“新质生产力”(12)、“中国式现代化”(5)等概念的出现，表明研究进一步融入国家发展叙事，而“敏捷治理”(19)、“系统性风险”(6)等则凸显治理范式向动态化、全周期演进。
该领域研究遵循“技术本体治理—技术规范治理—技术应用治理”的演化路径。早期集中于算法与技术本体风险，中期伴随ChatGPT的爆发扩展至社会、政治、伦理等多维风险协同治理，晚期则聚焦生成式AI规模化应用下的治理范式创新与制度构建。这一过程反映出三大趋势：其一，研究导向从响应式风险应对转向前瞻式风险预防；其二，治理尺度从行业规范上升至国家战略乃至全球治理，关键词从“法律规制”延伸至“国家安全”“全球治理”；其三，方法论从单一学科分析转向多学科交叉融合，技术伦理、法律治理、公共管理等多视角协同深化。总体而言，该领域研究演进与人工智能技术的社会化渗透同步，形成了技术迭代、风险感知与治理响应交叠互构的动态图景。

5 中外研究特征比较分析/Comparative analysis of research characteristics of Chinese and foreign literature

5.1 研究共性分析

中外研究共性可归纳为3个方面。其一，中外研究均重视人工智能应用风险。人工智能对工作效率的颠覆式提升必将使之成为具有广泛应用面向性的重要工具要素，但在泛在化应用的同时，其自身存在的风险是不容忽视的，否则将会因技术的固有漏洞，持续放大和固化原有的系统性风险，不利于社会稳定运行。其二，中外研究均强调人工智能与风险治理的战略意义，包括其对国家发展、地缘政治和全球治理的影响。随着人工智能的深入发展和普遍应用，其已然成为发展新质生产力的核心经济引擎，改变博弈规则的关键军事资产，实现创新发展的首要科技竞力，重塑价值认知的重要文化推手，其带来的影响是全局性、颠覆性乃至“世界观”层面的，因此人工智能与风险治理耦合互嵌的战略意义愈发显著。其三，中外研究均体现出较强的人本理念。具体而言，外文研究文献早期集中于利用AI进行不确定性系统风险与宏观环境风险治理，中后期研究集中于AI赋能医疗健康等涉及具体人身风险的治理场域和对“AI用于风险治理的元风险”的深入探讨，其中最具代表性的就是全球学者对医学人工智能伦理的系统研究，体现出明显的“以人为本”理念。而国内研究则自始至终就在国家政策引导下纳入了对人本理念的充分考量，从算法偏见、算法歧视等技术本体风险，到公众就业冲击、社会不公加剧、国家安全威胁、人类文明与生存挑战等结构性风险，再到生成式AI广泛应用对人类个体能力与认知的不良侵蚀风险，每段研究链路上都充满了人文关怀温度与价值批判理性。

5.2 研究差异分析

中外研究差异包括4个方面。其一，研究导向差异。由前文外文文献期刊分析与中文核心区文献的摘要词云分析可知，外文研究文献具有明显的应用导向性，国内研究具有明显的政策导向性。美国、英国、意大利、德国等西方国家在人工智能底层技术、基础模型及核心算法方面起步早、积累深，具备明显的先发优势。加之其人口规模相对有限、市场饱和度较高，推动AI发展的重要路径是向垂直领域纵深拓展，聚焦于灾害预警、城市治理、医疗健康、公共服务等具体场景的应用创新。其往往采取“应用驱动发展，创新与规制并重”的策略，鼓励智能技术在社会各层面的应用与渗透，同时在法律与伦理层面逐步构建风险预防框架，形成“双轨并行”的治理特点；而中国拥有庞大的用户市场与丰富的应用场景，研究力量集中于解决AI在具体行业落地时面临的技术与管理风险，以政策手段实现“在规范中发展”和“在发展中规范”，强调风险规制与应用发展的交叉耦合，注重风险规制与应用创新高度交织、动态调适的治理逻辑。其二，研究学科差异。前文发文期刊分析结果表明，中文研究成果多导源于公共管理学、信息资源管理学、法学、哲学、政治学、新闻传播学等社会科学领域，而国外则表现出明显的理工科（如地球科学、计算机科学、机械工程、电气工程、材料科学等）、生命科学与生物医学研究与管理学、社会学等人文社会科学研究的交叉融合倾向。其三，研究范式差异。国内研究范式以理论建模和经验归纳为主，外文研究以应用落地和实证检验为主，相比之下，国内研究视角更为宏观，强调系统规划，国外研究视角更为具体，强调应用实测。其四，研究对象差异。由前文主题分析可知，国内研究聚焦AI本身的算法、数据风险等内生性风险，以及战略风险和应用风险等由“AI驱动”衍生出的新型风险治理，国外研究则聚焦于利用AI驱动进行政治、经济、社会、自然、人身等外源性风险治理，以及AI风险等“元风险”治理，即国内研究更多将人工智能视为风险治理对象，从对技术的本体治理、规范治理、应用治理的三重层次组构研究框架，而国外研究既将人工智能视作风险治理工具，又以其为治理对象进行风险防控研究，相较而言，国外研究视角更为多元和全面。

6 研究走向展望/Research trends and prospects

第一，强化可信AI应用普及研究。由前文分析易知，外文研究文献具有较强的应用导向性，使AI以一种强效性治理工具角色介入各类宏观环境风险与微观个体风险治理领域，国内研究则更多将AI视为风险治理对象，因此，未来应着力推动可信AI普及应用，解决AI自身的不透明性与不可解释性，破除“算法黑箱”的神秘性与不可控性，提倡透明化AI训练数据使用，提高公众对AI的信任度，强化AI应用的可获得性与高共享性，保证群体均等性、区域均衡性、普遍用益性，促进人工智能在风险治理领域的大范围、规范性应用。
第二，深化AI与风险治理的学科交叉耦合研究。在科研范式方面，应将人工智能与风险治理研究的内驱力由目的和热点驱动转向问题与方法驱动，实现学科交叉的深度“理论耦合”与“方法互嵌”，打造成熟的人工智能驱动型科研范式，铺展兼具内容广度与扎根深度的学科网络谱系，使人工智能具备通用基础研究效力；在科研人才方面，应加强人文智能与科学智能等复合型人才培养，培育新兴人工智能型交叉学科，强调学科交叉的问题导向与需求导向，打造战略性学术共同体；在科研评价方面，应建立以应用效果为主要测度指标的评估体系，提高科研成果落地转化的针对性与实效性，打造更适于“人工智能+”产业发展的学科交叉集群。
第三，量化AI与风险治理的理论落地实证研究。国内现有研究具有一定的理论深度，但对理论的实证检验与落地实测尚有一定的研究空间。未来，应深化理论解构，实现原则性、指导性宏观理论的范畴化、具象化转变，使之成为可计量、可检验的研究假设，保证AI驱动风险治理理论的场景化与落地化；在工具方法层面，应基于大规模基准数据集归纳并构设多向度科学评测指标体系，搭建仿真测试与对抗测试平台，进行基准数据比对、模型复测优化、训练数据公开、优质效果认定，提高AI驱动风险治理效果实测过程的透明化程度与实测成果的可复现频度；在实施路径层面，应选择更具风险治理切要性和重大社会影响力的垂直行业进行精准聚焦和深度突破，打造集“政策智慧”“产业智算”“科学智能”“监管智识”“用户智囊”等于一体的路径实施模式。
第四，细化理性思维培育研究。培育批判理性，强调求真求实、开放包容、自反批判的思维模式与价值取向，强化全社会范围内的数据素养、算法素养与智能素养培育[56]；完善价值理性，强化AI认识论的包容性，开发适合人机共生的新型文明框架与分布式责任框架，完成人类智能与人工智能的价值对齐与价值共创。
第五，优化AI与风险治理的国际合作共识研究。以完善协同治理研究为主要进路，从“碎片化”治理模式转向更具敏捷性、坚韧性、包容性、关怀性的“系统化”治理模式。促进“大型机器系统”认知向“综合生态系统”认知的理念跃迁，完善兼容并包、互联互通、耦合共生等行动原则，建立开源的统一数据标准、稳定的互操作API接口、安全的数据共享协议等数字公共基础设施，厘清多方利益相关者主体共同参与下的权责归属，创新国家参与和协商决策机制，培养全球公民意识，建立可兼容的知识文化体系和人类命运共同体叙事模式，形成共同的危机意识和愿景期冀，凝聚文化共识。

References

Publishing order | Descend order by publishing year | Descend order by cited within
[1]
郎平.全球人工智能治理的进展、挑战与中国角色[J]. 当代世界, 2025(5): 16-22.

LANG P. Progress and challenges of global Al governance and China's role[J]. Contemporary world, 2025(5): 16-22.

[2]
CAI B P, SHENG C Y, GAO C T, et al. Artificial intelligence enhanced reliability assessment methodology with small samples[J]. IEEE transactions on neural networks and learning systems, 2023, 34(9): 6578-6590.

[3]
AZIM A BIN, ALI A, ALI S, et al. Q-Spherical fuzzy rough frank aggregation operators in AI neural networks: applications in military transport systems[J]. IEEE access, 2024, 12: 104215-104241.

[4]
DHANUSHKODI K, THEJAS S. AI enabled threat detection: leveraging artificial intelligence for advanced security and cyber threat mitigation[J]. IEEE access, 2024, 12: 173127-173136.

[5]
HUANG F, CAO M, WANG L. Approximate policy iteration for robust stochastic control of multiagent markov decision processes[J]. IEEE transactions on automatic control, 2025, 70(6): 3587-3602.

[6]
WANG Z Q, WANG H P, SADDIK A EL. FedITD: a federated parameter-efficient tuning with pre-trained large language models and transfer learning framework for insider threat detection[J]. IEEE access, 2024, 12: 160396-160417.

[7]
YANG C Y, LIU J, SUN H, et al. WTDP-Shapley: efficient and effective incentive mechanism in federated learning for intelligent safety inspection[J]. IEEE transactions on big data, 2024, 10(6): 1028-1037.

[8]
WANG T, HE Y, HAO M Y. Real-Time cyber threat detection in smart cities using artificial intelligence[J]. IEEE transactions on consumer electronics, 2025, 71(2): 4744-4750.

[9]
FARHAN M, NAEEM M R, ALMADHOR A, et al. Explainable AI-Driven security framework for cyber-physical production systems in industry 4.0: leveraging immersive embedded CIoT[J]. IEEE transactions on consumer electronics, 2025, 71(4): 10446-10453.

[10]
BARYANNIS G, VALIDI S, DANI S, et al. Supply chain risk management and artificial intelligence: state of the art and future research directions[J]. International journal of production research, 2019, 57(7): 2179-2202.

[11]
WANG H, SHAO W B, SUN C, et al. A survey on an emerging safety challenge for autonomous vehicles: safety of the intended functionality[J]. Engineering, 2024, 33: 17-34.

[12]
OTTUN A R, AKINTOLA A, LIYANAGE M, et al. AI robustness against attacks in city-scale autonomous drone deployments[J]. Computer, 2024, 57(12): 47-57.

[13]
ULNICANE I. Governance fix? power and politics in controversies about governing generative AI[J]. Policy and society, 2025, 44(1): 70-84.

[14]
ROFF H M. The frame problem: the AI arms race isn't one[J]. Bulletin of the atomic scientists, 2019, 75(3): 95-98.

[15]
NAZIR M, RASHEED M Q, YU X H, et al. Can computer technology, semiconductors, and artificial intelligence shape a sustainable future? evidence from leading semiconductor-producing countries[J]. Sustainable development, 2025, 33(4): 5214-5233.

[16]
NUJUMUDEEN F, ANUJA V, DEVI R, et al. AI in financial services: fraud detection and risk management[J]. Metallurgical materials engineering, 2025, 31(3): 119-127.

[17]
PRISZNYÁK A. Bankrobotics: artificial intelligence and machine learning powered banking risk management prevention of money laundering and terrorist financing[J]. Public finance quarterly-Hungary, 2022, 67(2): 288-303.

[18]
HSU M F, HSIN Y S, SHIUE F J. Business analytics for corporate risk management and performance improvement[J]. Annals of operations research, 2022, 315(2): 629-669.

[19]
BUSSMANN N, GIUDICI P, MARINELLI D, et al. Explainable machine learning in credit risk management[J]. Computational economics, 2021, 57(1): 203-216.

[20]
RATKU A, NEUMANN D. Derivatives of feed-forward neural networks and their application in real-time market risk management[J]. OR spectrum, 2022, 44(3): 947-965.

[21]
YOON J, ALKHUDARY R, TALLURI S, et al. Risk management and macroeconomic disruptions in supply chains: the role of blockchain, digital twins, generative AI, and quantum computing[J]. IEEE transactions on engineering management, 2025, 72: 2995-3009.

[22]
HE Y X, TAO W J, DAI A Y, et al. Risk comprehensive evaluation of urban network planning based on fuzzy Bayesian LS_SVM[J]. Kybernetes, 2010, 39(5), 707-722.

[23]
SARI O F, AMER E, BADER-EL-DEN M, et al. AI-driven risk assessment in food safety using EU RASFF Database[J]. Food and bioprocess technology, 2025, 18(7): 6282-6303.

[24]
SHARMA A, SHARMA A, RAJU K N, et al. Synergistic integration of 5G-enabled cloud native infrastructures with advanced technologies for urban safety enhancement[J]. IEEE transactions on consumer electronics, 2025, 71(2): 5321-5334.

[25]
NAINIVA S P, JAJARM S S, MOHAMMADREZAEI M, et al. Soil erosion risk prediction: an assessment of qualitative and quantitative modeling approaches[J]. Journal of sedimentary environments, 2025, 10(2): 261-280.

[26]
JIANG S, LI J Y, ZHANG S, et al. Landslide risk prediction by using GBRT algorithm: application of artificial intelligence in disaster prevention of energy mining[J]. Process safety and environmental protection, 2022, 166: 384-392.

[27]
ZONNO G, GARCÍA-FERNÁNDEZ M, JIMÉNEZ M J, et al. The SERGISAI procedure for seismic risk assessment[J]. Journal of seismology, 2003, 7(2): 259-277.

[28]
CHEN K, BLONG R. Towards an integrated approach to natural hazards risk assessment using GIS: with reference to bushfires[J]. Environmental management, 2003, 31(4): 546-560.

[29]
THEKDI S, TATAR U, SANTOS J, et al. On the compatibility of established methods with emerging artificial intelligence and machine learning methods for disaster risk analysis[J]. Risk analysis, 2025, 45(4): 863-877.

[30]
KOUROUTZAS C, PALAMARI V. Opening the black boxes of the black carpet in the era of risk society: a sociological analysis of AI, algorithms and big data at work through the case study of the Greek postal services[J]. AI society, 2025, 40(2): 825-838.

[31]
DELGADO J, DE MANUEL A, PARRA I, et al. Bias in algorithms of AI systems developed for COVID-19: a scoping review[J]. Journal of bioethical inquiry, 2022, 19(3): 407-419.

[32]
ANDRADE R O, YOO S G, TELLO-OQUENDO L, et al. A comprehensive study of the IoT cybersecurity in smart cities[J]. IEEE access, 2020, 8: 228922-228941.

[33]
DUNG L. Is superintelligence necessarily moral?[J]. Analysis, 2024, 84(4): 730-738.

[34]
MOORADIAN N, FRANKS P C, SRIVASTAV A. The impact of artificial intelligence on data privacy: a risk management perspective[J]. Records management journal, 2025, 35(2): 147-159.

[35]
DANAHER J. Why AI doomsayers are like sceptical theists and why it matters[J]. Minds and machines, 2015, 25(3): 231 246.

[36]
MIKALSEN S G, SKJOTSKIFT T, FLOTE V G, et al. Extensive clinical testing of deep learning segmentation models for thorax and breast cancer radiotherapy planning[J]. Acta oncologica, 2023, 62(10): 1184-1193.

[37]
CHEN M, WU S, ZHAO W, et al. Application of deep learning to auto - delineation of target volumes and organs at risk in radiotherapy[J]. Cancer radiotherapie, 2022, 26(3): 494-501.

[38]
BAEK J W, CHUNG K. Context deep neural network model for predicting depression risk using multiple regression[J]. IEEE access, 2020, 8: 18171-18181.

[39]
MAYOURIAN J, EL-BOKL A, LUKYANENKO P, et al. Electrocardiogram-based deep learning to predict mortality in paediatric and adult congenital heart disease[J]. European heart journal, 2024, 46(9): 856-868.

[40]
CAYIRTEPE Z, SENEL A C. Risk management in intensive care units with artificial intelligence technologies: systematic review of prediction models using electronic health records[J]. Journal of basic and clinical health sciences, 2022, 6(3): 958-976.

[41]
朴毅, 叶斌, 徐飞.从算法分析看人工智能的价值非中立性及其应对[J]. 科技管理研究, 2020, 40(24): 245-251.

PIAO Y, YE B, XU F. The value non-neutrality of artificial intelligence and countermeasure from the perspective of algorithm analysis[J]. Science and technology management research, 2020, 40(24): 245-251.

[42]
岳平, 苗越.社会治理:人工智能时代算法偏见的问题与规制[J]. 上海大学学报(社会科学版), 2021, 38(6): 1-11.

YUE P, MIAO Y. Social governance: problems and regulation of algorithm bias in the age of AI[J]. Journal of Shanghai University(social sciences edition), 2021, 38(6): 1-11.

[43]
王晰巍, 吴彦婷, 李玥琪.社交机器人驱动的信息迷雾：传播机理、社会风险与治理路径[J]. 情报理论与实践, 2025, 48(3): 41-51.

WANG X W, WU Y T, LI Y Q. Disinformation driven by social bots: dissemination mechanisms, social risks, and governance paths[J]. Information studies: theory application, 2025, 48(3): 41-51.

[44]
程雪军.金融科技公司算法黑箱风险的生成机制与多维治理[J]. 金融论坛, 2023, 28(8): 25-34, 46.

CHENG X J. The generation mechanism and multi-dimensional governance of algorithm black box risk in financial technology companies[J]. Journal of modern finance, 2023, 28(8): 25-34, 46.

[45]
张轩语, 杨柳新.数字经济促进共同富裕的机制、困境与出路[J]. 理论探讨, 2023(6): 149-154.

ZHANG X Y, YANG L X. The mechanism, dilemmas, and solutions of the digital economy in promoting common prosperity[J]. Theoretical investigation, 2023(6): 149-154.

[46]
侯东德, 周莉欣.人工智能发展中的经济风险及制度应对[J]. 安徽大学学报(哲学社会科学版), 2022, 46(2): 69-76.

HOU D D, ZHOU L X. Economic risks and institutional responses in the development of artificial intelligence[J]. Journal of Anhui University(philosophy and social sciences edition), 2022, 46(2): 69-76.

[47]
徐智华, 解彩霞.人工智能时代失业劳动者权利保护：问题与路径[J]. 经济体制改革, 2022(1): 180-187.

XU Z H, XIE C X. The protection of the rights of unemployed workers in the era of artificial intelligence: problem and path[J]. Reform of economic system, 2022(1): 180-187.

[48]
董青岭.人工智能“武器化”与数智时代的国家安全[J]. 人民论坛·学术前沿, 2025(9): 88-94.

DONG Q L. "Weaponization" of artificial intelligence and national security in the age of digital intelligence[J]. Frontiers, 2025(9): 88-94.

[49]
王旭, 谢方, 邱均平.全球人工智能治理研究：进展、挑战与策略[J]. 图书馆论坛, 2025, 45(8): 86-96.

WANG X, XIE F, QIU J P. A study on global artificial intelligence governance: progress，challenges，and strategies[J]. Library tribune, 2025, 45(8): 86-96.

[50]
林曦.人工智能“幻觉”的存在主义阐释[J]. 社会科学辑刊, 2025(2): 81-91.

LIN X. Existential interpretation of artificial intelligence "Hallucinations"[J]. Social science journal, 2025(2): 81-91.

[51]
杜艳.新时代人工智能赋能网络意识形态治理的理论基础、现实样态与实践要略[J]. 重庆社会科学, 2023(12): 115-127.

DU Y. The theoretical basis, realistic pattern and practical outline of network ideological governance enabled by artificial intelligence in the new era[J]. Chongqing social sciences, 2023(12): 115-127.

[52]
张宁, 高鹏程.生成式人工智能情感模拟的伦理风险与治理路径：基于技术—社会互构理论框架的分析[J]. 科学决策, 2025(2): 123-134.

ZHANG N, GAO P C. Ethical risks and governance pathways of generative AI emotional simulation: an analysis based on the Socio-Technical Co-Evolution Framework[J]. Scientific decision making, 2025(2): 123-134.

[53]
郑煌杰.生成式人工智能的伦理风险与可信治理路径研究[J]. 科技进步与对策, 2025, 42(12): 38-48.

ZHENG H J. Ethical risks and trusted governance pathways of generative artificial intelligence[J]. Science technology progress and policy, 2025, 42(12): 38-48.

[54]
刘云开.人工智能生成内容的著作权侵权风险与侵权责任分配[J]. 西安交通大学学报(社会科学版), 2024, 44(6): 166-177.

LIU Y K. Risk of copyright infringement and distribution of tort liability for the artificial intelligence generated content[J]. Journal of Xi'an Jiaotong University(social sciences), 2024, 44(6): 166-177.

[55]
韩雨潇.人工智能大模型训练数据的版权风险与化解路径[J]. 中国出版, 2025(2): 54-59.

HAN Y X. Copyright risks and mitigation paths of training data for AI large models[J]. China publishing journal, 2025(2): 54-59.

[56]
李琳.元宇宙赋能在线信息素养教育高质量发展的现实挑战与纾解路径[J]. 知识管理论坛, 2024, 9(4): 394-403.

LI L. The practical challenges and mitigation ways of the high quality development of meta-universe enabling online information literacy education[J]. Knowledge management forum, 2024, 9(4): 394-403.

Options
Outlines

/

〈 〉