研究论文

基于大语言模型的mRNA治疗领域技术演化分析

  • 金成成 1, 2 ,
  • 逯刘阳 1, 2 ,
  • 王楚湫 1, 2 ,
  • 刘晓琛 1, 2 ,
  • 尤雪洁 1, 2 ,
  • 张彤 1, 2 ,
  • 张丽雯 , 1
展开
  • 1. 中国科学院上海营养与健康研究所,中国科学院上海生命科学信息中心 上海 200031
  • 2. 中国科学院大学 北京 100049
张丽雯,馆员,硕士,E-mail: 。

作者贡献声明 /Author contributions:

金成成:论文选题,实验数据分析,论文撰写及修改;

逯刘阳:模型设计,论文撰写及修改;

王楚湫:文献收集,论文撰写及修改;

刘晓琛:论文撰写及修改;

尤雪洁:图表处理,论文修改;

张 彤:论文撰写;

张丽雯:研究方案设计,论文修改。

金成成,硕士研究生

逯刘阳,硕士研究生

王楚湫,硕士研究生

刘晓琛,硕士研究生

尤雪洁,硕士研究生

张彤,硕士研究生。

收稿日期: 2026-01-09

  网络出版日期: 2026-06-29

Analysis of Technological Evolution in the Field of mRNA Therapy Based on Large Language Models

  • Jin Chengcheng 1, 2 ,
  • Lu Liuyang 1, 2 ,
  • Wang Chuqiu 1, 2 ,
  • Liu Xiaochen 1, 2 ,
  • You Xuejie 1, 2 ,
  • Zhang Tong 1, 2 ,
  • Zhang Liwen , 1
Expand
  • 1. Shanghai Information Center for Life Sciences, Shanghai Institute of Nutrition and Health, Chinese Academy of Sciences, Shanghai 200031
  • 2. University of Chinese Academy of Sciences, Beijing 100049
Zhang Liwen Librarian, Master’s Degree E-mail:

Jin Chengcheng Master’s Candidate

Lu Liuyang Master’s Candidate

Wang Chuqiu Master’s Candidate

Liu Xiaochen Master’s Candidate

You Xuejie Master’s Candidate

Zhang Tong Master’s Candidate.

Received date: 2026-01-09

  Online published: 2026-06-29

摘要

[目的/意义] mRNA治疗作为新一代核酸药物的重要发展方向,其技术发展呈现高度交叉与快速迭代的特征。系统分析mRNA治疗领域的技术发展历程,识别关键技术主题并揭示其动态演化趋势,对于把握该领域的创新前沿与发展态势具有重要的理论价值和现实意义。[方法/过程] 以mRNA治疗领域的专利数据为研究对象,构建结合深度学习算法与大语言模型的技术文本挖掘框架,对mRNA治疗领域的关键技术实体进行自动抽取。在此基础上,结合LDA主题建模方法,对不同时期的专利数据进行主题识别与强度分析,从而揭示主要技术主题的阶段性演化特征与发展路径。[结果/结论] mRNA治疗领域的技术呈现出“基础研究—应用拓展—临床转化”分阶段特征。从技术主题来看,癌症免疫治疗、RNA修饰、药物递送系统、疫苗研发及基因编辑等方向依次成为不同阶段的研究重点。其中,早期研究阶段以提升mRNA稳定性与优化化学修饰策略为核心,中期研究阶段逐渐扩展到递送载体设计与递送效率的提升,而近年来疫苗研发和面向多适应症的广谱应用成为主导方向。

本文引用格式

金成成 , 逯刘阳 , 王楚湫 , 刘晓琛 , 尤雪洁 , 张彤 , 张丽雯 . 基于大语言模型的mRNA治疗领域技术演化分析[J]. 知识管理论坛, 2026 , 11(3) : 269 -280 . DOI: 10.13266/j.issn.2095-5472.2026.023

Abstract

[Purpose/Significance] As a major developmental direction of next-generation nucleic acid therapeutics, mRNA-based therapies are characterized by a high degree of technological convergence and rapid iterative advancement. A systematic analysis of the technological development trajectory in the field of mRNA therapeutics, including the identification of key technological themes and the elucidation of their dynamic evolutionary patterns, is of significant theoretical value and practical relevance for understanding the innovation frontier and overall development trends of this field. [Method/Process] Using patent data from the field of mRNA therapeutics as the object of study, this research constructed a technical text-mining framework that integrated deep learning algorithms with large language models to enable the automated extraction of key technological entities in the mRNA therapeutics domain. On this basis, the Latent Dirichlet Allocation (LDA) topic modeling method was employed to identify topics and analyze their intensities across patent data from different time periods, thereby revealing the stage-wise evolutionary characteristics and developmental trajectories of the major technological themes. [Result/Conclusion] Technological development in the field of mRNA therapeutics exhibits a clear stage-wise progression characterized by “basic research-application expansion-clinical translation.” From the perspective of technological themes, cancer immunotherapy, RNA modification, drug delivery systems, vaccine development, and gene editing successively emerge as focal research areas at different stages. Specifically, the early stage of research primarily focuses on enhancing mRNA stability and optimizing chemical modification strategies; the intermediate stage gradually expands toward the design of delivery carriers and improvements in delivery efficiency; in recent years, vaccine development and broad-spectrum applications targeting multiple indications have become the dominant directions.

随着生物医学技术的不断发展与进步,mRNA治疗已由早期的基础研究,迈向以临床转化与产业化应用为导向的快速发展阶段,不仅在传染病防控领域取得了重大突破,也进一步在癌症及遗传性疾病等方向展现出广阔的应用前景。在此过程中,mRNA治疗相关技术体系不断扩展,研究方向日益多元,技术更新周期明显缩短,呈现出高度交叉、快速演化的典型特征。系统梳理与分析mRNA治疗领域的发展脉络与技术主题的演化规律,对理解该领域的创新动力机制和支持科研布局与技术决策具有重要意义。
专利作为技术创新的重要载体,能够较为系统地反映技术从原理提出到工程实现的演进过程,是开展技术主题识别与演化分析的核心数据来源。通过对不同时期专利文本的深入挖掘,可以揭示mRNA治疗领域的关键技术节点与发展路径,为识别研究热点与判断技术趋势提供重要依据。然而,在现有研究中,针对技术演化分析的研究仍存在明显不足:一方面,专利文本具有高度专业性和非结构化特征,技术术语复杂、语义隐含性强,传统基于规则或词典的方法难以准确刻画其技术内涵;另一方面,高质量技术实体标注高度依赖领域专家人工参与,标注成本高、样本规模受限,制约了技术实体抽取精度及演化分析结果的可靠性。
针对上述问题,本研究提出一种融合深度学习(deep learning,DL)与大语言模型(large language model,LLM)的技术实体抽取方法,并进一步结合隐含狄利克雷分布模型(latent dirichlet allocation,LDA),构建mRNA治疗领域的技术语义演化分析方法。该方法以技术语义单元构建为核心,引入大语言模型与Prompt工程,实现了对专利文本中技术实体的自动化标注,并结合人工复核对标注质量进行控制。在此基础上,训练构建BioBERT-BiLSTM-CRF模型[1],实现对mRNA治疗领域技术实体的规模化、稳定化抽取,从而在降低人工标注成本的同时提升语义抽取的准确性与覆盖度。此外,基于抽取的技术语义单元,利用LDA主题建模方法对mRNA治疗领域的技术主题进行识别与聚合分析,并结合时间序列信息,系统刻画其阶段性演化特征,从语义层面揭示mRNA治疗领域技术的发展脉络与演进趋势。

1 相关研究/Related research

命名实体识别(named entity recognition,NER)是自然语言处理中的核心任务之一,旨在从非结构化文本中识别具有特定语义意义的实体单元。在专利文本分析中,NER被广泛用于技术术语、机构、产品及发明主体等关键信息的自动抽取,是开展技术语义建模与后续分析的重要前置环节。
由于专利文本专业性强、术语密集且句式复杂,通用NER方法在专利语料中的适用性有限,促使研究人员不断探索面向领域语料的改进方法。现有研究主要采用融合预训练语言模型与序列标注结构的深度学习框架,其中以BERT结合BiLSTM-CRF的模型表现尤为突出,在专业实体识别任务中展现出较好的准确性与鲁棒性[2]。相关研究表明,该类方法通过引入上下文语义表示与条件随机场约束,有效提升了复杂语境下实体边界识别与类别判别能力[3],并在医学、法律等专业文本处理中展现出较强的通用潜力。
在此基础上,基于专利数据的技术主题演化分析逐渐成为技术情报研究的重要方向。现有研究通常围绕技术主题在时间维度上的分布变化与结构重组展开,重点刻画技术主题的阶段性演进特征与强度变化趋势,形成了多种研究范式。宏观层面上,技术生命周期理论通过划分技术发展的不同阶段刻画技术演进轨迹,在多个技术领域得到广泛应用[4-6];基于专利分类体系(如IPC、CPC)的分析方法则依托制度化分类结构揭示技术主题的演变特征[7-8];引文分析与主路径分析侧重于刻画技术知识的继承关系与扩散路径,从网络结构角度揭示技术演化过程[9-11]。随着文本挖掘技术的发展,基于语义建模的技术主题识别方法逐渐兴起。主题模型(如LDA)因具备良好的可扩展性,被广泛用于技术主题抽取与时间演化分析[12-14];同时,预训练语言模型也被引入以提升语义表示能力,从而增强主题识别与动态结构刻画的精细化水平[15-17]。
总体来看,现有研究在专利实体识别与技术主题演化分析方面均取得了积极进展,但二者在研究范式上存在一定程度的割裂。一方面,实体识别研究多聚焦于局部语义单元的精准抽取,难以直接支撑宏观层面的技术演化分析;另一方面,技术演化研究往往依赖粗粒度主题或分类信息,对技术语义内部结构的刻画相对不足。这一语义粒度不一致的问题在mRNA治疗等高度专业化且快速发展的领域尤为突出。同时,传统监督学习方法通常依赖大规模人工标注语料,领域适配成本较高。近年来,大语言模型结合Prompt工程的方法为实体识别与语义抽取提供了新的技术路径,通过构造任务提示实现零样本或少样本推理,在降低人工标注依赖的同时保持较高的语义识别能力。基于此,本研究引入大语言模型与Prompt工程方法进行技术实体识别,在构建高质量语义单元的基础上进一步结合时间维度开展技术主题演化分析,从而实现语义精细建模与技术动态演进刻画的统一,为新兴生物医药技术的发展研究提供更具解释力的实证支持。

2 研究设计/Research design

2.1 数据来源与清洗

本研究以Derwent Innovation数据库作为mRNA治疗领域技术演化分析的数据源。检索结果的专利公开年份以及专利数量如表1所示。
表1 各阶段专利数量

Table 1 Number of patents at each stage

专利公开年份 2001—2010 2011—2020 2021—2022 2023—2024
专利数量/件 6 908 5 612 2 424 3 637
为降低原始专利文本中的无关信息与噪声,本研究利用正则表达式去除专利号、发明人、申请人等与技术实体抽取无关的元数据,仅保留专利标题与摘要作为分析语料,并清除无关标点与数字以减少干扰。在文本预处理阶段,采用NLTK工具包中的标准英文停用词表进行文本清洗。同时,对文本进行正则清洗以去除非字母字符,并进行词形还原处理。

2.2 研究框架与方法

本研究框架围绕“实体抽取—主题识别—演化分析”3项核心任务展开,整体流程如图1所示。
图1 mRNA 治疗领域技术语义演化分析总体框架

Figure 1 Framework for technical semantic evolution analysis in the field of mRNA therapy

(1)技术实体抽取。针对mRNA治疗领域专利文本语义专业性强、人工标注成本高的问题,本研究引入Prompt提示工程实现技术实体的自动化预标注。Prompt提示工程由任务描述和示例输入输出构成,通过将提示词与专利文本共同输入大语言模型,引导模型按照给定样例进行输出。本研究所用模型为BigModel开发平台提供的GLM-4-Plus[18]。基于Prompt的自动化预标注流程如图2所示。
图2 基于 Prompt 的技术实体自动化预标注流程

Figure 2 The process of prompt-based automated pre-annotation for technical entity extraction

模型输出的JSON格式标注结果经解析后,被逐词映射为BIO(Begin-Inside-Outside)标签序列。BIO格式通过对每个词语标注其所属实体类别及位置关系。基于构建的标注语料训练技术实体抽取模型,以实现大规模、稳定的实体识别。模型采用BioBERT-BiLSTM-CRF结构进行技术实体抽取,以BIO 标注格式表示实体边界,从而提升专业术语识别的准确性与稳定性。
(2)技术主题识别。以构建的技术语义单元为分析对象,采用LDA模型对技术实体进行聚合与主题识别。LDA作为一种典型的生成式概率主题模型,能够在无需人工标注的条件下从大规模文本中自动抽取潜在主题,并同时输出“主题—词汇分布”和“文档—主题分布”,从而为后续基于时间维度的主题强度测度与演化分析提供统一的概率表征基础[19]。此外,LDA采用混合成员(mixed-membership)机制刻画单篇专利文本可能涉及的多个技术主题,更契合专利语料中“多技术要素并存、语义交叉渗透”的表达特征[20]。在模型训练过程中,LDA通过贝叶斯推断获得主题与词汇的后验分布,并采用Gibbs采样实现近似推断过程[21];同时,现有研究也表明LDA及其扩展模型已被广泛用于专利文本挖掘、技术热点识别与技术路线图分析,具有良好的可解释性与可扩展性[22]。
(3)技术演化分析。在技术主题识别的基础上,进一步结合专利时间信息,对技术主题在不同时期的分布特征与强度变化进行分析,从而识别mRNA治疗领域技术发展的阶段性特征与主要演进路径。为辅助验证主题结构的稳定性与区分度,本研究结合pyLDAvis与t-SNE(t-distributed Stochastic Neighbor Embedding)对主题间语义差异进行可视化分析。
通过上述分层分析流程,本研究构建了一套面向mRNA治疗领域的技术演化分析方法,实现了从细粒度技术语义建模到宏观技术演化的跨越,为系统理解该领域技术发展脉络及识别潜在研究方向提供了方法支撑。

3 主题识别与技术演化分析/Topic identification and technological evolution analysis

3.1 技术实体抽取

依据前述基于Prompt的技术实体自动化抽取流程,本研究对mRNA治疗领域专利文本中的技术实体进行了系统识别与统计分析,相关结果如表2所示。
表2 技术实体抽取结果

Table 2 Technical entity recognition results

技术实体排序 技术实体 频次
排序前10位的技术实体

cancer

antibody

nucleic acid

nucleic acid molecule

host cell

pharmaceutical composition

polypeptide

vector

mrna

polynucleotides

1 507

898

768

718

676

655

621

564

461

356

排序后10位的技术实体

dermatitis disease

dipeptide

braf gene

slow-cycling cells

cxcl2

romo1 gene

mutated epitope

sqle

nanotube array

tmem9

1

1

1

1

1

1

1

1

1

1

分析高频技术实体的分布情况,可以看出,“cancer”(癌症)、“antibody”(抗体)、“host cell”(宿主细胞)、“nucleic acid molecule”(核酸分子)、“polypeptide”(多肽)、“vector”(载体)以及“pharmaceutical composition”(药物组合物)等词汇在语料中占据较高比例。这类实体主要涉及疾病治疗对象、生物分子基础要素以及递送与制剂相关技术环节,表明mRNA治疗相关专利在技术布局上重点围绕具体疾病应用、生物分子设计及其工程化实现路径展开。
而在频次相对较低的技术实体中,如“BRAF gene”(BRAF基因)、“CXCL2”(趋化因子CXCL2)等。这类实体虽然在整体语料中的占比有限,但其所指向的具体分子靶点、信号通路或疾病机制,具有较强的专业指向性与技术探索属性。低频技术实体通常对应于mRNA技术在特定疾病亚型、特定分子通路或精准治疗方向上的研究尝试,反映出技术应用在主流研究路径之外的细分拓展趋势。

3.2 技术主题识别

在完成技术实体层面的语义结构分析后,本研究进一步对技术语义单元进行聚合,以识别mRNA治疗领域的主要技术主题。

3.2.1 各发展阶段主题识别

在完成技术实体抽取与语义单元构建的基础上,本研究采用LDA主题模型对mRNA治疗领域的专利文本及其阶段性子集进行建模分析。通过对各阶段LDA模型所得主题的分布情况进行提取与对比,揭示了mRNA治疗技术随时间推移所呈现出的研究方向变迁与创新趋势。同时,结合主题特征词的语义分析,对每个主题所代表的技术类别与研究领域进行了归类与命名,为后续的演化路径分析提供语义基础。前期mRNA技术处于基础研究与缓慢积累阶段,技术演进节奏相对平稳,适合采用较长时间窗口刻画长期结构性变化,本研究以10年为一阶段;而后期受新冠疫苗等重大事件驱动,技术迭代显著加快、主题变化密集,需要以更短时间窗口捕捉快速演化特征,因此本研究以2年为阶段进行分析。阶段性主题识别结果如表3所示。其中,加粗显示的为当前阶段文档数量超过200的主要技术主题。
表3 各发展阶段主题识别结果

Table 3 Topic identification results at each development stage

发展阶段 主题识别结果
2001—2010年

Topic 0:核酸与蛋白质编码

Topic 1:化学与分子特征

Topic 2:生物标志物

Topic 3:基因表达

Topic 4:癌症与基因标记物

Topic 5:RNA与基因表达调控

Topic 6:细胞培养与基因工程

Topic 7:RNA表达与抗RNA疗法

Topic 8:核酸与基因治疗

Topic 9:多肽生产与重组技术

Topic 10:骨骼、胶原蛋白相关的分子生物学技术

Topic 11:化学与药物研究

Topic 12:神经系统与精神健康

Topic 13:病毒研究与疫苗开发

Topic 14:癌症基因表达与治疗

Topic 15:肿瘤细胞与生物化学

2011—2020年

Topic 0:核酸与蛋白质编码

Topic 1:化学与分子特征

Topic 2:病毒与基因编辑

Topic 3:细胞与免疫系统

Topic 4:癌症诊断与治疗

Topic 5:RNA技术与疫苗

Topic 6:RNA干扰技术

Topic 7:基因编辑与转录

Topic 8:细胞治疗与生产

Topic 9:化合物与分子载体

Topic 10:免疫疗法与抗体

Topic 11:药物递送系统

Topic 12:癌症治疗与免疫治疗

Topic 13:治疗组合与mRNA治疗

Topic 14:癌症诊断与治疗

Topic 15:干细胞与再生医学

2021—2022年

Topic 0:mRNA组成与疫苗开发

Topic 1:肿瘤微环境与免疫调节

Topic 2:传染病与新冠疫苗

Topic 3:脂质纳米颗粒药物传递系统

Topic 4:癌症研究与治疗

Topic 5:RNA技术与药物开发

Topic 6:肝脏疾病与病毒感染研究

Topic 7:癌症免疫治疗与细胞信号研究

Topic 8:疫苗研究与开发

Topic 9:免疫调节研究

Topic 10:细胞靶向药物传递系统

Topic 11:基因编辑与药物传递系统

Topic 12:纳米技术与疾病治疗

Topic 13:分子生物学与基因研究

Topic 14:癌症治疗与生物标志物

Topic 15:细胞培养与生物分子传递研究

Topic 16:神经退行性疾病动物模型研究

Topic 17:病毒反应性研究

Topic 18:呼吸道与结直肠疾病

2023—2024年

Topic 0:核酸技术

Topic 1:肝癌治疗

Topic 2:血小板与病毒感染

Topic 3:脂质纳米颗粒药物传递系统

Topic 4:癌症治疗

Topic 5:RNA技术在分子生物学的应用

Topic 6:生物技术性能评估与病毒学研究

Topic 7:肠道与心血管疾病的治疗策略

Topic 8:mRNA合成与产品制备

Topic 9:免疫调节与抗体研究

Topic 10:细胞与组织治疗应用

Topic 11:siRNA疾病治疗

Topic 12:基因编辑与分子生物学技术

Topic 13:mRNA疫苗与蛋白质治疗

Topic 14:癌症治疗

Topic 15:抑郁症的生物标注物与疾病诊断

Topic 16:免疫检查点抑制剂

Topic 17:阿尔兹海默症治疗

Topic 18:mRNA疫苗研发

所有阶段

(2001—2024年)

Topic 0:化学化合物与药物成分

Topic 1:基因与细胞实验技术

Topic 2:mRNA与蛋白质的应用

Topic 3:基因表达与检测

Topic 4:癌症的治疗与诊断

Topic 5:疾病治疗与药物成分

Topic 6:核酸与肽类化合物

Topic 7:mRNA构建与编辑

Topic 8:基因调控与疾病

Topic 9:疫苗与病毒研究

Topic 10:药物递送系统

Topic 11:核酸分子与基因表达

Topic 12:基因与细胞实验模型

Topic 13:抗体与蛋白质工程

Topic 14:免疫细胞与癌症免疫治疗

Topic 15:mRNA序列与基因编辑

3.2.2 主要技术主题分析

结合各主题下高频技术实体与关键词的语义特征,对主要技术主题的研究指向进行归纳。
其中,一类主题以“nucleic acid molecule”(核酸分子)、“polypeptide”(多肽)等实体为核心,关键词多涉及分子结构特征、稳定性及功能表达等内容,反映出该主题在语义上主要指向mRNA分子层面的结构设计与功能机制研究;另一类主题则以“vector”(载体)、“host cell”(宿主细胞)及制剂相关实体为主要特征,其关键词集中于递送方式与工程实现问题,体现了对递送系统设计与优化的持续关注。
此外,部分主题中高频出现“cancer”(癌症)、“antibody”(抗体)等疾病与免疫相关实体,表明这些主题在语义上更侧重于mRNA技术在疾病治疗,尤其是肿瘤及免疫相关应用场景中的研究与实践探索。少数主题还包含特定基因或分子靶点相关实体,显示出mRNA技术在特定分子机制或精准治疗方向上的探索性应用。
总体而言,各技术主题在语义层面分别指向mRNA治疗领域中的不同技术关注方向,其内涵覆盖了从分子机制研究、递送系统工程化实现到疾病治疗应用的多个层级。这种基于主题语义特征形成的技术方向划分,为后续技术演化分析提供了结构化的分析基础。

3.2.3 技术主题可视化分析

为验证技术主题识别结果的合理性与区分效果,本研究通过引入pyLDAvis与t-SNE两种可视化方法,对LDA模型的主题分布与文档聚类结果进行评估。
首先,采用pyLDAvis工具对LDA模型的主题分布结果进行可视化展示,其结果如图3所示。图中各主题在语义空间中的相对位置反映了主题之间的语义距离与相似程度,圆形面积则表示主题在整体语料中的相对重要性。
图3 pyLDAvis可视化

Figure 3 pyLDAvis visualization

从可视化结果可以看出,多数主题在语义空间中呈现出相对分散的分布特征,主题之间的重叠程度较低,表明模型能够在一定程度上区分mRNA治疗领域中不同技术主题的语义特征。仅在少数主题之间观察到一定的邻近或交叉分布,可能反映出相关技术方向在研究内容上存在一定关联性,这与实际技术发展过程中不同研究方向之间的交叉渗透现象相一致。
在此基础上,进一步采用t-SNE方法对文档的主题分布进行降维处理,将原始高维主题空间映射至二维空间,以考察文档在主题语义层面的聚类特征,其结果如图4所示。
图4 t-SNE降维可视化

Figure 4 t-SNE dimensionality reduction visualization

t-SNE可视化结果显示,大多数文档在二维空间中形成相对集中的聚类结构,不同主题对应的文档分布具有较为明确的边界,表明LDA模型在文档层面具备较好的主题区分能力。
综上,本研究所构建的LDA主题模型在技术主题识别与文档语义区分方面具有较好的合理性,其输出结果能够有效支撑对mRNA治疗领域技术结构特征及其演化过程的进一步分析。

3.3 技术演化分析

3.3.1 技术主题强度演化特征

在完成LDA主题建模的基础上,本研究进一步基于文档—主题分布矩阵,对各技术主题在不同年份的强度变化特征进行定量分析。主题模型是科技主题演化研究中的常用做法[20],以文档—主题概率分布作为主题贡献度的度量基础,通过对某一年度内所有文档中主题概率的均值进行聚合,构建年度主题强度指标。该指标能够反映特定时间窗口内某技术主题在整体语料中的相对关注程度与结构性占比[19]。对每一主题,计算其在给定年份内的平均主题强度,用以刻画该主题在不同时期的研究关注程度,其计算方法见公式(1)。
S t , k = 1 N t ∑ d ∈ D t θ d , t
其中,St,k 表示t年份第k个主题的强度,Nt 是第t年的文档总数,θd,k 是文档d中术语主题k的概率,即LDA主题模型中的文档—主题分布矩阵的值。表示在每一年内,所有文档中与k个主题相关概率的均值。
根据上述计算结果,本研究绘制了各主题强度随时间变化的散点图,并通过线性回归拟合出趋势线,以刻画技术主题的动态演变趋势,其结果如图5所示。
图5 不同技术主题强度演化趋势

Figure 5 Evolution trend chart of different technical theme strengths

图5中的Topic0—Topic15是基于所有阶段(2001—2024年)的主题演化结果,随后结合变化斜率对主题演化类型进行划分,主题强度被归类为3种类型。①上升型:强度随时间显著增长,代表热点逐渐增强的研究方向;②下降型:强度呈现持续下降趋势,表明相关技术逐步衰退或被替代;③稳定型:强度波动幅度较小,反映该技术保持长期关注。
不同技术主题强度变化趋势的线性斜率统计结果如图6所示。
图6 不同技术主题强度随时间的变化斜率

Figure 6 Statistical chart of the slope of different technical theme strengths over time

结合趋势斜率的分析结果可以发现,上升型主题主要包括Topic10(药物递送系统)、Topic9(疫苗与病毒研究)、Topic7(mRNA构建与编辑)、Topic6(核酸与肽类化合物)和Topic5(疾病治疗与药物成分)。上述主题在2001—2024年间呈现出持续增强的研究趋势,与mRNA疫苗快速发展、核酸编辑技术突破以及临床应用场景不断拓展等技术进展密切相关。相对而言,Topic13(抗体与蛋白质工程)与Topic11(核酸分子与基因表达)表现出明显的下降趋势,表明其在mRNA治疗领域中的相对研究热度有所减弱,可能受到新型递送策略、mRNA工程化手段以及治疗范式演进的影响。此外,部分主题在研究周期内保持相对稳定的强度水平,包括Topic15(mRNA序列与基因编辑)、Topic14(免疫细胞与癌症免疫治疗)以及Topic8(基因调控与疾病)。这类主题虽未表现出显著的上升或下降趋势,但在整个研究周期内始终维持一定的研究关注度,反映其在mRNA治疗技术体系中的长期基础性与支撑性地位。
为进一步展示不同类型主题的代表性演化特征,本研究选取8个典型技术主题绘制其强度变化趋势图(见图7),该图从时间维度直观呈现了各类技术主题在研究周期内的演进轨迹。
图7 八种主题演化强度趋势

Figure 7 Eight topic evolution intensity trend

分析结果表明,上升型主题主要包括Topic10(药物递送系统)、Topic7(mRNA构建与编辑)和Topic5(疾病治疗与药物成分)。这些主题在2001—2024年间的研究强度显著增长,主要得益于mRNA疫苗的快速发展、mRNA编辑技术的突破以及mRNA在疾病治疗领域的扩展。

3.3.2 关键技术路径识别

在技术演化分析中,本研究首先基于不同时间阶段分别训练的LDA模型提取各阶段主题关键词集合,并通过TF-IDF向量化表示构建主题语义向量。随后,采用余弦相似度(cosine similarity)计算相邻阶段主题之间的语义相似度,形成跨阶段主题相似度矩阵。为避免低相关性主题之间产生噪声连接,本研究设定相似度阈值(similarity_threshold = 0.1),仅保留高于该阈值的主题对作为有效演化关系。同时,结合时间顺序约束,仅允许主题由前一阶段向后一阶段单向连接,从而保证演化路径符合时间逻辑。
在上述规则下构建主题流动数据,并采用桑基图(Sankey Diagram)对不同阶段技术主题之间的演变关系进行可视化表达。每一阶段的技术主题作为节点,节点间连线宽度表示相邻阶段主题间的语义相似度大小,从而直观展示mRNA治疗技术主题在时间维度上的结构演进关系[23]。基于桑基图揭示的主题流向关系,如图8所示。
图8 主题演化桑基图

Figure 8 Topic evolution Sankey Diagram

基于相似度筛选与时间顺序约束所形成的主题流向结构,可以识别出mRNA治疗领域的3条主要技术演化路径,各路径均反映了特定技术方向在不同时期的研究重点变化与发展轨迹。
(1)癌症治疗与基因治疗方向。该路径依次经历:2001—2010:Topic4(癌症与基因标记物)→2011—2020:Topic4(癌症诊断与治疗)→2021—2022:Topic13(分子生物学与基因研究)→2023—2024:Topic4(癌症治疗)。该演化过程体现了mRNA技术在癌症领域中由基础分子机制研究向免疫治疗与个性化治疗应用不断深化的发展趋势,尤其在mRNA疫苗技术引入肿瘤治疗后,该方向呈现出显著扩展的趋势。
(2)细胞治疗与纳米递送技术方向。该路径包括:2001—2010:Topic6(细胞培养与基因工程)→2011—2020:Topic3(细胞与免疫系统)→2021—2022:Topic3(脂质纳米颗粒药物传递系统)→2023–2024:Topic3(脂质纳米颗粒药物传递系统)。该路径展现了从早期细胞工程技术到现代脂质纳米颗粒(LNPs)在mRNA传递系统中的核心地位的演进,特别是在新冠疫苗中取得显著成果后,该领域持续受到关注并持续优化。
(3)RNA技术与疫苗发展方向。该路径包括:2001—2010:Topic5(RNA 与基因表达调控)→2011—2020:Topic0(核酸与蛋白质编码)→2021—2022:Topic0(mRNA组成与疫苗开发)→2023—2024:Topic13(mRNA疫苗与蛋白质治疗)。该路径体现了RNA基础研究向疫苗应用的过渡。特别是在COVID-19疫情期间,mRNA疫苗实现了从基础理论向大规模临床转化的跨越,推动了该方向的高速发展。

3.3.3 技术演进模式分析

基于主题层面识别出的主要技术演化路径,为进一步从文档语义分布角度验证技术演进的阶段性特征,本研究引入嵌入空间可视化分析。具体而言,采用t-SNE方法对专利文本的主题分布进行降维处理,并结合时间阶段信息,对不同技术主题在语义空间中的分布变化进行可视化展示,其结果如图9所示。
图9 不同发展阶段不同主题t-SNE可视化

Figure 9 t-SNE visualization of different themes at different development stages

结果表明,在2001—2010年,研究主题主要集中于核酸结构与蛋白质编码等基础层面;在2011—2020年,技术关注逐步转向细胞工程与免疫系统相关应用;而在2020年以后,mRNA技术在疫苗开发与临床治疗领域实现广泛应用,研究活动呈现出明显的聚集与扩展趋势。

4 结果与讨论/Result and discussion

本研究在完成技术实体抽取的基础上,基于LDA主题模型对mRNA治疗领域专利文本进行主题识别,并结合文档—主题分布矩阵对各主题强度进行时间维度分析。技术实体统计结果显示,“cancer”“antibody”“nucleic acid”“vector”“host cell”等实体频次较高,表明专利布局主要集中于疾病治疗对象、生物分子设计及递送与制剂相关技术环节。在此基础上,主题识别结果表明,mRNA治疗领域的专利技术内容呈现出相对清晰的结构分布,各主题涵盖“核酸与蛋白质编码”“基因表达”“药物递送系统”“癌症治疗”“mRNA疫苗与蛋白质治疗”等方向,体现出从分子层面研究到递送工程再到疾病应用的技术层级分布。
在主题识别的基础上,本研究进一步基于文档—主题概率分布计算年度平均主题强度指标,以刻画各技术主题在不同时间段内的关注度变化。其中,“药物递送系统”“mRNA构建与编辑”“疾病治疗与药物成分”等主题强度持续上升,而“核酸分子与基因表达”等部分基础主题强度相对下降。分阶段主题结果进一步表明,2001—2010年以核酸结构与基因表达相关主题为主,2011—2020年递送系统与免疫治疗相关主题增加,2021年以后疫苗研发与脂质纳米颗粒递送技术相关主题显著强化。上述变化说明,mRNA治疗技术发展路径由早期分子机制研究逐步转向递送工程优化与疫苗及疾病治疗应用扩展,呈现出阶段性转移特征。
尽管本研究取得了较为系统的研究成果,但仍存在一定的局限性,未来研究可从3个方面进行拓展和优化。①融合多源数据。现阶段分析以专利数据为主体,未来可进一步引入学术论文、临床试验数据及产业发展报告,实现mRNA技术从理论研究到产业落地的全链条追踪与分析。②提升主题建模效果。传统LDA模型在多义词处理和上下文语义理解方面存在一定局限,可引入基于大语言模型的动态主题建模方法(如BERTopic)以提升细粒度技术主题的识别能力与鲁棒性。③强化动态演化监测能力。当前研究侧重于静态历史数据的分析,未来可构建实时数据流处理系统,结合流式计算技术,实现对新兴技术方向(如个性化mRNA癌症疫苗)的动态演化监测与趋势预警。
随着mRNA治疗技术在癌症、遗传性疾病、传染病防控等领域的应用持续深化,本研究提出的分析框架将为该领域的技术创新监测、风险评估与资源配置提供更具时效性与针对性的支撑,助力推动mRNA治疗技术的可持续发展。总体而言,通过主题识别与主题强度时间演化的结合分析,可以发现mRNA治疗领域的技术发展具有明显的阶段性与结构演进特征。技术主题从早期的多点探索逐步向核心方向集中,并在规模扩张后进入优化调整阶段,体现出技术体系从探索验证走向结构成熟的典型演化路径。

感谢中国科学院上海营养与健康研究所王洪对本研究的支持与帮助。

[1]
CELIKMASAT G, AKTURK M E, ERTUNC Y E, et al. Biomedical named entity recognition using transformers with biLSTM + CRF and graph convolutional neural networks[C]//2022 International conference on innovations in intelligent systems and applications. Biarritz: IEEE, 2022: 1-6.

[2]
GAO W C, ZHENG X H, ZHAO S S. Named entity recognition method of Chinese EMR based on BERT-BiLSTM-CRF[J]. Journal of physics: conference series, 2021, 1848(1): 012083.

[3]
PENG C, WANG X J, LI Q F, et al. A new Chinese named entity recognition method for pig disease domain based on lexicon-enhanced BERT and contrastive learning[J]. Applied sciences, 2024, 14(16): 6944.

[4]
JEONG Y J, YOON B. Technology roadmapping based on patent citation network considering technology life cycle[C]//First international technology management conference. San Jose: IEEE, 2011: 731-738.

[5]
YAN D W, DENG X C, MEI X R. Evolution of global EV battery technology based on the main path of patent citation[J]. Journal of physics: conference series, 2021, 1955(1): 012096.

[6]
WANG J B, CAO X, ZHU J Y, et al. Evolution mechanism and empirical analysis of innovation network in advanced manufacturing industry[J]. Transinformação, 2022, 34: e210038.

[7]
LEYDESDORFF L, KOGLER D F, YAN B. Mapping patent classifications: portfolio and statistical analysis, and the comparison of strengths and weaknesses[J]. Scientometrics, 2017, 112(3): 1573-1591.

[8]
JIANG J M, ZHAO Y. Technology trend analysis of Japanese green vehicle powertrains technology using patent citation data[J]. Energies, 2023, 16(5): 2221.

[9]
HAN B Q, ZHANG J, CAI H, et al. 5G wireless technology evolution: identifying evolution pathways of core technologies based on patent networks[J]. Wireless networks, 2024, 30(8): 6875-6886.

[10]
GAO Y, ZHU Z, KALI R, et al. Community evolution in patent networks: technological change and network dynamics[J]. Applied network science, 2018, 3(1): 26.

[11]
LI Z F, WANG Y X, DENG Z. Research on evolution characteristics and factors of Nordic green patent citation network[J]. Sustainability, 2022, 14(13): 7743.

[12]
WANG J L, FAN Y, ZHANG H, et al. Technology hotspot tracking: topic discovery and evolution of China’s blockchain patents based on a dynamic LDA model[J]. Symmetry, 2021, 13(3): 415.

[13]
LIN Y, WANG X L, YANG J, et al. Core technology topic identification and evolution analysis based on patent text mining—A case study of unmanned ship[J]. Applied sciences, 2024, 14(11): 4661.

[14]
LIKHITHA S, HARISH B S, KUMAR H M K. A detailed survey on topic modeling for document and short text data[J]. International journal of computer applications, 2019, 178(39): 1-9.

[15]
TANG G F, CHEN X H, LI N, et al. Research on the evolution of journal topic mining based on the BERT-LDA model[C]//SHS web of conferences. Paris: EDP Sciences, 2023, 152: 03012.

[16]
LIU H L, ZHANG R, LIU Y F, et al. Unveiling evolutionary path of nanogenerator technology: a novel method based on Sentence-BERT[J]. Nanomaterials, 2022, 12(12): 2018.

[17]
WANG Y, CHEN R D, CHEN J D. Identification and evolution of core technologies in the chip field based on patent networks[J]. Entropy, 2025, 27(6): 617.

[18]
ZENG A H, XU B, WANG B W, et al. ChatGLM: a family of large language models from GLM-130B to GLM-4 all tools[J]. arXiv preprint, 2024, arXiv:2406.12793.

[19]
BLEI D M. Probabilistic topic models[J]. Communications of the ACM, 2012, 55(4): 77-84.

[20]
GRIFFITHS T L, STEYVERS M. Finding scientific topics[J]. Proceedings of the national academy of sciences of the United States of America, 2004, 101(): 5228-5235.

[21]
BLEI D M, NG A Y, JORDAN M I. Latent Dirichlet allocation[J]. Journal of machine learning research, 2003, 3: 993-1022.

[22]
ZHANG H, DAIM T, ZHANG Y. Integrating patent analysis into technology roadmapping: a Latent Dirichlet allocation based technology assessment and roadmapping in the field of Blockchain[J]. Technological forecasting social change, 2021, 167(12): 120729.

[23]
SOUNDARARAJAN K, HO H K, SU B. Sankey diagram framework for energy and exergy flows[J]. Applied energy, 2014, 136: 1035-1042.

文章导航

/

〈 〉