知识管理论坛 >

2025 , Vol. 10 >Issue 4: 309 - 320

DOI: https://doi.org/10.13266/j.issn.2095-5472.2025.020

研究论文

信任群体智慧还是AI智能？人智融合事实核查对用户信息参与行为的影响研究

  • 吴联仁 , 1 ,
  • 胡亚男 2 ,
  • 李瑾颉 3 ,
  • 齐佳音 1
展开
  • 1.广州大学网络空间安全学院 广州 510006
  • 2.上海对外经贸大学工商管理学院 上海 201620
  • 3.广州大学新闻与传播学院 广州 510006

吴联仁，副教授，博士，E-mail:

胡亚男，硕士研究生

李瑾颉，副教授，博士

齐佳音，教授，博士。

收稿日期: 2025-01-18

  网络出版日期: 2025-08-31

基金资助

国家自然科学基金面上项目“基于公众社交媒体卷入干预的信息疫情助推治理研究”(72274119)

收起

Trust the Crowd-wisdom or AI? Research on the Impact of Human-AI Integration Fact Checking on User Information Engagement Behavior

  • Wu Lianren , 1 ,
  • Hu Yanan 2 ,
  • Li Jinjie 3 ,
  • Qi Jiayin 1
Expand
  • 1. School of Cyberspace Security, Guangzhou University, Guangzhou 510006
  • 2. School of Management, Shanghai University of International Business and Economics, Shanghai 201620
  • 3. School of Journalism and Communication, Guangzhou University, Guangzhou 510006

Wu Lianren, Associate Professor, PhD, E-mail:

Hu Yanan, Master’s Candidate;

Li Jinjie, Associate Professor, PhD;

Qi Jiayin, Professor, PhD.

Received date: 2025-01-18

  Online published: 2025-08-31

Supported by

general program of National Natural Science Foundation of China titled “Research on the Nudging Governance of Infodemic Based on Public Social Media Engagement Intervention”(72274119)

Fold

摘要

【目的/意义】 事实核查是一种应对虚假信息传播的有效策略，探究事实核查类型中众包事实核查和AI事实核查及其融合对用户信息参与行为的影响，有利于社交媒体平台改进和优化虚假信息治理措施。 【方法/过程】 基于社交媒体平台真实数据，采用方差分析探究众包事实核查和AI事实核查对用户信息参与行为的影响，同时考虑来源可信度的调节作用。 【结果/结论】 实证结果表明，众包事实核查显著影响用户的信息参与行为，正向核查促进用户信息参与行为，负向核查遏制信息参与行为；AI事实核查正向影响用户的信息参与行为，且AI事实核查和众包事实核查融合正向影响用户的信息参与行为；来源可信度正向调节众包事实核查和信息参与行为的关系，也正向调节AI事实核查和信息参与行为的关系。研究结果揭示不同类型事实核查及其融合对用户信息参与行为的影响，为社交媒体平台充分利用群体智慧和AI智能进行虚假信息的事实核查和治理提供理论支持。

关键词： 人智融合; 众包事实核查; AI事实核查; 信息参与行为; 来源可信度

本文引用格式

吴联仁 , 胡亚男 , 李瑾颉 , 齐佳音 . 信任群体智慧还是AI智能？人智融合事实核查对用户信息参与行为的影响研究[J]. 知识管理论坛, 2025 , 10(4) : 309 -320 . DOI: 10.13266/j.issn.2095-5472.2025.020

Abstract

[Purpose/Significance] Fact-checking is an effective strategy to combat the dissemination of misinformation. Exploring the mechanism of how fact-checking types (crowdsourced and AI fact-checking) influence users' information participation behavior can help social platforms improve and optimize their measures for misinformation governance. [Method/Process] Based on real data from social media platforms, this study used analysis of variance to investigate the impact of fact-checking on users' information participation behavior, while considering the moderating effect of source credibility. [Result/Conclusion] The empirical results show that crowdsourced fact-checking significantly affects users' information engagement behavior, with positive fact-checking promoting information participation behavior and negative fact-checking inhibiting it. AI fact-checking positively influences users' information engagement behavior, and the combination of AI and crowdsourced fact-checking also positively affects users' information engagement behavior. Source credibility positively moderates the relationship between crowdsourced fact-checking and information engagement behavior, as well as the relationship between AI fact-checking and information engagement behavior. This study reveals the impact of different types of fact-checking and their integration on information engagement behavior, providing theoretical support for social media platforms to fully utilize collective intelligence and AI for fact-checking and misinformation governance.

Key words： human-AI integration; crowdsourced fact-checking; AI fact-checking; information engagement behavior; source credibility

虚假信息传播已经成为当今社会的严重问题，特别是在生成式AI时代下，多模态虚假信息生成门槛低、速度快、欺骗性强，给社会、经济和政治带来巨大挑战[1]。面对这一问题，事实核查作为一种有效的应对手段和机制，逐渐成为打击虚假信息的重要工具，正成为新型“网络基建”。事实核查不仅能够识别虚假信息，还能通过提醒用户关注信息的准确性，减少错误信息的扩散。研究表明，事实核查标签通过提供准确的背景信息，可以帮助用户辨别真假，并抑制虚假信息的传播[2-3]。在信息传播的早期阶段，事实核查通过影响用户的认知和行为，发挥了重要作用，从而在源头上遏制虚假信息的扩散。
最初的事实核查主要依赖专业机构，通过受过专业训练的人员对信息进行验证。这些机构，如国内的中国互联网联合辟谣平台和澎湃明查、国外的FactCheck.org和PolitiFact等，通常能够提供高度权威的信息验证，然而其覆盖面有限，且在政治敏感议题上容易遭到质疑。为了解决这一问题，近年来，众包事实核查和AI事实核查逐渐发展成为主流。众包事实核查指利用集体智慧，使普通用户能够参与到信息的验证过程中，从而提高核查的覆盖面和效率[4]。与此同时，AI事实核查依托先进的算法和机器学习技术，能够在短时间内处理大量信息，被认为具有比人类更高的客观性，特别是在政治争议性话题中[5]。
然而，众包事实核查与AI事实核查（警告）标签对用户信息参与行为的影响如何？当众包事实核查结果与AI事实核查结果一致/不一致时，对用户信息参与行为的影响又如何？用户相信群体智慧还是AI智能，并做出信息参与行为决策？因此，当前在事实核查（警告）标签与用户信息参与行为之间的影响机制还缺乏系统研究，不同类型事实核查（警告）标签和用户信息参与行为之间还存在一个黑箱。对这些问题的理解，可以揭示用户在人类—AI交互视域下的信息决策和处理模式，对平台虚假信息治理系统设计至关重要。
鉴于此，本文将探索用户对事实核查（警告）标签的反应，具体研究不同事实核查类型（众包事实核查和AI事实核查）对用户信息参与行为的影响，以及这两者之间的关系是否还受到其他因素的干扰。在理论方面，本文在人智融合事实核查视域下，可以完善用户信息决策和加工理论。在实践方面，可以为社交媒体平台事实核查机制设计和干预措施制定提供理论支撑。

1 相关研究/Related research

1.1 事实核查研究相关概述

事实核查是验证信息真伪以提高新闻报告准确性和可靠性的行为，其涉及两个主要阶段：①事前事实核查，即在信息传播前对内容进行核实以更正或拒绝不实文本；②事后事实核查，即对已传播的信息进行核实[6]。
事实核查主要有专业事实核查、众包事实核查和AI事实核查3种类型。专业事实核查是由经验丰富的记者、作家或受过信息核查方法培训的编辑进行的，他们利用新闻档案以及统计或科学数据库等资源来验证信息的真实性。国内外专业事实核查机构有中国互联网联合辟谣平台、澎湃明查、FactCheck.org和PolitiFact等，致力于揭露谣言和错误信息，以提升公众的信息识别能力。然而，这些专业事实核查机构在实际中的效果有限，主要因为其网站访问量低，导致许多用户在社交媒体上接触到误导性内容时，并不知晓相应的事实核查结果。为了解决专业事实核查网站访问量低的情况，一种在社交媒体上提高专业事实核查关注度的常用手段是对话式事实核查，也被称为“snoping”（窥探）[7]。这种方法通过在社交媒体平台上直接对错误信息进行反驳，并附上专业事实核查结果链接，旨在让原本可能不会主动寻找事实核查信息的用户能够更容易接触到专业事实核查网络的结果。然而，由于帖子回复中的事实核查内容很容易被用户忽略[7]，且很大一部分社交媒体用户不信任专业的事实核查人员，导致对话式事实核查的效果可能仍然有限[8]。
为了应对专业事实核查的局限性，一些平台开始采用众包事实核查作为一种新的应对措施。众包事实核查是一种利用社区成员的集体智慧来验证信息真实性的方法[9]。Twitter（现名X）最近推出了基于社区的事实核查系统“社区笔记”（community notes），之前称为“观鸟”（birdwatch）。这个系统允许用户识别他们认为具有误导性或没有误导性的帖子，并撰写笔记来为这些帖子提供背景信息。用户可以在Twitter上看到的任何帖子添加社区笔记，这样的设计使得社区笔记可以直接出现在被核查的帖子上，提高了用户的关注度。与对话式事实核查相比，社区笔记的一个显著优势是它们的匿名性，这可能有助于解决用户对专业事实核查人员的信任问题。最近的研究也表明，社区笔记在对社交媒体帖子进行事实核查方面能够达到较高的准确率[10]。
与此同时，研究人员和社交媒体平台一直在探索自动化方法来检测错误信息，并对各种信息进行事实核查[11-12]。AI事实核查作为一种新兴技术，依托自然语言处理和深度学习等技术手段，能够自动化分析和提取大量文本中的关键内容，迅速判断信息的真实性[13]。AI事实核查技术的崛起得益于其在信息处理中的客观性，人工智能凭借数据驱动的方式和算法支持，能够减少动机性推理和用户的情感反应，使得信息核查过程更加中立、客观[14]。此外，学者们开始关注大语言模型在事实核查领域的应用。这些模型基于来自互联网的海量文本数据集进行训练，包括新闻文章、书籍和各类网站的内容[15]，它们对广泛的主题都有一定了解，并在文本摘要和命名实体识别等任务中表现出色[16]。对著名大型语言模型ChatGPT的分析表明，该模型能够评估新闻媒体的可信度，并在事实核查方面具有巨大潜力[17]。研究表明，大型语言模型提供的用于纠正社交媒体错误信息的内容，可能比人类生成的纠正信息更有效[18]。大语言模型能够为所提供的信息生成令人信服的证据，甚至可以与用户进行对话，以多种语言提供更多背景信息并促进理解。大型语言模型的这些能力，为开发可扩展且可靠的AI事实核查系统创造了有利环境，使得验证互联网上的海量信息成为可能。

1.2 基于事实核查的虚假信息治理研究概述

虚假信息是指经过有意地或无意地扭曲过的消息，或是凭空捏造的消息。恶意篡改或捏造的虚假信息通常目的是为了经济利益、权力或声誉的增益，这种信息传播行为是有意的，常常是有组织的，并通过误导公众来实现特定目的[19]。虚假信息的传播对个人、社会乃至全球的决策和福祉都构成了威胁。当前社交媒体平台和其他机构开始采用事实核查机制来抵制虚假信息。事实核查机制通过对信息的标注和纠正，为公众提供了一个衡量信息真实性的工具，并逐渐成为学者和从业者关注的焦点[20]。
现有研究证实了事实核查在对抗虚假信息方面的有效性。在新闻领域，带有事实核查标签的假新闻能够引发受众对假新闻的负向评价和“第三人效应”，从而减少分享假新闻的意愿[20]。C. N. Smith等的研究则表明，在面对那些容易受到虚假信息影响的群体时，事实核查对减少错误认知具有积极作用[21]。在政治领域，事实核查同样展现出其重要性。研究发现，事实核查不仅能提升公众对政治议题的认知准确性，还能间接增强他们的认知政治效能感，这有助于改善民主参与[22]。而且，事实核查的内容能够显著影响公众对候选人宣传的评价，并改变选民的态度[23]。在健康信息领域，带有事实核查标签的错误信息能够改善受众的健康认知，当这些标签来自于可信的大学或卫生机构时，效果更加显著[24]。尽管事实核查能够在某些群体中减少特定的错误认知，尤其是那些最易受虚假信息影响的群体，但这些效果难以长期维持[25]。不过总体来看，事实核查在减少人们对错误信息的信任方面仍然具有显著效果[26]。

1.3 研究述评

专业和众包事实核查仍然是当前应对虚假信息的主要措施，基于AI的事实核查是生成式AI下虚假信息治理和应对的重要手段。然而，在提高事实核查效率和量化事实核查效果（即事实核查对用户信息参与及信息传播影响的定量分析）方面，还有一些问题缺乏探讨：①因缺少真实场景数据，事实核查效果的评估和定量化研究难以开展。已有研究缺乏定量分析事实核查对用户信息参与行为及信息传播影响的研究。②事实核查类型（专业、众包和AI事实核查）的交互作用及其融合策略研究深度不足。已有研究对不同事实核查类型的融合效果探索不足。鉴于此，本文将基于社交媒体平台“脉脉职言”的真实数据，探索众包和AI事实核查及其交互作用对用户信息参与行为的影响。

2 研究假设与模型构建/ Research hypothesis and model construction

2.1 众包事实核查对信息参与行为的影响

众包事实核查依靠广泛的公众参与，利用集体智慧对信息进行验证，鼓励用户通过点赞、评论或标记等行为提供信息的真实性参考[27-28]，从而影响其他用户的信息参与行为（如评论、点赞、分享）[29-31]。从社会心理学的角度来看，众包事实核查的结果体现了社会认同理论和群体影响理论的原理。当信息经过群体核查并得出一定结论时，这一结论通常会显著影响其他用户的参与度和行为。众包事实核查的结果不仅为用户提供了信息可信度的直观参考，同时也可以促进用户参与讨论和互动的热情。当信息被标记为“真实可信”时，用户可能会更加积极地参与讨论、分享和点赞，因为他们相信这一信息具有较高的价值；而当信息被标记为“虚假信息”时，用户可能会更加警惕，甚至进行举报，以维护信息环境的纯净和真实。综上所述，众包事实核查作为一种集体智慧的应用，不仅有效减少了社交平台上虚假信息的传播，还可以通过其产生的结果对用户行为产生深远影响。这种机制体现了社会认同理论和群体影响理论的原理，为用户提供了一个评估信息内容、参与讨论和互动的平台。基于以上分析，本文提出以下假设：
H1a：众包事实核查为真正向影响用户的信息参与行为。
H1b：众包事实核查为假负向影响用户的信息参与行为。

2.2 AI事实核查对信息参与行为的影响

AI事实核查通过算法和大数据处理对信息进行自动筛查和评估，能够在短时间内快速识别虚假信息，并提供准确的判断[32]。AI事实核查这种快速响应有助于用户在接触到信息时做出更明智的判断，从而减少对虚假信息的传播[33]。当信息经过AI事实核查并被标记为真实可信时，用户更倾向于接受这些信息，认为它们具有较高的真实性和可信度。
在脉脉等社交媒体平台上，AI事实核查的应用尤为显著。平台通过智能算法对信息进行筛选和评估，将高质量、真实可信的内容标记为“精选”。这一标记不仅是对信息质量的认可，更是对信息真实性的背书。这种标记不仅提升了信息的可信度，还可以显著增强用户对信息的感知价值。从信息价值理论的角度来看，用户倾向于寻求和接受那些他们认为有价值的信息。而AI事实核查通过精准的判断和可靠的标记，为用户提供了有价值的信息源。用户普遍相信机器审核的公正性和客观性，因此更有可能被这些“精选”标记的信息所吸引，进而产生积极的互动行为[34]。基于以上分析，本文提出以下假设：
H2：AI事实核查正向影响用户的信息参与行为。

2.3 AI和众包事实核查融合对信息参与行为影响

人工智能通过其快速的数据处理能力和复杂的算法，极大地增强了人类的认知速度和解决问题的能力，使得人类能够处理那些超出人脑处理范围的任务[35]。同时，人类的直觉、经验和道德判断也为人工智能系统提供了宝贵的指导，使其更加符合人类社会的伦理和价值观。这种互动不仅提升了人工智能的人性化水平，也增强了人们对技术的信任和接受度[36]。在事实核查领域，人工智能核查和众包事实核查相结合形成了一种强大的核查机制[37]。当众包事实核查与AI事实核查的结果一致时，用户对这些结论的接受度会显著提高，无论是确认新闻的真实性还是揭露其为虚假信息[33]。这种合作模式不仅提高了核查的效率和准确性，还增强了公众对核查结果的信任，因其结合人工智能的客观性和人类的主观判断力，共同维护了信息的真实性和可靠性。基于以上分析，本文提出以下假设：
H3：AI事实核查和众包事实核查融合正向影响用户的信息参与行为。

2.4 来源可信度的调节作用

来源可信度已被证明会影响信息读者对信息的态度和行为，尤其是在社交媒体环境中，用户对信息来源的信任程度决定了他们参与信息互动的意愿。具体来说，较为可信的来源会增强信息的说服力，使用户更倾向于接受和参与传播信息。来源可信度也可以改变信息读者对信息内容的支持或怀疑态度，从而影响他们的信息处理倾向[38]。例如，高可信度来源提供的信息，通常会让读者感知信息更为可信，从而提高他们的接受度；反之，低可信度来源则可能导致信息被忽视或怀疑[39]。在许多情况下，特别是当来源的可信度较高时，用户对信息的参与度显著提高，因为他们信任这些信息来源并认为它们有更高的价值[40-41]。此外，研究还表明，来源可信度与信息质量共同作用，影响用户的态度和行为。例如，当信息由高度可信的来源提供时，其内容的质量对受众态度的影响更大。此类研究表明，来源可信度在信息的说服力和信息参与行为中扮演着至关重要的角色[42]。基于以上分析，本文提出以下假设：
H4：来源可信度调节众包事实核查和用户信息参与行为的关系。
H5：来源可信度调节AI事实核查和用户信息参与行为的关系。
基于上述研究假设提出本研究的理论模型，如图1所示：
图1 研究模型

Figure 1 Research model

3 实证研究/ Empirical research

3.1 数据收集

笔者通过职场社交平台“脉脉”职言板块采集数据，该平台允许用户匿名或认证后实名发布帖子，同时采用事实核查对帖子真实性进行验证。该平台同时采用众包事实核查和AI事实核查两种核查手段，众包事实核查以表情提示的形式呈现，共包括8个表情符号，其中正向核查标签有4个：“符合事实”“感同身受”“真诚分享”和“有帮助”，负向核查标签有4个：“没有证据”“言辞过激”“抄袭搬运”和“AI编造”。AI事实核查则利用AI技术对信息进行标记，采用“精选”标签（具体示例见图2）。本研究将探讨众包事实核查和AI事实核查对用户信息参与行为（转发、评论和点赞）的影响，同时考虑信息来源可信度（发帖用户是否认证）的调节作用。笔者共采集603条帖子，包含 1 020个表情提示，224个标签提示，2 495个转发，18 058个评论和16 723个点赞。
图2 “脉脉”APP职言帖子示例

Figure 2 An example of a post on “Maimai”

本研究涉及4个研究变量，其中因变量为信息参与行为（见图2），用信息获得的转发、评论和点赞的总数量取对数后表示，自变量为众包事实核查和AI事实核查。众包事实核查为三分类变量，负向核查记为-1，无核查记为0，正向核查记为1。AI事实核查为二分类变量，有“精选”标签记为1，无“精选”标签记为0。调节变量为来源可信度，有身份认证记为1，表示高可信度；无身份认证记为0，表示低可信度。变量的统计结果如表1所示：
表1 研究变量的统计结果

Table 1 Statistical results of the research variables

变量名 均值 标准差 最小值 最大值
信息参与行为 3.34 1.28 0.00 6.25
众包事实核查 0.06 0.67 -1.00 1.00
AI事实核查 0.38 0.49 0.00 1.00
来源可信度 0.35 0.48 0.00 1.00

3.2 结果分析

3.2.1 众包事实核查对信息参与行为的影响

从表2可以看出，在职场社交平台“脉脉职言”中，众包事实核查显著影响用户的信息参与行为。其中正向核查增加用户的信息参与行为（M正向核查=4.45，M无核查=3.05，SD正向核查=1.10，SD无核查=1.13，p<0.001），H1a成立；负向核查减少用户的信息参与行为（M负向核查=2.74，M无核查=3.05，SD负向核查=1.04，SD无核查=1.13，p<0.001），H1b成立。正向核查下用户信息参与行为的平均值最大，负向核查下用户信息参与行为的平均值最小。
表2 众包事实核查的单因素方差分析

Table 2 One-way analysis of variance for crowdsourced fact-checking

测量 组别 样本量 平均值±标准偏差 F p LSD
信息参与行为 负向核查 117 2.74±1.04 105.519 ＜0.001 正向核查>无核查>负向核查
无核查 332 3.05±1.13
正向核查 153 4.45±1.10

3.2.2 AI事实核查对信息参与行为的影响

从表3可以看出，在职场社交平台“脉脉职言”中，AI事实核查正向影响用户的信息参与行为（M有AI事实核查=4.10，M无AI事实核查=2.90，SD有AI事实核查=1.16，SD无AI事实核查=1.13，p<0.001），H2成立。AI事实核查下用户的信息参与行为的平均值高于无AI事实核查。
表3 AI事实核查的单因素方差分析

Table 3 One-way analysis of variance for AI fact-checking

测量 组别 样本量 平均值±标准偏差 F p
信息参与行为 无AI事实核查 376 2.90±1.13 158.603 ＜0.001
有AI事实核查 226 4.10±1.16

3.2.3 事实核查融合对信息参与行为的影响

根据韦尔奇检验，事实核查融合对信息参与行为有显著影响。进一步采用事后多重比较可知，对比仅有一种核查方式或无事实核查，众包事实核查和AI事实核查共同存在时用户的信息参与行为最多（见表4），因此H3成立。在众包事实核查和AI事实核查融合下对用户信息参与行为的影响最大，平均值为4.41。
表4 事实核查融合的描述统计结果

Table 4 Descriptive statistical results of the fact-checking combinations

研究变量 个案数 平均值 标准偏差 平均值的95%置信区间 最大值 最小值
下限 上限
无核查 218 2.66 0.99 0.07 2.53 2.79 0.00
仅众包事实核查 158 3.21 1.23 0.10 3.02 3.40 0.00
仅AI事实核查 114 3.79 1.00 0.09 3.61 3.98 2.30
众包事实核查+AI事实核查 112 4.41 1.24 0.12 4.18 4.64 1.79

3.2.4 来源可信度的调节作用

采用双因素方差分析，对来源可信度与众包事实核查的交互作用进行研究，分析结果见表5、表6和表7。结果显示，来源可信度对众包事实核查和用户信息参与行为的关系具有正向调节作用（F=8.802，p<0.001），来源可信度越高，众包事实核查对信息参与行为的影响越大，H4成立。
表5 来源可信度和众包事实核查的交互作用检验

Table 5 Test of the interaction between source credibility and crowdsourced fact-checking

研究变量 III 类平方和 自由度 df F p
来源可信度 10.191 1 10.191 9.112 0.003
众包事实核查 256.067 2 128.034 114.471 ＜0.001
来源可信度 * 众包事实核查 19.689 2 9.844 8.802 ＜0.001
表6 来源可信度和正向核查的交互作用检验

Table 6 Test of the interaction between source credibility and positive fact-checking

研究变量 III 类平方和 自由度 df F p
来源可信度 60.29 1 60.29 53.317 ＜0.001
正向核查 213.494 1 213.494 188.799 ＜0.001
来源可信度 * 正向核查 5.551 1 5.551 4.909 0.027
表7 来源可信度和负向核查的交互作用检验

Table7 Test of the interaction between source credibility and negative fact-checking

研究变量 III 类平方和 自由度 df F p
来源可信度 0.107 1 0.107 0.092 0.762
负向核查 11.658 1 11.658 9.994 0.002
来源可信度 * 负向核查 10.252 1 10.252 8.789 0.003
由图3可见，与低可信度来源相比，在高可信度来源下，正向核查对用户参与行为的影响更大（F=4.909，p<0.1）。
图3 来源可信度与正向核查对信息参与行为的交互效应

Figure 3 The interaction effect of source credibility and positive fact-checking on information engagement behavior

由图4可见，与低可信度来源相比，在高可信度来源下，负向核查对用户参与行为的影响更大（F=8.789，p<0.01）。
图4 来源可信度与负向核查对信息参与行为的交互效应

Figure 4 The interaction effect of source credibility and negative fact-checking on information engagement behavior

采用双因素方差分析，对来源可信度与AI事实核查的交互作用进行研究，分析结果见表8。结果如图5所示，来源可信度对AI事实核查和用户信息参与行为的关系具有正向调节作用（F=14.743，p<0.001），来源可信度越高，AI事实核查对信息参与行为的影响越大，H5成立。
表8 来源可信度和AI事实核查的交互作用检验

Table 8 Test of the interaction between source credibility and AI fact-checking

研究变量 III 类平方和 自由度 df F p

来源

可信度

 39.756 1 39.756 32.563 <0.001

AI事实

核查

 193.767 1 193.767 158.707 <0.001
来源可信度* AI事实核查 18 1 18 14.743 <0.001
图5 来源可信度与AI事实核查对信息参与行为的交互效应

Figure 5 The interaction effect of source credibility and AI fact-checking on information engagement behavior

4 研究结论与建议/ Research conclusions and Recommendations

4.1 研究结论

事实核查作为一种新型的“网络基建”和应对虚假信息的重要措施，同时也受到了学界的广泛关注。然而，一些关键的科学问题尚未得到很好研究，如不同类型事实核查及其融合的核查结果对用户信息参与行为的影响。本研究基于社交媒体平台“脉脉职言”板块的真实数据，探究了众包事实核查和AI事实核查两种事实核查手段对用户信息参与行为的影响。研究结论包括：
（1）众包事实核查对社交媒体平台中的用户信息参与行为具有显著影响。“符合事实”“感同身受”“真诚分享”和“有帮助”等正向核查标签增加用户的信息参与行为，而“没有证据”“言辞过激”“抄袭搬运”和“AI编造”负向核查标签减少用户的信息参与行为。因此，提供信息的准确性、有用性等警告标签，这种软干预并不是为了审查，而是为了引导用户远离虚假信息，转向事实[45]。本文结果支持了G. Pennycook等2021年发表在Nature期刊上的研究，即将注意力转移到准确性和真实性上，能够减少网络错误信息[46]。
（2）AI事实核查正向影响社交媒体平台中的用户信息参与行为。且对比仅有一种核查方式或无事实核查，众包事实核查和AI事实核查共同存在时对用户的信息参与行为的促进作用最明显。当前学界正积极探讨AI技术用于虚假信息检测和事实核查的可行性和有效性[47]。本研究结果支持了AI可用于虚假信息的事实核查的观点，特别是在生成式AI视域下，实现以“AI治理AI”，用AI技术应对人工智能生成虚假信息。
（3）来源可信度对事实核查和信息参与行为的关系起调节作用。与低可信度来源相比，在高可信度来源下，众包事实核查和AI事实核查对用户信息参与行为的影响都更加显著。这个结论表明，在社交媒体平台上，信息来源影响事实核查与信息参与行为之间的关系。这个结论也扩展了H. Xue等的研究，他们仅讨论了事实核查标签来源（如AI和专业记者）对用户信息参与行为意愿的影响[48]。
本文揭示了不同类型事实核查结果对社交媒体平台用户信息参与行为的影响，为社交媒体平台充分利用群体智慧和AI智能进行虚假信息的事实核查和治理提供理论支持和决策建议。

4.2 建议

基于以上研究结论，本文针对社交媒体平台应对虚假信息的挑战，提出采用多元化的事实核查手段以提升事实核查效果的建议。单一的事实核查手段往往受限于用户信任度不足，难以达到预期效果。本研究发现，众包事实核查与AI事实核查的人智协同作用对用户信息参与行为的影响更为显著。
鉴于人类事实核查（包括众包事实核查和专家核查）在效率上的局限性，社交媒体平台可以利用AI事实核查技术进一步提高事实核查的准确性和效率。结合众包事实核查和AI事实核查的优势，可以更有效地识别和遏制虚假信息的传播。众包事实核查能够动员广泛的用户群体参与信息验证，而AI事实核查则通过算法和机器学习技术快速识别虚假信息。这种结合不仅提高了事实核查的广度和深度，也提升了事实核查的速度和准确性。因此，社交媒体平台应当探索和实施多元化事实核查策略，以优化信息生态并增强公众对平台内容的信任。

5 结语/Conclusions

笔者探究了不同类型事实核查（众包事实核查和AI事实核查）及其融合对用户信息参与行为的影响，探究结果为社交媒体平台改进和优化虚假信息治理措施提供参考。
笔者选取了社交媒体平台“脉脉”APP职言板块的真实数据，采用方差分析探究众包事实核查和AI事实核查对用户信息参与行为的影响，同时考虑来源可信度（信息发布者有身份认证 vs 无身份认证）的调节作用。实证结果表明，众包事实核查显著影响用户的信息参与行为，正向核查增加信息参与行为，负向核查减少信息参与行为。AI事实核查正向影响用户的信息参与行为，且AI事实核查和众包事实核查融合正向影响用户的信息参与行为。来源可信度正向调节众包事实核查和信息参与行为的关系，也正向调节AI事实核查和信息参与行为的关系。本研究的实践意义在于能够为相关社交媒体平台的事实核查服务优化提供一定参考启示和理论支撑。
然而，本文还存在一些不足之处。首先，笔者选取的真实数据样本有限，研究结论的可靠性还需要更大样本数据或更多平台数据来验证。其次，社交媒体平台采用AI事实核查的逻辑和内部决策机制还未知，目前仅看到一个核查结果，对核查的结果缺乏解释性，这也影响了用户对AI事实核查结果的接受程度。未来可进一步研究AI事实核查结果解释性证据的呈现方式及其对用户信任度和用户信息参与行为的影响。

吴联仁：研究选题与框架拟定，论文理论部分撰写与修改；

胡亚男：数据收集与分析；

李瑾颉：论文实证部分撰写与修改；

齐佳音：论文修改与指导。

参考文献

原文顺序 | 文献年度倒序 | 文中引用次数倒序
[1]
张新生, 王润周, 马玉龙. AIGC背景下虚假信息治理挑战、机会与策略研究 [J/OL]. 情报科学, 1-23[2025-06-22]. http://kns.cnki.net/kcms/detail/22.1264.G2.20241111.1002.024.html.

ZHANG X S, WANG L Z, MA Y L. Challenges, opportunities and strategies of misinformation governance at AIGC background[J]. Information science, 2025: 1-23.

[2]
ALLEN J, ARECHAR A A, PENNYCOOK G, et al. Scaling up fact-checking using the wisdom of crowds[J]. Science advances, 2021, 7(36): eabf4393.

[3]
RUGGERI K, STOCK F, HASLAM S A, et al. A synthesis of evidence for policy from behavioural science during COVID-19[J]. Nature, 2024, 625(7993): 134-147.

[4]
BODE L, VRAGA E K, TULLY M. Correcting misperceptions about genetically modified food on social media: examining the impact of experts, social media heuristics, and the gateway belief model[J]. Science communication, 2021, 43(2): 225-251.

[5]
HUANG G, WANG S. Is artificial intelligence more persuasive than humans? a meta-analysis[J]. Journal of communication, 2023, 73(6): 552-562.

[6]
王喆诚, 于瑞峰. 社会存在、警惕性及信息卷入度对个体事实核查的影响[J]. 心理技术与应用, 2023, 11(1): 42-49.

WANG Z C, YU R F. The impact of social presence, vigilance, and information involvement on individual fact - checking[J]. Psychological techniques and applications, 2023, 11(1): 42-49.

[7]
HANNAK A, MARGOLIN D, KEEGAN B, et al. Get back! you don’t know me like that: the social mediation of fact checking interventions in Twitter conversations[J]. Proceedings of the international AAAI conference on Web and social media, 2014, 8(1): 187-196.

[8]
PILARSKI M, SOLOVEV K O, PRÖLLOCHS N. Community notes vs. snoping: how the crowd selects fact-checking targets on social media[J]. Proceedings of the International AAAI conference on Web and social media, 2024, 18(1): 1262-1275.

[9]
LIU X, QI L, WANG L, et al. Checking the fact-checkers: the role of source type, perceived credibility, and individual differences in fact-checking effectiveness[J]. Communication research, 2023, 6(7): 00936502231206419.

[10]
CHUAI Y W, TIAN H Y, PRLLOCHS Net al. Did the roll-out of community notes reduce engagement with misinformation on X/Twitter? [J]. Proceedings of the ACM on human-computer interaction, 2024, 428(8): 1-52.

[11]
GUO Z, SCHICHTKRULL M, VLACHOS A. A survey on automated fact-checking [J]. Transactions of the Association for Computational Linguistics, 2022, 10(2): 178-206.

[12]
ZHOU X, ZAFARANI R. A survey of fake news: fundamental theories, detection methods, and opportunities[J]. ACM computing surveys, 2021, 53(5): 1-40.

[13]
管佖路, 顾理平. 价值冲突与治理出路：虚假信息治理中的人工智能技术研究[J]. 新闻大学, 2022(3): 61-75, 119.

GUAN B L, GU L P. Value conflict and governance solution: examining the role of artificial intelligence in tackling misinformation[J]. Journalism research, 2022(3): 61-75, 119.

[14]
MOLINA M D, SUNDAR S S. Does distrust in humans predict greater trust in AI? role of individual differences in user responses to content moderation [J]. New media & society, 2024, 26(6): 3638-3656.

[15]
QUELLE D, BOVET A. The perils and promises of fact-checking with large language models[J]. Frontiers in artificial intelligence, 2024, 7(3): 1341697.

[16]
AUGENSTEIN I, BALDWIN T, CHA M, et al. Factuality challenges in the era of large language models and opportunities for fact-checking[J]. Nature machine intelligence, 2024, 6(8): 852-863.

[17]
KUZNETSOVA E, MAKHORTYKH M, VZIATYSHEVA V, et al. In generative AI we trust: can chatbots effectively verify political information?[J]. Journal of computational social science, 2024, 8(1): 15-23.

[18]
DEVERNA M R, YAN H Y, YANG K C, et al. Fact-checking information from large language models can decrease headline discernment[J]. Proceedings of the National Academy of Sciences, 2024, 121(50): e2322823121.

[19]
SWIRE-THOMPSON B, LAZER D. Public health and online misinformation: challenges and recommendations[J]. Annual review of public health, 2020, 41(1): 433-451.

[20]
CHUNG M, KIM N. When I learn the news is false: how fact-checking information stems the spread of fake news via third-person perception[J]. Human communication research, 2021, 47(1): 1-24.

[21]
SMITH C N, SEITZ H H. Correcting misinformation about neuroscience via social media[J]. Science communication, 2019, 41(6): 790-819.

[22]
YORK C, PONDER J D, HUMPHRIES Z, et al. Effects of fact-checking political misinformation on perceptual accuracy and epistemic political efficacy[J]. Journalism & mass communication quarterly, 2020, 97(4): 958-980.

[23]
WINTERSIECK A, FRIDKIN K, KENNEY P. The message matters: the influence of fact-checking on evaluations of political messages[J]. Journal of political marketing, 2021, 20(2): 93-120.

[24]
ZHANG J, FEATHERSTONE J D, CALABRESE C, et al. Effects of fact-checking social media vaccine misinformation on attitudes toward vaccines[J]. Preventive medicine, 2021, 145(8): 106408.

[25]
CAREY J M, GUESS A M, LOEWEN P J, et al. The ephemeral effects of fact-checks on COVID-19 misperceptions in the United States, Great Britain and Canada[J]. Nature human behaviour, 2022, 6(2): 236-243.

[26]
WALTER N, BROOKS J J, SAUCIER C J, et al. Evaluating the impact of attempts to correct health misinformation on social media: a meta-analysis[J]. Health communication, 2021, 36(13): 1776-1784.

[27]
王钰昱, 夏志杰. 基于事实核查标签的众包方法应对虚假信息的效果差异及认知机制研究[J]. 知识管理论坛, 2024, 9(3): 330-340.

WANG Y Y, XIA Z J. Research on the difference in the effect of crowdsourcing methods based on fact - checking labels to deal with false information and its cognitive mechanism[J]. Knowledge management forum, 2024, 9(3): 330-340.

[28]
李瑾颉, 聂凯伦, 吴联仁, 等. 众包事实核查对信息参与行为的影响：基于来源可信度的调节 [J]. 知识管理论坛, 2024, 9(4): 367-379.

LI J J, NIE K L, WU L R, et al. The impact of crowdsourced fact-checking on user information engagement behavior: the moderating of source credibility[J]. Knowledge management forum, 2024, 9(4): 367-379.

[29]
SU Y, LEE D K L, XIAO X. “I enjoy thinking critically, and I’m in control”: examining the influences of media literacy factors on misperceptions amidst the COVID-19 infodemic[J]. Computers in human behavior, 2022, 128(9): 107111.

[30]
ARUGUETE N, BACHMANN I, CALVO E, et al. Truth be told: how “true” and “false” labels influence user engagement with fact-checks[J]. New media & society, 2023, 9(2): 14614448231193709.

[31]
PANIZZA F, RONZANI P, MORISSEAU T, et al. How do online users respond to crowdsourced fact-checking?[J]. Humanities and social sciences communications, 2023, 10(867): 1-11.

[32]
NI Z, QIAN Y, CHEN S, et al. Scientific evidence and specific context: leveraging large language models for health fact-checking[J]. Online information review, 2024, 48(7): 1488-1514.

[33]
BANAS J A, PALOMARES N A, RICHARDS A S, et al. When machine and bandwagon heuristics compete: understanding users’ response to conflicting AI and crowdsourced fact-checking[J]. Human communication research, 2022, 48(3): 430-461.

[34]
SPINA D, SANDERSON M, ANGUS D, et al. Human-AI cooperation to tackle misinformation and polarization[J]. Communications of the ACM, 2023, 66(7): 40-45.

[35]
ABBASS H A. Social integration of artificial intelligence: functions, automation allocation logic and human-autonomy trust[J]. Cognitive computation, 2019, 11(2): 159-171.

[36]
MOLINA M D, SUNDAR S S. When AI moderates online content: effects of human collaboration and interactive transparency on user trust[J]. Journal of computer-mediated communication, 2022, 27(4): zmac010.

[37]
MA H V, HUANG W W, DENNIS A R. Unintended consequences of disclosing recommendations by artificial intelligence versus humans on true and fake news believability and engagement[J]. Journal of management information systems, 2024, 41(3): 616-644.

[38]
SUSSMAN S, SIEGAL W. Informational influence in organizations: an integrated approach to knowledge adoption[J]. Information systems research, 2003, 14(3): 47-65.

[39]
NEKMAT E, GOWER K K, ZHOU S, et al. Connective-collective action on social media: moderated mediation of cognitive elaboration and perceived source credibility on personalness of source[J]. Communication research, 2019, 46(1): 62-87.

[40]
MOORE D L, HAUSKNECHT D, THAMODARAN K. Time compression, response opportunity, and persuasion[J]. Journal of consumer research, 1986, 13(1): 85-99.

[41]
叶凤云, 常琳, 秦琴, 等. 基于虚假信息特征的社交媒体大学生用户感知信任研究 [J]. 情报理论与实践, 2024, 47(10): 118-127.

YE F Y, CHANG L, QI Q, et al. Research of social media college students’ perceived trust on false information features[J]. Information studies: theory & application, 2024, 47(10): 118-127.

[42]
LUO C, LUO X R, SCHATZBERG L, et al. Impact of informational factors on online recommendation credibility: the moderating role of source credibility[J]. Decision support systems, 2013, 56(8): 92-102.

[43]
ZHANG Z, ZHANG Z, LIU S, et al. Are high-status reviewers more likely to seek anonymity? Evidence from an online review platform[J]. Journal of retailing and consumer services, 2024, 78(6): 103792.

[44]
PANG M S, PAVLOU P A. Cure or poison? Identity verification and the posting of fake news on social media[M]//Fake news on the internet. London: Taylor & Francis Group, Routledge, 2023: 119-146.

[45]
HWANG E H, LEE S. A nudge to credible information as a countermeasure to misinformation: evidence from Twitter[J]. Information systems research, 2025, 36(1): 621-636.

[46]
PENNYCOOK G, EPSTEIN Z, MOSLEH M, et al. Shifting attention to accuracy can reduce misinformation online[J]. Nature, 2021, 592(7855): 590-595.

[47]
DEVERNA M R, YAN H Y, YANG K C, et al. Fact-checking information from large language models can decrease headline discernment[J]. Proceedings of the National Academy of Sciences, 2024, 121(50): e2322823121.

[48]
XUE H, ZHANG J, SHEN C, et al. The majority of fact-checking labels in the United States are intense and this decreases engagement intention[J]. Human communication research, 2024, 50(4): 530-544.

Options
文章导航

/

〈 〉