Knowledge Management Forum >

2024 , Vol. 9 >Issue 3: 227 - 236

DOI: https://doi.org/10.13266/j.issn.2095-5472.2024.017

Applications and Challenges of Large Models in Knowledge Management

  • Zhang Yu ,
  • Wang Yuliang
Expand
  • China Telecom Digital Intelligence Technology Co., Ltd. Beijing 100032

Received date: 2023-10-30

  Online published: 2025-04-28

Fold

Abstract

[Purpose/Significance] By analyzing the application scenarios and challenges of large models in the field of knowledge management, this paper aims to provide reference and inspiration for research and practice in related fields, promote the deeper application of large models in the field of knowledge management, and improve the user experience of knowledge management tools. [Method/Process] By tracking the dynamics of software and hardware vendors, commercial products, open source projects, academic research, and actual customer experience, the practical application of large models in the field of knowledge management, and the problems and challenges faced in the process were summarized and sorted out. [Result/Conclusion] Large models have become a powerful tool for knowledge management and have more and more practical applications, including assisting in document writing, automatically generating document summaries, using natural language to retrieve information, intelligent question answering, etc. These applications have changed the way traditional knowledge management operates, making it more efficient, intelligent, and user-friendly. However, the application of large models in the field of knowledge management also faces some unresolved problems, such as data privacy protection, intellectual property rights protection, knowledge pollution, high costs, and unstable content output, which have yet to be solved.

Key words： large model; knowledge management; knowledge base; artificial intelligence

Cite this article

Zhang Yu , Wang Yuliang . Applications and Challenges of Large Models in Knowledge Management[J]. Knowledge Management Forum, 2024 , 9(3) : 227 -236 . DOI: 10.13266/j.issn.2095-5472.2024.017

1 引言/Introduction

企业的技术创新依赖知识资产的支撑。多样化知识的获取和积累是企业创新的重要基础[1]。隐性知识不易被复制或窃取,是企业形成核心竞争力的基础和源泉[2]。通过知识管理，将组织和个人的隐性知识转化为显性的、可利用的知识资产，从而提升整个组织的创新能力，是企业在激烈的市场竞争中把握机遇和应对挑战的必然选择。
当前，在传统企业内部，知识资产分散在各个部门和员工之间，形成知识孤岛，知识资产没有得到充分的利用。同时，企业内部组织架构的变化以及人员的流动，常常会导致知识资产的流失，给企业长远发展造成不利影响。
知识管理平台是一个旨在帮助企业高效管理知识资产的IT工具，通过收集、组织、存储、共享、搜索、分析和分发知识，盘活企业知识资产，使企业快速应对复杂多变的客户需求，助力企业长期高质量发展。当前，越来越多的企业开始部署知识管理平台，用数字化的方式开展知识管理工作。例如，中国商飞等国内领先企业，通过实施知识管理工程，有效推动员工绩效的提升，完善公司的知识体系，并在打造学习型组织方面起到了重要的促进作用[3]。
传统的知识管理方法通常依赖于运营团队对知识资产进行手工整理和分类，这种方式效率低下且容易出错。结合人工智能和大数据技术，一些厂商对知识管理平台的功能做了增强。例如，郝建苹[4]探讨了邮政教育培训应用中的知识管理场景，通过构建和分析员工画像，提高员工内容检索的精确度，再结合知识图谱技术，识别用户的个性化需求。但受制于技术瓶颈，智能化程度还有待提高。
以ChatGPT为代表的人工智能大模型，能更好地理解和生成自然语言和图像等，并以人机对话等多种方式提供智能化功能，这使得大模型可以在知识管理的各个环节发挥关键作用。
因此，笔者探讨大模型在知识管理各个环节中如何发挥关键作用，为未来的大规模应用提供指导建议。同时，旨在促进人工智能在知识管理领域中的合理应用和发展，指出大模型落地知识管理平台将面临的挑战，供决策制定者和研究人员参考借鉴。

2 大模型的快速发展/Rapid development of large model

2022年11月，OpenAI发布ChatGPT[5]大语言模型，可以理解和生成文本、回答提问、提供信息、执行任务等，并与用户进行实时对话，标志着人工智能技术的热点从决策式向生成式转变[6]。该模型在训练过程中使用了数百TB的预训练数据，模型的参数量高达1 750亿，超过了人脑神经元数量。由于其性能表现远超此前各IT厂商推出的智能助手，短短一周时间突破百万用户。据瑞银集团研究报告中的数据，ChatGPT的月活跃用户数突破1亿仅用2个月时间，打破Tiktok此前上线9个月月活破亿的纪录[7]。2023年9月，据美国知名风险投资机构Andreessen Horowitz统计，ChatGPT预估月访问量达16亿次，月用户达2亿人次，这也让ChatGPT的访问量在所有互联网网站中排名第24位[8]。
随后，谷歌和Meta等公司在竞争压力之下，纷纷推出了各自的大模型。谷歌于2023年3月发布LaMDA [9]大语言模型，随后升级为对标GPT-4的PaLM 2[10]大模型。2023年4月，Meta发布名为Llama[11]的开源大语言模型，并于当年7月推出下一代开源大语言模型Llama 2[12]，同时宣布免费提供给研究和商业使用。
2023年3月，OpenAI发布了GPT-4[13]，其参数量已达万亿级别，具有更加自然的文本生成、更加准确的语言理解和更加高效的模型训练能力，还提供一系列插件以供各类API接口与其他信息系统互通，同时提供模型微调接口，供企业用户训练专属的大模型应用。2023年12月，谷歌正式发布Gemini大模型[13-14]，继续追赶OpenAI。2024年2月，继在大语言模型取得领先优势后，OpenAI发布文生视频模型Sora[15]，其可根据用户的提示词生成长达60秒的高品质视频，引领新一轮AI技术变革。以ChatGPT为代表的大模型，让人类第一次看到实现通用人工智能伟大目标的可能性。
在国内，甚至出现了“百模大战”的状况。据统计，仅在2023年底，已发布的大模型数量超过200个。百度公司于2023年3月发布自研大语言模型“文心一言”[16]，并有超过650家合作伙伴宣布接入文心一言生态。随后，华为、字节跳动、阿里等也纷纷发布各自的大模型。中国电信于2024年1月对外宣布，将自研星辰AI大型模型全面开源，以更好地助力客户业务的智能化升级，充分展现了国资央企在人工智能领域的研发实力[17]。
除了大模型技术自身的快速发展，以大模型应用的快速落地为目标，一大批大模型相关软件也快速涌现，如大模型中间件、向量数据库、大模型开发平台等，解决了大模型在应用落地过程中遇到的数据集成、工具集成、应用集成等一系列问题，也加速了大模型在千行百业中的落地应用。

3 大模型赋能知识管理全流程/Empowering the entire process of knowledge management with large models

大模型可贯穿知识管理工作全流程，有效激活知识资产价值，实现开放式、数字化、智能化的知识生态系统。

3.1 知识创造

大模型的自然语言生成能力激发了知识管理平台用户的创意和灵感。例如，用户可以通过对话的方式，根据文章题目让大模型输出文章的提纲，还可以进一步让大模型输出具体章节的内容。也可以输入文章的大致内容，让大模型输出文章的题目建议。大模型还可以根据用户的提示，生成想法、广告语等创意内容。
大模型在生成文本摘要任务上也具有明显优势。X. Pu等使用人类生成的评估数据集评估了大模型在各种摘要任务（如生成单条新闻、多条新闻、对话、源代码和跨语言等摘要）上的表现，经过定量和定性的比较后发现，由大模型生成的摘要明显受到人类评估者的青睐[18]。知识管理平台用户可以在完成文档编写后，利用大模型的生成文本摘要的能力，自动生成文本摘要的初稿，在此基础上进行优化修改，提高写作效率。
以Stable Diffusion[19]和DALL·E 3[20]为代表的“文生图”大模型，可以根据用户输入的文本提示，准确地反映提示内容，同时生成逼真的高质量图像。这些图像可用于文档的封面设计、内容对应的插图、幻灯片的背景素材等。图1为文心一言大模型根据“生成一张高质量的智慧城市解决方案文档封面图片”提示词而自动生成的文档封面。
图1 文心一言生成的智慧城市解决方案文档封面

Figure 1 Cover of smart city solution document generated by ERNIE Bot

以Sora为代表的“文生视频”大模型，其生成的视频质量虽然让人感到惊艳，但其目前还难以准确模拟现实世界的复杂性，期待未来可以根据知识文档的内容直接生成视频，如生成产品宣传视频或产品使用的视频指导等。
大模型的自然语言、图像和视频生成能力，对用户的创造力提供了良好的启发和补充，有助于创造出更高质量的知识内容，同时也大幅提高知识创造的效率。

3.2 知识检索与推荐

首先，大模型可以和知识管理平台的搜索引擎相结合，用户可以在平台的搜索框中输入自然语言，而不需要输入搜索的关键字，由大模型对用户的搜索意图进行理解和分析，驱动搜索引擎完成搜索任务并返回结果。用户也不必通过点击搜索结果中的链接来继续缩小搜索范围，而是可以通过与大模型进行对话获得更多的信息或搜索建议。用户也可以通过与搜索引擎后台的大模型进行对话，直接提出问题，由大模型对搜索引擎的搜索结果进行整合、归纳和总结，生成问题的答案，返回给用户，并通过连续对话提升用户搜索体验。
其次，基于大模型的推荐算法研究逐渐得到重视。内容推荐是机器学习和人工智能技术领域永恒的研究热点之一。现有推荐算法已在业界广泛应用，但传统内容推荐算法，普遍存在一些问题，例如：①存在数据的稀疏性问题。在实际应用场景中，用户和内容的交互信息往往是非常稀疏的。例如，一个知识共享平台可能包含几十万个内容，然而一个用户访问的内容可能数量很少。使用如此少量的已观测数据来预测大量的未知信息，会极大地增加算法的过拟合风险。②传统算法无法为新用户产生推荐，因为新用户缺少与平台现有内容的交互，传统算法无法获取用户特征，所以无法为用户产生推荐，这也称为“冷启动问题”。③传统推荐算法无法挖掘出用户的潜在兴趣，因为其依赖于用户过去对某些内容的喜好，它产生的推荐也会和用户过去喜欢的内容相似。如果一个人以前只看算法推荐的内容，算法只会给他推荐更多与推荐相关的文章，但用户可能还对其他内容感兴趣。随着大模型技术的兴起，越来越多的研究者将大模型技术应用于内容推荐任务，图2是当前基于大模型的推荐算法研究成果的总结[21]。大模型具有大量外部世界知识和丰富的语义信息，有助于解决传统推荐算法的问题。
图2 大模型在推荐系统各关键任务上的应用研究成果

Figure 2 Research results on the application of large models in key tasks of recommendation systems

此外，大模型也可以自动为知识管理平台上的文档生成摘要，方便用户快速了解文档内容，也可以自动为文档生成标签，方便用户快速浏览某个主题的全部文档。
综上所述，大模型通过深度语义理解用户检索意图、个性化推荐等方式，帮助提升知识管理平台检索和推荐的效果，为用户提供更好的使用体验。

3.3 知识问答

大模型能捕捉丰富的语言表征，能够参考多轮对话的背景信息，拥有良好的泛化能力，从而可以完美地匹配知识问答的技术需求，为知识的获取提供了新的交互方式。通过与大模型对话，用户无需在知识管理平台手动搜索，就可以更快速更直接地获取所需的知识和信息。
类似ChatGPT和文心一言等大模型，其训练数据主要来自互联网上的大量文本以及各种书籍、文章、网页等，因此，对于某些行业或企业内部特有的或未在训练数据中涵盖的问题，这些通用的大模型无法提供准确的答案。
为了让大模型能掌握企业特有的知识，目前业界存在两种解决方案：

3.3.1 训练企业专属大模型

企业首先需要整理行业或企业专属的知识语料，包括来自企业内部知识管理平台中特定专业的知识库、项目案例、项目总结、会议纪要等。如果企业本身具有大模型的研发能力，也具备充足的算力资源，可以使用专属的知识语料，训练企业专属的大模型，这些大模型可部署在企业内部，有利于对企业数据的隐私保护。如果企业本身缺少大模型研发能力和算力资源，也可以通过ChatGPT等在线的大模型提供的微调接口，只需要上传自有的训练数据，即可训练出企业专属的大模型，这种方式的训练成本较低。
由于企业的知识处于不断的积累和迭代变化过程中，而大模型并不能实时更新自己的模型网络架构和参数权重，导致训练后的大模型在一段时间后就不能准确回答用户对新产生的知识的提问。而重新训练或微调大模型，都会消耗企业的算力资源，带来成本上升。

3.3.2 采用检索增强生成技术

随着大模型中间件LangChain[22]以及向量数据库Milvus[23]等工具软件的逐渐成熟和流行，一种新的基于大模型的知识问答架构，即检索增强生成（retrieval augmented generation, RAG）[24]，逐渐在业界得到广泛应用。RAG的架构如图3所示：
图3 RAG架构

Figure 3 Architecture of RAG

这种架构不依赖大模型本身对企业内部知识的掌握程度，而是通过建立大模型与企业知识库的互动，提高大模型生成内容的准确性和时效性。首先，按一定规则对企业内部的原始文档进行切片，每个切片的文本通过大模型的嵌入接口[25-26]进行向量化，切片的向量存储于向量数据库。其次，用户的提问同样经过大模型的嵌入接口进行向量化，并与向量数据库中存储的切片对应的向量通过余弦相似度等算法进行相似度比较，找到最相似的若干个切片。最后，利用大模型的总结归纳能力，从这些切片的内容中提炼出对用户提问的回答内容。整个处理过程由大模型中间件进行编排。在这种知识库架构下，当企业内部知识发生变化后，只需要重新切片和向量化，再替换向量数据库中的内容即可，而不需重新训练或微调大模型。这样，大模型无需频繁更新升级，用户始终可以得到最准确的回答。
基于大模型的知识问答应用，是当前大模型在行业落地案例数量最多的应用场景，使用体验明显高于传统技术实现方式，提高了知识管理平台的交互性和实用性，未来有望成为知识管理平台的基本功能之一。

4 大模型对知识管理带来的挑战/Challenges posed by large models to knowledge management

4.1 数据隐私保护问题

将大模型引入知识管理平台时，数据的隐私和安全保护是需要考虑的重要因素。
韩国三星集团的设备解决方案部门在使用ChatGPT服务约20天内，发生3起数据泄露事故，导致与半导体设备测量、良品率/缺陷、内部会议内容等敏感信息被上传到OpenAI的服务器中[27]。
为避免产生此类事件，企业可以考虑在企业自有的数据中心内或专属云部署企业专属的大模型服务，以控制敏感数据的泄露范围，同时也使企业能够更好地进行数据治理工作，以满足监管和合规性要求。
但更重要的工作是：要注意大模型训练数据的隐私保护。首先，企业应根据数据的不同获取方式和类别，对训练数据的来源、内容合法性等进行严格审查。其次，对训练数据进行脱敏等处理，清除身份证号码、电话号码、银行账号、车牌号码和家庭住址等敏感信息。

4.2 知识产权保护问题

大模型应用过程中涉及的知识产权问题也是不容忽视的。2023年7月，国家网信办发布《生成式人工智能服务管理暂行办法》[28]，其中第四条规定：尊重知识产权、商业道德，保守商业秘密。
就在ChatGPT火爆全网的同时，《纽约时报》更新了服务条款，禁止科技公司抓取其网站上的内容以训练AI模型。同时，《纽约时报》与OpenAI展开谈判，试图达成一项授权协议，内容包括OpenAI将向《纽约时报》付费，以使用其内容作为大模型的训练数据。由于协商没有达成一致，《纽约时报》考虑起诉OpenAI，起诉的结果可能包括销毁ChatGPT的数据集，并对每条侵权内容处以高达15万美元的罚款[29]。
知识管理平台的研发团队应关注数据应用的合规性。如果模型训练使用了已超过著作权保护期限的著作，则应避免在生成内容中侵犯著作权人的署名权等。如果模型训练使用了仍处于著作权保护期限内的著作，则应提前获取著作权人的明确授权。

4.3 知识污染问题

幻觉问题[30-31]是大模型当前急需解决的技术问题之一。幻觉问题是指大模型生成的文本虽然自然且流畅，但内容可能包含明显与事实不符之处。大模型的幻觉问题将导致生成大量低质量的知识。例如，随着大模型的流行，由大模型产生的低质量内容正在开始污染互联网。国外知名IT技术问答网站Stack Overflow的多位版主曾集中封禁疑似发布由AI生成的内容的用户账号，并进行删帖。
在将大模型引入知识管理平台后，也存在生成错误或不准确内容的可能，可以从两方面进行有效应对：①需要对大模型的输出内容进行持续的监督和评估。有研究指出[32]，ChatGPT被用于科学界时必须要坚持人类审查的原则。在知识管理领域，可由知识管理平台的运营团队对大模型的输出内容进行抽样审查，避免其产生的错误信息被广泛传播和误用而为企业造成潜在损失。②使用检索增强生成技术，让大模型基于企业的私有知识库中的内容来生成输出的内容，大模型仅针对企业私有知识进行归纳总结，因此，可将知识污染问题的发生概率降至最低。

4.4 高昂的研发和使用成本问题

据专家估计，GPT-3的单次训练成本约460万美元[33]。此外，仅GPT-3论文作者就有31人，另外，训练语料还需要外包团队进行标注、反馈质量等，这些将引入额外的巨大的人工成本。在模型部署后为用户提供推理服务时，仍需要耗费大量的GPU（Graphics Processing Unit，图形处理单元）算力。
高额的研发和运营成本是绝大多数企业无法独自承担的。为了加速大模型的落地，产业界和学术界需要从多方面入手尝试解决成本问题。
首先，大模型的软件技术一直在发展。通过模型优化、压缩等技术，一些初创公司和学术团队正在尝试在保持性能不下降的前提下减少模型的体积，从而减少模型训练和推理过程中对算力的消耗，如GPTQ（Generative Pre-trained Transformer Quantization）[34]和AWQ（Activation-Aware Weight Quantization）[35]等大模型量化技术。
同时，各硬件厂商也在研发异构算力，以摆脱对价格高昂的英伟达GPU的依赖。例如，华为推出了晟腾AI芯片。这些异构AI芯片已成为英伟达GPU的良好替代，但其后续的发展依赖软件生态的繁荣，例如，大模型开发框架对AI芯片的支持、AI芯片支持的算子的丰富程度、基于AI芯片进行模型开发的开发者数量等。
另外，开源社区推出了多个性能优异的开源大模型和开源的训练数据集，极大降低了中小厂商的大模型研发成本，如Meta的Llama2以及国内北京智源人工智能研究院的悟道系列大模型等。

4.5 依赖用户提示的问题

目前各厂商和开源社区发布的大模型，普遍存在对用户提示（prompt）比较敏感的问题[36]。用户输入的提示的句法或表述等即使存在很小的变化，也会导致大模型的输出变化很大。
针对此问题，业界主要从两方面着手解决：①各厂商和开源社区通常针对特定大模型发布用户提示的教程或最佳实践，用户参照其中的内容，可以更好地控制大模型的输出，获得质量更高的响应。例如，OpenAI官方发布了一份提示工程指南[37]，介绍了一些有效的技巧，可以让GPT-4等大模型输出更准确的内容。②在知识管理平台的设计中，更加关注人机交互的模式，例如，可以将常用的用户提示方法制作成提示模板，用户基于模板增加个性化内容后，再提交给大模型，通过平台界面和交互的优化设计来提高大模型使用的效果和满意度。

5 结语/Conclusions

大模型的出现有助于提高企业员工的工作效率，将员工从琐碎的撰写工作中解放出来，投入到需要更多创新性的工作中。这和企业开展知识管理工作的初衷是一致的，即减少员工的重复劳动，复用知识，从而为企业带来更多的创新成果。
为了更好地将大模型的能力融入到知识管理工作中，知识管理要持续在应用场景上进行创新。例如，中国电信集团在知识管理实践中基于大模型做了多项应用创新，包括：基于大模型向量嵌入的相似文档识别、基于大模型知识库的文档辅助写作助手、基于大模型知识库的智能运维服务机器人等。这些应用均针对员工日常工作中内容繁琐的环节进行创新，应用落地后极大提高了工作的自动化程度，提高效率的同时也大大减少了人工投入。
本文介绍了大模型对知识管理工作的赋能，同时也分析了大模型应用在知识管理实践中遇到的挑战，希望能给予行业同仁更多启发，为企业带来更高效、更精准、更灵活、更具创新性的知识管理体验，共同促进国内知识管理行业的快速发展。

张 宇：确定研究选题，提出研究思路，撰写与修改论文；

王玉梁：修改论文。

References

Publishing order | Descend order by publishing year | Descend order by cited within
[1]
陈劲，赵闯，贾筱,等. 重构企业技术创新能力评价体系：从知识管理到价值创造[J]. 技术经济，2017，36（9）：1-8,30.（CHEN J, ZHAO C, JIA X, et al. Reconstructing firm’s technological innovation capability evaluation system: from knowledge management to value creation[J]. Technology economics，2017,36(9):1-9.）

[2]
宋建元,陈劲.企业隐性知识共享的效率分析[J].科学学与科学技术管理,2005(2):58-61.（SONG J Y, CHEN J. Efficiency analysis of enterprise implicit knowledge sharing[J]. Science of science and management of S.&.T.,2005(2):58-61.）

[3]
赵闯,陈劲,薛澜.用知识管理打造企业核心能力——从C919首飞成功看中国商飞的“双屏创新”[J].清华管理评论,2017(5):35-39.（ZHAO C, CHEN J, XUE L. Building core competence of enterprises through knowledge management: a study of COMAC's "dual screen innovation" from the success of C919's first flight[J]. Tsinghua business review, 2017(5):35-39.）

[4]
郝建苹. 国内外知识管理研究现状综述[J]. 情报杂志,2003(8):17-19.（HAO J P. A review of the current situation of knowledge management research at home and abroad[J]. Journal of intelligence，2003(8):17-19.）

[5]
OpenAI.ChatGPT[EB/OL].[2023-12-23] https://chat.openai.com/.

[6]
Gartner． 5 impactful technologies from the gartner emerging technologies and trends impact radar for 2022[EB/OL].[2023-12-02].https://www．gartner.com/en/articles/5-impactful-technologies-from-the-gartner-emerging-technologies-and-trends-impact-radar-for-2022.

[7]
REUTERS. ChatGPT sets record for fastest-growing user base - analyst note[EB/OL].[ 2023-11-02].https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01/.

[8]
HOROWITZ A. How are consumers using generative AI?[EB/OL].[ 2023-12-10].https://a16z.com/how-are-consumers-using-generative-ai/.

[9]
THOPPILAN R, DE FREITAS D, HALL J, et al. Lamda: language models for dialog applications[J]. arXiv preprint,2022,arXiv:2201.08239.

[10]
Google. PaLM 2 Technical Report[EB/OL].[2023-11-16]. https://ai.google/static/documents/palm2techreport.pdf.

[11]
TOUVRON H, LAVRIL T, IZACARD G, et al. Llama: open and efficient foundation language models[J]. arXiv preprint,2023, arXiv:2302.13971.

[12]
TOUVRON H, MARTIN L, STONE K, et al. Llama 2: open foundation and fine-tuned chat models[J]. arXiv preprint, 2023, arXiv:2307.09288.

[13]
OpenAI. GPT-4[EB/OL].[2024-03-12]. https://openai.com/research/gpt-4.

[14]
Google. Gemini[EB/OL].[2024-02-02]. https://gemini.google.com/.

[15]
OpenAI. Creating video from text[EB/OL].[2024-03-15]. https://openai.com/sora/.

[16]
百度. 文心一言[EB/OL].[2024-02-02]. https://yiyan.baidu.com/ .（Baidu. ERNIE Bot[EB/OL].[2024-02-02]. https://yiyan.baidu.com/.）

[17]
中国电信.中国电信星辰AI大模型开源[EB/OL].[2024-01-20]. http://www.chinatelecom.com.cn/news/02/202401/t20240112_79586.html.（China Telecom. China Telecom Star AI Big Model Open Source[EB/OL].[2024-01-20]. http://www.chinatelecom.com.cn/news/02/202401/t20240112_79586.html.）

[18]
PU X, GAO M, WAN X. Summarization is (almost) dead[J]. arXiv preprint, 2023, arXiv:2309.09558.

[19]
ROMBACH R, BLATTMANN A, LORENZ D, et al. High-resolution image synthesis with latent diffusion models[C]//Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. New Orleans: IEEE/CVF, 2022:10684-10695.

[20]
OpenAI. Improving image generation with better captions[EB/OL].[2024-03-26]. https://cdn.openai.com/papers/dall-e-3.pdf.

[21]
LIN J, DAI X, XI Y, et al. How can recommender systems benefit from large language models: a survey[J]. arXiv preprint, 2023, arXiv:2306.05817.

[22]
KEIVALYA P, MEHFUZA H. Automating customer service using LangChain: building custom open-source GPT Chatbot for organizations[J]. arXiv preprint, 2023, arXiv:2310.05421v1.

[23]
WANG J, YI X, GUO R, et al. Milvus: a purpose-built vector data management system[C]//Proceedings of the 2021 international conference on management of data. Xi’an: SIGMOD, 2021:2614-2627.

[24]
LEWIS P, PEREZ E, PIKTUS A, et al. Retrieval-augmented generation for knowledge-intensive NLP tasks[J]. arXiv preprint, 2020, arXiv:2005.11401.

[25]
OpenAI. What are embeddings?[EB/OL].[2024-03-16]. https://platform.openai.com/docs/guides/embeddings/what-are-embeddings.

[26]
FlagOpen. FlagEmbedding[EB/OL].[2024-02-02]. https://github.com/FlagOpen/FlagEmbedding.

[27]
TechCrunch. Samsung bans use of generative AI tools like ChatGPT after April internal data leak[EB/OL].[2024-03-11]. https://techcrunch.com/2023/05/02/samsung-bans-use-of-generative-ai-tools-like-chatgpt-after-april-internal-data-leak/.

[28]
中华人民共和国国家互联网信息办公室. 生成式人工智能服务管理暂行办法[EB/OL].[2024-03-20]. http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm.（CyberSpace Administration of China. Interim measures for the management of generative artificial intelligence services[EB/OL].[2024-03-20]. http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm.）

[29]
云头条. ChatGPT 或被关闭：销毁数据集[EB/OL].[2023-10-15].https://www.163.com/dy/article/ICF8QUR90511D6RL.html. （Cloud Head Bar. ChatGPT or closed: destroy dataset[EB/OL].[2023-10-15]. https://www.163.com/dy/article/ICF8QUR90511D6RL.html）

[30]
JI Z, LEE N, FRIESKE R, et al. Survey of hallucination in natural language generation[J]. ACM computing surveys, 2023,55(12):1-38.

[31]
ZHANG M R, PRESS O, MERRILL M, et al. How language model hallucinations can snowball[J]. arXiv preprint,2023, arXiv: 2305.13534.

[32]
EVA A M V D，JOHAN B，WILLEM Z，et al． ChatGPT: five priorities for research[J]．Nature，2023,614(7947):224-226.

[33]
OpenAI. Openai’s gpt-3 language model: a technical overview[EB/OL].[2023-10-18]. https://lambdalabs. com/blog/demystifying-gpt-3.

[34]
FRANTAR E, ASHKBOOS S, HOEFLER T, et al. Gptq: accurate post-training quantization for generative pre-trained transformers[J]. arXiv preprint, 2022, arXiv:2210.17323.

[35]
LIN J, TANG J, TANG H, et al. AWQ: activation-aware weight quantization for LLM compression and acceleration[J]. arXiv preprint, 2023, arXiv:2306.00978.

[36]
KADDOUR J,HARRIS J, MOZES M, et al. Challenges and applications of large language models[J]. arXiv preprint,2023, arXiv: 2307.10169.

[37]
OpenAI. Prompt engineering[EB/OL].[2024-04-02].https://platform.openai.com/docs/guides/prompt-engineering.

Options
Outlines

/

〈 〉