第356章 哭死我了（8 / 8）

4.2.2向量存储调用ebeddgapi将先前的结构化数据全部转化为向量，此时大量的向量数据需要检索与存储，因此需要选择一个数据库来存储。向量数据库是一种专门用于存储和管理向量数据的数据库。它以向量作为基本数据类型，支持向量的存储、索引、查询和计算。向量是一组有序数，通常用于表示具有多个属性的实体，比如文本、图像、音频等。在向量数据库中，每个向量都有一个唯一的标识符，并且可以存储在一个连续的向量空间中。根据存储数据量以及综合性能选择pipee作为本项目的向量数据库存储数据。pipee可以存储和管理大规模的高维向量数据，并提供快速，准确的相似性搜索。不仅支持实时查询处理，可以毫秒级别返回最相似的结果，还能支持快速添加和删除向量数据，并实现动态缩放。更重要的是，明天发工资，差点又忘了更新了。我将分为四个部分来介绍我的毕业论文。首先是研究背景。那么为什么要开展我这个研究呢？随着信息技术和网络技术的快速发展下，非结构化数据的比例迅速上升，传统的数据库并不能存储这些数据，所以这无疑带来了数据管理领域的重大挑战。文献是科技工作者获取知识的重要来源。英语作为国际通用语言，英文文献的重要性便不言而喻。文献通常以pdf进行存储。传统的pdf信息提取，比较局限，采用人工查阅的方法来实现，因此，这必定产生大量人力物力的浪费。1研究背景在信息技术和网络技术的快速发展下，共享信息资源的规模也在迅速增长，人们在工作和生活中使用各种多样的信息资源，包括语音、短视频、聊天信息等。然而，日常生活中更多的信息以自媒体为发展的数据，是不能被统计到的。随后进行数据采集，爬取加人工采集。对两种方式采集的文献数据进行整理，将元数据记录好，并统一格式，用于后续的检索。最后是文献的精细筛选。因为rag技术就是要增加大语言模型在专业领域的可信程度，解决大语言模型的幻觉问题。那在数据的选取上就更偏向于专业程度更高的文献类型数据。本章介绍了研究所选文献数据的获取来源和途径。通过python爬取的方式获取大部分文献数据与元数据，对元数据进行基本处理，为后续分析提供帮助，丰富向量知识库的数据储备。随后为