天才一秒记住【爱看书】地址：https://www.aksss.org
要偏向于更为全面的文献数据。
生命周期评价的本质是用来评估产品或服务从生产到消费再到废弃的整个过程对环境和社会的影响，它考虑了资源使用、能源消耗、排放物的产生等方面。
那么为了提高最后基于电力lca这个领域搭建的专业模型的准确度，对文献进行精细筛选，选取同时包括流程图，数据，各单元过程投入产出详细数据，数据时间地点落去方法，技术细节的文献，作为最终的数据。
将精细筛选后的论文数据，结合unstructed库进行数据处理。
进行信息精细化拆解与清洗，使以pdf形式存储的文献数据通过分割，分区，变成便于嵌入模型的结构化数据。
对文字进行筛选与清理，图像的内容进行识别，存储图像的解释信息，表格转化为htl格式。
最后统一变成标题加内容的格式。
在这里我列举了简单的数据处理流程。
首先是对数据进行分割。
随后是对文本进行拆分，识别内容是否为文本，如果是，就填进text_list。
将表格转化为htl格式，将图片变为图片解释信息。
第二部分是知识库的构建。
向量知识库，能将各类数据（如文本、图像、音频等）转化为向量形式进行存储。
数据之间的相似性和关联性得以量化，不像平时你存储你的，我存储我的，向量数据库给予了一个统一的标准。
也正是因为统一了格式，利用相似度对比，检索更加高效。
构建知识库的流程首先是提取分割文本进行向量化的操作。
向量化的本质是将离散的符号信息，如词或句子，映射到连续的向量空间中，以便计算机能够处理。
向量化将高维数据转化为低维数据，保留了数据的关键特征又降低了数据的复杂度。
选择pipene存储向量数据，它支持查询，插入，删除等一些列操作。
选择weaviate作为向量搜索引擎，可以通过主题的分类检索，进行语义搜索、问答提取等等功能。
第三部分是chatbot的构建。
先前已经构建好了针对电力lca领域的专业大模型，但是缺少检验模型的手段，即缺少模型优化环节，本项目设置通过chatbot模式，通过与用户进行问答的形式，检验模型是否能调用电力行业lca领域向量数据库回答该领域专业性问题和时效性问题的有效性。
chatbot是模拟人类对话的一种形式，就我们平时能使到的chatgpt就是以chatbot的形式来呈现的，而chatbot在这里的功能实现主要是为了体现检索功能，大致可分为知识库检索功能和在线搜索。
那么就产生了三种检索模式。
仅基于大语言模型，连接知识库搜索，和在线搜索。
前端部分我采用strealit来完成，ui设计如图所示。
这边是功能按钮，中间是对话框。
先前有讲到了，我们来检测针对专业领域的大模型的标准就是检测是否有能力回答专业领域的问题，并针对结果进行优化。
这里我向chatbot提出同一个问题。
只采用大语言模型，采用知识库与大语言模型结合，和联网搜索与大语言模型结合。
三种功能下获得的回答是完全不同的，后面两个检索功能均为大语言模型优化了生成回答的准确性，对大语言模型的专业领域知识做了补充和改善。
可以看到普通的大语言模型回答的是最简短的，采用了知识库的回答，将答案细分，扩充，并添加了新的内容，附上参考文献。
最后的联网搜索，将答案分为了几类，更加全面，但是每类回答点到即止。
最后就是向量知识库进行优化。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！