最新Ollama: 基于嵌入模型的检索增强生成(RAG)---3DEC测试
摘要
本文介绍了ChatGPT等开源大语言模型在私有知识库部署方面的应用，并详细阐述了如何在本地安装和测试Ollama大语言模型及其嵌入模型。通过嵌入模型，可以将文本提示与现有文档或其他数据结合，实现检索增强生成(RAG)应用程序。文章通过测试一段关于3DEC软件的文本，展示了嵌入模型如何根据已有数据生成相关回答，并分析了其回答的准确性。这表明嵌入模型在增强大语言模型回答能力方面具有潜力。
正文
1. 引言
ChatGPT的诞生诱发出许多开源大语言模型产品，从而可以让所有人本地部署私有知识库，先前的一些工作包括：
LangChain---大型语言模型(LLM)的标准接口
使用大语言模型实现与岩土数据集GeotechSet的对话---DFN试验
使用自定义的岩土数据(GeotechSet)增强ChatGPT的回答能力
Ollama 支持嵌入模型(Embedding models)，因此可以构建将文本提示与现有文档或其他数据相结合的检索增强生成(RAG)应用程序。
2. 安装嵌入模型
ollama -vollama listollama pull mxbai-embed-large
3. 嵌入测试
["3DEC V9.0 运行时间表现异常",
"3DEC V9.0新功能 | 运行速度大幅度提升",
"3DEC V9.0粘结块体模型(BBM)的改进",
"3DEC-FLAC3D模型中的动态波传播 (Dynamic Wave Propagation)",
"3DEC单元类型的选择(Zone Types)",
"3DEC子接触(sub-contact)引起的问题及解决方法",
]
这6个句子是《计算岩土力学》公众 号之前写的6篇文章，用"3DEC的主要特性有哪些?"作提示句子让模型回答这个问题。由于模型是英文的，因此虽然嵌入句子和提示句子都是中文的，但回答结果仍然是英文的，下面逐条分析其回答的精确度。
Based on the provided data, here are the main features of 3DEC (根据提供的数据，以下是 3DEC 的主要特点)：
[1] New Functions: The latest version of 3DEC (V9.0) has introduced new functions, indicating that the software has been updated with new capabilities and enhancements.(新功能：3DEC 最新版本(V9.0)引入了新功能，表明软件已更新并增强了新功能。)
这个回答捕捉到了嵌入句子中的"新功能"和"V9.0"，在原句子中，有三处提及了3DEC V9.0.
[2] Significant Improvement in Running Speed: The data highlights a major improvement in running speed, suggesting that 3DEC is now faster than before. This could be due to optimization or other performance-enhancing measures.(运行速度显著提高：数据显示，3DEC的运行速度显著提高，这表明3DEC现在比以前更快了，这可能是优化或其他性能提升措施的结果。)
这个回答捕捉到了嵌入句子中的"运行速度大幅度提升",补充了速度提升的原因。
Some of the main features of 3DEC include:(3DEC 的一些主要功能包括)
[1] Advanced Geometric Modeling: 3DEC offers advanced geometric modeling capabilities, allowing users to create complex shapes and models with ease.(高级几何模拟：3DEC提供了先进的几何模拟功能，用户可以轻松创建复杂的形状和模型。)
这是模型延申出来的回答，在嵌入句子中，我们并没有关于几何模拟功能的描述，不过3DEC确实提供了先进的几何模拟功能，主要是Griddle，其次3DEC可以导入stl或dxf文件。
[2] Powerful Solvers: The software includes a range of powerful solvers for analyzing and simulating various types of structures and systems, including mechanical, thermal, and fluid dynamics.(强大的求解器: 3DEC包含一系列功能强大的求解器，用于分析和模拟各种类型的结构和系统，包括力学、热和流体动力学。)
[3] 直观的界面：3DEC具有直观的界面，即使没有丰富CAD或工程经验的用户也能轻松学习和使用。
[4] 多学科分析：该软件可同时处理多个学科，允许用户从多个角度分析和模拟复杂的系统和结构。
[5] 可扩展性：3DEC设计用于处理大型复杂模型，因此适用于各种行业和应用。
[6] 定制化：该软件提供定制选项，以满足用户的个人需求和偏好，使用户能够根据其特定的工作流程和要求定制软件。
[7] 与其他工具集成：3DEC可与CAD系统、仿真软件和数据可视化平台等其他工具和软件集成，提供无缝的工作流程体验。
