AnyThingLLM本地私有知识库搭建

news/2025/2/1 19:21:29 标签: ai
aidu_pl">

*****************************************************
环境准备
操作系统:Windows11
内存:32GB RAM
存储:预留 300GB 可用空间
显存:  16G
网络: 100M带宽

前置准备:  已安装ollama环境 + deepseek本地大模型
*****************************************************

*****************************************************
setup1: 安装 Nomic-Embed-Text 
用途: 基于 nomic-bert 架构开发文本嵌入模型模型,用于将文本中蕴含的语义信息编码到向量空间,便于计算机进行处理和分析
方法:  
通过ollama官网搜索nomic  或 直接进入 (https://ollama.com/library/nomic-embed-text) 
点击复制图标后,进入本地cmd命令行,粘贴 
等待完成后会出现 "success"
*****************************************************

*****************************************************
setup2:安装 AnyThingLLM
用途: 开源项目, 用于构建基于基于大语言模型的私有化应用程序, 支持源码定制开发,支持Docker容器化部署
本次通过桌面客户端方式构建
方法:
访问 AnythingLLM官网 (https://anythingllm.com/) 点击下载 选择对应系统版本
进入安装界面,默认安装, 下一步即可 ( 确保国际外网可访问 )
*****************************************************

*****************************************************
setup3: 配置 AnyThingLLM
首次进入: 创建工作空间

设置ollama作为llm供应商
设置ollama model为离线安装的deepseek-r1:14b

向量数据库使用默认配置
向量化引擎(Embedder首选项) 选择 ollama 后 ,使用 Nomic-Embed-Text 
*****************************************************


*****************************************************
setup4: 上传本地资料
点击工作空间
点击上传按钮
根据需求上传文件或连接你的数据库
保存并向量化
*****************************************************

基本以上步骤完成后即可

下面是搭建知识库前后效果对比:


http://www.niftyadmin.cn/n/5839532.html

相关文章

第六章 窗口管理

HarmonyOS通过窗口模块实现在同一块物理屏幕上提供多个应用界面显示和交互。 6.1 窗口开发概述 HarmonyOS通过窗口模块实现窗口管理,包括: 针对应用开发者,提供了界面显示和交互能力。 针对终端用户,提供了控制应用界面的方式。…

第05章 17 Contour 过滤器介绍与例子

vtkContourFilter 是 VTK(Visualization Toolkit)中的一个关键类,用于从输入数据生成等值线或等值面。它是基于阈值的过滤器,可以从标量字段中提取等值线或等值面。vtkContourFilter 的核心功能是根据用户指定的值生成等值线或等值…

【玩转全栈】--创建一个自己的vue项目

目录 vue介绍 创建vue项目 vue页面介绍 element-plus组件库 启动项目 vue介绍 Vue.js 是一款轻量级、易于上手的前端 JavaScript 框架,旨在简化用户界面的开发。它采用了响应式数据绑定和组件化的设计理念,使得开发者可以通过声明式的方式轻松管理数据和…

前端力扣刷题 | 4:hot100之 子串

560. 和为K的子数组 给你一个整数数组 nums 和一个整数 k ,请你统计并返回 该数组中和为 k 的子数组的个数 。 子数组是数组中元素的连续非空序列。 示例: 输入:nums [1,1,1], k 2 输出:2 法一:暴力法 var subar…

android安卓用Rime

之前 [1] 在 iOS 配置用上自改方案 [2],现想在安卓也用上。Rime 主页推荐了两个安卓平台支持 rime 的输入法 [3]: 同文 Tongwen Rime Input Method Editor,但在我的 Realme X2 Pro 上似乎有 bug:弹出的虚拟键盘只有几个 switcher…

2.1.2 Bayer阵列与去马赛克

文章目录 Bayer阵列去马赛克方法 Bayer阵列 由于传感器只能感受到光的强度,而无法感知颜色,所以需要用红、绿、蓝颜色的滤光片将光中的R、G、B亮度滤出,再通过R、G、B的组合得到各种色彩。Bayer阵列是使用一个传感器获得彩色图像的方法&#…

讯飞星火大模型API使用Python调用

本文仅仅为简单API调用,更多复杂使用方法请参见接口文档 先在科大讯飞开放平台注册账号,点击控制台,在我的应用中创建新应用,新应用的名称可以自定义,这里我写的是ai对话: 在这里我们使用的模型为Speak Ul…

deepseek+vscode自动化测试脚本生成

近几日Deepseek大火,我这里也尝试了一下,确实很强。而目前vscode的AI toolkit插件也已经集成了deepseek R1,这里就介绍下在vscode中利用deepseek帮助我们完成自动化测试脚本的实践分享 安装AI ToolKit并启用Deepseek 微软官方提供了一个针对AI辅助的插件,也就是 AI Toolk…