【原】DeepSeek 搭建本地知識庫的詳細步驟

一、環境準備

1. 硬件要求

• 最低配置：16GB 內存 + 8GB 顯存（推薦 RTX 3060 及以上）

• 推薦配置：32GB 內存 + 16GB 顯存（提升處理速度）

2. 軟件依賴

• 安裝 Python 3.8+（用于模型部署和數據處理）

• 安裝 CUDA 和 cuDNN（僅限 NVIDIA GPU 用戶）

• 安裝 Ollama（跨平臺模型管理工具，官網：https://）

二、部署 DeepSeek 模型

方法 1：通過 Ollama 快速部署

1. 安裝 Ollama

• Windows/Mac：從官網下載安裝包直接安裝。

• Linux：執行命令 curl -fsSL https:///install.sh | sudo bash。

• 驗證安裝：ollama -v，確保版本為 0.5.7+。

2. 下載 DeepSeek 模型
   在終端運行：

   bash

   ollama run deepseek-r1

   等待模型下載（約 4.7GB），完成后會啟動交互式對話界面。

方法 2：手動部署（適合開發者）

1. 從 DeepSeek 官網或 GitHub 獲取模型文件。

2. 使用 Python 腳本加載模型：

   python

   from transformers import AutoTokenizer, AutoModel  
   tokenizer = AutoTokenizer.from_pretrained("deepseek_model")  model = AutoModel.from_pretrained("deepseek_model")

三、安裝知識庫管理工具

推薦工具 1：AnythingLLM（零代碼方案）

1. 從官網https://下載對應系統的安裝包。

2. 安裝時選擇非 C 盤路徑，避免系統盤空間不足。

3. 啟動后創建工作區（如命名為 “個人知識庫”）。

推薦工具 2：Dify（容器化部署）

1. 安裝 Docker 后，執行以下命令：

   bash

   git clone https://github.com/langgenius/dify.git  
   cd dify/docker  
   cp .env.example .env  
   docker compose up -d

2. 訪問 http://localhost:8080 配置服務。

四、配置模型與向量數據庫

步驟 1：接入 DeepSeek 模型

1. AnythingLLM 配置

• 在工作區設置中選擇 “Ollama API”，輸入本地地址 http://127.0.0.1:11434。

• 選擇 DeepSeek 模型（如 deepseek-r1）。

2. Dify 配置

• 在 Dify 控制臺添加模型端點，指向本地 DeepSeek 服務。

步驟 2：配置向量嵌入模型

1. 安裝文本嵌入模型 nomic-embed-text：

   bash

   ollama pull nomic-embed-text

2. 在 AnythingLLM 或 Dify 中配置嵌入引擎為 nomic-embed-text。

五、上傳與管理文檔

1. 文件上傳

• 在 AnythingLLM 中點擊 “上傳” 按鈕，支持 PDF、Word、Markdown 等格式。

• Dify 中通過 “知識庫” 模塊添加文件或目錄。

2. 預處理與向量化

• 工具自動處理文檔格式，分割文本段落。

• 使用 nomic-embed-text 將文本轉換為向量存入數據庫（如 LanceDB、Chroma）。

六、測試與優化

1. 問答驗證

• 提問時勾選知識庫名稱（圖標變藍），驗證 AI 是否引用本地文檔。

• 示例：“狗尾巴草的重量是多少？”（需確保文檔包含相關數據）。

2. 性能優化

• 調整 chunk_size 為 1024（提升長文檔處理速度）。

• 定期清理無效文檔，釋放存儲空間。

常見問題解決

• 下載速度慢：切換網絡或使用離線安裝包。

• 模型啟動失敗：檢查硬件兼容性，確保內存 / 顯存充足。

• 文檔解析錯誤：預處理時刪除 PDF 水印或復雜表格。