在本地運行大語言模型(LLM),Ollama是個極為出色的開源平臺,它以簡單、高效著稱,具備良好的擴展性,能夠支持運行各類主流模型。接下來,為你詳細介紹如何借助Ollama部署DeepSeek R1模型。
第一步:安裝Ollama
-
下載:打開瀏覽器,訪問Ollama官網(wǎng)https:// ,點擊“Download”進入下載頁面。該平臺支持Windows、macOS和Linux系統(tǒng),蘋果平臺無論是Intel內(nèi)核還是M1系列均能適配。   -
安裝(以Windows平臺為例):在Windows系統(tǒng)下,獲取對應的exe應用程序后,雙擊啟動安裝程序。安裝過程中,全程選擇默認設置,點擊“Install”后一路確認到底。安裝完成后,程序會自動啟動,此時在電腦右下角的托盤區(qū)域,你將看到Ollama的應用圖標。

- 驗證安裝:安裝完成后,打開命令行窗口,輸入以下命令:
ollama -v
若命令執(zhí)行后,顯示類似“ollama version is 0.5.7”這樣的版本信息,即表明Ollama已成功安裝。若此前已安裝過Ollama,此步驟可將其更新至最新版本,當前最新版本為0.5.7 。
第二步:加載模型
- 選擇模型:Ollama軟件安裝完成后,便要獲取DeepSeek R1模型。再次打開Ollama官網(wǎng),點擊“Models”,在眾多模型中,“deepseek - r1”位列榜首,十分醒目。
 - 模型詳情與下載:點擊“deepseek - r1”進入詳情頁面,可知該模型是DeepSeek的第一代推理模型,性能與OpenAI - o1相當。復制并在命令行中運行以下命令:
ollama run deepseek - r1
 Ollama隨即開始載入模型。首次運行此命令時,模型會通過網(wǎng)絡下載,若后續(xù)再次運行,將直接從本地載入。默認下載的是7B Q4的量化版模型,其大小約為4.7G。
下載完成我們就可以用命令行進行對話了 
第三步:安裝ChatBox實現(xiàn)可視化交互
為了更便捷地與模型交互,擺脫命令窗口的限制,你可以安裝ChatBox這一可視化界面工具。安裝完成后,即可開啟與DeepSeek R1的輕松對話之旅。 1.打開 https://chatboxai.app/zh 下載ChatBox 2.打開軟件設置本地模型  好了,我們就可以自己研究本地的大模型了~
|