在快速發(fā)展的人工智能領(lǐng)域,2025 年 1 月, DeepSeek
正式推出了備受矚目的 DeepSeek-R1
推理大模型。這款模型憑借其低廉的成本和卓越的性能,一經(jīng)發(fā)布便迅速在 AI 行業(yè)掀起波瀾,吸引了眾多研究者、開(kāi)發(fā)者以及企業(yè)的廣泛關(guān)注。
DeepSeek-R1
之所以能夠在競(jìng)爭(zhēng)激烈的 AI 市場(chǎng)中脫穎而出,其性?xún)r(jià)比優(yōu)勢(shì)功不可沒(méi)。相較于其他同類(lèi)型的大模型,它在保證出色性能的同時(shí),大大降低了使用成本,這使得更多的個(gè)人開(kāi)發(fā)者、科研團(tuán)隊(duì)以及預(yù)算有限的企業(yè)能夠輕松應(yīng)用,為推動(dòng) AI 技術(shù)的普及和發(fā)展提供了新的契機(jī)。
DeepSeek
充分考慮到不同用戶(hù)的多樣化需求和使用場(chǎng)景,提供了多種靈活的使用方式。其中,本地部署方式具有諸多顯著優(yōu)勢(shì)。在數(shù)據(jù)安全方面,將模型部署在本地,用戶(hù)的數(shù)據(jù)無(wú)需上傳至云端,極大地降低了數(shù)據(jù)泄露的風(fēng)險(xiǎn),尤其適用于對(duì)數(shù)據(jù)保密性要求較高的行業(yè)和領(lǐng)域,如醫(yī)療、金融等。在性能上,本地部署可以根據(jù)本地硬件配置進(jìn)行優(yōu)化,減少網(wǎng)絡(luò)延遲,實(shí)現(xiàn)更快速的響應(yīng)。對(duì)于有定制化需求的用戶(hù),能夠在本地對(duì)模型進(jìn)行個(gè)性化調(diào)整和訓(xùn)練,以滿(mǎn)足特定的業(yè)務(wù)需求。從成本角度來(lái)看,長(zhǎng)期使用本地部署可能會(huì)比依賴(lài)云端服務(wù)更具成本效益,特別是對(duì)于大規(guī)模應(yīng)用的場(chǎng)景。此外,本地部署還確保了離線可用性,即使在沒(méi)有網(wǎng)絡(luò)連接的情況下,依然能夠正常運(yùn)行。對(duì)于追求技術(shù)自主性的用戶(hù)和團(tuán)隊(duì)來(lái)說(shuō),本地部署讓他們能夠更好地掌控模型的運(yùn)行和維護(hù),減少對(duì)外部服務(wù)的依賴(lài)。
對(duì)于廣大開(kāi)發(fā)者以及習(xí)慣使用命令行操作的技術(shù)愛(ài)好者而言,在電腦上部署 Deepseek 其實(shí)并非難事。整個(gè)過(guò)程只需準(zhǔn)備安裝一款名為Ollama的軟件,以下是詳細(xì)的安裝步驟:
一、下載 Ollama 安裝程序 Ollama官方網(wǎng)站:https:///
打開(kāi)常用的瀏覽器,如 Chrome、Firefox 或 Edge。 在官網(wǎng)的下載頁(yè)面,找到適用于 Windows 系統(tǒng)的安裝包,通常為.exe 格式。根據(jù)你的系統(tǒng)是 32 位還是 64 位,選擇對(duì)應(yīng)的版本進(jìn)行下載。下載完成后,文件會(huì)保存在你瀏覽器設(shè)置的默認(rèn)下載路徑中,或者你在下載時(shí)指定的保存位置。 同樣使用 Safari、Chrome 等瀏覽器,訪問(wèn) Ollama 官方網(wǎng)站。
在下載頁(yè)面,找到 macOS 版本的安裝文件,一般為.dmg 格式。點(diǎn)擊下載,下載完成后,在 “訪達(dá)” 的 “下載” 文件夾中可以找到該文件。
打開(kāi)終端。對(duì)于基于 Debian 或 Ubuntu 的系統(tǒng),在終端中輸入命令:sudo apt-get install -y wget && wget <Ollama官方下載鏈接>,這里的<Ollama官方下載鏈接>需要替換為官網(wǎng)提供的實(shí)際下載鏈接。下載完成后,文件會(huì)保存在當(dāng)前工作目錄。
對(duì)于基于 Red Hat 或 CentOS 的系統(tǒng),在終端輸入:sudo yum install -y wget && wget <Ollama官方下載鏈接> ,同樣替換為實(shí)際下載鏈接。
二、安裝 Ollama 找到下載好的 Ollama 安裝文件(.exe 格式),雙擊運(yùn)行。
安裝向?qū)?dòng)后,首先會(huì)彈出用戶(hù)賬戶(hù)控制窗口,詢(xún)問(wèn)是否允許該程序?qū)δ愕脑O(shè)備進(jìn)行更改,點(diǎn)擊 “是”。
在安裝界面,按照提示逐步操作。一般會(huì)先顯示許可協(xié)議,仔細(xì)閱讀后勾選 “我接受協(xié)議”,然后點(diǎn)擊 “下一步”。
選擇安裝路徑,你可以使用默認(rèn)路徑,也可以點(diǎn)擊 “瀏覽” 選擇其他磁盤(pán)位置進(jìn)行安裝,確定路徑后點(diǎn)擊 “下一步”。
接著可以選擇是否創(chuàng)建桌面快捷方式等附加任務(wù),根據(jù)個(gè)人需求勾選或取消,之后點(diǎn)擊 “安裝”。
安裝過(guò)程中會(huì)顯示進(jìn)度條,等待安裝完成,安裝完成后點(diǎn)擊 “完成” 即可。
打開(kāi) “訪達(dá)”,找到下載的 Ollama 安裝文件(.dmg 格式),雙擊打開(kāi)。
會(huì)彈出一個(gè)包含 Ollama 圖標(biāo)和應(yīng)用程序文件夾圖標(biāo)的窗口,將 Ollama 圖標(biāo)拖動(dòng)到應(yīng)用程序文件夾圖標(biāo)上,即可完成安裝。安裝完成后,你可以在 “應(yīng)用程序” 文件夾中找到 Ollama。
對(duì)于基于 Debian 或 Ubuntu 的系統(tǒng),下載完成后,在終端中輸入命令:sudo dpkg -i <Ollama安裝包文件名>,這里的<Ollama安裝包文件名>替換為你實(shí)際下載的文件名。如果安裝過(guò)程中提示缺少依賴(lài)包,根據(jù)提示使用sudo apt - get install命令安裝相應(yīng)依賴(lài)后,再次運(yùn)行安裝命令。
對(duì)于基于 Red Hat 或 CentOS 的系統(tǒng),在終端輸入:sudo rpm -ivh <Ollama安裝包文件名>,同樣替換為實(shí)際文件名。若提示依賴(lài)問(wèn)題,按照提示安裝依賴(lài)后重新安裝。
需要注意的是,Ollama沒(méi)有直觀的用戶(hù)界面,它在后臺(tái)默默運(yùn)行。
三、驗(yàn)證 Ollama 是否成功安裝 安裝完成后,打開(kāi)瀏覽器,在地址欄中輸入 “ http://localhost:11434/ ” 。
如果頁(yè)面顯示 “Ollama is running”,則表明Ollama已經(jīng)成功啟動(dòng)并正在運(yùn)行。若顯示無(wú)法訪問(wèn)或其他錯(cuò)誤信息,可能是端口被占用,需要檢查系統(tǒng)中占用 11434 端口的程序并進(jìn)行處理,或者重新配置 Ollama 的運(yùn)行端口。
四、了解 ollama 命令用法 打開(kāi)一個(gè)命令行終端。在 Windows 系統(tǒng)中,可以通過(guò)搜索 “命令提示符” 或 “PowerShell” 打開(kāi);在 macOS 系統(tǒng)中,打開(kāi) “終端” 應(yīng)用;在 Linux 系統(tǒng)中,本身就在終端環(huán)境下操作。
在終端中輸入ollama命令,此時(shí)會(huì)顯示詳細(xì)的命令用法,這些用法為后續(xù)的操作提供了重要的指導(dǎo)。例如,顯示的命令可能包括ollama run(用于運(yùn)行模型)、ollama pull(用于下載模型)等基本命令及其參數(shù)說(shuō)明。
五、下載 DeepSeek-R1 模型 通過(guò) ollama 客戶(hù)端命令,我們可以輕松下載所需的模型。它支持的模型種類(lèi)豐富,具體的模型和對(duì)應(yīng)的下載命令,可以在官網(wǎng)進(jìn)行查詢(xún)。
打開(kāi)瀏覽器,訪問(wèn) Ollama 官網(wǎng),切換到官網(wǎng)的 “Models” 頁(yè)面。
在 Models 頁(yè)面中,找到 DeepSeek-R1 模型。可以看到它擁有多種參數(shù)可供選擇,通常情況下,對(duì)于使用 macOS 系統(tǒng)的用戶(hù),選擇 7b、8b 參數(shù)即可滿(mǎn)足日常使用需求。需要注意的是,參數(shù)越大,對(duì)顯卡和內(nèi)存的要求也就越高。如果你的電腦配備了 3090 顯卡、4090 顯卡等高性能硬件,那么可以嘗試選擇 32b、70b 等更大的參數(shù)。一般來(lái)說(shuō),參數(shù)越大,模型的效果越好,性能也越強(qiáng)大,但同時(shí)也需要更多的存儲(chǔ)和計(jì)算資源來(lái)支持其運(yùn)行。例如,1.5b 模型的參數(shù)規(guī)模為 15 億,占用存儲(chǔ)空間約 1.1GB;7b 模型的參數(shù)約為 70 億,占用空間約 4.7GB;14b 模型的參數(shù)約為 140 億,占用空間約 9GB。
根據(jù)自己的硬件條件和需求,選擇對(duì)應(yīng)的蒸餾模型,將官網(wǎng)提供的對(duì)應(yīng)的下載命令復(fù)制到 ollama 控制臺(tái)。例如,如果選擇 7b 參數(shù)的 DeepSeek-R1 模型,復(fù)制對(duì)應(yīng)的ollama pull deepseek-r1:7b命令到終端,然后按回車(chē)鍵即可開(kāi)始本地安裝。
六、安裝過(guò)程及等待 輸入下載命令后,終端會(huì)顯示下載進(jìn)度,包括已下載的字節(jié)數(shù)、下載速度以及預(yù)計(jì)剩余時(shí)間等信息。
下載過(guò)程中,可能會(huì)因?yàn)榫W(wǎng)絡(luò)波動(dòng)等原因出現(xiàn)下載中斷的情況。如果出現(xiàn)這種情況,可以重新輸入下載命令,Ollama 通常會(huì)支持?jǐn)帱c(diǎn)續(xù)傳,繼續(xù)從上次中斷的位置開(kāi)始下載。
下載完成后,Ollama 會(huì)自動(dòng)進(jìn)行模型的安裝和配置,這個(gè)過(guò)程可能需要一些時(shí)間,根據(jù)硬件性能不同,時(shí)間長(zhǎng)短會(huì)有所差異。在安裝配置過(guò)程中,終端會(huì)顯示相關(guān)的日志信息,如模型文件的解壓、依賴(lài)項(xiàng)的檢查等。
七、開(kāi)啟對(duì)話(huà) 當(dāng)安裝完成的那一刻,你就可以開(kāi)啟與 DeepSeek-R1 的對(duì)話(huà)之旅。在命令行終端中輸入ollama run deepseek - r1:7b(這里的參數(shù)根據(jù)你實(shí)際下載的模型參數(shù)而定),然后輸入你想要詢(xún)問(wèn)的問(wèn)題或指令,即可體驗(yàn)它強(qiáng)大的語(yǔ)言處理能力和智能交互功能,探索無(wú)限的 AI 應(yīng)用可能。