|
ollama官網(wǎng)
https:///
直接點(diǎn)擊下載，會(huì)根據(jù)你的系統(tǒng)自動(dòng)下載相應(yīng)的版本。
下載完之后，直接點(diǎn)擊安裝，默認(rèn)安裝到c盤。
安裝完之后就可以在命令窗口測(cè)試一下。
ollama的常用命令如下：
ollama serve 啟動(dòng)ollama
ollama create 從模型文件創(chuàng)建模型
ollama show 顯示模型信息
ollama run 運(yùn)行模型
ollama pull 從注冊(cè)表中拉取模型
ollama push 將模型推送到注冊(cè)表
ollama list 列出模型
ollama cp 復(fù)制模型
ollama rm 刪除模型
ollama help 獲取有關(guān)任何命令的幫助信息
安裝模型默認(rèn)都是安裝在c盤的，如果c盤空間不足可以指定安裝模型位置。
在系統(tǒng)變量中添加一個(gè)名為：OLLAMA_MODELS的變量名，路徑選擇一個(gè)合適的位置。
設(shè)置好路徑之后，一定要重新啟動(dòng)重啟，才能生效。
接下來(lái)就是拉去大模型，打開(kāi)官網(wǎng)可以看到從ollama可以直接拉去的大模型：
比如說(shuō)我選擇llama3，點(diǎn)進(jìn)去之后，也可以選擇版本：
然后拉去這個(gè)大模型的話，直接復(fù)制右邊的命令：ollama run llama3。
在命令窗口執(zhí)行就好了。如下，我安裝得不是llama3。
這樣就安裝完成了。運(yùn)行：
查看本地已經(jīng)安裝的模型：
一定要注意，自己的電腦配置是否適合模型的大小。
注意：您應(yīng)該至少有 8 GB 可用 RAM 來(lái)運(yùn)行 7B 型號(hào)，16 GB 來(lái)運(yùn)行 13B 型號(hào)，32 GB 來(lái)運(yùn)行 33B 型號(hào)。
模型的大小如下：
還可以安裝一些web和桌面程序來(lái)交互大模型，比如：
github鏈接：ollama
比如說(shuō)：Open WebUI
|
