【原】簡單兩步將Lllama、Qwen等開源大模型安裝到自己的電腦上

現在已經有非常多優秀的開源大語言模型了，比如Command R+、Mistral、Qwen、MiniMax、Baichuan、Phi3等，其中Lllama3和Qwen等已經和GPT4的性能比較接近了。

如果能把這些免費的開源大模型部署到本地電腦或手機上，可以完全自由的使用，而且數據安全性有保障，可以節省大量成本。對于高手而言，還可以對這些大模型進行微調等深度定制，來滿足個性化需求。

將大模型安裝部署到電腦上也非常方便，簡單兩步即可：

第一步：下載安裝Ollama軟件https://ollama.com/download

安裝完成后，在電腦上打開命令提示符，并輸入ollama serve來啟動Ollama服務：

然后輸入命令：ollama pull phi3，這是來下載微軟的Phi-3模型：

下載完成后，輸入命令：ollama run phi3，這時候 phi3大模型就運行成功了：

但是，這樣在命令行界面下對話，非常不方便。接下來安裝一個圖形界面，然后和大模型的對話就和ChatGPT對話一樣了。

第二步：安裝圖形界面chatbox https://chatboxai.app/zh

點擊打開chatbox，設置中AI模型提供方選擇olllam

API域名是http://localhost:11434,系統已經默認填好了，模型選擇剛才安裝的phi3

Ok，接下來就可以暢快的和phi3模型聊天了：

Ollama支持的開源模型是非常多的，具體可以在官網進行查看：

比如如果想安裝阿里巴巴的qwen大模型，可以在命令行中輸入：

ollama run qwen:7b

安裝llama3：

ollama run llama3

安裝Llama 2 對話中文微調參數模型：

ollama run llama2-chinese