|
一起玩賺AI... ![]() 那么本地部署的需求也隨之而來,DeepSeek作為一款開源且性能強(qiáng)大的大語(yǔ)言模型,提供了靈活的本地部署方案,讓用戶能夠在本地環(huán)境中高效運(yùn)行模型,無需支付在線 API 費(fèi)用,自由調(diào)整和定制模型參數(shù),同時(shí)保護(hù)數(shù)據(jù)隱私。 其實(shí)很簡(jiǎn)單,幾分鐘就可以安裝完。 步驟一: 安裝靈魂工具Ollama Ollama是一個(gè)開源工具,專門用于在本地計(jì)算機(jī)上運(yùn)行和操作大型語(yǔ)言模型(LLM)。它讓用戶能夠輕松下載、管理和運(yùn)行各種 AI 模型(如 LLaMA、Mistral 等),而無需復(fù)雜的配置或依賴云服務(wù)。 以下是安裝Ollama的步驟: 官網(wǎng)下載直通車: https:// 前往Ollama官網(wǎng),點(diǎn)擊“Download”按鈕 ![]() 下載安裝包:根據(jù)你的操作系統(tǒng)選擇對(duì)應(yīng)的安裝包(本文以macOS為例演示)。下載完成后,直接雙擊安裝文件并按照提示,一直下一步,直到完成安裝。 ![]() 驗(yàn)證安裝(也可忽略):安裝完成后,在終端輸入以下命令,檢查Ollama版本: ollama --version![]() 如果輸出版本號(hào)(例如ollama version is 0.5.7),則說明安裝成功。 步驟二: 下載并運(yùn)行deepseek模型 回到ollama的官網(wǎng)https://,搜索框里搜索deepseek,選擇要安裝的deepseek-r1模型。 ![]() 點(diǎn)擊下拉框,可以看到多個(gè)版本,區(qū)別是參數(shù)不一樣,數(shù)字越大,代表參數(shù)越多,性能就越強(qiáng),但也對(duì)計(jì)算機(jī)的性能要求較高。 ![]() 模型版本怎么選?電腦配置不行的,建議選擇1.5B版本,這個(gè)模型有15億參數(shù),屬于最輕量的Deepseek版本。但是1.5b模型數(shù)量不夠,有點(diǎn)不夠智能。所以電腦配置好點(diǎn)的,可以選擇7以上的。不過還是自己電腦帶得動(dòng)的才是最合適的,不用糾結(jié)。 ![]() 選擇版本,復(fù)制安裝指令粘貼到終端控制臺(tái)中,點(diǎn)擊回車,開始下載。
![]()
安裝過程大概十幾分鐘,如果你卡一小時(shí)以上,或者一直不動(dòng),別糾結(jié),考慮重下試試~ ![]() ![]() 看到這個(gè)界面,恭喜你,說明你的deepseek安裝成功了!就可以跟它對(duì)話了,我提問了“你是誰(shuí)”: ![]() 但是一直在命令行里溝通是不是不夠友好和方便,接下來我們安裝可視化工具。 步驟三: 安裝可視化工具: chatbox 是時(shí)候告別黑乎乎的命令行窗口了!咱們請(qǐng)出顏值擔(dān)當(dāng)->ChatBox客戶端 官網(wǎng)直達(dá):https://chatboxai.app ![]() 安裝姿勢(shì): 1. 點(diǎn)擊「免費(fèi)下載」后,解壓后雙擊 2. window電腦的話,自定義安裝路徑 (別放C盤!) 3. Chatbox安裝好后,打開后,選擇“使用自己的 API Key 或本地模型” ![]() 跳出的頁(yè)面中設(shè)置好模型,選擇Ollama API,最后選擇我們已經(jīng)安裝好的deepseek模型就可以了。 ![]() ![]() 頁(yè)面如果不小心關(guān)閉了,也可以點(diǎn)擊左下角的「設(shè)置」再次進(jìn)入模型設(shè)置頁(yè)面。 最后點(diǎn)擊保存,可以在聊天窗口中,看到我們當(dāng)前使用的大模型啦。 ![]() 至此deepseek本地化部署就輕松地完成了! ![]() ![]() |
|
|