|
今天這篇教程介紹個人電腦,接入大模型的搭建方法。 1、為什么要這么做?有哪些好處?首先,這種搭建方法在本地電腦也能流暢流行,因為使用了專家微調(diào)后的大模型,專門針對編程的,所以參數(shù)規(guī)模和計算資源消耗,都降到最小,一般電腦也能流暢的運行。 如下圖所示,我推薦的deepseek-coder編程大模型,參數(shù)尺寸只有776M,相比于通用大模型如qwen:7b和llama3:8b都有近5G的參數(shù)規(guī)模,可以說已經(jīng)輕量級到極限: 其次,這種搭建方法是沒有費用的,推薦的方法包括Pycharm社區(qū)版,可以免費使用,deepseek-coder是開源的編程大模型,而CodeGPT插件也是免費。所以全都是免費的,并且沒有附帶費用。 再次,CodeGPT插件目前應(yīng)該是支持開源大模型編程最好的插件之一了,大家看完這篇教程,就知道它的界面使用非常小白,看完教程大家直接就能在本地借助大模型更好學習Python起來了。 如下圖所示,接入Pycharm后,可以直接在右側(cè)面板使用大模型能力,這樣就不用來回倒騰頁面了,操作方便性直接拉到極限: 2、框架為什么這么選?目標決定了選型策略,具體來說,很多想學編程的朋友想借助大模型直接在Pycharm或vscode里編寫。這種目標需要使用大模型的API,而絕大部分大模型走API調(diào)用都有費用。 而本篇介紹的教程方案就解決了這個問題,并且deepseek是目前公認的編程較好的大模型,因此方案還是比較好的。 基于上面的目標,最后找出這種組合: Pycharm社區(qū)版或vscode + 輕量級的deepseek-coder + CodeGPT插件。 總結(jié)下來,這個方案具有三個特點:輕量級,運行速度快,開源免費。 3、搭建方法第一步,安裝Pycharm,推薦安裝社區(qū)版,完全免費, 這個頁面包括了Pycharm社區(qū)版最近幾年的歷史版本,推薦收藏。如下為下載軟件頁面部分截圖: 第二步,安裝deepseek-coder,推薦使用ollama管理本地大模型,目前使用最多的管理工具之一。 關(guān)于安裝ollama和ollama安裝在本地安裝大模型的系統(tǒng)介紹,我在此前幾篇文章都有詳細教程,在此不再重復,沒看過的參考:自己電腦搭建AI大模型詳細教程,支持通義千問、Llama3、接口調(diào)用等。 安裝完成后,可以做個簡單測試: 在終端提問界面不友好,需要有比較好的UI工具輔助,更友好的幫助我們學習編程,為了解決此問題,因此有了第三步。 第三步,安裝CodeGPT,安裝它之后,可以直接在Pycharm或vscode里像GPT那樣輔助編程了。因此,第三步是很關(guān)鍵的。 在這里我以Pycharm里安裝這個插件為例,介紹如何安裝。 打開Pycharm,蘋果電腦是找到設(shè)置,Windows電腦是文件按鈕下的設(shè)置,進入到設(shè)置頁面,如下所示,在這個頁面的操作步驟,我都已經(jīng)按照箭頭和文字標注了,大家按照步驟操作下: 找到這個插件后,選擇右側(cè)的Install按鈕,就能安裝完成了: 安裝就是這么簡單,至此我們已經(jīng)全部安裝完成。 4、使用演示再次打開Pycharm后,在最右側(cè)會出現(xiàn)如箭頭所示的圖標,點擊下: 就出現(xiàn)下面這個頁面,在右側(cè)我們就可以使用大模型對話界面一樣,使用它解決編程問題了,這種方式不用拉回倒騰頁面,會比較方便: 選的模型比較小,運行速度還是很快的。除此以外,這個插件還有智能代碼補全功能,更多功能大家在使用過程中可以慢慢摸索。 最后總結(jié)本方案輕量級、免費且易于操作,適合個人電腦搭建大模型環(huán)境。 借助 Pycharm 社區(qū)版、DeepSeek-Coder 和 CodeGPT 插件,實現(xiàn)高效學習和編程支持。 安裝簡單、運行流暢,是零成本接入大模型的一個不錯的解決方案。 本文,完。 |
|
|