PyCharm
在 PyCharm 裡使用校內 LLM
這一頁分成兩部分:第一部分讓你的 Python 程式呼叫叢集;第二部分把叢集接成 PyCharm 側邊欄的 AI 助教,寫程式時直接問它。
Part 1:讓你的程式呼叫叢集
- 建立專案File → New Project,Interpreter 選「Project venv」(虛擬環境),按 Create。
- 安裝 openai 套件點下方的 Terminal 分頁,輸入
pip install openai。也可以用 View → Tool Windows → Python Packages,搜尋 openai 後按 Install。 - 新增程式檔在專案上按右鍵 → New → Python File,貼上 快速開始的第一支程式,按右上角綠色 ▶ 執行。
把 key 設成環境變數(建議)
這樣 key 就不會出現在程式碼裡,上傳 GitHub 也不怕外流:
- 打開執行設定右上角程式名稱旁的下拉選單 → Edit Configurations…
- 填入環境變數在 Environment variables 欄位輸入
EXO_API_KEY=你的API key,按 OK。 - 程式裡改用環境變數
api_key=os.environ["EXO_API_KEY"](記得import os)。
每個執行設定要各自設定一次。 新的程式檔第一次執行會產生新的設定。也可以在 Edit Configurations 視窗左下角的 Edit configuration templates… → Python 裡設定一次,之後新建的設定都會自動帶入。
Part 2:把叢集變成 PyCharm 的 AI 助教
我們使用免費的開源外掛 Continue。裝好後 PyCharm 側邊會多一個聊天視窗,可以選取程式碼請 AI 解釋、修改或除錯,而且背後用的是校內叢集,不用付費、也不用註冊任何雲端帳號。
- 安裝外掛Settings(macOS 是 PyCharm → Settings)→ Plugins → Marketplace,搜尋 Continue,按 Install,裝好後重新啟動 PyCharm。
- 打開設定檔右側工具列點 Continue 圖示打開聊天面板,點面板上方的齒輪或模型選單,選擇開啟設定(config)。它會打開一個
config.yaml,位置在使用者資料夾的.continue資料夾裡。 - 貼上設定把整個檔案內容換成下面這段,
apiKey填你的 key,存檔。
~/.continue/config.yaml
name: TNFSH EXO
version: 1.0.0
schema: v1
models:
- name: gpt-oss-120b(校內)
provider: openai
model: gpt-oss-120b
apiBase: http://192.168.16.233:4000/v1
apiKey: 你的API key
roles:
- chat
- edit
- apply
- 選擇模型回到 Continue 聊天面板,在模型下拉選單選「gpt-oss-120b(校內)」。
- 試試看在程式裡選取一段程式碼,按
Cmd/Ctrl + J把它加進聊天,問「這段程式在做什麼?」。
不要開「自動補全」(autocomplete)。 上面的設定刻意沒有
autocomplete 角色。自動補全每打幾個字就會送一次請求,會大量佔用叢集,拖慢所有人的速度,而且 120b 這種大模型做自動補全也太慢。Continue 的介面會隨版本更新。 如果找不到上面提到的按鈕,原則都一樣:找到 Continue 的
config.yaml,把 models 設定成上面那樣即可。好用的問法
| 情境 | 可以這樣問 |
|---|---|
| 看不懂錯誤 | 貼上錯誤訊息:「這個錯誤是什麼意思?是哪一行造成的?先不要直接改,給我提示」 |
| 看不懂程式 | 選取程式碼:「用高中生聽得懂的話,逐行解釋這段程式」 |
| 想改進 | 「這段程式可以怎麼寫得更簡潔?說明為什麼比較好」 |
| 寫測試 | 「幫這個函式想 5 組測試資料,包含邊界情況」 |
連不上?
- Connection error:確認電腦連的是校內網路。在瀏覽器打開
http://192.168.16.131:8080/health,看到"ok": true代表叢集正常。 - 401:key 打錯,或複製時多帶了空白。