GGUF 在 GPT4All 中的使用

GPT4All 是由 Nomic 開發的開源 LLM 應用程式。2.7.2 版本引入了一個全新的實驗性功能，稱為 Model Discovery。

Model Discovery 提供了一種內建方式來搜尋和下載 Hub 中的 GGUF 模型。要開始使用，請開啟 GPT4All 並點選 下載模型。從這裡，您可以使用搜索欄查詢模型。

選擇並下載模型後，您可以進入 設定 並提供一個適合 GPT4All 格式（%1 和 %2 佔位符）的提示模板。

然後從主頁中，您可以從已安裝模型列表中選擇模型並開始對話。

< > 在 GitHub 上更新