谷歌

特性	可用
工具	否
多模態	否

聊天介面可以連線到谷歌 Vertex API 端點 (支援的模型列表)。

要啟用

選擇或建立一個谷歌雲專案。
為您的專案啟用結算功能.
啟用 Vertex AI API.
設定服務賬戶認證，以便您可以從本地工作站訪問 API。

服務賬戶憑證檔案可以作為環境變數匯入

GOOGLE_APPLICATION_CREDENTIALS = clientid.json

確保您的 docker 容器可以訪問該檔案並且環境變數已正確設定。之後，可以按以下方式配置谷歌 Vertex 端點

MODELS=`[
  {
    "name": "gemini-1.5-pro",
    "displayName": "Vertex Gemini Pro 1.5",
    "endpoints" : [{
      "type": "vertex",
      "project": "abc-xyz",
      "location": "europe-west3",
      "extraBody": {
         "model_version": "gemini-1.5-pro-002",
      },
      // Optional
      "safetyThreshold": "BLOCK_MEDIUM_AND_ABOVE",
      "apiEndpoint": "", // alternative api endpoint url,
      "tools": [{
        "googleSearchRetrieval": {
          "disableAttribution": true
        }
      }]
    }]
  }
]`

GenAI

或者使用此處的 Gemini API API 提供商

確保您已從谷歌雲平臺獲得 API 金鑰。要獲取 API 金鑰，請按照此處的說明操作。

您可以直接在您的 .env.local 檔案中使用 GOOGLE_GENAI_API_KEY 變數指定它們，也可以直接在端點配置中設定它們。

您可以在此處找到可用模型的列表，並在此處找到可用的實驗模型。

MODELS=`[
  {
    "name": "gemini-1.5-flash",
    "displayName": "Gemini Flash 1.5",
    "multimodal": true,
    "endpoints": [
      {
        "type": "genai",

        // Optional
        "apiKey": "abc...xyz"
        "safetyThreshold": "BLOCK_MEDIUM_AND_ABOVE",
      }
    ]
  },
  {
    "name": "gemini-1.5-pro",
    "displayName": "Gemini Pro 1.5",
    "multimodal": false,
    "endpoints": [
      {
        "type": "genai",

        // Optional
        "apiKey": "abc...xyz"
      }
    ]
  }
]`

< > 在 GitHub 上更新

聊天使用者介面

谷歌

GenAI