架構

本文件討論了 Chat UI 程式碼庫的高層次概述。如果您想參與貢獻，或者只是想了解程式碼庫的工作原理，那麼這裡就是為您準備的！

概述

Chat UI 提供了一個簡單的介面，用於將大語言模型 (LLM) 與外部資訊和工具連線起來。該專案使用 MongoDB 和 SvelteKit 搭配 Tailwind。

程式碼地圖

本節簡要討論了程式碼庫的各個模組。標題並非路徑，因為程式碼庫結構可能會發生變化。

routes

提供所有透過 SvelteKit 進行伺服器端渲染 (SSR) 的路由。大部分後端和前端邏輯都可以在這裡找到，其中一些模組被提取到客戶端的 `lib` 和伺服器端的 `lib/server` 中。

textGeneration

為大多數聊天功能（如模型輸出、網頁搜尋、助手和工具）提供標準介面。輸出 `MessageUpdate`，用於提供請求狀態的細粒度更新，例如新的令牌和網頁搜尋結果。

endpoints / embeddingEndpoints

為許多第三方 LLM 和嵌入提供商提供通用的流式介面。

websearch

實現網頁搜尋查詢和檢索增強生成（RAG）。更多資訊請參見網頁搜尋部分。

tools

為 LLM 呼叫的外部工具提供通用介面。更多資訊請參見工具部分。

migrations

包含所有 MongoDB 遷移，用於在模式變更時保持向後相容性。對模式的任何更改都必須包含一次遷移。

< > 在 GitHub 上更新