Ryght 的賦能之旅：Hugging Face 專家支援助力醫療保健與生命科學
本文是 Ryght 團隊的客座博文。
Ryght 是誰？
Ryght 正在為醫療保健和生命科學領域構建一個企業級生成式 AI 平臺。今天，他們正式釋出了 Ryght 預覽版，現已向所有使用者開放。
生命科學公司正在從各種來源（實驗室資料、電子病歷、基因組學、理賠、藥學、臨床資料等）積累大量資料，但這些資料的分析方式卻很陳舊，從簡單的查詢到開發有用的機器學習模型，都需要龐大的團隊來完成。推動藥物開發、臨床試驗和商業活動對可操作知識的需求巨大，而精準醫療的興起正加速這一需求。
Ryght 的目標是賦能生命科學專業人士，讓他們能夠迅速、安全地獲得所需的洞見。為此，他們正在構建一個 SaaS 平臺，為專業人士和組織提供行業特定的 AI 助手和定製化解決方案，以加速他們在各種複雜資料來源上的研究、分析和文件編制工作。
Ryght 認識到 AI 領域日新月異，因此在其發展早期便透過 ，尋求 Hugging Face 作為技術顧問合作伙伴。
攜手克服挑戰
我們與 Hugging Face 專家支援的合作，在加速我們生成式 AI 平臺的開發中起到了至關重要的作用。AI 領域的快速發展有望徹底改變我們的行業，而 Hugging Face 的高效能、企業級文字生成推理（TGI）和文字嵌入推理（TEI）服務本身就是遊戲規則的改變者。—— Johnny Crupi，CTO at Ryght
Ryght 在著手構建其生成式 AI 平臺時，面臨著多項挑戰。
1. 在高度動態的環境中，需要快速提升團隊技能並保持資訊靈通
隨著 AI 和 ML 技術的飛速發展，確保團隊瞭解最新的技術、工具和最佳實踐至關重要。這條持續學習的曲線十分陡峭，需要團隊協同努力才能保持資訊更新。
Hugging Face 的專家團隊處於 AI 生態系統的中心，他們的支援幫助 Ryght 緊跟與其領域相關的最新發展和模型。這透過開放的非同步溝通渠道、定期的顧問會議和專門的技術研討會得以實現。
2. 在眾多紛雜的選項中，識別出最具成本效益的機器學習方法
AI 領域創新不斷，湧現出大量的工具、庫、模型和方法論。對於像 Ryght 這樣的初創公司來說，必須撥開這些紛雜的選項，識別出哪些 ML 策略最適用於其在生命科學領域的獨特用例。這不僅需要了解當前最先進的技術，還需要展望哪些技術在未來仍能保持相關性和可擴充套件性。
Hugging Face 是 Ryght 技術團隊的合作伙伴，協助他們進行解決方案設計、概念驗證開發和生產工作負載最佳化。這包括針對 Ryght 的特定需求，提供關於庫、框架和模型的定製化建議，並附上如何使用的示範性示例。這些指導最終簡化了決策過程，並縮短了開發時間。
3. 需要開發強調安全性、隱私性和靈活性的高效能解決方案
鑑於其專注於企業級解決方案，Ryght 將安全性、隱私性和治理放在首位。這需要一個能夠與各種大型語言模型（LLM）即時互動的靈活架構，這是其生命科學特定內容生成和查詢處理的關鍵特性。
Ryght 瞭解開源社群內的快速創新，尤其是在醫療 LLM 方面，因此他們採用了一種支援“可插拔”LLM 的架構方法。這種設計選擇使他們能夠在新興或專業化的醫療 LLM 出現時，無縫地評估和整合它們。
在 Ryght 的平臺中，每個 LLM 都被註冊並連結到一個或多個特定於客戶的推理端點。這種設定不僅保障了連線的安全性，還提供了在不同 LLM 之間切換的能力，帶來了無與倫比的靈活性——這一設計選擇得益於採用了 Hugging Face 的 文字生成推理（TGI）和推理端點。
除了 TGI，Ryght 還將 文字嵌入推理（TEI）整合到了他們的 ML 平臺中。使用 TEI 來服務開源嵌入模型，相較於僅依賴專有嵌入模型，標誌著一個顯著的進步——這使得 Ryght 能夠從更快的推理速度、無需擔心速率限制以及靈活地服務自己微調的模型中受益，這些模型都是為滿足生命科學領域的獨特需求而量身定製的。
為了同時服務多個客戶，他們的系統設計用於處理大量併發請求，同時保持低延遲。他們的嵌入和推理服務不僅僅是簡單的模型呼叫，還包括一套擅長批處理、排隊和跨 GPU 分散式模型處理的服務。這一基礎設施對於避免效能瓶頸和確保使用者不經歷延遲至關重要，從而維持最佳的系統響應時間。
結論
Ryght 與 Hugging Face 的戰略合作及對其 ML 服務的整合，突顯了他們在醫療保健和生命科學領域提供前沿解決方案的承諾。透過採用靈活、安全、可擴充套件的架構，他們確保其平臺始終處於創新的最前沿，為客戶在駕馭現代醫療領域的複雜性方面提供無與倫比的服務和專業知識。
註冊 Ryght 預覽版，現已作為免費、安全的平臺向生命科學知識工作者開放，並提供無縫的上手體驗。Ryght 的 AI 助手庫包含多樣化的工具集合，可加速資訊檢索、複雜非結構化資料的綜合與結構化，以及文件構建，將可能需要數週才能完成的工作縮短至數天或數小時。如需諮詢定製構建和合作事宜，請聯絡他們的 AI 專家團隊，討論 Ryght for Enterprise。
如果您有興趣瞭解更多關於 Hugging Face 專家支援的資訊，請在此聯絡我們——我們的團隊將與您聯絡，討論您的需求！
