Fetch 利用 Amazon SageMaker 和 Hugging Face 將機器學習處理延遲降低 50%
本文交叉釋出自 2023 年 9 月 在 AWS 網站上最初發布的一篇文章。
概述
消費者參與和獎勵公司 Fetch 提供一款應用程式，允許使用者透過掃描收據來賺取購買獎勵。該公司還解析這些收據，以生成對消費者行為的洞察，並將這些洞察提供給品牌合作伙伴。隨著每週掃描量迅速增長，Fetch 需要提高其速度和精度。
在亞馬遜網路服務 (AWS) 上，Fetch 利用 Hugging Face 和 Amazon SageMaker 優化了其機器學習 (ML) 流程。Amazon SageMaker 是一種用於構建、訓練和部署機器學習模型的服務，提供完全託管的基礎設施、工具和工作流。現在，Fetch 應用程式可以更快、更準確地處理掃描。
機遇 | Fetch 利用 Amazon SageMaker 在 12 個月內加速機器學習流程
使用 Fetch 應用程式，客戶可以掃描收據、獲得積分，並用這些積分兌換禮品卡。為了立即獎勵使用者掃描收據，Fetch 需要能夠從收據中捕獲文字，提取相關資料，並對其進行結構化，以便其系統的其餘部分能夠處理和分析它。每週處理超過 8000 萬張收據，在高峰期每秒處理數百張收據，它需要快速、準確且大規模地執行此過程。
2021 年，Fetch 著手最佳化其應用程式的掃描功能。Fetch 是一家 AWS 原生公司，其機器學習運營團隊已經在使用 Amazon SageMaker 處理許多模型。這使得透過將模型遷移到 Amazon SageMaker 來增強其機器學習流程成為一個直接的決定。
在整個專案中，Fetch 每週與 AWS 團隊進行電話會議，並獲得了 AWS 為 Fetch 配對的領域專家支援。該公司在 12 個月內使用 Amazon SageMaker 構建、訓練和部署了超過五個機器學習模型。2022 年底，Fetch 推出了更新後的移動應用程式和新的機器學習流程。
“Amazon SageMaker 對 Fetch 來說是一個顛覆性的改變。我們廣泛使用了幾乎所有功能。新功能一推出，就立即顯現出價值。很難想象沒有 Amazon SageMaker 的功能，我們是如何完成這個專案的。”
Sam Corzine，機器學習工程師，Fetch
解決方案 | 在 Amazon SageMaker GPU 例項上利用機器學習和 Hugging Face 將延遲降低 50%
“利用 Hugging Face AWS 深度學習容器的靈活性，我們可以提高模型的質量，Hugging Face 與 AWS 的合作意味著部署這些模型變得簡單。”
Sam Corzine，機器學習工程師，Fetch
Fetch 的機器學習流程由多項 Amazon SageMaker 功能提供支援，尤其是 Amazon SageMaker 模型訓練，它可縮短大規模訓練和調整機器學習模型的時間和成本，以及 Amazon SageMaker Processing，一種簡化、託管的資料處理工作負載執行體驗。該公司使用多 GPU 例項執行其自定義機器學習模型，以實現快速效能。“Amazon SageMaker 上的 GPU 例項易於使用，”Fetch 後端工程師 Ellen Light 說。Fetch 訓練這些模型來識別和提取收據上的關鍵資訊，公司可以使用這些資訊生成有價值的洞察並獎勵使用者。在 Amazon SageMaker 上，Fetch 的自定義機器學習系統可以無縫擴充套件。“透過使用 Amazon SageMaker，我們有一種簡單的方法來擴充套件我們的系統，特別是對於推理和執行時，”Fetch 機器學習工程師 Sam Corzine 說。同時，標準化的模型部署意味著更少的手動工作。
Fetch 在改進和迭代模型時，嚴重依賴 Amazon SageMaker 的機器學習訓練功能，尤其是其訓練任務。Fetch 還可以並行訓練機器學習模型，從而加快開發和部署。“我們部署模型幾乎沒有障礙，”Fetch 應用科學家 Alec Stashevsky 說。“基本上，我們不必考慮它。”這增強了整個公司的信心，提高了生產力。舉例來說，一位新實習生在入職第三天就能夠獨立部署模型。
自採用 Amazon SageMaker 進行機器學習調優、訓練和再訓練以來，Fetch 已將其文件理解模型的準確性提高了 200%。它將繼續微調其模型以進一步改進。“Amazon SageMaker 是構建這些出色模型的關鍵工具，”Fetch 機器學習工程師 Quency Yu 說。為了最佳化調優過程，Fetch 依賴於 Amazon SageMaker Inference Recommender，這是 Amazon SageMaker 的一項功能，透過自動化負載測試和模型調優，縮短了將機器學習模型投入生產所需的時間。
除了其自定義機器學習模型外，Fetch 還使用 AWS 深度學習容器 (AWS DL Containers)，企業可以使用這些容器快速部署具有最佳化、預打包容器映象的深度學習環境。這簡化了使用來自Hugging Face Inc.（Hugging Face）的庫的過程，Hugging Face 是一家人工智慧技術公司，也是AWS 合作伙伴。具體來說，Fetch 使用 Amazon SageMaker Hugging Face 推理工具包（一個用於提供 Transformer 模型的開源庫）和 Hugging Face AWS 深度學習容器進行訓練和推理。“利用 Hugging Face AWS 深度學習容器的靈活性，我們可以提高模型的質量，”Corzine 說。“Hugging Face 與 AWS 的合作意味著部署這些模型變得簡單。”
自採用 Amazon SageMaker 以來，Fetch 衡量的各項指標效能均有所提升。該公司已將其最慢掃描的延遲降低了 50%。“我們提高的準確性也讓合作伙伴對我們的資料更有信心，”Corzine 說。隨著信心的增強，合作伙伴將增加對 Fetch 解決方案的使用。“能夠利用 Amazon SageMaker 顯著提高每個資料點的準確性，這是一個巨大的優勢，並會傳播到我們整個業務中，”Corzine 說。
Fetch 現在可以從收據中提取更多型別的資料，並且可以靈活地根據品牌合作伙伴的具體需求來構建所得的洞察。“投入機器學習使我們能夠準確提取合作伙伴想要從收據中獲取的資訊，”Corzine 說。“由於我們在機器學習方面的投入，合作伙伴可以提供新型的優惠，這對他們來說是一個巨大的額外好處。”
使用者也喜歡這些更新；自從釋出新版本以來，Fetch 的每月活躍使用者從 1000 萬增長到 1800 萬。“Amazon SageMaker 對 Fetch 來說是一個顛覆性的改變，”Corzine 說。“我們廣泛使用了幾乎所有功能。新功能一推出，就立即顯現出價值。很難想象沒有 Amazon SageMaker 的功能，我們是如何完成這個專案的。”例如，Fetch 從自定義影子測試管道遷移到 Amazon SageMaker 影子測試——它驗證新機器學習模型與生產模型的效能，以防止中斷。現在，影子測試更加直接，因為 Fetch 可以直接比較與生產流量的效能。
成果 | 將機器學習擴充套件到新的用例
Fetch 的機器學習團隊正在不斷開發新模型，並迭代現有模型以最佳化其效能。“我們還喜歡能夠讓我們的技術棧與 Amazon SageMaker 的新功能保持同步，”Fetch 的機器學習開發人員 Chris Lee 說。該公司將繼續將其 AWS 的使用擴充套件到不同的機器學習用例，例如跨多個團隊的欺詐預防。
Fetch 已經是最大的消費者參與軟體公司之一，其目標是繼續增長。“AWS 是我們計劃如何擴充套件的關鍵部分，我們將充分利用 Amazon SageMaker 的功能，以繼續提高我們的準確性，”Corzine 說。
關於 Fetch
Fetch 是一家消費者互動公司，向品牌合作伙伴提供消費者購買洞察。它還提供一款移動獎勵應用程式，允許使用者透過收據掃描功能賺取購買獎勵。
如果您在公司使用 Hugging Face on SageMaker 方面需要支援，請此處聯絡我們——我們的團隊將聯絡您討論您的需求！
