IBM 案例研究

「我們正在尋找一個足夠簡單且易於維護的解決方案，同時在各方面為服務團隊提供 100% 的所有權。我們在 2022 年初使用 Knative Eventing（由 Knative Kafka Broker 支援）為我們的 watsonx Assistant 用例建立了一個原型系統。我們的初步結果在各個層面都超過了我們現有的基準。在投入足夠的時間使其達到生產就緒狀態後，我們將其推廣到六個地理區域的所有生產 IBM 雲端叢集。」

IBM watsonx Assistant 使用 Knative Eventing 來訓練機器學習模型

隨著 IBM 的雲端策略演進並轉向私有雲和混合雲，諸如 IBM Cloud Pak for Data 和受管理的雲端服務供應商 (MCSP) 等解決方案現在需要高度可攜式的 watsonx 服務，這些服務能夠在客戶硬體、私有基礎架構和 IBM 無法存取的資料儲存提供商上執行。我們現有的機器學習訓練基礎架構最初是幾年前以公有雲基礎架構為重點設計的，並進行了升級，以確保與各種雲端基礎架構解決方案的相容性。然而，隨著我們的客戶群擴展到這些平台，相關的營運成本也隨之增加。同時，為了改善客戶體驗，也越來越需要縮短機器學習的訓練時間。隨著時間的推移，我們已經對我們的意圖辨識演算法和訓練基礎架構堆疊進行了大量的優化，將訓練時間從 3.5 分鐘縮短到令人印象深刻的 90 秒。儘管如此，進一步的優化仍帶來了挑戰，包括與分散式設定中的資源利用率和背壓處理相關的問題。認識到需要一個全面的解決方案，我們開始進行範式轉變，以重新定義我們整個 ML 訓練基礎架構。

請在 CNCF 網站上閱讀完整的案例研究

IBM watsonx Assistant 如何使用 Knative Eventing 來訓練機器學習模型