合作媒體

DeepSeek R1蒸餾模型已上架 IBM 企業級AI平台 watsonx

企業透過IBM watsonx.ai 平台採用DeepSeek,可增強安全、治理與規模化部署能力 

台北2025年2月13日 — IBM 近日宣布IBM 的企業級AI 開發平台 watsonx.ai 已經提供DeepSeek-R1 的Llama 3.1 8B 與 Llama 3.3 70b蒸餾版本,協助企業建置專用AI模型,進行安全推理。IBM 表示,支持DeepSeek-R1 的蒸餾變體是 IBM 致力於AI開源創新的一部分;透過讓更多企業與開發者使用 watsonx.ai 平台上同類型且最優秀的開源模型,例如第三方的 DeepSeek與 IBM Granite 模型,IBM 期望繼續宣揚與培養協同合作與知識共享的文化。

企業在 IBM watsonx.ai 平台使用 DeepSeek-R1 蒸餾模型,可強化AI治理、資料安全與規模化部署。
企業在 IBM watsonx.ai 平台使用 DeepSeek-R1 蒸餾模型,可強化AI治理、資料安全與規模化部署。

IBM watsonx.ai 協助企業客戶按照特定需求、使用如 DeepSeek-R1與 IBM Granite等開源模型,從建置環境的靈活度,到建立直覺式的工作流包括代理型AI (AI agent) 的開發、微調、RAG、指令工程、及整合既有的企業應用程式等,watsonx.ai 的內建安全護欄可以保護企業用戶的應用程式。此外,IBM watson.ai 平台提供容易理解的格式和使用者介面,協助開發者測試與評估模型輸出,透過連接各種向量資料庫與嵌入式模型構建RAG,並且與LangChain和CrewAI等常見的框架和連接器協作。

IBM 認為資料安全與AI治理是企業在應用AI時最關心的議題。IBM watsonx.ai 除了提供安全護欄功能之外,DeepSeek 這類的開源模型在 watsonx.ai上將成為企業專屬應用,除了watsonx.ai平台,企業資料將不會在其他任何地方共享。此外,IBM watsonx.ai與 IBM watsonx.governance 工具包無縫整合,提供強大的治理、風險控管與合規 (GRC) 能力,確保企業AI應用在整個AI生命週期裡保持透明,是可解釋與負責任的AI應用。

企業可以藉由以下兩種方式,在 watsonx.ai 上使用 DeepSeek的蒸餾模型:一是透過watsonx.ai 的「按需部署目錄」使用DeepSeek Llama 3.1 8B 與 Llama 3.3 70b;二是使用自定義基礎模型導入功能導入 DeepSeek-R1 模型的其他變體,如 Qwen 蒸餾模型。

以下是從IBM watsonx的資源中心部署DeepSeek-R1基礎模型的步驟:

  1. 從選單點選資源中心
  2. 在「按小時付費」處,找到想部署的DeepSeek 模型
  3. 從「模型詳細訊息」網頁點選「部署」
  4. 從基礎模型段落點選「部署」,再選擇要部署基礎模型的位置
  5. 點選「建立」
  6. 透過「指令Lab」或API/SDK 開始使用模型

IBM watsonx.ai 在介面上用英文斜體顯示模型的思維過程,最終輸出則用非斜體顯示;只需一個簡單的提示,該模型就能推理並規劃回應裡需要包含的各部分。

使用者也可以使用 REST API 在 watsonx上部署R1模型;使用者必須將 bearer token 和 space-id 等訊息改為相應憑證。模型部署完成,使用者就可以從 Prompt Lab 或 watsonx.ai API 提示基礎模型。

試用watsonx.ai™中的DeepSeek-R1蒸餾模型

關於 IBM

IBM 是全球領先的混合雲、人工智慧及企業諮詢專業的提供者,為全球超過 175 個國家的客戶服務,協助其從擁有的資料裡獲取商業洞察、簡化業務流程、降低成本,並取得產業競爭優勢。 來自金融服務、電信和健康醫療等關鍵基礎設施領域、數千家政府和企業機構,採用 IBM 混合雲平台和 Red Hat OpenShift 解決方案,快速、高效、安全地實踐企業數位轉型。IBM 在人工智慧、量子運算、產業專用的雲端運算解決方案和企業諮詢服務領域的突破性創新,為客戶提供開放和靈活的選擇。IBM 對企業誠信、透明治理、企業社會責任、多元與包容文化和服務精神的承諾,歷久彌新,是 IBM 業務發展的基礎。

台灣 IBM 公司新聞室:https://taiwan.newsroom.ibm.com/

新聞聯絡

IBM 公司公關部           Kate Liu              kateliu@cn.ibm.com

IBM Corporation logo.
IBM Corporation logo.

 

相關文章