IBM 攜企業級人工智能解決方案亮相香港金融科技周

香港2024年11月8日 — 香港金融機構正面臨激烈競爭、非傳統競爭對手崛起，以及監管和風險管理問題日益複雜。為應對這些挑戰，金融服務業積極拓展人工智能（AI）應用範圍，並致力轉化為商業價值。然而，目前IBM觀察到企業在應用AI的範例仍相對有限。在今年六月舉辦的 IBM香港科技論壇上，香港商界和行業領袖指出，企業未能大規模推出AI解決方案的原因在於他們需要率先建立可信的人工智能治理，以及構建 AI 就緒的數據和AI就緒的基礎架構。  

IBM具備所需的技術、行業專業知識和生態系統能力，協助客戶拓展AI應用，以實現業務價值。在最近的香港金融科技周2024活動中，IBM中國香港有限公司展示了新一代的企業級AI技術和解決方案，並提供實際應用示範，以協助包括金融機構在內的行業客戶提高效率，應對風險管理需求。 

從左至右：IBM 諮詢香港區總經理許偉基 （Patrick Hui）、IBM中國/香港總經理潘鳳瑤（Mimi Poon）、 OneAsia高級營運總監梁錫波（Keeny Leung Sik Bor）、IBM 中國/香港首席科技總監李永輝（Peter Lee）

IBM中國/香港總經理潘鳳瑤（Mimi Poon）在香港金融科技周首日舉行的IBM 香港傳媒簡介會上特別提到IBM香港團隊剛剛參加在北京舉行的全球金融服務年度盛會Sibos^[i] 大會。她說：「今年Sibos關注的領域包括AI與金融服務的融合、數字貨幣和中央銀行數字貨幣 (CBDCs)、ESG在金融中的考慮、全球金融系統中的互操作性和合規性等。針對這些領域，IBM展示了多個實際解決方案。大會主題是『連接金融的未來』，這反映了金融行業正處在十字路口，機遇和挑戰並存。大會強調在快速數碼轉型的背景下，要通過協作來促進一個具有韌性和包容性的金融生態系統。這正是IBM香港的重要策略之一，通過拓展和加深與生態合作夥伴的協作，幫助行業客戶擴展AI，提升競爭力。」

IBM此次在香港金融科技周上展出了七個針對當下金融業挑戰的解決方案，包括：

1. LinuxOne虛擬資產
2. 現代化你的銀行以構建可擴展、安全、合規和高效的CBDC系統
3. 面向銀行和金融業的生成式人工智能 
4. 使用IBM治理、風險和合規（GRC）應對方案管理風險和合規性
5. 通過主動安全措施保護客戶數據降低受網絡攻擊的風險
6. 通過更深層次的自動化和資源優化推進您的金融運營（FinOps）
7. 解決應用程序和數據連接的混亂問題

watsonx.Governance 助企業應對全球AI合規要求 

隨著全球對AI合規要求不斷提高，包括歐盟最近推出的《人工智能法案》，香港政府亦針對金融服務業加緊相應的合規要求。全球企業積極提升AI治理水平，例如成立跨部門委員會，有些甚至聘請會計師事務所進行審查。這需要大量人力資源投入，但考慮到每個人的標準可能有所不同，因此對於那些使用混合模式的企業來說，建立開放式的技術標準、框架和護欄變得尤其重要。

IBM提供開放式的AI治理工具和框架，以確保企業內部標準的一致性。透過IBM watsonx.governance，企業能夠實施端到端的AI生命周期管理，降低風險，有助符合不斷演變的AI和行業法規要求。透過統一的儀表板，企業可以瀏覽全面的企業資訊，並根據不同持份者的需要顯示相應內容。例如，行政總裁（CEO）可以輕鬆查看企業的整體概況 ，包括 AI 專案的數量和生命週期；開發人員則可快速檢視應用程式的問題，並使用 IBM 一系列 AI 工具進行進一步檢查。所有資訊均來自單一資訊來源（Single Source of Truth），確保資訊的一致性，有助實現合規及控管目標。

Granite 3.0模型支援企業釋放數據價值，構建企業自己的AI

目前，很多企業所使用的大型語言模型（LLM）通常依賴第三方LLM公司進行訓練，因此無法控制用於訓練的數據。此外，在使用LLM時，企業往往會遇到一些出乎意料的回答，有時甚至出現所謂的幻覺 (hallucination)，即提供貌似事實的虛假或誤導性回答。

為此，IBM在最近舉辦的全球年度TechXchange大會上，宣佈推出其迄今為止最先進的AI模型家族——Granite 3.0^[ii]。IBM的第三代Granite旗艦語言模型在許多學術和行業基準測試中均能超越或匹敵同類領先模型提供商的模型，展示出強大的性能、透明性和安全性。該系列模型提供20億和80億參數兩個版本，支援企業實現高精準且高靈活度的AI，無需耗費大量GPU或資源進行訓練，並可直接應用於企業環境中，甚至可在個人電腦桌面和邊緣設備上運行，為用戶帶來更多本地化、定制化和個性化的能力。

IBM 中國/香港首席科技總監李永輝（Peter Lee）表示：「在高度監管的行業，特別是金融服務業，我們需要為每個決策提供詳盡解釋，而不僅僅是簡單地說『這是AI的決定』。Granite 3.0的關鍵特點是提供一個開放、高效的LLM模型，能夠實現更透明、更安全、更好的解釋性的生成式人工智能應用，有助於應對大型模型的黑盒問題。」

IBM Granite 3.0九大優勢：

1. 高度適應性： 可透過 IBM 的 InstructLab 技術，利用企業獨有且未曾使用過的數據進行微調，無縫融入各種業務環境和工作流程。
2. 成本效益： 提供與大型模型相媲美的特定任務性能，且價格比大型前沿模型低 3 到 23 倍。
3. 數據透明： IBM 公開 Granite 模型的訓練數據集，並詳細說明數據過濾、清理和處理步驟，提高透明度。 
4. 法律保護： IBM 在 watsonx.ai 平台上提供知識產權賠償，讓企業客戶更安心將數據與 Granite 模型融合，開發自家的 AI 應用程式。
5. 網絡安全： Granite Guardian 8B 和 2B模型提供市場領先的風險和危害檢測能力，提高企業數據安全。
6. 負責任的 AI： 透過 RAG（檢索增強生成）技術，Granite Guardian 能夠審查事實性、上下文關聯性和答案相關性，更進一步檢測社會偏見、仇恨言論、毒性內容等危害，使 AI 應用更符合道德規範。
7. 卓越性能： Granite 3.0 8B Instruct 模型在多項核心企業任務（如檢索增強生成）和安全基準測試中的表現均優於 Meta 和 Mistral 的同類型模型。
8. 數據全面： Granite 3.0 模型的訓練數據涵蓋 12 種自然語言和 116 種編程語言，超過 12 萬億個標記。
9. 開源平台： Granite 3.0 採用 Apache 2.0 許可證發佈，鼓勵開發者在 watsonx 平台上進行商業化應用和創新。

IBM Granite 3.0 提供多種尺寸和類型的模型：

• 8B 和 2B 指令模型與基礎模型，適用於一般用途。
• Granite Guardian 3.0 模型，確保 AI 應用安全可靠。
• Granite 3.0 專家混合模型，實現高效推理和低延遲。

IBM Granite 3.0 模型可透過多個平台獲取，包括 IBM watsonx 平台、HuggingFace、Nvidia NIM 堆棧、Google Vertex AI 等。IBM 更與 AWS、Docker、Qualcomm、Salesforce、SAP 等生態系統合作夥伴合作，將 Granite 模型整合到他們的產品或平台中，為企業提供更多選擇。

IBM 夥 OneAsia 為客戶提供本地部署watsonx的選項

客戶需要靈活的選擇，將AI能夠部署在雲端、在本地 （on-premises），或者是在混合的環境。爲此，IBM不斷拓展和加深與本地合作夥伴的合作，基於IBM領先的企業級混合雲平台紅帽OpenShift和AI與數據平台watsonx，結合合作夥伴的能力，共同構建適合本地行業客戶的AI解決方案，幫助客戶可以跨混合環境、跨不同的業務單位來規模化實施和部署AI，從而提升企業整體的競爭力，為客戶帶來實際的業務價值。

在香港，基於數據隱私考量，許多企業，特別是高度受監管的行業，無法將所有數據都存放於雲端，因此必須將其放置在自己的數據中心。在香港，購買GPU芯片具有相當大的挑戰性，而且在使用過程中常常會遇到噪音和過熱等問題。

有鑑於此，IBM與亞太地區領先的數據中心運營商與AI Factory 推動者亞洲脈絡有限公司（OneAsia Network Limited）宣佈簽署全新的合作協議。根據這項協議，IBM將在OneAsia獨有的AIOps Portal OAsis平台上運行完整的watsonx產品系列，結合OneAsia的GPU即服務（GPU as a Service，簡稱GPUaaS）能力、本地化經驗與行業覆蓋，為金融服務業、政府、航空、高等教育和專業服務等香港重要行業客戶提供本地化、安全、完整的GenAI-in-a-Box一站式本地部署（on-premises）解決方案。包括財務智慧顧問、適用於政府和航空業的「決策支援」助理和為高度受監管行業而打造的「GenAI品質保證」套件。 解決方案細節如下：

• 「財務智慧顧問」為是為金融服務業客戶設計的解決方案，自動提取財務數據，並提供會計處理和行動建議，不但大幅減少手動輸入和對賬所需的時間，還提高會計操作的準確性和合規性，透過可行的見解加強財務決策。
• 「決策支援助理」是為政府和航空業設計的互動聊天機器人，具備專業領域知識及程序，提供各種故障排除情境的動態決策樹，基於設備、系統和觀察到的故障而設定的可自訂提示，提供逐步指引以高效解決問題。
• 「GenAI 品質管理套件 」是專為金融服務業、政府、醫療以及專業服務等高度受監管的行業設計，用於監控和管理企業的AI活動。 該套件涵蓋模型狀況、準確性、漂移、偏差等方面，尤其是GenAI質量，支援中文指標，提供模型退化或表現不佳的警示和通知。透過即時洞察和警示，協助不同持份者就AI模型和應用案例做出明智決策。 

GenAI-in-a-Box 在OneAsia的專有AIOps Portal OAsis上展開。OAsis是一個優化GenAI和GPU負載的集中管理平台，能簡化企業AI操作並提升效能。透過IBM watsonx和OneAsia Oasis的結合，用戶以簡單幾步就能部署GenAI,  減輕培訓專業IT 團隊及其時間成本。OAsis可以幫助客戶靈活獲取GPU資源，按需擴展容量，並按量收費，為客戶提供高度的靈活性和成本控制。

OneAsia首席執行官、創始人李松德（Charles Lee）表示： 「根據這項合作協議，在OneAsia的GPU服務平台上將運行完整的watsonx產品系列。OneAsia將提供一個全方位的AI服務平台（包括硬件和軟件），以協助金融服務業、政府、航空、高等教育和專業服務等市場客戶開發其AI應用和需求。這項合作協議大大降低了客戶實施AI的門檻，提供OAsis AIOps平台和實施服務，讓客戶輕易地構建專屬的LLM、訓練和AI應用，減輕了技術團隊及GPU的成本。OneAsia靈活地以存放在本地數據中心的公有雲、私有雲和混合雲環境提供GPU服務，亦能為客戶提供On-Premises GPU基礎設施，全方位滿足客戶數據安全、跨境數據傳輸和主權安全問題。此外，我們培訓了優秀的本地AI團隊，全程支持客戶的AI化旅程。」

潘鳳瑤（Mimi Poon）認為：「客戶需要靈活多樣的方式來部署AI，以適應不同的行業用例和安全合規要求。此次與OneAsia簽署的合作協議具有里程碑的意義，將watsonx的AI、數據和治理能力全面嵌入OneAsia專有的AIOps平台，並提供獨特的GPUaaS的能力，不僅降低客戶實施AI的門檻，更滿足了他們本地(on-premises)部署watsonx的需求，尤其是對高度受監管的行業而言，這是一個非常重要的選項。」

IBM Consulting: 融合AI技術助客戶提升生產力

IBM 諮詢香港區總經理許偉基 （Patrick Hui）表示：「在香港，IBM Consulting協助客戶應對以下幾個主要挑戰：利用香港多元的科技生態系統，幫助客戶篩選和優化本地及海外技術；透過AI，IBM致力促進工作流程和提升生產力，解決人才和能力方面的問題；積極發揮IBM在龐大生態系統中的角色，提供各種能力及技術支援。」

IBM Consulting是唯一一間隸屬於科技公司的大型全球顧問公司, 致力提供技術、技能、人才和解決方案，協助客戶應對各種商業和技術挑戰。在過去的20多年中，全球諮詢行業經歷了巨大變革，從全球化到雲端轉型，再到如今的AI之旅，IBM一直引領著轉型潮流。

如今，IBM全球16萬諮詢顧問當中有超過65,000名具備GenAI技能。IBM諮詢的watsonx 實踐 提供生成式AI技術堆棧方面的專業知識，同時能將多年積累的行業洞察、企業業務經驗和全球視野帶給客戶，激發新的AI 應用場景，提供從策略諮詢到部署營運的端到端服務，與企業共創面向未來的AI 能力和數碼化轉型路線，實現更大的業務價值並持續增長。

IBM 不久前宣佈大幅擴展 IBM Consulting Advantage 的功能，這是IBM首推的基於 AI 的諮詢服務交付平台，它利用 IBM 及其戰略合作夥伴的技術大幅提升IBM諮詢顧問的專業能力。IBM 諮詢顧問使用Consulting Advantage 服務交付平台，上麵包含IBM獨有的方法論、項目資產、數碼助理群等，並整合IBM Consulting在各個領域積累的經驗，為諮詢顧問提供多元解決方案及工具應對客戶不同的需求，拓展企業級AI。

許偉基 （Patrick Hui）說：「IBM Consulting Advantage 的美妙之處在於整合了 IBM Consulting 在各行業領域所積累的豐富經驗，提供更多知識基礎，與諮詢顧問並肩合作，迅速爲客戶創造價值。」

IBM 還宣佈將新發佈的 Granite 3.0 LLM 作為IBM Consulting Advantage的預設模型。這意味著 IBM 遍布全球的 160,000 名顧問可以輕鬆地將 Granite 應用於從客戶服務到 IT 現代化的各種客戶用例中，幫助他們最大限度地提高 AI 投資回報率。

關於 IBM

IBM 是全球領先的混合雲與人工智能、以及企業服務提供商，為全球175個國家和地區的客戶服務，幫助企業把握其數據洞察、簡化業務流程、降本增效，獲得行業競爭優勢。 IBM 混合雲平台和紅帽OpenShift 為全球超過4,000家政府和企業機構的關鍵性基礎設施提供有力支撐，例如來自金融服務、電訊和醫療健康等行業的客戶，幫助他們快速、高效、安全地實現數碼轉型。 IBM 在人工智能、量子運算、特定行業的雲解決方案以及企業服務等方面的突破性創新，使其可以為客戶提供開放和靈活的選擇。 IBM 對信任、透明、責任、包容和服務的歷久彌新的承諾，是我們業務發展的基石。查詢更多資料，請瀏覽：www.ibm.com/ 

傳媒查詢：

郭韜 gguotao@cn.ibm.com