科技

MIC智賦研討會探討網路安全 未來5年AI資安商機逾350億美元

商傳媒|記者許方達/綜合報導

由資策會產業情報研究所(MIC)舉辦的「第37屆MIC FORUM Spring智賦研討會」本週(16日至18日)登場,本次活動以AI為主軸,聚焦產業前瞻趨勢以及AI治理、應用商機、系統發展與終端產品觀測等面向。

17日聚焦生成式AI產品應用型態發展,資策會MIC產業顧問韓揚銘表示,根據MIC調查,2024年台灣五大行業有採用生成式AI意願或相關行動的比例已達19%,金融保險業高達25%,製造業居次達22%。生成式AI市場持續發展,投資規模與廠商數量仍急劇增加。

圖片來源:資策會產業情報研究所

生成式AI將為產業帶來新的應用發展和商業契機,不過同時也會產生新的「資安風險」,更因此撬開「驅動防護」的發展與商機大門。資策會MIC表示,AI資安威脅有兩類:

第一是AI系統為攻擊目標,包含資料處理階段的資料污染,以及模型部屬後攻擊,情境如模型遭竊導致對抗性攻擊、提示注入導致資料外洩,以及AI蠕蟲(有自動化大量攻擊漏洞的能力),值得注意的是,在生成式AI中廣泛應用的RAG(應用檢索增強生成)技術,可存取企業知識庫,可能形成新的攻擊途徑。

第二是駭客利用AI進行網路攻擊,如深度偽造(DeepFake)、識別系統漏洞、網路釣魚郵件,駭客透過生成式AI也會加速開發攻擊程式。

資深產業分析師徐暐釗指出,資安是國安層面的議題,推動AI監管法規已成為國際共識並逐漸具體化;為此,企業須配合制定策略、流程,產出符合法規要求的評測與透明度報告,驅動可信任AI的流程與技術發展。

徐暐釗預期未來5年內,全球AI網路安全市場規模將超過350億美元。面對AI資安威脅,員工也是防護的關鍵一環,企業除了採取更主動與動態的安全策略,更須強化員工資安教育與培訓,提高企業對威脅的認識與應對力。

相關文章