科技
「AI評測中心」年底推出 數位部助產業導入AI模型
商傳媒|綜合報導
2023年最火紅的代表字當屬「AI」,和碩科技董事長童子賢更以「得AI者、得天下」,為這股人工智慧浪潮做總結。與此同時,AI也衍生許多安全與隱私等問題;為了確保AI能安全使用、並進一步推動產業導入應用,數位發展部所屬的國家資通安全研究院計畫,將在年底成立「AI評測中心」,提供包括台版對話引擎TAIDE在內的模型測試,目前資安院也已開始招募「AI研究與評測工程師」。
「AI評測中心」將對模型進行:準確性、可靠性、公平性、可解釋性和安全性等各方面的評測和驗證,初期將選定生成式AI進行測試。數位部官員表示,AI很可能在各行各業廣泛應用,若不提供評測基準,產業在導入AI時,無法明確根據自身的市場角色和需求,選擇適合的AI工具。然而,這並不意味著所有模型都必須通過評測,評測的需求取決於產業自身願意承擔的風險和成本效益考量。
業者可以自行將其開發的模型送測,但「不強制」要求所有AI模型都參與驗測。可以將其比喻為「節電標章」,家電產品可以沒有節電標章也能販售,但有標章則能證明該產品確實具備節電效能。同樣地,AI模型並不需要評測完才能使用,但通過驗證則代表該模型在可靠性和安全性等方面達到政府要求的基準水準。
軟體產業人士對「驗證機制」感到認同,若由政府驗證來背書他們的演算法、數據乃至模型可信度,也能成為業者與產品的勳章,具「安全、可用」代表性,替相關產業帶來利多。