- 據點計畫2024-09-20
- AI監管浪潮捲進臺灣，產業指引將形塑未來1年臺灣企業的AI發展架構
產業資訊分享
生成式AI遍地開花，也強化了AI監管風氣
金管會開出產業主管機關開出第一槍，在去年10月揭露金融業運用AI核心原則，以建立治理及問責機制、重視公平性和以人為本價值觀、保護隱私及客戶權益、確保系統穩健性與安全性、落實透明性與可解釋性、促進永續發展等6大原則和8項配套政策，制定出金融業運用AI指引草案，已於上個月發布、徵詢意見，未來將供金融業者參考遵循。
企業需具備AI系統生命周期的管理機制
該草案聚焦的6大核心原則，其中有4項就按照AI系統生命周期的4個階段，提出每個階段的執行建議。比如公平性原則，建議金融業者在系統規畫和設計時，除了確立目的、辨識可能受不利影響群體外，還要提供救濟管道。
而在資料蒐集階段，則要確保資料、蒐集方式和來源不會產生偏見，在模型建立和驗證階段，企業要自行檢驗模型對不同群體的產出結果、聘請外部專家審查驗證，在最後的系統部署和監控階段，還要定期檢視、分析AI系統產出的結果是否存在歧視。
另一項產業非常重視的AI系統可解釋性原則，在系統設計階段給出的建議是，企業得選擇適合的解釋工具，並在資料蒐集及輸入階段，要留下與AI系統訓練資料相關資訊的書面紀錄。到了模型建立及驗證階段，還要提供可解釋性報告，並驗證內部人員是否了解AI模型的功能和決策因素。至於最後一個系統部署和監控階段，則是要持續監控可解釋性是否達成。
不只要兼顧AI系統生命周期，另外還有項建立治理及問責機制原則，更明確建議企業可做3件事，包括建立專屬團隊，來處理內部AI系統的運用，並針對AI模型進行風險管理和追蹤，如建立模型清單、部署後持續驗證等，甚至對已上線的AI系統，也要持續監控、記錄和審查。
而永續原則強調，企業要優化演算法、減少模型複雜度和運算需求，來達到節能效果，另也要採用高效能硬體設備、優化硬體設施的配置和管理。這些建議，將企業AI運作管理範圍，從資料科學進一步擴大到IT硬體採購與配置。
AI評測中心成立，要出臺AI產品標準規範
針對公部門和特定產業設置使用指引，就在2023年最後一個月，政府還瞄準AI產品，啟動了AI產品與系統評測中心（簡稱AI評測中心），要來制定AI產品和系統的評測制度與指引。這些制度和指引，預計今年出爐。
其中的運作環境，就是指完善法規制度和資料治理環境，可細分為推動資料治理、對通用領域和特定領域設置AI法規、成立AI產品和系統評測中心、加速發展接軌國際的AI規範與標準。其中，相關法規、指引已開始成形，數位部數位產業署也成立AI評測中心，下設制度推動委員會、技術審議小組等單位，來制定AI產品系統評測制度和指引。
他們還針對驅動生成式AI應用的大型語言模型（LLM），建立了10項初步評測項目，包括安全性、可解釋性、彈性、公平性、準確性、透明性、當責性、可靠性、隱私和資安等項目，來把關模型品質。由國科會主導的可信任人工智慧對話引擎（TAIDE），也正接受這10項評測，未來還有更多模型將納入這項評測。
這些評測項目和今年要問世的評測制度，將成為企業推出對外AI服務時的重要參考。因為，對企業來說，取得國家AI評測認證，就像是獲得食品標章一樣，證明自家服務所使用的模型，具備可解釋性、透明性和資安等能力，讓服務使用者安心採用。再加上臺灣逐步成形的產業AI指引，雖不具強制性，但將影響臺灣企業在未來一年的AI發展架構。