淺談NIST《人工智慧風險管理框架》

人工智慧（Artificial Intelligence, AI）屬於一種社會技術（Socio-technical），會受到社會變化和人類行為等社會環境相關因素的影響。過去雖已建立一些針對傳統軟體或資訊系統之規範標準或管理框架規範，然AI系統所帶來的是與過去不同的風險，例如訓練AI系統時，若使用可能隨著時間變化的資料，訓練結果可能發生出乎意料的變化，以人類無法理解的方式影響AI系統的功能與可信度；且AI系統部署環境通常很複雜，當故障發生時，人們可能難以進行檢測或因應。