人工智慧(AI)已經開始改變我們生活的許多面向,創造了顯著的社會進步。從自動駕駛汽車到AI輔助醫療診斷,都顯示出我們正處於一個真正變革時代的開端。然而,既然有了機會,挑戰也隨之而來。AI推論是基於訓練有素的機器學習演算法進行預測的過程,無論是部署在雲端、邊緣還是終端,都要求在嚴格的功率預算(power budget)下提供優異的處理效能。人們普遍認為,僅憑CPU難以滿足這項要求,而是需要某種形式的運算加速才能更有效地處理AI推論的工作負載。與此同時,AI演算法正快速發展,且比傳統晶片的開發周期更迅速。如果使用ASIC等固定功能的晶片實現AI網路,則可能因先進AI模型的快速創新而很快就被淘汰。 |