高性能異構(gòu)加速器MiniGo算子優(yōu)化方法
國防科技大學(xué)學(xué)報
頁數(shù): 10 2024-01-30
摘要: 根據(jù)高性能異構(gòu)加速器的特性和MiniGo的訓(xùn)練模式提出了一種高效的并行計算方法。對片上計算資源進(jìn)行合理規(guī)劃,實現(xiàn)異構(gòu)設(shè)備之間的流水并行優(yōu)化;根據(jù)異構(gòu)設(shè)備間存在共享存儲段設(shè)計了共享內(nèi)存編碼模式,減少數(shù)據(jù)傳輸開銷;根據(jù)數(shù)字信號處理簇內(nèi)具有多計算資源的特點結(jié)合算子計算-訪存特性設(shè)計了不同的算子并行計算優(yōu)化策略。同時,面向TensorFlow實現(xiàn)了一個易于使用的高性能計算庫。實驗結(jié)果顯...