基于圖注意力和改進(jìn)Transformer的節(jié)點(diǎn)分類方法

摘要： 當(dāng)前，圖Transformer主要在傳統(tǒng)Transformer框架中附加輔助模塊達(dá)到對圖數(shù)據(jù)進(jìn)行建模的目的 .然而，此類方法并未改進(jìn)Transformer原有體系結(jié)構(gòu)，數(shù)據(jù)建模精度還有待進(jìn)一步提高.基于此，本文提出一種基于圖注意力和改進(jìn)Transformer的節(jié)點(diǎn)分類方法 .該方法構(gòu)建基于拓?fù)涮卣髟鰪?qiáng)的節(jié)點(diǎn)嵌入進(jìn)行圖結(jié)構(gòu)強(qiáng)化學(xué)習(xí)，并且設(shè)計(jì)基于二級掩碼的多頭注意力機(jī)制對節(jié)點(diǎn)特征進(jìn)...