由于作者原因,導(dǎo)致 《自動化學(xué)報》 2022 年第 4 期發(fā)表的《視覺 Transformer 研究的關(guān)鍵問題:現(xiàn)狀及展望》 (田永林,王雨桐,王建功,王曉,王飛躍)文中出現(xiàn)錯誤和遺漏,現(xiàn)糾正如下:

引言:最后一段中“第2 節(jié)給出了···對應(yīng)的研究進(jìn)展;” 改為“第2 節(jié)介紹 Transformer 研究中的關(guān)鍵問題以及對應(yīng)的研究進(jìn)展;第3 節(jié)給出了視覺 Transformer的一般性框架;”.

1.2 節(jié):第一段中“L=6 ” 改為“L∈{12,24,32}”.

1.3 節(jié):式 (6)修改為“A=softmax”.式 (8)修改為“MSA(z)=[SA1(z);SA2(z);···;SAh(z)]Umsa”.

1.4 節(jié):第一段中“ViT 使用了絕對位置···,其計算過程如下:” 改為“ViT 使用了可學(xué)習(xí)的位置編碼方式,通過定義可訓(xùn)練變量實(shí)現(xiàn)位置編碼.相比之下,一種更為原始的位置編碼方案[8]是使用正余弦函數(shù)實(shí)現(xiàn):”.

2.2.6 節(jié):第二段的最后補(bǔ)充:“本部分后續(xù)內(nèi)容對典型的相對位置編碼方法進(jìn)行了介紹[82].” 第八段中“Axial-Deeplab 中的RPE[81]” 改為“Axial-Deeplab 中的RPE[129]”.

表1～表6:表1 中第1 行第3 列和第10 行第2 列更新為“-,O (Nsd)”,同時在表題中補(bǔ)充“表中數(shù)據(jù)主要參考文獻(xiàn)[56].” 和“Most of the data in the table are from reference [56].”.表2 中第1,2 行第5 列更新為“55.4,190.7”.表3 中第16,17 行第4 列更新為“86,86”.表4 中第2 行第6 列,第9 行第4 列,第10 行第5 列和第10～12 行第3 列分別更新為“257,640,27,-,-,-”.表5 中第5 行第4～9 列和第18 行第3,5～9 列分別更新為“18.0,38.8,16.5,41.7,56.2,40.4,-,50.5,29.1,53.8,71.2,-”,同時刪除第15～17 行.表6 中第1～2 行第3 列更新為“500+25”.另外,表2～6 表題中補(bǔ)充“表中數(shù)據(jù)主要參考文獻(xiàn) [18].”和“Most of the data in the table are from reference [18].”.

[129] Wang H,Zhu Y,Green B,et al.Axial-deeplab:Stand-alone axial-attention for panoptic segmentation.In:Proceedings of the European Conference on Computer Vision.Springer,Cham,2020.108-126.

*修正后的文章請見 https://hub-tian.github.io/aas-transformer-survey

特此更正并致誠摯歉意！