模型結(jié)構(gòu)

ESE(Effective Squeeze and Extraction) layer是CenterMask模型中的一個block，基于SE（Squeeze and Extraction）改進得到。與SE的區(qū)別在于，ESE block只有一個fc層，(CenterMask : Real-Time Anchor-Free Instance Segmentation)的作者注意到SE模塊有一個缺點：由于維度的減少導致的通道信息損失。為了避免這種大模型的計算負擔，SE的2個FC層需要減少通道維度。特別的，當?shù)谝粋€FC層使用r(放縮通道尺度參數(shù))減少輸入特征通道，將通道數(shù)從c變?yōu)閏/r的時候，第二個FC層又需要擴張減少的通道數(shù)到原始的通道c.在這個過程中，通道維度的減少導致了通道信息的損失。因而，ESE僅僅使用一個通道數(shù)為c的FC層代替了兩個FC層，避免了通道信息的丟失。ESE模塊的整體結(jié)構(gòu)如下圖（c）所示。

論文地址：https://arxiv.org/pdf/1911.06667.pdf

項目地址：https://github.com/youngwanLEE/CenterMask

實現(xiàn)代碼

ESE Block的實現(xiàn)代碼如下所示：

YOLOv5模型改進

本文在YOLOv5目標檢測算法的Backbone和Head部分分別加入ESE Block來增強目標提取能力，以下分別是在Backbone以及Head中改進的模型結(jié)構(gòu)和參數(shù)（以YOLOv5s為例）。

在Backbone部分

在Head部分

總結(jié)

ESE Block在SE Attention注意力模型的基礎之上將2層FC層減少為1層，從而彌補特征信息的缺失。此外，ESE Block可進一步應用于YOLOv7、YOLOv8等模型中，歡迎大家關(guān)注本博主的微信公眾號 BestSongC，后續(xù)更多的資源如模型改進、可視化界面等都會在此發(fā)布。另外，本博主最近也在MS COCO數(shù)據(jù)集上跑了一些YOLOv5的改進模型，實驗表明改進后的模型能在MS COCO 2017驗證集上分別漲點1-3%，感興趣的朋友關(guān)注后回復YOLOv5改進。

?