《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 設計應用 > GSDCPeleeNet:基于PeleeNet的高效輕量化卷積神經網絡
GSDCPeleeNet:基于PeleeNet的高效輕量化卷積神經網絡
2021年電子技術應用第3期
倪偉健,秦會斌
杭州電子科技大學 電子信息學院 新型電子器件與應用研究所,浙江 杭州310018
摘要: 卷積神經網絡在各個領域都發揮著重要的作用,尤其是在計算機視覺領域,但過多的參數數量和計算量限制了它在移動設備上的應用。針對上述問題,結合分組卷積方法和參數共享、密集連接的思想,提出了一種新的卷積算法Group-Shard-Dense-Channle-Wise。利用該卷積算法,在PeleeNet網絡結構的基礎上,改進出一種高效的輕量化卷積神經網絡——GSDCPeleeNet。與其他卷積神經網絡相比,該網絡在具有更少參數的情況下,幾乎不損失識別精度甚至識別精度更高。該網絡選取1×1卷積層中卷積核信道方向上的步長s作為超參數,調整并適當地選取該超參數,可以在網絡參數量更小的情況下,擁有更好的圖像分類效果。
中圖分類號: TN911.73;TP399
文獻標識碼: A
DOI:10.16157/j.issn.0258-7998.200844
中文引用格式: 倪偉健,秦會斌. GSDCPeleeNet:基于PeleeNet的高效輕量化卷積神經網絡[J].電子技術應用,2021,47(3):22-26,30.
英文引用格式: Ni Weijian,Qin Huibin. GSDCPeleeNet:efficient lightweight convolutional neural based on PeleeNet[J]. Application of Electronic Technique,2021,47(3):22-26,30.
GSDCPeleeNet:efficient lightweight convolutional neural based on PeleeNet
Ni Weijian,Qin Huibin
Institute of New Electronic Devices and Applications,School of Electronic Information,Hangzhou Dianzi University, Hangzhou 310018,China
Abstract: Convolutional neural network plays an important role in various fields, especially in the field of computer vision, but its application in mobile devices is limited by the excessive number of parameters and computation. In view of the above problems, a new convolution algorithm, Group-Shard-Dense-Channle-Wise, is proposed in combination with the idea of grouping convolution and parameter sharing and dense connection. Based on the PeleeNet network structure, an efficient lightweight convolutional neural network, GSDCPeleeNet, is improved by using the convolution algorithm. Compared with other convolutional neural networks, this network has almost no loss of recognition accuracy or even higher recognition accuracy under the condition of fewer parameters. In this network, the step size s in the channel direction of convolution kernel in the 1×1 convolutional layer is selected as the super parameter. When the number of network parameters is smaller, better image classification effect can be achieved by adjusting and selecting the super parameter appropriately.
Key words : image classification;convolutional neural network;lightweight;dense connectivity;parameter sharing

0 引言

    隨著深度學習理論的提出和硬件設備計算速度的不斷突破,卷積神經網絡在近年來得以迅速發展。2012年,AlexNet[1]在ImageNet大規模視覺識別挑戰賽中獲得了圖像分類冠軍。之后,為了提高網絡模型的準確率,研究人員不斷地加深卷積網絡的深度,相繼提出了性能更加優越的卷積神經網絡,如VGG16[2]、GoogLeNet[3]和DenseNet[4]等。

    這些網絡準確率普遍較高,但是有著非常復雜的模型和很深的層次,參數量十分巨大。在實際生活的應用中,模型往往需要在資源有限的嵌入式設備和移動設備上運行。因此,研究人員開始著手研究,并且相繼提出了更高效的輕量級卷積神經網絡。它們保持了網絡的性能,大大減少了模型的參數量,從而減少計算量,提升了模型速度。

    曠視科技的ShuffleNet在ResNet[5]單元上進行了改進,有兩個創新的地方:逐點分組卷積和通道混洗[6]。WANG R J等提出的PeleeNet是一種輕量級網絡,它在DenseNet基礎上進行了改進和創新,主要有五個方面的結構改進[7]。ZHANG J N等提出了一種卷積核及其壓縮算法,通過這種卷積方法,ZHANG J N等發明了輕量卷積神經網絡SDChannelNets[8]

    可以看出,上述輕量卷積神經網絡均存在一定不足。在使用分組卷積時,為了解決分組卷積導致的信息丟失問題,需要增加額外的操作。在運用1×1卷積時,會導致1×1卷積的參數量在網絡總參數量中占據大部分。通過分析,這些網絡需要通過調整相應的超參數來提高網絡識別精度。這些操作往往會大大增加網絡模型參數量。

    為了解決這個不足,本文結合參數共享密集連接的卷積方法和分組卷積,基于PeleeNet網絡,提出了輕量級卷積神經網絡架構GSDCPeleeNet。適當調節超參數,在損失較小準確度甚至擁有更高準確度的情況下,減小了模型的參數量。  




本文詳細內容請下載:http://www.jysgc.com/resource/share/2000003403




作者信息:

倪偉健,秦會斌

(杭州電子科技大學 電子信息學院 新型電子器件與應用研究所,浙江 杭州310018)

此內容為AET網站原創,未經授權禁止轉載。
主站蜘蛛池模板: 久久综合国产乱子伦精品免费| 免费人成在线观看播放国产| h国产在线观看| 天天射天天操天天| 东北女人毛多水多牲交视频| 日韩一卡二卡三卡| 亚洲av永久无码精品三区在线4| 欧美色图亚洲激情| 伊人久久大香线蕉亚洲| 精品无码国产自产拍在线观看蜜 | 3d动漫精品啪啪一区二区免费| 天天操天天干天搞天天射| 东北大炕王婶小说| 日产精品99久久久久久| 久久精品午夜福利| 最近免费中文字幕mv在线电影| 亚洲国产日韩欧美综合久久| 欧美色欧美亚洲另类二区| 任我爽精品视频在线播放| 精品人妻av无码一区二区三区 | 久久青青草原亚洲av无码| 欧美三级不卡在线观看| 亚洲成色www久久网站| 欧美黑人又粗又大又爽免费| 亚洲综合国产一区二区三区| 精品一区二区三区免费视频| 十分钟在线观看免费视频www| 美女裸体a级毛片| 国产91青青成人a在线| 色精品一区二区三区| 国产久视频观看| 被公侵犯肉体的中文字幕| 国产免费播放一区二区| 香蕉免费一级视频在线观看| 国产女人18毛片水真多| 黄色一级毛片在线观看| 国产成人无码区免费内射一片色欲| 性xxxxbbbb| 国产精品一区二区av| 亚洲国产香蕉视频欧美| 国产浮力影院第一页|