《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 設計應用 > GSDCPeleeNet:基于PeleeNet的高效輕量化卷積神經網絡
GSDCPeleeNet:基于PeleeNet的高效輕量化卷積神經網絡
2021年電子技術應用第3期
倪偉健,秦會斌
杭州電子科技大學 電子信息學院 新型電子器件與應用研究所,浙江 杭州310018
摘要: 卷積神經網絡在各個領域都發揮著重要的作用,尤其是在計算機視覺領域,但過多的參數數量和計算量限制了它在移動設備上的應用。針對上述問題,結合分組卷積方法和參數共享、密集連接的思想,提出了一種新的卷積算法Group-Shard-Dense-Channle-Wise。利用該卷積算法,在PeleeNet網絡結構的基礎上,改進出一種高效的輕量化卷積神經網絡——GSDCPeleeNet。與其他卷積神經網絡相比,該網絡在具有更少參數的情況下,幾乎不損失識別精度甚至識別精度更高。該網絡選取1×1卷積層中卷積核信道方向上的步長s作為超參數,調整并適當地選取該超參數,可以在網絡參數量更小的情況下,擁有更好的圖像分類效果。
中圖分類號: TN911.73;TP399
文獻標識碼: A
DOI:10.16157/j.issn.0258-7998.200844
中文引用格式: 倪偉健,秦會斌. GSDCPeleeNet:基于PeleeNet的高效輕量化卷積神經網絡[J].電子技術應用,2021,47(3):22-26,30.
英文引用格式: Ni Weijian,Qin Huibin. GSDCPeleeNet:efficient lightweight convolutional neural based on PeleeNet[J]. Application of Electronic Technique,2021,47(3):22-26,30.
GSDCPeleeNet:efficient lightweight convolutional neural based on PeleeNet
Ni Weijian,Qin Huibin
Institute of New Electronic Devices and Applications,School of Electronic Information,Hangzhou Dianzi University, Hangzhou 310018,China
Abstract: Convolutional neural network plays an important role in various fields, especially in the field of computer vision, but its application in mobile devices is limited by the excessive number of parameters and computation. In view of the above problems, a new convolution algorithm, Group-Shard-Dense-Channle-Wise, is proposed in combination with the idea of grouping convolution and parameter sharing and dense connection. Based on the PeleeNet network structure, an efficient lightweight convolutional neural network, GSDCPeleeNet, is improved by using the convolution algorithm. Compared with other convolutional neural networks, this network has almost no loss of recognition accuracy or even higher recognition accuracy under the condition of fewer parameters. In this network, the step size s in the channel direction of convolution kernel in the 1×1 convolutional layer is selected as the super parameter. When the number of network parameters is smaller, better image classification effect can be achieved by adjusting and selecting the super parameter appropriately.
Key words : image classification;convolutional neural network;lightweight;dense connectivity;parameter sharing

0 引言

    隨著深度學習理論的提出和硬件設備計算速度的不斷突破,卷積神經網絡在近年來得以迅速發展。2012年,AlexNet[1]在ImageNet大規模視覺識別挑戰賽中獲得了圖像分類冠軍。之后,為了提高網絡模型的準確率,研究人員不斷地加深卷積網絡的深度,相繼提出了性能更加優越的卷積神經網絡,如VGG16[2]、GoogLeNet[3]和DenseNet[4]等。

    這些網絡準確率普遍較高,但是有著非常復雜的模型和很深的層次,參數量十分巨大。在實際生活的應用中,模型往往需要在資源有限的嵌入式設備和移動設備上運行。因此,研究人員開始著手研究,并且相繼提出了更高效的輕量級卷積神經網絡。它們保持了網絡的性能,大大減少了模型的參數量,從而減少計算量,提升了模型速度。

    曠視科技的ShuffleNet在ResNet[5]單元上進行了改進,有兩個創新的地方:逐點分組卷積和通道混洗[6]。WANG R J等提出的PeleeNet是一種輕量級網絡,它在DenseNet基礎上進行了改進和創新,主要有五個方面的結構改進[7]。ZHANG J N等提出了一種卷積核及其壓縮算法,通過這種卷積方法,ZHANG J N等發明了輕量卷積神經網絡SDChannelNets[8]

    可以看出,上述輕量卷積神經網絡均存在一定不足。在使用分組卷積時,為了解決分組卷積導致的信息丟失問題,需要增加額外的操作。在運用1×1卷積時,會導致1×1卷積的參數量在網絡總參數量中占據大部分。通過分析,這些網絡需要通過調整相應的超參數來提高網絡識別精度。這些操作往往會大大增加網絡模型參數量。

    為了解決這個不足,本文結合參數共享密集連接的卷積方法和分組卷積,基于PeleeNet網絡,提出了輕量級卷積神經網絡架構GSDCPeleeNet。適當調節超參數,在損失較小準確度甚至擁有更高準確度的情況下,減小了模型的參數量。  




本文詳細內容請下載:http://www.jysgc.com/resource/share/2000003403




作者信息:

倪偉健,秦會斌

(杭州電子科技大學 電子信息學院 新型電子器件與應用研究所,浙江 杭州310018)

此內容為AET網站原創,未經授權禁止轉載。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
99国内精品| 亚洲人午夜精品免费| 在线观看中文字幕不卡| 国产精品美女午夜av| 欧美日韩国产经典色站一区二区三区| 欧美+日本+国产+在线a∨观看| 久久久久久久性| 久久精品国产免费观看| 欧美一级成年大片在线观看| 亚洲欧美成aⅴ人在线观看| 一本一本久久a久久精品综合妖精| 91久久国产精品91久久性色| 亚洲二区在线视频| 久久精品一二三| 久久精品成人一区二区三区蜜臀 | 国产精品自拍三区| 久久免费黄色| 久久精品一区二区三区四区| 欧美中文字幕不卡| 欧美在线视频一区二区| 久久精品一级爱片| 久久偷窥视频| 男男成人高潮片免费网站| 欧美xx视频| 欧美日韩亚洲激情| 国产精品久久久久999| 国产精品区一区二区三区| 国产精品亚洲综合| 国内一区二区在线视频观看| 影音先锋日韩资源| 亚洲韩国日本中文字幕| 99热这里只有成人精品国产| 亚洲天堂av综合网| 性做久久久久久免费观看欧美| 欧美在线一二三四区| 亚洲黄网站在线观看| 99热这里只有精品8| 亚洲一区二区四区| 久久aⅴ国产欧美74aaa| 另类激情亚洲| 欧美日韩国产丝袜另类| 国产精品免费区二区三区观看| 国产亚洲欧美日韩一区二区| 亚洲成人在线观看视频| 日韩一本二本av| 亚洲免费在线| 亚洲国产综合在线| 亚洲视频第一页| 欧美专区在线观看| 欧美肥婆bbw| 国产精品久久久久aaaa九色| 国内精品嫩模av私拍在线观看 | 亚洲第一在线| 一区二区三区免费在线观看| 亚洲欧美日本视频在线观看| 亚洲国产网站| 亚洲永久免费视频| 久久久亚洲高清| 欧美日韩三级| 狠狠色丁香久久婷婷综合丁香| 亚洲精品乱码久久久久久按摩观| 亚洲综合精品自拍| 亚洲日本成人女熟在线观看| 午夜亚洲视频| 欧美v日韩v国产v| 国产精品性做久久久久久| 亚洲国产成人精品视频| 亚洲婷婷在线| 亚洲精品欧美激情| 久久av一区二区| 欧美日本免费| 狠狠色狠狠色综合日日tαg| 在线亚洲免费| 亚洲精品国产视频| 欧美一区二区大片| 欧美裸体一区二区三区| 国产一区二区三区免费在线观看| 亚洲伦理自拍| 亚洲国产成人tv| 羞羞答答国产精品www一本| 欧美岛国在线观看| 国产欧美一区二区在线观看| 亚洲精品影视在线观看| 亚洲国产91精品在线观看| 午夜精品在线| 欧美日韩国产精品成人| 激情久久婷婷| 亚洲欧美中文日韩在线| 一区二区三区.www| 免费观看成人鲁鲁鲁鲁鲁视频| 国产精品一区二区三区成人| 日韩一区二区电影网| 91久久香蕉国产日韩欧美9色| 欧美一区二区成人| 欧美午夜精品久久久| 亚洲高清在线视频| 久久国产精品72免费观看| 午夜精品视频在线观看| 欧美日韩一区不卡| 亚洲电影视频在线| 久久激情五月激情| 欧美在线一二三| 国产精品久久久久久久久果冻传媒| 亚洲国产精品第一区二区| 亚洲二区三区四区| 久久人91精品久久久久久不卡| 国产精品综合视频| 亚洲综合首页| 欧美一级久久久| 国产精品久久久久7777婷婷| 夜夜爽www精品| 亚洲婷婷在线| 欧美日在线观看| 亚洲精品欧美激情| 夜夜嗨一区二区| 欧美日韩免费在线观看| 日韩视频免费看| 中文精品99久久国产香蕉| 欧美日韩黄色一区二区| 亚洲精品男同| 一区二区三区四区五区在线| 欧美日韩国产专区| 99av国产精品欲麻豆| 99视频精品在线| 欧美日韩在线观看一区二区三区| 日韩视频在线观看免费| 一区二区三区不卡视频在线观看 | 亚洲精品乱码久久久久| 99re66热这里只有精品4 | 欧美日韩黄色大片| 日韩午夜免费| 亚洲一二三区精品| 国产精品成人一区二区三区夜夜夜 | 久久综合久久综合这里只有精品 | 亚洲一区二区网站| 欧美亚洲综合网| 国产色综合久久| 亚洲国产福利在线| 欧美大片va欧美在线播放| 亚洲黑丝在线| 中文欧美在线视频| 国产精品久久久久久影视| 亚洲欧美色一区| 久久综合色婷婷| 亚洲精品在线视频观看| 亚洲自拍三区| 国产日韩视频| 亚洲国产天堂久久综合| 欧美区国产区| 亚洲视频一二区| 久久精品中文字幕一区二区三区| 激情综合电影网| 亚洲另类自拍| 国产精品久久久久7777婷婷| 欧美在线播放视频| 蜜桃久久av一区| 99xxxx成人网| 久久九九久精品国产免费直播| 亚洲第一黄色| 亚洲伊人观看| 韩日精品在线| 一区二区三区精品| 国产精品网站在线播放| 亚洲成色777777在线观看影院| 欧美激情视频网站| 亚洲一区三区视频在线观看| 榴莲视频成人在线观看| 99re热这里只有精品视频 | 激情综合色综合久久| 夜夜爽www精品| 国产精品永久免费| 91久久精品美女高潮| 欧美手机在线| 亚洲成色777777女色窝| 欧美三级网址| 亚洲国产精品久久久久婷婷884| 欧美日韩视频一区二区三区| 欧美亚洲一级片| 欧美日韩日本国产亚洲在线| 久久超碰97人人做人人爱| 欧美日韩国产首页在线观看| 欧美一区二区成人6969| 欧美日韩岛国| 久久国产精品99国产精| 欧美四级剧情无删版影片| 亚洲高清免费在线| 国产精品a久久久久久| 最新成人av网站| 国产欧美日韩综合一区在线播放| 99www免费人成精品| 国内综合精品午夜久久资源| 亚洲视频导航| 亚洲高清视频在线| 久久精品女人| 这里只有精品在线播放| 欧美va天堂在线| 欧美在线地址| 国产精品欧美激情| 999亚洲国产精| 在线欧美日韩|