改进的轻量型网络在图像识别上的应用

TP391.41; 针对卷积神经网络在图像识别任务上模型复杂度大、参数量多,首先提出了一种轻量化的SepNet网络结构,该结构在分类器模块上采用克罗内克积替换了传统的全连接层.为进一步优化网络结构,在特征提取模块均衡网络深度、宽度,设计了一个利用深度可分离卷积和残差网络的可分离残差模块,最终形成了一个能实现端到端训练的轻量化网络架构,称为sep_res18_s3.实验分别在MNIST、CIFAR-10、CIFAR-100数据集上验证SepNet的有效性,设计的SepNet网络结构相比VGG10,参数数量和运算量在不损失其精度下均降低了94.15％.同时,相比设计的类残差网络cov_res18_...

Full description

Saved in:
Bibliographic Details
Published in计算机科学与探索 Vol. 15; no. 4; pp. 743 - 753
Main Authors 肖振久, 杨晓迪, 魏宪, 唐晓亮
Format Journal Article
LanguageChinese
Published 辽宁工程技术大学 软件学院,辽宁 葫芦岛 125105%中国科学院海西研究院 泉州装备制造研究所,福建 晋江 362200 01.04.2021
Subjects
克罗内克积
卷积神经网络(CNN)
图像识别
深度可分离卷积
轻量化
Online AccessGet full text
ISSN1673-9418
DOI10.3778/j.issn.1673-9418.2004057

Cover

Abstract TP391.41; 针对卷积神经网络在图像识别任务上模型复杂度大、参数量多,首先提出了一种轻量化的SepNet网络结构,该结构在分类器模块上采用克罗内克积替换了传统的全连接层.为进一步优化网络结构,在特征提取模块均衡网络深度、宽度,设计了一个利用深度可分离卷积和残差网络的可分离残差模块,最终形成了一个能实现端到端训练的轻量化网络架构,称为sep_res18_s3.实验分别在MNIST、CIFAR-10、CIFAR-100数据集上验证SepNet的有效性,设计的SepNet网络结构相比VGG10,参数数量和运算量在不损失其精度下均降低了94.15％.同时,相比设计的类残差网络cov_res18_s3,sep_res18_s3仍能降低58.33％的参数量和81.82％的FLOPs.实验结果表明,采用克罗内克积替换全连接层可以在保证训练结果准确度的同时显著降低参数数量和计算成本,并在一定程度上防止过拟合,在此基础上结合深度可分离卷积和类残差结构,证明了sep_res18_s3的有效性.
AbstractList TP391.41; 针对卷积神经网络在图像识别任务上模型复杂度大、参数量多,首先提出了一种轻量化的SepNet网络结构,该结构在分类器模块上采用克罗内克积替换了传统的全连接层.为进一步优化网络结构,在特征提取模块均衡网络深度、宽度,设计了一个利用深度可分离卷积和残差网络的可分离残差模块,最终形成了一个能实现端到端训练的轻量化网络架构,称为sep_res18_s3.实验分别在MNIST、CIFAR-10、CIFAR-100数据集上验证SepNet的有效性,设计的SepNet网络结构相比VGG10,参数数量和运算量在不损失其精度下均降低了94.15％.同时,相比设计的类残差网络cov_res18_s3,sep_res18_s3仍能降低58.33％的参数量和81.82％的FLOPs.实验结果表明,采用克罗内克积替换全连接层可以在保证训练结果准确度的同时显著降低参数数量和计算成本,并在一定程度上防止过拟合,在此基础上结合深度可分离卷积和类残差结构,证明了sep_res18_s3的有效性.
Author 魏宪
肖振久
杨晓迪
唐晓亮
AuthorAffiliation 辽宁工程技术大学 软件学院,辽宁 葫芦岛 125105%中国科学院海西研究院 泉州装备制造研究所,福建 晋江 362200
AuthorAffiliation_xml – name: 辽宁工程技术大学 软件学院,辽宁 葫芦岛 125105%中国科学院海西研究院 泉州装备制造研究所,福建 晋江 362200
Author_FL WEI Xian
XIAO Zhenjiu
TANG Xiaoliang
YANG Xiaodi
Author_FL_xml – sequence: 1
  fullname: XIAO Zhenjiu
– sequence: 2
  fullname: YANG Xiaodi
– sequence: 3
  fullname: WEI Xian
– sequence: 4
  fullname: TANG Xiaoliang
Author_xml – sequence: 1
  fullname: 肖振久
– sequence: 2
  fullname: 杨晓迪
– sequence: 3
  fullname: 魏宪
– sequence: 4
  fullname: 唐晓亮
BookMark eNo9jT9LAzEYhzNUsNZ-B1eHO9_kzTWXUYr_oOCic8ndJdJTUjCKOisqOpTCTbY4Fxxc1VL9MsY7v4UFxemBHw-_Z4nUbN9qQlYohChEvJaHPedsSFsCA8lpHDIADpGokfr_tkiazvUSiDhnVLTiOsGv4rX6GJUPV9Vs-n0z8I_35WxYTsd-PPGjd385qJ6v_e3T58vd3PFvRVlMlsmCUUdON__YIPubG3vt7aCzu7XTXu8EjgLngTKSxhlNE0CjmDKpEUoiIE-5TECyiEbCSJ4BghZCxhlDFVE00uhEK6axQVZ_f8-UNcoedPP-6bGdF7u5yw_PL04cAzZPAeX4A2Z6Xa4
ClassificationCodes TP391.41
ContentType Journal Article
Copyright Copyright © Wanfang Data Co. Ltd. All Rights Reserved.
Copyright_xml – notice: Copyright © Wanfang Data Co. Ltd. All Rights Reserved.
DBID 2B.
4A8
92I
93N
PSX
TCJ
DOI 10.3778/j.issn.1673-9418.2004057
DatabaseName Wanfang Data Journals - Hong Kong
WANFANG Data Centre
Wanfang Data Journals
万方数据期刊 - 香港版
China Online Journals (COJ)
China Online Journals (COJ)
DatabaseTitleList
DeliveryMethod fulltext_linktorsrc
DocumentTitle_FL Improved Lightweight Network in Image Recognition
EndPage 753
ExternalDocumentID jsjkxyts202104014
GrantInformation_xml – fundername: (国家自然科学基金青年基金); (福建省智能物流产业技术研究院建设项目); (机器人与系统国家重点实验室); (泉州市科技计划项目)
  funderid: (国家自然科学基金青年基金); (福建省智能物流产业技术研究院建设项目); (机器人与系统国家重点实验室); (泉州市科技计划项目)
GroupedDBID 2B.
4A8
92I
93N
ALMA_UNASSIGNED_HOLDINGS
M~E
PSX
TCJ
ID FETCH-LOGICAL-s1044-af918d1cb03fa2afcf7a93034c49b0925157f94d030e7798d23a513f9febea2e3
ISSN 1673-9418
IngestDate Thu May 29 04:00:17 EDT 2025
IsPeerReviewed true
IsScholarly true
Issue 4
Keywords 克罗内克积
卷积神经网络(CNN)
图像识别
深度可分离卷积
轻量化
Language Chinese
LinkModel OpenURL
MergedId FETCHMERGED-LOGICAL-s1044-af918d1cb03fa2afcf7a93034c49b0925157f94d030e7798d23a513f9febea2e3
PageCount 11
ParticipantIDs wanfang_journals_jsjkxyts202104014
PublicationCentury 2000
PublicationDate 2021-04-01
PublicationDateYYYYMMDD 2021-04-01
PublicationDate_xml – month: 04
  year: 2021
  text: 2021-04-01
  day: 01
PublicationDecade 2020
PublicationTitle 计算机科学与探索
PublicationTitle_FL Journal of Frontiers of Computer Science & Technology
PublicationYear 2021
Publisher 辽宁工程技术大学 软件学院,辽宁 葫芦岛 125105%中国科学院海西研究院 泉州装备制造研究所,福建 晋江 362200
Publisher_xml – name: 辽宁工程技术大学 软件学院,辽宁 葫芦岛 125105%中国科学院海西研究院 泉州装备制造研究所,福建 晋江 362200
SSID ssib054421768
ssib002040941
ssib002423894
ssib051375751
ssib023646573
ssib036438069
ssib002040926
Score 2.2914934
Snippet TP391.41; 针对卷积神经网络在图像识别任务上模型复杂度大、参数量多,首先提出了一种轻量化的SepNet网络结构,该结构在分类器模块上采用克罗内克积替换了传统的全连接层.为...
SourceID wanfang
SourceType Aggregation Database
StartPage 743
Title 改进的轻量型网络在图像识别上的应用
URI https://d.wanfangdata.com.cn/periodical/jsjkxyts202104014
Volume 15
hasFullText 1
inHoldings 1
isFullTextHit
isPrint
journalDatabaseRights – providerCode: PRVEBS
  databaseName: Inspec with Full Text
  issn: 1673-9418
  databaseCode: ADMLS
  dateStart: 20200501
  customDbUrl:
  isFulltext: true
  dateEnd: 99991231
  titleUrlDefault: https://www.ebsco.com/products/research-databases/inspec-full-text
  omitProxy: false
  ssIdentifier: ssib002423894
  providerName: EBSCOhost
– providerCode: PRVHPJ
  databaseName: ROAD: Directory of Open Access Scholarly Resources (selected full-text only)
  issn: 1673-9418
  databaseCode: M~E
  dateStart: 20070101
  customDbUrl:
  isFulltext: true
  dateEnd: 99991231
  titleUrlDefault: https://road.issn.org
  omitProxy: true
  ssIdentifier: ssib054421768
  providerName: ISSN International Centre
link http://utb.summon.serialssolutions.com/2.0.0/link/0/eLvHCXMwnV3NaxNBFF9qvXgRRcVvijinkJrdndmZd5xNNhShnlrorWySXUUhgklBe9CDoqKHIvRki-eCB69qqf4zxtT_wvfeziZrW6F6WWZn3ryP3xvmvUlmZj3vph_KFENPWs9yUHVJwxg6QY8mwxDSXlflAR1wXrwTLSzL2ytqZWb2WWXX0tqwM99dP_Jcyf94FevQr3RK9h88O2GKFVhG_-ITPYzPY_lYJJEAKWIQiRFxW0AsEi3ACiO5piVirAGBC37TFokSkAjDNNgEPhdiAU1uagpruBCLOKGCCbmXEbYtTMQ1WMbuKNEIYyuylIgtaUI1EvlUU17mkAjL4rAAmtVuUheq0ayJErYlbFQyT4gGnzZgJZHnZBc08TOBgIhJmqRdwhgUH-UpSFBAi-3BAggIHUDWTkmAJBawkHqVFkVGQKPSWZKyNqn-RBL4lZ01NKhZRELIFhwNWxWjhYrtNAx9RMCZhoPAFuIloVBCUHOuc3ahN6IKPEAqISpB87A87olgko_YQZZ7xghWXKMUs6FEoBzEtlU6u3WUG0o5qGfMVpAXFWFIxA3nbAusnSOuMTWOGnCW43CjblijnJ1Gu3FUdEMgkNcRHCNiQttSm1wZOUcRGrbmHFPAGfsC2jVMkIq7aMsIG-mwDtIF3TIEq8pUIyvxVBd3eLnUTBf3Sh-M-qHWhqM-CZifCOAffxrF9ecH7lS_P7j_4PGT4YAGC9L48oR3MsC0gL79svg0meav2AjV9Te9yz8OgmPCPwlo9DGGSE3XA_gamkY0WS8oP9T0P-fkXcrA18Vx3VLrYrchmXTrbwbx-cJ-nvbvVlLhpTPeabeGnbPFhHTWm1m_d84Lf25-2f--NX7_Yn9v99erjdGHt-O9d-Pd7dH2zmjr2-j5xv6nl6PXH398foM0o6-b482d895yO1lqLtTdF1nqA8RJ1tMcfNPzu2hangZp3s11CpgEy66EDiKFiyOdg-xh5pBpDaYXhCkanUOOsSINsvCCN9t_2M8uenONDLTKuzrwO1pCj_ZbhCpT0DEGGSp5ybvhjFx1M-5g9ZDbLh-H6Ip3ajopXPVmh4_Wsmu4khh2rrO3fwPuesao
linkProvider ISSN International Centre
openUrl ctx_ver=Z39.88-2004&ctx_enc=info%3Aofi%2Fenc%3AUTF-8&rfr_id=info%3Asid%2Fsummon.serialssolutions.com&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Ajournal&rft.genre=article&rft.atitle=%E6%94%B9%E8%BF%9B%E7%9A%84%E8%BD%BB%E9%87%8F%E5%9E%8B%E7%BD%91%E7%BB%9C%E5%9C%A8%E5%9B%BE%E5%83%8F%E8%AF%86%E5%88%AB%E4%B8%8A%E7%9A%84%E5%BA%94%E7%94%A8&rft.jtitle=%E8%AE%A1%E7%AE%97%E6%9C%BA%E7%A7%91%E5%AD%A6%E4%B8%8E%E6%8E%A2%E7%B4%A2&rft.au=%E8%82%96%E6%8C%AF%E4%B9%85&rft.au=%E6%9D%A8%E6%99%93%E8%BF%AA&rft.au=%E9%AD%8F%E5%AE%AA&rft.au=%E5%94%90%E6%99%93%E4%BA%AE&rft.date=2021-04-01&rft.pub=%E8%BE%BD%E5%AE%81%E5%B7%A5%E7%A8%8B%E6%8A%80%E6%9C%AF%E5%A4%A7%E5%AD%A6+%E8%BD%AF%E4%BB%B6%E5%AD%A6%E9%99%A2%2C%E8%BE%BD%E5%AE%81+%E8%91%AB%E8%8A%A6%E5%B2%9B+125105%25%E4%B8%AD%E5%9B%BD%E7%A7%91%E5%AD%A6%E9%99%A2%E6%B5%B7%E8%A5%BF%E7%A0%94%E7%A9%B6%E9%99%A2+%E6%B3%89%E5%B7%9E%E8%A3%85%E5%A4%87%E5%88%B6%E9%80%A0%E7%A0%94%E7%A9%B6%E6%89%80%2C%E7%A6%8F%E5%BB%BA+%E6%99%8B%E6%B1%9F+362200&rft.issn=1673-9418&rft.volume=15&rft.issue=4&rft.spage=743&rft.epage=753&rft_id=info:doi/10.3778%2Fj.issn.1673-9418.2004057&rft.externalDocID=jsjkxyts202104014
thumbnail_s http://utb.summon.serialssolutions.com/2.0.0/image/custom?url=http%3A%2F%2Fwww.wanfangdata.com.cn%2Fimages%2FPeriodicalImages%2Fjsjkxyts%2Fjsjkxyts.jpg