Current Issue: <FITEE>

Frontiers of Information Technology & Electronic Engineering (former title: Journal of Zhejiang University SCIENCE C (Computers & Electronics), 2010-2014)

ISSN 2095-9184 (print); ISSN 2095-9230 (online); CN 33-1389/TP; Monthly.


FITEE is an international peer-reviewed journal indexed by SCI-E, Ei Compendex, DBLP, IC, Scopus, JST, CSA, etc. It covers research in Electrical and Electronic Engineering, including Computer Science, Information Sciences, Control, Automation, Telecommunications, and related disciplines.

Impact factor: 0.308 (2011), 0.297 (2012), 0.380 (2013), 0.415 (2014), 0.392 (2015), 0.622 (2016), 0.910 (2017), 1.033 (2018), 1.604 (2019), 2.161 (2020), 2.526 (2021).

 


Frontiers of Information Technology & Electronic Engineering

ISSN 2095-9184 (print), ISSN 2095-9230 (online), monthly

   Cover:  <216>
      
Contents:  <70>

<<<                         CONTENTS                         >>>

Research Articles

Towards robust neural networks via a global and monotonically decreasing robustness training strategy

Zhen LIANG, Taoran WU, Wanwei LIU, Bai XUE, Wenjing YANG, Ji WANG, Zhengbin PANG

DOI: 10.1631/FITEE.2300059 Downloaded: 483 Clicked: 569 Cited: 0 Commented: 0(p.1375-1389) <Full Text>   <PPT>  152

Chinese summary   <8>  基于全局和单调递减鲁棒性策略的鲁棒神经网络训练方法

梁震1,吴陶然2,3,刘万伟4,5,薛白2,杨文婧1,王戟1,庞征斌4
1国防科技大学量子信息研究所兼高性能计算国家重点实验室,中国长沙市,410073
2中国科学院软件研究所计算机科学国家重点实验室,中国北京市,100190
3中国科学院大学计算机科学与技术学院,中国北京市,100190
4国防科技大学计算机学院,中国长沙市,410073
5国防科技大学复杂系统软件工程实验室,中国长沙市,410073
摘要:深度神经网络的鲁棒性引发了学术界和工业界的高度关注,特别是在安全攸关领域。相比于验证神经网络的鲁棒性是否成立,本文关注点在于给定扰动前提下的鲁棒神经网络训练。现有的代表性训练方法--区间边界传播(IBP)和CROWN-IBP--在较小扰动下表现良好,但在较大扰动下性能显著下降,本文称之为衰退风险。具体来说,衰退风险是指与较小扰动情况相比,IBP系列训练方法在较大扰动情况下不能提供预期的鲁棒神经网络的现象。为了缓解这种衰退风险,我们提出一种全局的、单调递减的鲁棒神经网络训练策略,该策略在每个训练轮次考虑多个扰动(全局鲁棒性训练策略),并将其相应的鲁棒性损失以单调递减的权重进行组织(单调递减鲁棒性训练策略)。实验证明,所提策略在较小扰动下能够保持原有算法的性能,在较大扰动下的衰退风险得到很大程度改善。值得注意的是,与原有训练方法相比,所提训练策略保留了更多的模型准确度,这意味着该训练策略更加平衡地考虑了模型的鲁棒性和准确性。

关键词组:鲁棒神经网络;训练方法;衰退风险;全局鲁棒性训练;单调递减鲁棒性

Federated mutual learning: a collaborative machine learning method for heterogeneous data, models, and objectives

Tao SHEN, Jie ZHANG, Xinkang JIA, Fengda ZHANG, Zheqi LV, Kun KUANG, Chao WU, Fei WU

DOI: 10.1631/FITEE.2300098 Downloaded: 575 Clicked: 527 Cited: 0 Commented: 0(p.1390-1402) <Full Text>   <PPT>  149

Chinese summary   <8>  联邦相互学习:一种针对异构数据、模型和目标的协同机器学习方法

沈弢1,张杰2,贾鑫康2,张凤达1,吕喆奇1,况琨1,吴超3,吴飞1
1浙江大学计算机科学与技术学院,中国杭州市,310027
2浙江大学软件学院,中国杭州市,310027
3浙江大学公共管理学院,中国杭州市,310027
摘要:联邦学习(FL)是深度学习中的一种新技术,可以让客户端在保留各自隐私数据的情况下协同训练模型。然而,由于每个客户端的数据分布、算力和场景都不同,联邦学习面临客户端异构环境的挑战。现有方法(如FedAvg)无法有效满足每个客户的定制化需求。为解决联邦学习中的异构挑战,本文首先详述了数据、模型和目标(DMO)这3个主要异构来源,然后提出一种新的联邦相互学习(FML)框架。该框架使得每个客户端都能训练一个考虑到数据异构(DH)的个性化模型。在模型异构(MH)问题上,引入一种"模因模型"作为个性化模型与全局模型之间的中介,并且采用深度相互学习(DML)的知识蒸馏技术在两个异构模型之间传递知识。针对目标异构(OH)问题,通过共享部分模型参数,设计针对特定任务的个性化模型,同时,利用模因模型进行相互学习。本研究通过实验评估了FML在应对DMO异构性方面的表现,并与其他常见FL方法在相似场景下进行对比。实验结果表明,FML在处理FL环境中的DMO问题的表现卓越,优于其他方法。

关键词组:联邦学习;知识蒸馏;隐私保护;异构环境

Robust cross-modal retrieval with alignment refurbishment

Jinyi GUO, Jieyu DING

DOI: 10.1631/FITEE.2200514 Downloaded: 536 Clicked: 541 Cited: 0 Commented: 0(p.1403-1415) <Full Text>

Chinese summary   <7>  基于对齐自修正的鲁棒跨模态检索

郭金一1,丁洁玉2
1南京理工大学计算机科学与工程学院,中国南京市,210094
2青岛大学数学与统计学院,中国青岛市,266071
摘要:跨模态检索通过为不同模态数据建立一致的对齐方式来实现模态间的相互检索。目前多种跨模态检索方法已被提出并取得良好性能。这些方法使用干净对齐的跨模态数据进行训练。虽然这些数据在语义上是匹配的,但相较于互联网上容易获得的噪声对齐的数据(即成对但在语义上不匹配),标注成本很高。当用噪声对齐的数据训练这些模型时,它们的性能会急剧下降。因此,本文提出一种对齐自修正的鲁棒跨模态检索算法(RCAR),显著降低了噪声数据对模型的影响。具体来说,RCAR首先进行多任务学习,减缓模型对噪声数据的过拟合,使数据分离。然后,利用两成分的贝塔混合模型将数据分为干净数据和噪声数据,并根据后验概率修正对齐标签。此外,在噪声对齐范式中定义两种噪声类型:部分噪声数据和完全噪声数据。实验结果表明,与当下流行的跨模态检索方法相比,RCAR在两种类型的噪声下都能取得更稳健的性能。

关键词组:跨模态检索;鲁棒学习;对齐修正;贝塔混合模型

A knowledge-guided and traditional Chinese medicine informed approach for herb recommendation

Zhe JIN, Yin ZHANG, Jiaxu MIAO, Yi YANG, Yueting ZHUANG, Yunhe PAN

DOI: 10.1631/FITEE.2200662 Downloaded: 531 Clicked: 594 Cited: 0 Commented: 0(p.1416-1429) <Full Text>   <PPT>  95

Chinese summary   <6>  一种知识引导的基于中医学信息的药材推荐方法

金哲,张引,苗嘉旭,杨易,庄越挺,潘云鹤
浙江大学计算机科学与技术学院,中国杭州市,310027
摘要:在中国几千年历史中,中医一直是人们关注的焦点。近年来,随着人工智能技术的兴起,部分研究开始以数据驱动的方式学习中医的方剂,即根据病人的症状推荐一组药材。现有大多数药材推荐模型忽略了中医领域的知识,例如药材和症状之间的关系,中药药方形成逻辑,等等。本文提出一种以知识为引导、结合中医学信息的药材推荐方法。本文使用的知识包括从中医典籍及处方中提取的知识图谱,以此得到症状和药材之间的交互和共生关系。利用这些信息,基于图注意力网络提取症状和药材的特征向量。在此基础上,将处方学等中医学信息加入到预测层中,提高了模型对药材的预测能力。最后,在中医处方数据集上进行的实验表明,该方法优于目前主流的药材推荐算法。

关键词组:中医;药材推荐;知识图谱;图注意力网络

Attention-based efficient robot grasp detection network

Xiaofei QIN, Wenkai HU, Chen XIAO, Changxiang HE, Songwen PEI, Xuedian ZHANG

DOI: 10.1631/FITEE.2200502 Downloaded: 489 Clicked: 524 Cited: 0 Commented: 0(p.1430-1444) <Full Text>   <PPT>  102

Chinese summary   <6>  基于注意力的高效机器人抓取检测网络

秦晓飞1,胡文凯1,肖晨2,何常香2,裴颂文1,3,4,张学典1,3,4,5
1上海理工大学光电信息与计算机工程学院,中国上海市,200093
2上海理工大学理学院,中国上海市,200093
3上海市现代光学系统重点实验室,中国上海市,200093
4医用光学技术与仪器教育部重点实验室,中国上海市,200093
5同济大学上海智能科学与技术研究所,中国上海市,201210
摘要:为平衡抓取检测算法的推理速度和检测精度,本文提出一种编码器-解码器结构的像素级抓取检测神经网络,称为基于注意力的高效机器人抓取检测网络(AE-GDN)。在编码器阶段引入3个空间注意模块以增强细节信息,在解码器阶段引入3个通道注意模块以提取更多语义信息。采用多个轻量高效的DenseBlocks连接编码器和解码器,提高AE-GDN的特征建模能力。预测得到的抓取矩形框与标签抓取框之间的高交并比(IoU)值并不意味着高质量的抓取配置,但可能会导致碰撞。这是因为传统IoU损失计算方法将预测抓取框中心部分像素与夹爪附近像素视为同等重要。本文设计了一种新的基于沙漏形匹配机制的IoU损失计算方法,该方法可在高IoU和高质量抓取配置之间建立良好对应关系。AE-GDN在Cornell和Jacquard数据集上的准确率分别达到98.9%和96.6%。推理速度达到每秒43.5帧,参数仅约1.2×106。本文提出的AE-GDN已实际部署在机械臂抓取系统中,并实现良好抓取性能。代码可在https://github.com/robvincen/robot_gradet获得。

关键词组:机器人抓取检测;注意力机制;编码器-解码器;神经网络

RFPose-OT: RF-based 3D human pose estimation via optimal transport theory

Cong YU, Dongheng ZHANG, Zhi WU, Zhi LU, Chunyang XIE, Yang HU, Yan CHEN

DOI: 10.1631/FITEE.2200550 Downloaded: 489 Clicked: 521 Cited: 0 Commented: 0(p.1445-1457) <Full Text>   <PPT>  86

Chinese summary   <6>  RFPose-OT:基于最优传输理论的无线三维人体姿态估计

俞聪1,张东恒2,武治2,卢智2,解春阳1,胡洋3,陈彦2
1电子科技大学信息与通信工程学院,中国成都市,611731
2中国科学技术大学网络空间安全学院,中国合肥市,230026
3中国科学技术大学信息科学技术学院,中国合肥市,230026
摘要:本文提出一个新颖的RFPose-OT模型框架以实现从无线射频信号中估计三维人体姿态。与现有直接从射频信号中预测人体姿态方法不同,本文考虑射频信号与人体姿态之间的结构特征差异,提出基于最优传输理论在特征空间上将射频信号变换到人体姿态域,再根据变换后的特征预测人体姿态。为评估RFPose-OT模型,本文构建了一个无线电系统和一个多视角相机系统获取无线信号数据以及真实的人体姿态标签。在室内基本环境、室内遮挡环境以及室外环境中的实验结果表明,RFPose-OT模型能精确地估计三维人体姿态,优于现有方法。

关键词组:无线射频感知;人体姿态估计;最优传输;深度学习

Synchronization transition of a modular neural network containing subnetworks of different scales

Weifang HUANG, Lijian YANG, Xuan ZHAN, Ziying FU, Ya JIA

DOI: 10.1631/FITEE.2300008 Downloaded: 455 Clicked: 332 Cited: 0 Commented: 0(p.1458-1470) <Full Text>   <PPT>  181

Chinese summary   <6>  包含不同尺度子网络的模块化神经网络同步转换

黄卫芳1,杨利建1,詹璇1,付子英2,贾亚1
1华中师范大学物理科学与技术学院,中国武汉市,430079
2华中师范大学生命科学学院,中国武汉市,430079
摘要:时间延迟和耦合强度是影响神经网络同步的重要因素。本文利用霍奇金-赫胥黎(HH)神经元模型构建一个包含不同尺度子网络的模块化神经网络,即小尺度随机网络通过化学突触与大尺度小世界网络单向连接。研究发现,时间延迟在网络中诱发了多个同步转换。当时间延迟是单个神经元放电周期的整数倍时,耦合强度增加也促进网络同步化。考虑到模块化网络中不同位置的时间延迟可能具有不同作用,我们探讨子网络之间以及子网络内部的时间延迟对模块化网络同步的影响。我们发现,当子网络内同步良好时,两个子网络内部时间延迟增加会诱发其自身出现多个同步转换。此外,小尺度网络的同步状态会影响大尺度网络的同步。进一步发现,两个子网络之间的时间延迟诱导模块化网络的同步转换,但对接收信号的子网络内的同步基本无影响。通过分析两个子网络之间的相位差,我们发现模块化网络出现同步转换的机制是相位差的周期性变化。最后,通过对不同尺度模块化网络的研究,证明了本文结果的泛化性。

关键词组:霍奇金-赫胥黎神经元;模块化神经网络;子网络;同步;时间延迟

Wideband and high-gain BeiDou antenna with a sequential feed network for satellite tracking

Zhuolin DENG, Zhongyu TIAN, Chenhe DUAN, Pei XIAO, Zhu LIU, Gaosheng LI

DOI: 10.1631/FITEE.2200244 Downloaded: 1006 Clicked: 858 Cited: 0 Commented: 0(p.1471-1481) <Full Text>   <PPT>  186

Chinese summary   <6>  用于卫星跟踪的加载顺序馈电网络的宽带高增益北斗天线

邓卓林1,田中玉1,段晨贺1,肖培1,刘柱2,李高升1
1湖南大学电气与信息工程学院,中国长沙市,410082
2湖南师范大学物理与电子科学学院,中国长沙市,410082
摘要:北斗三号卫星导航系统于2020年正式启用,为全球人民带来高性能服务的同时,导航系统也对北斗天线的设计提出更高要求。本文提出一种宽带圆极化高性能北斗天线。该天线通过四端口顺序馈电网络实现宽带圆极化辐射,馈电网络从1.05 GHz到1.80 GHz的相位不平衡度小于7°。制造的天线在整个全球导航卫星系统(GNSS)频带上的回波损耗大于13 dB,轴比<3 dB,右旋圆极化增益(RHCP)在GNSS低频段大于4 dB,在高频段可达7.1 dB以上。本文天线尺寸为120 mm×120 mm×20 mm,即0.54λo×0.54λo×0.09λo,其中λo是中心频率波长。设计的天线连接到GNSS接收机上搜索到12颗北斗卫星,GNSS信号的信噪比(C/N0 )大于30 dB。这种高性能天线将为人们提供高质量的定位服务。

关键词组:北斗天线;宽带圆极化辐射;四端口顺序馈电网络;全球导航卫星系统(GNSS)接收机;卫星跟踪

Path guided motion synthesis for Drosophila larvae

Junjun CHEN, Yijun WANG, Yixuan SUN, Yifei YU, Zi'ao LIU, Zhefeng GONG, Nenggan ZHENG

DOI: 10.1631/FITEE.2200529 Downloaded: 332 Clicked: 313 Cited: 0 Commented: 0(p.1482-1496) <Full Text>   <PPT>  104

Chinese summary   <6>  基于路径引导的果蝇幼虫运动合成

陈俊君1,2,王燚军1,孙艺璇1,余益飞1,刘子奥1,龚哲峰1,4,5,郑能干1,3
1之江实验室基础理论研究院,中国杭州市,311121
2康复大学康复科学与工程学院,中国青岛市,266114
3浙江大学求是高等研究院,中国杭州市,310027
4浙江大学医学院附属精神卫生中心附属第二医院神经生物学与神经病学系,中国杭州市,310058
5浙江大学脑科学与脑医学学院教育部脑与脑机融合前沿科学中心,医学神经生物学卫生部重点实验室,中国杭州市,310058
摘要:软体动物身体可变形性和高自由度的特点为数学建模和运动合成带来很大挑战。受限于刚体骨骼假设或模型容量,传统解析模型和统计模型难以生成逼真和多模态的软体动物运动。本文建立一个大规模果蝇幼虫动态姿态数据集,并提出一个运动合成模型(Path2Pose),通过给定一段幼虫初始运动姿态序列和引导路径生成后续运动姿态序列。进一步地,通过循环生成的方式,Path2Pose模型可以合成长时间、多模态的果蝇幼虫运动姿态序列。运动评估实验表明,Path2Pose模型可以生成高度真实的软体动物运动,并在现有同类型模型中取得最好生成效果。本文的工作证明了深度神经网络在软体动物运动合成任务中的良好性能以及通过定制软体动物体型和引导路径生成长时间运动姿态的可行性。

关键词组:软体动物运动合成;动态姿态数据集;形态学分析;长时间姿态序列生成

Correspondences

Correspondence: Uncertainty-aware complementary label queries for active learning

Shengyuan LIU, Ke CHEN, Tianlei HU, Yunqing MAO

DOI: 10.1631/FITEE.2200589 Downloaded: 481 Clicked: 535 Cited: 0 Commented: 0(p.1497-1503) <Full Text>   <PPT>  91

Chinese summary   <6>  基于主动学习的不确定性感知补标签查询

刘圣源1,陈珂2,胡天磊1,毛云青3
1浙江大学浙江省大数据智能计算重点实验室,中国杭州市,310027
2浙江大学区块链与数据安全全国重点实验室,中国杭州市,310027
3城云科技(中国)有限公司,中国杭州市,310000
摘要:许多主动学习方法假设学习者可便捷地向注释者询问训练数据的完整标注信息。这些方法主要试图通过最小化标注数量降低标注成本。然而,对于许多现实中的分类任务来说,精确标注实例仍然非常昂贵。为降低单次标注行为成本,本文试图解决一种新的主动学习范式,称为具有补标签的主动学习(ALCL)。ALCL学习器只针对样例特定类别提出是或否的问题。在收到标注者答案后,ALCL学习器获得一些有监督实例和更多具有补标签的训练实例,这些补标签仅表示对应标签与该实例无关。。ALCL具有两个挑战性问题:如何选择要查询的实例以及如何从这些补标签和普通标签中提取信息。针对第一个问题,在主动学习范式下提出一种基于不确定性的抽样策略。针对第二个问题,改进了一种已有的ALCL方法,同时适配了我们的抽样策略。在各种数据集上的实验结果验证了本文方法的有效性。

关键词组:主动学习;图片分类;弱监督学习

Correspondence: A low-profile dual-polarization programmable dual-beam scanning antenna array

Shichao ZHU, Yuanfan NING, Hongbo CHU, Pei XIAO, Gaosheng LI

DOI: 10.1631/FITEE.2300253 Downloaded: 264 Clicked: 297 Cited: 0 Commented: 0(p.1504-1512) <Full Text>   <PPT>  186

Chinese summary   <5>  一种低剖面双极化可编程双波束扫描天线阵列

朱世超,宁远帆,褚宏波,肖培,李高升
湖南大学电气与信息工程学院,中国长沙市,410082
摘要:提出一种基于全息控制理论的低剖面双极化双波束扫描天线阵列。巧妙设计辐射单元,以通过控制集成在每个单元上的PIN二极管的状态实现可重构极化和辐射相位调制。将一个72通道的串并联等幅同相馈电网络与辐射阵列集成,实现阵列的低剖面特性。通过设计直流偏置电路,利用单片机对天线阵列数字编码,实现波束的二维动态精确偏转。加工制作了一个2单元子阵列和一个6×12阵列,并对该天线系统的数字可控辐射方向图特性进行实验验证。该天线系统可以在11 GHz实现−30°至30°的波束扫描,步进扫描角为5°。该天线系统具有体积小、成本低、易于集成、波束控制准确等特点,在雷达系统、智能天线等领域具有广阔的应用前景。

Journal of Zhejiang University-SCIENCE, 38 Zheda Road, Hangzhou 310027, China
Tel: +86-571-87952783; E-mail: cjzhang@zju.edu.cn
Copyright © 2000 - 2024 Journal of Zhejiang University-SCIENCE