基于最大-最小策略的纵向联邦学习隐私保护方法
纵向联邦学习(Vertical federated learning,VFL)是一种新兴的分布式机器学习技术,在保障隐私性的前提下,利用分散在各个机构的数据实现机器学习模型的联合训练.纵向联邦学习被广泛应用于工业互联网、金融借贷和医疗诊断等诸多领域中,因此保证其隐私安全性具有重要意义.首先,针对纵向联邦学习协议中由于参与方交换的嵌入表示造成的隐私泄漏风险,研究由协作者发起的通用的属性推断攻击.攻击者利用辅助数据和嵌入表示训练一个攻击模型,然后利用训练完成的攻击模型窃取参与方的隐私属性.实验结果表明,纵向联邦学习在训练推理阶段产生的嵌入表示容易泄漏数据隐私.为了应对上述隐私泄漏风险,提出一种基于...
Saved in:
| Published in | 自动化学报 Vol. 50; no. 7; pp. 1373 - 1388 |
|---|---|
| Main Authors | , , , , , |
| Format | Journal Article |
| Language | Chinese |
| Published |
浙江工业大学网络空间安全研究院 杭州 310023%浙江大学网络空间安全学院 杭州 310007%浙江大学计算机科学与技术学院 杭州 310007
01.07.2024
浙江工业大学网络空间安全研究院 杭州 310023%浙江工业大学信息工程学院 杭州 310023 浙江工业大学信息工程学院 杭州 310023%浙江工业大学计算机科学与技术学院 杭州 310023 |
| Subjects | |
| Online Access | Get full text |
| ISSN | 0254-4156 |
| DOI | 10.16383/j.aas.c211233 |
Cover
| Abstract | 纵向联邦学习(Vertical federated learning,VFL)是一种新兴的分布式机器学习技术,在保障隐私性的前提下,利用分散在各个机构的数据实现机器学习模型的联合训练.纵向联邦学习被广泛应用于工业互联网、金融借贷和医疗诊断等诸多领域中,因此保证其隐私安全性具有重要意义.首先,针对纵向联邦学习协议中由于参与方交换的嵌入表示造成的隐私泄漏风险,研究由协作者发起的通用的属性推断攻击.攻击者利用辅助数据和嵌入表示训练一个攻击模型,然后利用训练完成的攻击模型窃取参与方的隐私属性.实验结果表明,纵向联邦学习在训练推理阶段产生的嵌入表示容易泄漏数据隐私.为了应对上述隐私泄漏风险,提出一种基于最大-最小策略的纵向联邦学习隐私保护方法(Privacy preservation method for vertical federated learning based on max-min strategy,PPVFL),其引入梯度正则组件保证训练过程主任务的预测性能,同时引入重构组件掩藏参与方嵌入表示中包含的隐私属性信息.最后,在钢板缺陷诊断工业场景的实验结果表明,相比于没有任何防御方法的VFL,隐私保护方法将攻击推断准确度从95％下降到55％以下,接近于随机猜测的水平,同时主任务预测准确率仅下降2％. |
|---|---|
| AbstractList | 纵向联邦学习(Vertical federated learning,VFL)是一种新兴的分布式机器学习技术,在保障隐私性的前提下,利用分散在各个机构的数据实现机器学习模型的联合训练.纵向联邦学习被广泛应用于工业互联网、金融借贷和医疗诊断等诸多领域中,因此保证其隐私安全性具有重要意义.首先,针对纵向联邦学习协议中由于参与方交换的嵌入表示造成的隐私泄漏风险,研究由协作者发起的通用的属性推断攻击.攻击者利用辅助数据和嵌入表示训练一个攻击模型,然后利用训练完成的攻击模型窃取参与方的隐私属性.实验结果表明,纵向联邦学习在训练推理阶段产生的嵌入表示容易泄漏数据隐私.为了应对上述隐私泄漏风险,提出一种基于最大-最小策略的纵向联邦学习隐私保护方法(Privacy preservation method for vertical federated learning based on max-min strategy,PPVFL),其引入梯度正则组件保证训练过程主任务的预测性能,同时引入重构组件掩藏参与方嵌入表示中包含的隐私属性信息.最后,在钢板缺陷诊断工业场景的实验结果表明,相比于没有任何防御方法的VFL,隐私保护方法将攻击推断准确度从95％下降到55％以下,接近于随机猜测的水平,同时主任务预测准确率仅下降2％. |
| Abstract_FL | Vertical federated learning(VFL)is an emerging distributed machine learning that applies to the data distributed in various institutions to realize the joint construction of privacy preservation machine learning models.It has been widely applied to various fields such as industrial internet,financial lending,and medical diagnosis.Therefore,the privacy security research of vertical federated learning highlights its significance.Aiming at the risk of privacy leakage caused by the embedding exchanged by participants in the vertical federated learning protocol,we propose a general property inference attack initiated by the server.The adversary uses the auxiliary data and the embedding exchanged by the vertical federated learning protocol to train the attack model and steal the target privacy property of the participant.The experimental results show that the embedding representation generated by the vertical federated learning during the training and inference process can reveal the information of the personal private property.To deal with the above proposed privacy leakage risk,proposed a privacy preservation method for vertical federated learning based on max-min strategy(PPVFL),which introduces a gradient regular component to ensure the performance of the main task of the training process and adopts a construction component to hide parti-cipant's privacy property.Finally,in steel defect diagnosis industrial scenarios,compared to VFL without any de-fense method,privacy-preserving method reduces attack inference accuracy from 95％to below 55％,which is close to the level of random guessing,while the main task only dropped by 2％of the prediction accuracy. |
| Author | 刘振广 陈晋音 刘涛 李荣昌 郑海斌 纪守领 |
| AuthorAffiliation | 浙江工业大学信息工程学院 杭州 310023%浙江工业大学计算机科学与技术学院 杭州 310023;浙江工业大学网络空间安全研究院 杭州 310023%浙江工业大学信息工程学院 杭州 310023;浙江工业大学网络空间安全研究院 杭州 310023%浙江大学网络空间安全学院 杭州 310007%浙江大学计算机科学与技术学院 杭州 310007 |
| AuthorAffiliation_xml | – name: 浙江工业大学信息工程学院 杭州 310023%浙江工业大学计算机科学与技术学院 杭州 310023;浙江工业大学网络空间安全研究院 杭州 310023%浙江工业大学信息工程学院 杭州 310023;浙江工业大学网络空间安全研究院 杭州 310023%浙江大学网络空间安全学院 杭州 310007%浙江大学计算机科学与技术学院 杭州 310007 |
| Author_FL | LIU Tao LI Rong-Chang ZHENG Hai-Bin JI Shou-Ling LIU Zhen-Guang CHEN Jin-Yin |
| Author_FL_xml | – sequence: 1 fullname: LI Rong-Chang – sequence: 2 fullname: LIU Tao – sequence: 3 fullname: ZHENG Hai-Bin – sequence: 4 fullname: CHEN Jin-Yin – sequence: 5 fullname: LIU Zhen-Guang – sequence: 6 fullname: JI Shou-Ling |
| Author_xml | – sequence: 1 fullname: 李荣昌 – sequence: 2 fullname: 刘涛 – sequence: 3 fullname: 郑海斌 – sequence: 4 fullname: 陈晋音 – sequence: 5 fullname: 刘振广 – sequence: 6 fullname: 纪守领 |
| BookMark | eNotzbtKA0EUgOEpIhhjWh_BbuM5M7Ozu50SvEHARuswszOjBtmAiyhWRqwsNAGTIihaxKQKCGKRbXyZvZi3UNHq6_5_iZSidmQIWUGooWA-W2vVpIxrIUWkjJVIGajLHY6uWCTVOD5WAIhAA8QyWc-ekzS5yx-vstHE-eXtvpgOiv5rMbwpko-s2_vqPMyvx9l0nM5e5sNuMemkn0_57SgfzPL3_jJZsPIkNtV_K-Rga3O_vuM09rZ36xsNJ0ZA31FUS22FVpS6nuYBKhmA0r7yIHS5CKz1rE9dw5gNREiN1saGTKLloRFKMVYhq3_dcxlZGR02W-2z0-jn2LzURxeKAuXgAfjsG5uqY6w |
| ContentType | Journal Article |
| Copyright | Copyright © Wanfang Data Co. Ltd. All Rights Reserved. |
| Copyright_xml | – notice: Copyright © Wanfang Data Co. Ltd. All Rights Reserved. |
| DBID | 2B. 4A8 92I 93N PSX TCJ |
| DOI | 10.16383/j.aas.c211233 |
| DatabaseName | Wanfang Data Journals - Hong Kong WANFANG Data Centre Wanfang Data Journals 万方数据期刊 - 香港版 China Online Journals (COJ) China Online Journals (COJ) |
| DatabaseTitleList | |
| DeliveryMethod | fulltext_linktorsrc |
| Discipline | Engineering |
| DocumentTitle_FL | Privacy Preservation Method for Vertical Federated Learning Based on Max-min Strategy |
| EndPage | 1388 |
| ExternalDocumentID | zdhxb202407008 |
| GroupedDBID | --K -0Y .~1 0R~ 1B1 1~. 1~5 2B. 4.4 457 4A8 4G. 5GY 5VS 5XA 5XJ 7-5 71M 8P~ 92H 92I 93N AAIKJ AALRI AAQFI AAXUO ABJNI ABWVN ACGFS ACRPL ADEZE ADNMO ADTZH AECPX AEKER AFTJW AGHFR AGYEJ AITUG ALMA_UNASSIGNED_HOLDINGS BLXMC CCEZO CS3 CUBFJ CW9 EBS EJD EO8 EO9 EP2 EP3 FDB FEDTE FNPLU GBLVA HVGLF HZ~ IHE J1W JJJVA M41 MO0 N9A O-L O9- OAUVE OZT P-8 P-9 P2P PC. PSX Q38 ROL RPZ SDF SDG SES TCJ TGT U1G U5S |
| ID | FETCH-LOGICAL-s1018-b2dadf6db2257d491ba90bd8b70c5469ff7f825e33f96c2eddefc3a1f4ce6bb33 |
| ISSN | 0254-4156 |
| IngestDate | Thu May 29 04:10:31 EDT 2025 |
| IsPeerReviewed | true |
| IsScholarly | true |
| Issue | 7 |
| Keywords | 属性推断攻击 max-min strategy property inference attack privacy preservation industrial internet 工业互联网 Vertical federated learning(VFL) 纵向联邦学习 隐私保护 最大-最小策略 |
| Language | Chinese |
| LinkModel | OpenURL |
| MergedId | FETCHMERGED-LOGICAL-s1018-b2dadf6db2257d491ba90bd8b70c5469ff7f825e33f96c2eddefc3a1f4ce6bb33 |
| PageCount | 16 |
| ParticipantIDs | wanfang_journals_zdhxb202407008 |
| PublicationCentury | 2000 |
| PublicationDate | 2024-07-01 |
| PublicationDateYYYYMMDD | 2024-07-01 |
| PublicationDate_xml | – month: 07 year: 2024 text: 2024-07-01 day: 01 |
| PublicationDecade | 2020 |
| PublicationTitle | 自动化学报 |
| PublicationTitle_FL | Acta Automatica Sinica |
| PublicationYear | 2024 |
| Publisher | 浙江工业大学网络空间安全研究院 杭州 310023%浙江大学网络空间安全学院 杭州 310007%浙江大学计算机科学与技术学院 杭州 310007 浙江工业大学网络空间安全研究院 杭州 310023%浙江工业大学信息工程学院 杭州 310023 浙江工业大学信息工程学院 杭州 310023%浙江工业大学计算机科学与技术学院 杭州 310023 |
| Publisher_xml | – name: 浙江工业大学网络空间安全研究院 杭州 310023%浙江大学网络空间安全学院 杭州 310007%浙江大学计算机科学与技术学院 杭州 310007 – name: 浙江工业大学网络空间安全研究院 杭州 310023%浙江工业大学信息工程学院 杭州 310023 – name: 浙江工业大学信息工程学院 杭州 310023%浙江工业大学计算机科学与技术学院 杭州 310023 |
| SSID | ssib001102911 ssib006576350 ssib051375349 ssib007293330 ssj0059721 ssib007290157 ssib023646446 ssib005904210 |
| Score | 2.488209 |
| Snippet | 纵向联邦学习(Vertical federated learning,VFL)是一种新兴的分布式机器学习技术,在保障隐私性的前提下,利用分散在各个机构的数据实现机器学习模型的联合训练.纵向联邦学... |
| SourceID | wanfang |
| SourceType | Aggregation Database |
| StartPage | 1373 |
| Title | 基于最大-最小策略的纵向联邦学习隐私保护方法 |
| URI | https://d.wanfangdata.com.cn/periodical/zdhxb202407008 |
| Volume | 50 |
| hasFullText | 1 |
| inHoldings | 1 |
| isFullTextHit | |
| isPrint | |
| journalDatabaseRights | – providerCode: PRVESC databaseName: Baden-Württemberg Complete Freedom Collection (Elsevier) issn: 0254-4156 databaseCode: GBLVA dateStart: 20110101 customDbUrl: isFulltext: true dateEnd: 99991231 titleUrlDefault: https://www.sciencedirect.com omitProxy: true ssIdentifier: ssj0059721 providerName: Elsevier |
| link | http://utb.summon.serialssolutions.com/2.0.0/link/0/eLvHCXMwrR09b9QwNKquCwyIT_FNBzxVgST-iL2R3OWoEDC1qFuVTzodEr1KqBNFTAxQJNqhAsFQ2qkSEmJoF_gxvTv6L3jP8V1SUaktYsm9s5_fd-Jnx7Et67bMc8YZ3EiumxU2Szxhxxm-cIxdkRcpDCn01MCjx2Jqhj2Y5bNjjV-1VUuL3eROunTodyX_4lUoA7_iV7In8OyIKBQADP6FK3gYrsfyMYk4UW0SBiRieJURiQRRTVy-AFUBI4FvHygKHSLbJPJJ0CJKIKAAj2sA2jMEgFDINWmHKJdEErJNoqBKEemRQGjSLQ0AV0UCB6ugOeAjZR_xsapNVAu5ywBFQTEE4gMQUlIeejnMizUXaBsgccSXGmhqIUfsSlJ8GCSaZEtrDa0BheoSgJsVClCRWIZcoTKsakAdqhUUqG_oGwnrjUEthe2xBoBQl4DBaX2yxGOjhbVleBuKqlTVxRaRZoCGBrtINNbQPzX1wPQtLRAAIfoMram0e4EtFDKNHBGptF5cm8lHByg2RBZG6sCbNPYB6iV7FU3iixbcRIMfLuP_kWjU_AhBcOHMMQWRyCTQggCgfBPUKIiOOJSxHpXS3AsQLxj4Gjlon0S0Wg_pcWbjDES9Oy_3MTaPLb_WN7u0PDTH5HkuLc-T_CuHgB6J6iQijuHh4MGAhNIqWxqtYV3K5l8kGGPQaeJuA-Me5BVOwxq_Hz58ElRDEsjgVa0P5Qq6yVrKLThuCVn993FhQ20lAvyntBri43kPojaFw0ErTnEKpcw-Oe7GpeeVjWnMRrWo1N0DKumvFDtF3HlaS6inz1pnzEh4Iigfa-essaX589bp2v6oF6x7vc-7e7tv-x9f9ja2bPz59m6wvTZY_TpYfz3Y_dFbef97-cP-q83e9ubezpf99ZXB1vLez0_9Nxv9tZ3-99WL1kw7mm5O2ebIF3sBtw60Ey-LswLPuINUImPKTWLlJJlMfCflTOALpkJ6PKe0UCL1ckjOipTGbsHSXCQJpZesRudZJ79sTTgcuhun4EkGYz5OHcg0cppmqYpFQUWeXLFuGf3nzCN9Ye6gT68eiXHNOlU9Za5bje7zxfwGDFK6yU0TB38AMaHgDw |
| linkProvider | Elsevier |
| openUrl | ctx_ver=Z39.88-2004&ctx_enc=info%3Aofi%2Fenc%3AUTF-8&rfr_id=info%3Asid%2Fsummon.serialssolutions.com&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Ajournal&rft.genre=article&rft.atitle=%E5%9F%BA%E4%BA%8E%E6%9C%80%E5%A4%A7-%E6%9C%80%E5%B0%8F%E7%AD%96%E7%95%A5%E7%9A%84%E7%BA%B5%E5%90%91%E8%81%94%E9%82%A6%E5%AD%A6%E4%B9%A0%E9%9A%90%E7%A7%81%E4%BF%9D%E6%8A%A4%E6%96%B9%E6%B3%95&rft.jtitle=%E8%87%AA%E5%8A%A8%E5%8C%96%E5%AD%A6%E6%8A%A5&rft.au=%E6%9D%8E%E8%8D%A3%E6%98%8C&rft.au=%E5%88%98%E6%B6%9B&rft.au=%E9%83%91%E6%B5%B7%E6%96%8C&rft.au=%E9%99%88%E6%99%8B%E9%9F%B3&rft.date=2024-07-01&rft.pub=%E6%B5%99%E6%B1%9F%E5%B7%A5%E4%B8%9A%E5%A4%A7%E5%AD%A6%E7%BD%91%E7%BB%9C%E7%A9%BA%E9%97%B4%E5%AE%89%E5%85%A8%E7%A0%94%E7%A9%B6%E9%99%A2+%E6%9D%AD%E5%B7%9E+310023%25%E6%B5%99%E6%B1%9F%E5%A4%A7%E5%AD%A6%E7%BD%91%E7%BB%9C%E7%A9%BA%E9%97%B4%E5%AE%89%E5%85%A8%E5%AD%A6%E9%99%A2+%E6%9D%AD%E5%B7%9E+310007%25%E6%B5%99%E6%B1%9F%E5%A4%A7%E5%AD%A6%E8%AE%A1%E7%AE%97%E6%9C%BA%E7%A7%91%E5%AD%A6%E4%B8%8E%E6%8A%80%E6%9C%AF%E5%AD%A6%E9%99%A2+%E6%9D%AD%E5%B7%9E+310007&rft.issn=0254-4156&rft.volume=50&rft.issue=7&rft.spage=1373&rft.epage=1388&rft_id=info:doi/10.16383%2Fj.aas.c211233&rft.externalDocID=zdhxb202407008 |
| thumbnail_s | http://utb.summon.serialssolutions.com/2.0.0/image/custom?url=http%3A%2F%2Fwww.wanfangdata.com.cn%2Fimages%2FPeriodicalImages%2Fzdhxb%2Fzdhxb.jpg |