聯(lián)邦學(xué)習

　　如何在保證本地訓(xùn)練數(shù)據(jù)不公開的前提下，實現(xiàn)多個數(shù)據(jù)擁有者協(xié)同訓(xùn)練一個共享的機器學(xué)習模型？傳統(tǒng)的機器學(xué)習方法需要將所有的數(shù)據(jù)集中到一個地方（例如，數(shù)據(jù)中心），然后進行機器學(xué)習模型的訓(xùn)練。但這種基于集中數(shù)據(jù)的做法無疑會嚴重侵害用戶隱私和數(shù)據(jù)安全。如今，世界上越來越多的人開始強烈要求科技公司必須根據(jù)用戶隱私法律法規(guī)妥善地處理用戶的數(shù)據(jù)，歐盟的《通用數(shù)據(jù)保護條例》是一個很好的例子。在本書中，我們將描述聯(lián)邦學(xué)習（亦稱聯(lián)邦機器學(xué)習）如何將分布式機器學(xué)習、密碼學(xué)、基于金融規(guī)則的激勵機制和博弈論結(jié)合起來，以解決分散數(shù)據(jù)的使用問題。我們會介紹不同種類的面向隱私保護的機器學(xué)習解決方案以及技術(shù)背景，并描述一些典型的實際問題解決案例。我們還會進一步論述聯(lián)邦學(xué)習將成為下一代機器學(xué)習的基礎(chǔ)，可以滿足技術(shù)和社會需求并促進面向安全的人工智能的開發(fā)和應(yīng)用。本書可供計算機科學(xué)、人工智能和機器學(xué)習專業(yè)的學(xué)生，以及大數(shù)據(jù)和人工智能應(yīng)用程序的開發(fā)人員閱讀，也可供高等院校的教員、研究機構(gòu)的研究人員、法律法規(guī)制定者和政府監(jiān)管部門參考。

　　楊強 楊強教授是微眾銀行的首席人工智能官（CAIO）和香港科技大學(xué)（HKUST）計算機科學(xué)與工程系講席教授。他是香港科技大學(xué)計算機科學(xué)與工程系的前任系主任，并曾擔任大數(shù)據(jù)研究院的創(chuàng)始主任（2015-2018 年）。他的研究興趣包括人工智能、機器學(xué)習和數(shù)據(jù)挖掘，特別是遷移學(xué)習、自動規(guī)劃、聯(lián)邦學(xué)習和基于案例的推理。他是多個國際協(xié)會的會士（Fellow），包括ACM、AAAI、IEEE、IAPR 和AAAS。他于1982 年獲得北京大學(xué)天體物理學(xué)學(xué)士學(xué)位，分別于1987年和1989 年獲得馬里蘭大學(xué)帕克分校計算機科學(xué)系碩士學(xué)位和博士學(xué)位。他曾在在滑鐵盧大學(xué)（1989-1995 年）和西蒙弗雷澤大學(xué)（1995-2001 年）擔任教授。他是ACM TIST 和IEEE TBD 的創(chuàng)始主編。他是國際人工智能聯(lián)合會議（IJCAI）的理事長（2017-2019 年）和人工智能發(fā)展協(xié)會（AAAI）的執(zhí)行委員會成員（2016-2020 年）。楊強教授曾獲多個獎項，包括2004/2005 ACM KDDCUP 冠軍、ACM SIGKDD 卓越服務(wù)獎（2017）、AAAI 創(chuàng)新人工智能應(yīng)用獎（2018， 2020）和吳文俊人工智能杰出貢獻獎（2019）。他是華為諾亞方舟實驗室的創(chuàng)始主任（2012-2014 年）和第四范式（AI 平臺公司）的共同創(chuàng)始人。他是Intelligent Planning （Springer）、Crafting Your Research Future （Morgan & Claypool）、Transfer Learning （Cambridge University Press）與Constraint-based Design Recovery for Software Engineering （Springer）等著作的作者。劉洋 劉洋是微眾銀行AI 項目組的高級研究員。她的研究興趣包括機器學(xué)習、聯(lián)邦學(xué)習、遷移學(xué)習、多智能體系統(tǒng)、統(tǒng)計力學(xué)，以及這些技術(shù)的產(chǎn)業(yè)應(yīng)用。她于2012 年獲得普林斯頓大學(xué)博士學(xué)位，2007 年獲得清華大學(xué)學(xué)士學(xué)位。她擁有多項國際發(fā)明專利，研究成果曾發(fā)表于Nature、IJCAI 和ACM TIST 等科研刊物和會議上。她曾獲AAAI 人工智能創(chuàng)新應(yīng)用獎、IJCAI 創(chuàng)新應(yīng)用獎等多個獎項，并擔任IJCAI 高級程序委員會委員，NeurIPS 等多個人工智能會議研討會聯(lián)合主席，以及IEEE Intelligent Systems 期刊客座編委等。程勇 程勇是微眾銀行AI 項目組的高級研究員。他曾任華為技術(shù)有限公司（深圳）高級工程師和德國貝爾實驗室高級研究員，也曾在華為-香港科技大學(xué)創(chuàng)新實驗室擔任研究員。他的研究興趣和專長主要包括聯(lián)邦學(xué)習、深度學(xué)習、計算機視覺和OCR、數(shù)學(xué)優(yōu)化理論和算法、分布式和網(wǎng)絡(luò)計算以及混合整數(shù)規(guī)劃。他發(fā)表期刊和會議論文20 余篇。他于2006 年、2010 年、2013 年分別在浙江大學(xué)、香港科技大學(xué)、德國達姆施塔特工業(yè)大學(xué)獲工學(xué)學(xué)士學(xué)位（一等榮譽）、碩士學(xué)位和博士學(xué)位。他于2014 年獲達姆施塔特工業(yè)大學(xué)最佳博士論文獎，于2006 年獲浙江大學(xué)最佳學(xué)士論文獎。他在ICASSP’15 會議上做了關(guān)于“混合整數(shù)規(guī)劃”的教程。他是IJCAI’19 和NIPS’19 等國際會議的程序委員會委員?？奠?康焱是微眾銀行AI 項目組的高級研究員。他的工作重點是面向隱私保護的機器學(xué)習和聯(lián)邦遷移學(xué)習技術(shù)的研究和實現(xiàn)。他在馬里蘭大學(xué)巴爾的摩分校獲計算機碩士和博士學(xué)位。他的博士論文研究的是以機器學(xué)習和語義網(wǎng)絡(luò)進行異構(gòu)數(shù)據(jù)集成，并獲得了博士論文獎學(xué)金。在就讀研究生期間，他參與了與美國國家標準與技術(shù)研究院（NIST）和美國國家科學(xué)基金會（NSF）合作的多個項目，設(shè)計和開發(fā)語義網(wǎng)絡(luò)集成系統(tǒng)。他在商業(yè)軟件項目方面也有著豐富的經(jīng)驗。他曾在美國Stardog Union 公司和美國塞納公司工作了四年多的時間，從事系統(tǒng)設(shè)計和實現(xiàn)方面的工作。陳天健 陳天健是微眾銀行AI 項目組的副總經(jīng)理。他現(xiàn)在負責構(gòu)建基于聯(lián)邦學(xué)習技術(shù)的銀行智能生態(tài)系統(tǒng)。在加入微眾銀行之前，他是百度金融的首席架構(gòu)師，同時也是百度的首席架構(gòu)師。他擁有超過12 年的大規(guī)模分布式系統(tǒng)設(shè)計經(jīng)驗，并在Web 搜索引擎、對等網(wǎng)絡(luò)存儲、基因組學(xué)、推薦系統(tǒng)、數(shù)字銀行和機器學(xué)習等多個應(yīng)用領(lǐng)域中實現(xiàn)了技術(shù)創(chuàng)新。他現(xiàn)居于中國深圳，與其他工作伙伴一起建設(shè)和推廣聯(lián)邦A(yù)I 生態(tài)系統(tǒng)和相關(guān)的開源項目FATE。于涵 于涵現(xiàn)任職新加坡南洋理工大學(xué)（NTU）計算機科學(xué)與工程學(xué)院助理教授、微眾銀行特聘顧問。在2015—2018 年期間，他在南洋理工大學(xué)擔任李光耀博士后研究員（LKY PDF）。在加入南洋理工大學(xué)之前，他曾在新加坡惠普公司擔任嵌入式軟件工程師。他于2014 年獲南洋理工大學(xué)計算機科學(xué)博士學(xué)位。他的研究重點是在線凸優(yōu)化、人工智能倫理、聯(lián)邦學(xué)習及其在眾包等復(fù)雜協(xié)作系統(tǒng)中的應(yīng)用。他在國際學(xué)術(shù)會議和期刊上發(fā)表研究論文120 余篇，獲得了多項科研獎項。