基于區塊鏈的聯邦學習應用研究

李濟偉，商晴慶，孫建剛，董耀眾，李偉良

（國家電網有限公司信息通信分公司，北京，100761）

1 區塊鏈技術概述

區塊鏈技術是相對成熟的信任機制，區塊鏈中的所有區塊基本都包含了當前區塊。每個區塊中的數據都存儲在一個Merkle樹根結構中。一個區塊由區塊頭和區塊體組成，所有Merkle樹根放在區塊頭中，不包含具體的內容，具體的內容放在塊頭。Merkle樹根的作用是提供證據，為節點提供路徑。哈希計算的原理是對同一條數據散列后，得到一個固定長度的散列碼，使用非對稱加密來實現去信任。隨著越來越多的事務出現，區塊鏈也隨之增長。當添加一個區塊時，所有節點必須參與區塊檢查。傳遞區塊后將通過反向鏈接指向其父區塊，添加到整個區塊鏈的末尾。區塊鏈需要數據和應用分布式存儲和計算，還需要對數據進行多邊控制，以確保不被偽造?？傊?，區塊鏈具有可追溯性的應用優勢，方便合作伙伴進行檢查、跟蹤和監控，區塊鏈中數據的每一次變化都會捕捉到明確時間和其他相關信息。不同的區塊鏈參與者使用數據源，而不是不斷檢查的去中心化數據源。區塊鏈允許參與者一起上傳和共享狀態和業務信息，以提高各方整體規劃和協作。區塊鏈維護下載信息的完整性，允許所有合作人員不斷更改[1]。

2 聯邦學習

聯邦學習是互利的獨立數據庫集合，單個數據庫的重要組成部分是自治性、異構性和分布性。隨著云計算的發展和應用，研究人員對聯邦云進行了研究。聯邦云是對外部和內部云計算的部署管理。聯邦云可以通過更高效的一方來降低成本。資源遷移和預留是組合云的關鍵特征，資源可以從一個云提供移到另一個云，遷移可以重新分配資源。冗余允許在不同的域中使用服務功能?？梢愿鶕嗤挠嬎銓碜圆煌臄祿M行拆分和處理。各種資源的規劃是聯邦云設計的重要因素。聯邦學習與傳統的制度存在一些異同，考慮不同分布異質性和自治性的前景適用于聯邦學習系統。分布式系統中的一些因素對于聯邦學習很重要。部署之間交換數據會影響系統性能。聯邦制度對合作與約束重視不同，聯邦數據庫側重于數據管理，聯邦學習云側重于資源規劃，聯邦學習更多的是多方安全計算。聯邦培訓帶來了許多新的挑戰，分布式學習算法的開發和隱私限制的數據保護。當今人工智能中存在普遍的數據獨島現象，成為機器學習中重要的問題。因此，聯邦學習研究的必要性和緊迫性開始凸顯。對于通信架構、保密機制以及聯邦學習技術的動機。這些是制定聯邦學習體系結構和具體內容時應考慮的因素，是影響聯邦學習發展的主要。從通訊系統架構來看，聯邦學習的系統通常是集中式的，后來出現分散的項目，聯邦培訓通訊方式主要有集中式和分散式。在開發通信架構時，數據流是不對稱的。這意味著服務器從其他參與者收集信息將學習結果發回。全局模型參數更新在此服務器上執行。服務器和本地參與者通信可以是同步或異步。在去中心化設計中，各方進行通信，可以直接更新全局參數。集中式架構簡單高效，可擴展性和穩定性是系統的重要因素。盡管集中式設計在研究中被廣泛使用，但在某些情況下，采用分散式設計，將信息集中在單個服務器上會導致潛在的風險。聯邦學習中本地數據是私有受到保護，但其安全性會受到模型參數的影響，不同保密聯邦學習系統中威脅模型也不同。攻擊發生在單個學習的任何階段。各方在學習前可能會更改某個標簽，這就是研究的模型效果不佳的原因。每一方都可以攻擊模型中毒，下載惡意開發的模型，就像數據中毒一樣，全局模型的準確率會非常低，局部更新被中毒了。除了模型中毒，分布式學習中的常見問題是拜占庭失敗，模型在各方面的學習可能很弱，會隨機加載。如果研究模型被公開，則發生輸出攻擊，服務器從交換模型的參數中提取訓練數據的機密信息。檢測特定數據記錄是否用于訓練，聯邦學習管理器在整個學習中訪問各方的本地更新，以進行推理攻擊。對于提供不同保密性保密機制有很多，如不同保密性和匿名性，也有研究總結了保密機制的特點?？偨Y現代聯邦學習系統中保護數據的主要方法，加密方法和差異機密性。同態加密和多邊安全計算加密方法廣泛用于聯邦學習算法中以保護機密性。通過方法的應用，聯邦學習系統中的機密性總體上可以得到保護。在多邊安全計算中，除了結果之外，并非所有都可以知道任何事情。這種方法容易受到攻擊，由于額外的加密和解密，系統運行將具有極高的負載。保密性可以保證寄存器不會對輸出產生太大影響，數據集中或不在數據集中的人幾乎沒有影響。使用差異機密性來保護數據機密性，每個參與者不知道其他參與者參與了過程。通過向數據或參數添加隨機噪聲，差分機密性為單個記錄提供統計，保證并防止模型輸出攻擊，與加密方法相比不會產生計算成本，但由于對于學習中的噪音，系統會創建精度較低的模型。同時也是相互獨立的，單一的系統使用不同的方法提高保密性。盡管大多數聯邦學習系統使用加密技術實現保密保證，但這些方法的局限性難以克服。目前的專項工作是盡量減少方法的副作用，同時尋找一種兼顧數據保密性和靈活要求的新方法。采用較低的安全性旨在用于系統實際應用[2]。

3 基于區塊鏈的聯邦學習技術

3.1 資源分配和數據管理

資源分配和數據管理在BFL中非常重要。在聯邦學習參與者的每個客戶端中，應該共享計算和資源，用于模型和參與區塊鏈?；谏疃葟娀瘜W習的解決方案，以限制計算和存儲資源，增加區塊鏈學習延遲。針對問題的存在，聯邦學習發起方需要確定資源分配和區塊鏈頻率，但這在復雜的物聯網中是非常困難的。因此，基于深度學習和強化方案，讓聯邦學習的發起者在沒有物聯網先驗的情況下，有效地分配資源?；诼摪顓^塊鏈的移動學習系統。在邊界計算網絡中，傳統的聯邦學習存在一定的局限性。比如設備的異構性和高數據維度更新，數據、算法、數據預處理和學習導致的錯誤。針對以上問題，針對數據集的分離提出學習系統，實現多層次的數據管理。資源分配是BFL中非常重要的任務，以確保數據資源的最佳使用。流行使用深度學習為基于區塊鏈的聯邦學習實施資源分配策略，前提是計算負載和帶寬都得到合理的應用。通過降低聯邦學習成本來解決資源分配問題，基于輕量級區塊鏈平臺用于支持基于聯邦區塊鏈學習。此外，在整個聯邦基于區塊鏈的學習對本地設備學習速度和區塊生成進行評估，是進一步改善資源配置的途徑[3]。

3.2 激勵機制與共識協議

對基于區塊鏈的聯邦學習的研究，通過去中心化解決安全和其他問題，側重于創建激勵機制。聯邦學習技術雖然促進了協作學習，保護用戶的隱私，但面臨著如何鼓勵各方參與聯邦學習并提供數據和計算的挑戰。如果沒有適當的激勵機制，參與者可能不愿意參與聯邦學習，降低所開發的系統的可擴展性。通過實施區塊鏈激勵機制，并實施具有成本效益的激勵機制，這將提高聯邦學習系統各方參與的積極性。激勵機制可以在服務器或區塊鏈中的激勵機制，是增加聯邦學習積極性的很好的解決方案。提出新的基于聯邦區塊鏈的系統，用于無人駕駛場景。這種結構針對聯邦訓練系統應用于無人駕駛場景。如果中心服務器出現故障，將會帶來更大的風險。本地數據對于無人駕駛非常重要，需要有具體的機制來鼓勵用戶為模型提供數據。使用區塊鏈解決去中心化，制定一套激勵措施，以便數據提供者從中受益。學習中的參與者越多，模型的性能就越好。如果數據所有者對數據和資源的利益沒有貢獻，則不需要參與學習過程。一些研究人員開發了激勵機制，讓數據所有者參與模型學習?；谟嬎愦螖?、通信、本地模型，確保準確性、數據質量、客戶端設備行為等。激勵機制的對于聯邦學習成功至關重要，在區塊鏈設計激勵機制，系統各方可以是合作伙伴或參與者。研究提出了獨特的激勵機制設計，讓參與者參與學習高質量數據。不同的機制模型及其均衡設計應在聯邦體系內進行修訂。在大數據時代，每天都會產生數據，這些數據通常是不相關的。大部分數據掌握在大型科技公司。為了解決這個問題，新的聯邦學習系統需要結合了區塊鏈和聯邦學習，共識算法來驗證分布式IPFS存儲。使用激勵鼓勵用戶參加聯邦學習以獲取數據。針對聯邦學習的激勵機制，采用加權邏輯模型對用戶進行評估，并制定激勵機制。對于基于EOS和IPFS區塊鏈的基于區塊鏈的學習系統，使用EOS來擴展更新，并為安裝的用戶產生利潤。將區塊鏈與聯邦學習相結合，使用網絡區塊鏈設備模型的本地更新，比在服務器上運行更穩定，可以為設備提供獎勵。種基于信任和激勵的結構，保存信息和經過驗證的聯邦學習細節以供審查。激勵機制會激勵可靠的用戶。為了解決用戶的威脅以及梯度收集更新方面缺乏激勵的問題，需要支持審計和隱私保護的框架。提供參與隱私訓練的激勵，共享并準確更新設置，實現迭代深度學習?；趨^塊鏈激勵機制打造模型交易體系，鼓勵用戶參與學習，并利用區塊鏈記錄模型學習，保證學習過程的隱私保護。共識算法應該滿足特定的物聯網環境，適應不斷變化的環境。因此，適用于環境的新型區塊鏈共識算法，主要使用高質量的計算對新區塊進行認證，不需要所有節點一起計算，節省大量計算資源，可有效的避免資源浪費[4]。

3.3 安全性和可靠性管理

為了保證聯邦學習基于區塊鏈的可靠性和安全性，需要創建保護隱私的機制，是區塊鏈技術納入聯邦學習的主要原因。數據源利用區塊鏈來控制節點之間的數據和交換，對于解決單個故障和攻擊非常有效。對于去中心化的學習系統，區塊鏈不是記錄審計和數據跟蹤的數據，而是記錄所有事件，并允許授權方訪問信息?；趨^塊鏈系統的分布式聯邦學習系統，解決去中心化中的性能問題，定義模型的存儲方式、學習過程以及共識機制。優化共識效率和消耗，模仿惡意節點的攻擊，證明了框架的安全性。針對聯邦5G網絡聯邦學習的中毒威脅，使用智能區塊鏈的聯邦安全系統。并引入差分保密技術來對抗攻擊。使用區塊鏈來記錄行為，以檢測對敏感信息的攻擊?；诼摪顓^塊鏈的模糊計算，使用分布式優化數據在區塊鏈中的存儲，提高出塊效率，實現分布式隱私保護，解決場景問題。通過分布式寄存器捕獲平移更新，實現收集數據的能力?；趨^塊鏈場景的聯邦訓練系統，用于更新移動設備原生模型。用戶通過將移動設備連接到他們的本地模型獲得獎勵。檢查所有本地模型，檢查工作以獲得獎勵。單個設備的故障不會影響全局更新，增加了系統的可靠性。引入許可鏈技術和有向無環圖，新的聯邦學習架構進行改進。將深度學習與強化結合來提高生產力，提出了異步復合學習方案。引入區塊鏈通道的來研究全局模型，通過共識獲得最終的全局模型，將局部模型存儲為一個塊。全局模型狀態樹，用狀態樹來求解模型的全局參數，與傳統的聯邦模型相比，該模型更加可靠。在BFL系統中，攻擊者會嘗試使用錯誤數據來修改全局模型，在模型遷移中操縱參數值，操縱學習入口。當前的工作都集中在為模型學習構建檢測機制和更新，提供基于區塊鏈的學習系統。通過調整復雜性來降低中毒的可能性，不降低培訓效率?？v觀聯邦區塊鏈的學習系統，在區塊鏈挖掘和數據訓練中應綜合考慮攻擊模型?？梢允褂靡粋€完整的基于區塊鏈的學習系統提高控制，達到修改數據塊的目的，這一過程降低了生產效率。在數據隱私保護方面，差分隱私和加密等技術是訓練基于區塊鏈的聯邦的有效工具。通過在私有樹的中間節點中隨機葉節點加入噪聲，消除了去除噪聲的能力，實現了差分保密性，同態加密對于聯邦學習有一定的應用效果。在學習時保護存儲機密和外包計算，區塊鏈共享聯邦學習的聚合之前，有效地加密數據，對個人信息和隱私敏感的任務中起著重要的作用[5]。