NeurIPS 全稱 Annual Conference on Neural Information Processing Systems，與 ICML、ICLR 并稱為人工智能領域“三大頂級會議”。該會議在中國計算機學會推薦會議列表中列為 A 類會議，在 CORE Conference Ranking 中被評為 A* 級別，其 H5-index 高達 330 以上，長期穩(wěn)居全球人工智能與機器學習國際學術會議影響力之首。NeurIPS 的投稿數(shù)量和競爭激烈程度屢創(chuàng)新高，2025年在主會有效投稿量突破21575篇情況下，錄用率不足 24.52%，體現(xiàn)出其極高的學術認可度與難度。本次成果的入選，不僅代表了團隊在異構分布式機器學習研究方向上的重要進展，也標志著我校在人工智能領域的國際影響力實現(xiàn)了新跨越。
論文針對異構分布式機器學習（Heterogeneous Federated Learning, HtFL）中的異構模型難以聚合收斂的核心瓶頸展開研究。現(xiàn)有方法往往依賴代理數(shù)據(jù)或模型壓縮方法，容易帶來隱私風險與知識傳遞不完整的問題。為此，本文提出了新一代框架 FedFree，通過“逐層知識對齊”機制（layer-wise alignment），實現(xiàn)跨異構模型的數(shù)據(jù)無關知識共享。具體而言，F(xiàn)edFree 設計了反向逐層知識遷移（reverse layer-wise transfer）與知識增益熵（Knowledge Gain Entropy, KGE），在保證隱私安全的前提下，有效緩解了細粒度知識丟失問題。理論分析與實驗結果均表明，F(xiàn)edFree 不僅實現(xiàn)了嚴格的收斂性保證，而且在計算機視覺典型數(shù)據(jù)集上顯著優(yōu)于現(xiàn)有方法，最高精度提升超過46%，展示了強大的性能提升。
這一研究成果對于未來的應用場景具有廣闊前景。在邊緣計算場景中，F(xiàn)edFree框架能夠提升異構設備間的協(xié)同建模能力；在自動駕駛與車聯(lián)網(wǎng)中，該框架可增強多車型、異構傳感器間的聯(lián)合學習魯棒性；在大模型訓練應用場景中，該框架可以實現(xiàn)有效的大小模型協(xié)同訓練效果，加速整體大模型的訓練效果，在無人機群協(xié)作及電力系統(tǒng)巡檢等領域，F(xiàn)edFree框架的數(shù)據(jù)無關與隱私保護特性能夠保障模型高效、安全地訓練。長遠來看，該框架為構建面向大模型時代的高效、安全、普適的分布式智能系統(tǒng)提供了新路徑。
能源大數(shù)據(jù)智慧計算團隊圍繞以人工智能為核心，在分布式機器學習、多模態(tài)和語言大模型、自然語言處理、知識圖譜等關鍵領域進行持續(xù)深耕，并已形成一系列高水平成果。近年來，團隊已有多篇高質量論文被NeurIPS、AAAI、ECAI、ECML、CIKM、ICSOC 等國際頂級學術會議錄用。展現(xiàn)了持續(xù)向國際頂尖科研前沿邁進的堅實步伐。團隊連續(xù)兩年論文入選 NeurIPS人工智能頂級國際學術會議，不僅是對團隊長期科研工作的高度肯定，更為我校人工智能與分布式學習方向的發(fā)展注入了新的動力。未來，團隊將繼續(xù)聚焦科研前沿，致力于產(chǎn)出更多兼具頂尖學術水平與重要現(xiàn)實意義的研究成果。
來源：上海電力大學計算機科學與技術學院
