澳門城市大學副校長、數據科學學院院長周萬雷日前赴濟南,應邀出席第九屆網絡空間數據科學國際會議(The 9th IEEE International Conference on Data Science in Cyberspace, IEEE DSC 2024)。會上,周萬雷教授發表題為Machine Unlearning: Realising the “Right to be Forgotten”的主旨演講,分享對機器遺忘的研究成果。此外,由周萬雷教授及數據科學學院副院長朱天清教授參與撰寫的科研論文Defense Against Graph Injection Attack in Graph Neural Networks榮獲大會頒發的優秀論文獎(Outstanding Paper Award)。
演講期間,周萬雷教授介紹了機器遺忘(Machine Unlearning)這一概念出現的背景與發展現況,並提出了一些強制遺忘的方法。他指出,機器學習(Machine Learning)在過去十年取得顯著進步,並被廣泛運用在貸款申請、人臉識別、累犯預測、大型語言模型等應用場景之中,對我們的日常生活產生了積極影響。但基於隱私問題、安全問題、可用性考量、法律法規等理由,“機器遺忘”應運而生。
周萬雷教授討論了機器遺忘背後的運作機制,以及它與災難性遺忘(Catastrophic Forgetting)、數據屏蔽(Data Masking)、差分隱私(Differential Privacy)、線上學習(Online Learning)等概念的區別,提出了強制遺忘的兩種方法——數據重組(Data Reorganization)與模型操緃(Model Manipulation),以及驗證是否成功實現機器遺忘的兩種方法——實證評估(empirical evaluation)與理論計算(theoretical calculation)。最後,周萬雷教授通過實際案例介紹了機器遺忘的應用場景,又指出機器遺忘在未來將會面臨的挑戰。
此外,周萬雷教授、朱天清教授與研究團隊針對圖神經網絡(Graph Neural Networks)的攻擊行為進行研究,提出了一種對抗鏈接竊取攻擊的防禦方法,並證明了其有效性。他們的研究成果整理成論文Defense Against Graph Injection Attack in Graph Neural Networks,並由周萬雷教授在會議期間進行宣讀,獲得現場的熱烈反響,同時榮獲大會頒發的優秀論文獎。
網絡空間數據科學國際會議由IEEE(國際電氣和電子工程師協會)、IEEE可擴展計算技術委員會、IEEE計算機協會、中國工程院、中國中文信息學會主辦,專注於數據科學及其在網絡空間中的應用,現已成為最具影響力和吸引力的國際會議之一。多年來,來自國內外網絡空間數據科學領域的專家學者和行業代表圍繞數據科學、大數據、網絡空間中的數據應用、社交網絡與媒體、數據挖掘、機器學習、大數據安全與隱私保護等研究熱點進行了廣泛交流。