澳門城市大學自2024年起成為國家自然科學基金港澳地區唯二私立高校依託單位。數據科學學院青年教師張樂峰與劉馳喜獲國家自然科學基金青年項目，獲批項目分別為《面向大模型的無參化可認證機器遺忘與隱私平衡研究》及《面向複雜開放交互環境中AI圖像合成的防禦技術研究》。

項目介紹（張樂峰）

計算能力的提升與模型架構的改進使現代人工智能模型向大型化、複雜化發展。但大模型的運用與普及為信息安全、內容審查、法律監管帶來了一系列挑戰。機器遺忘旨在移除模型中包含的特定信息，是對大模型進行管理約束的重要手段。

大模型複雜的結構與海量的參數使傳統依賴參數修改的遺忘策略不再高效甚至失效；信息移除帶來的模型變化為用戶帶來潛在的隱私泄露風險；模型內部的可解釋性不足使機器遺忘的認證變得更加困難。

擬針對大模型中的機器遺忘，利用知識過濾與相對熵技術構建無參化的機器遺忘算法，解除機器遺忘對模型參數的依賴；利用博弈論與納什均衡提出機器遺忘中的隱私保護策略，實現遺忘與隱私保護的平衡；利用影響力函數與梯度匹配機製尋找共軛數據，設計用戶可信的機器遺忘認證方案。

相關研究成果豐富了機器遺忘理論和方法體系，可用於信息過濾、模型更新等需要從模型中快速移除信息的領域，為保護用戶權益、實現大模型監管提供方法與技術支撐。

項目介紹（劉馳）

AI圖像合成技術的迅猛發展極大地豐富了數字內容的創造，但其與複雜開放交互環境的新興交互模式帶來了前所未有的信息安全和數位版權風險。

目前圍繞AI圖像合成的防禦技術無法滿足開放交互環境中差異化的防禦需求。因此，本項目將面向開放交互環境中的AI圖像合成研究新型的“防禦分析、防禦實施、防禦驗證”系統級防禦技術，構建以用戶為中心、安全與可用性均衡、具有分級機制、主動性的防禦策略，以增強對真實應用場景中AI圖像合成應用的安全防護，解決現實開放交互環境中AI圖像合成防禦技術的關鍵挑戰，為AI時代下的信息安全管理和數位版權提供新策略。

參加港澳青年科技人才國情研習班

張樂峰助理教授與劉馳助理教授後續將以國自科青年項目獲得者，代表城大參加中國科協與國家自然科學基金委員會聯合主辦的港澳青年科技人才國情研習班。