【學術科研】智能算法安全全國重點實驗室召開第一屆學術委員會第二次會議
2025年5月24日，智能算法安全全國重點實驗室（以下簡稱“實驗室”）第一屆學術委員會第二次會議在中國科學院計算技術研究所（以下簡稱“計算所”）召開。實驗室學術委員會委員、中國科學院重大科技任務局等指導單位，中關村實驗室和在京相關領域全國重點實驗室專家代表，實驗室科研骨干代表等60余人參加會議。
會議開幕式由計算所科研處韓銀和處長主持。計算所所長、黨委書記陳熙霖研究員在致辭中對院機關、指導單位、學術委員會委員、在京國家實驗室和兄弟全國重點實驗室長期以來的支持、幫助與指導表示感謝，并強調實驗室是計算所歷史上第一個聚焦軟件算法方向的全國重點實驗室，具有里程碑意義。學術委員會主任李國杰院士在致辭中指出，破解人工智能算法的“自主性”與“可控性”的對立統一，這是智能安全的核心挑戰。針對黑盒模型不可解釋性、概率計算不確定性和系統涌現風險三大根源，實驗室團隊在中國科學院院刊發表的《智能算法安全：內涵、科學問題與關鍵技術》提出了三大攻關方向，即算法可信域判定、模型透明化監測及人機系統臨界感知。相關研究雖構建了初步理論框架，但應對“算法幻覺”等難題仍需突破經典計算范式，并呼吁學界專家對現有成果深入論證，共筑智能時代安全基座。
學術委員會會議由費愛國院士主持。實驗室主任程學旗研究員系統闡述了實驗室的戰略布局與發展脈絡。他指出，實驗室以構建智能算法理論體系、打造數字基礎設施、服務國家重大需求為三大核心使命，并重點聚焦智能算法TRC安全范式構建這一關鍵科學問題。基于此戰略定位，實驗室規劃了五大研究方向：智能算法安全基礎理論、算法風險監測評估、智能裝備安全增強、智能系統算法對抗及認知智能算法博弈。此外，程學旗還詳細介紹了實驗室在任務攻關、前沿理論與技術創新及核心基礎設施建設方面取得的重要進展，特別強調了各研究方向的協同推進態勢。陳薇研究員、山世光研究員、郭瑞杰正高級工程師、曹婍副研究員和徐冰冰副研究員分別作了專題報告。
與會專家對實驗室建設以來取得的階段性進展給予了高度評價，并提出了寶貴的意見和建議；學術委員會委員針對報告內容以及智能算法安全學科內涵、實驗室定位和發展戰略等問題展開了深入交流討論：專家們一致認為，實驗室應繼續聚焦智能算法安全的核心問題，特別是在大模型背景下，進一步聚焦算法安全性、魯棒性以及隱私保護等方面的挑戰，推動智能算法安全標準制定、技術評估與測試平臺建設；建議實驗室面向國家重大需求，同時加強與產業界的合作，共同推動智能算法安全技術的落地應用。
未來，實驗室將進一步深入貫徹落實黨中央關于建設網絡強國、數字中國的重大決策部署，面向人工智能安全、算法安全治理及認知安全計算等重大需求，夯實學科基礎、建設一流團隊、服務國家戰略！