【學術(shù)科研】智能算法安全全國重點實驗室召開第一屆學術(shù)委員會第二次會議
2025年5月24日，智能算法安全全國重點實驗室（以下簡稱“實驗室”）第一屆學術(shù)委員會第二次會議在中國科學院計算技術(shù)研究所（以下簡稱“計算所”）召開。實驗室學術(shù)委員會委員、中國科學院重大科技任務局等指導單位，中關(guān)村實驗室和在京相關(guān)領(lǐng)域全國重點實驗室專家代表，實驗室科研骨干代表等60余人參加會議。
會議開幕式由計算所科研處韓銀和處長主持。計算所所長、黨委書記陳熙霖研究員在致辭中對院機關(guān)、指導單位、學術(shù)委員會委員、在京國家實驗室和兄弟全國重點實驗室長期以來的支持、幫助與指導表示感謝，并強調(diào)實驗室是計算所歷史上第一個聚焦軟件算法方向的全國重點實驗室，具有里程碑意義。學術(shù)委員會主任李國杰院士在致辭中指出，破解人工智能算法的“自主性”與“可控性”的對立統(tǒng)一，這是智能安全的核心挑戰(zhàn)。針對黑盒模型不可解釋性、概率計算不確定性和系統(tǒng)涌現(xiàn)風險三大根源，實驗室團隊在中國科學院院刊發(fā)表的《智能算法安全：內(nèi)涵、科學問題與關(guān)鍵技術(shù)》提出了三大攻關(guān)方向，即算法可信域判定、模型透明化監(jiān)測及人機系統(tǒng)臨界感知。相關(guān)研究雖構(gòu)建了初步理論框架，但應對“算法幻覺”等難題仍需突破經(jīng)典計算范式，并呼吁學界專家對現(xiàn)有成果深入論證，共筑智能時代安全基座。
學術(shù)委員會會議由費愛國院士主持。實驗室主任程學旗研究員系統(tǒng)闡述了實驗室的戰(zhàn)略布局與發(fā)展脈絡。他指出，實驗室以構(gòu)建智能算法理論體系、打造數(shù)字基礎(chǔ)設(shè)施、服務國家重大需求為三大核心使命，并重點聚焦智能算法TRC安全范式構(gòu)建這一關(guān)鍵科學問題。基于此戰(zhàn)略定位，實驗室規(guī)劃了五大研究方向：智能算法安全基礎(chǔ)理論、算法風險監(jiān)測評估、智能裝備安全增強、智能系統(tǒng)算法對抗及認知智能算法博弈。此外，程學旗還詳細介紹了實驗室在任務攻關(guān)、前沿理論與技術(shù)創(chuàng)新及核心基礎(chǔ)設(shè)施建設(shè)方面取得的重要進展，特別強調(diào)了各研究方向的協(xié)同推進態(tài)勢。陳薇研究員、山世光研究員、郭瑞杰正高級工程師、曹婍副研究員和徐冰冰副研究員分別作了專題報告。
與會專家對實驗室建設(shè)以來取得的階段性進展給予了高度評價，并提出了寶貴的意見和建議；學術(shù)委員會委員針對報告內(nèi)容以及智能算法安全學科內(nèi)涵、實驗室定位和發(fā)展戰(zhàn)略等問題展開了深入交流討論：專家們一致認為，實驗室應繼續(xù)聚焦智能算法安全的核心問題，特別是在大模型背景下，進一步聚焦算法安全性、魯棒性以及隱私保護等方面的挑戰(zhàn)，推動智能算法安全標準制定、技術(shù)評估與測試平臺建設(shè)；建議實驗室面向國家重大需求，同時加強與產(chǎn)業(yè)界的合作，共同推動智能算法安全技術(shù)的落地應用。
未來，實驗室將進一步深入貫徹落實黨中央關(guān)于建設(shè)網(wǎng)絡強國、數(shù)字中國的重大決策部署，面向人工智能安全、算法安全治理及認知安全計算等重大需求，夯實學科基礎(chǔ)、建設(shè)一流團隊、服務國家戰(zhàn)略！