WAIC 2025丨校企攜手為人工智能協(xié)同治理提供科技支撐

新華財經(jīng)上海7月29日電（記者潘清）28日舉行的2025世界人工智能大會“大模型治理和有序發(fā)展生態(tài)論壇”上，東壁科技數(shù)據(jù)聯(lián)合上海財經(jīng)大學數(shù)字經(jīng)濟學院共同構(gòu)建的高質(zhì)量人工智能治理科技語料和人工智能多元共治決策支持大模型正式發(fā)布。

校企攜手發(fā)布兩項成果，將為人工智能協(xié)同治理提供關(guān)鍵的科技支撐，也意味著我國在探索科學高效、多方協(xié)同的人工智能治理模式方面邁出了堅實一步。

當前，人工智能在賦能千行百業(yè)、改善民生福祉、促進科技創(chuàng)新方面展現(xiàn)出巨大潛力，但技術(shù)的快速演進也帶來了新課題和新挑戰(zhàn)，數(shù)據(jù)安全、算法偏見、倫理失范、就業(yè)沖擊，以及潛在的治理鴻溝等問題日益凸顯。

注重共同治理已成為人工智能有序發(fā)展的重要行業(yè)共識。2025世界人工智能大會暨人工智能全球治理高級別會議發(fā)表的《人工智能全球治理行動計劃》明確提出，開展人工智能安全治理應(yīng)及時開展人工智能風險研判，提出針對性防范應(yīng)對措施，構(gòu)建具有廣泛共識的安全治理框架。

上海浦東新區(qū)數(shù)字化轉(zhuǎn)型專家委員會委員、上海財經(jīng)大學數(shù)字經(jīng)濟學院院長趙琳表示，學院與東壁科技數(shù)據(jù)開展合作，致力于構(gòu)建人工智能治理領(lǐng)域關(guān)鍵科技基礎(chǔ)設(shè)施，響應(yīng)國家號召并應(yīng)對人工智能治理挑戰(zhàn)。

東壁科技數(shù)據(jù)創(chuàng)始人、深圳大學特聘教授吳登生表示，東壁科技數(shù)據(jù)依托其擁有的中國自主知識產(chǎn)權(quán)的高質(zhì)量科技文獻數(shù)據(jù)庫平臺，聚焦人工智能治理的核心挑戰(zhàn)，圍繞后門攻擊、數(shù)據(jù)投毒、逆向攻擊、黑箱問題、過擬合或欠擬合、魯棒性風險、對抗樣本攻擊、就業(yè)替代、誤用濫用、隱私泄露、責任問題、偏見歧視、決策權(quán)讓渡、信息繭房等14類人工智能治理風險，構(gòu)建了國內(nèi)首個高質(zhì)量人工智能治理科技語料庫。

“這一覆蓋學術(shù)前沿與政策實踐的多維科技語料，將為推進我國人工智能協(xié)同治理工具的研發(fā)提供關(guān)鍵數(shù)據(jù)支撐。”吳登生說。

在此基礎(chǔ)上，上海財經(jīng)大學數(shù)字經(jīng)濟學院與東壁科技數(shù)據(jù)聯(lián)合開發(fā)了全國首個人工智能多元共治決策支持大模型，為人工智能協(xié)同治理提供關(guān)鍵工具支撐。

據(jù)悉，這一模型專注于人工智能治理領(lǐng)域知識問答、案例查詢與分析、技術(shù)方案咨詢、治理方案生成、資源查找五大核心任務(wù)，在國產(chǎn)開源大語言模型基礎(chǔ)上，利用構(gòu)建的2000多條高質(zhì)量人工智能治理領(lǐng)域問答對語料進行精細化微調(diào)，使其能夠嚴格遵循人工智能治理領(lǐng)域回答范式。

此外，這個模型還接入了基于前述人工智能治理科技語料庫構(gòu)建的可持續(xù)動態(tài)更新數(shù)據(jù)庫，通過檢索增強生成（RAG）技術(shù)，模型能夠有效引用權(quán)威語料庫內(nèi)容，從而大幅提升專業(yè)回答的準確性和可靠性，顯著緩解通用模型在這一領(lǐng)域易產(chǎn)生“幻覺”的風險。

東壁科技數(shù)據(jù)與上海財經(jīng)大學數(shù)字經(jīng)濟學院表示，將持續(xù)更新人工智能治理科技語料庫，并計劃面向有需求的企業(yè)和政府部門逐步開放人工智能多元共治決策支持大模型，助力各方提升人工智能治理能力，共同推動產(chǎn)業(yè)健康、安全、有序發(fā)展。

?

編輯：談瑞

?

聲明：新華財經(jīng)（中國金融信息網(wǎng)）為新華社承建的國家金融信息平臺。任何情況下，本平臺所發(fā)布的信息均不構(gòu)成投資建議。如有問題，請聯(lián)系客服：400-6123115