12月20日，第五屆中國(guó)人工智能成果發(fā)布會(huì)在廈門召開。三六零（601360.SH，下稱“360”）集團(tuán)因在人工智能安全治理“大模型安全攻防賽”中表現(xiàn)突出，榮獲本屆中國(guó)人工智能大賽A級(jí)證書。

今年9月，在國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)下，廈門市人民政府主辦的第五屆中國(guó)人工智能大賽正式啟動(dòng)，圍繞人工智能安全治理和創(chuàng)新發(fā)展兩大主線設(shè)置了賽題。作為重要賽題之一，大模型安全攻防賽是將15000條包含惡意和正常的大語(yǔ)言模型提示詞樣本輸入到參賽的大語(yǔ)言模型中，借此考察大模型對(duì)攻擊的防范能力。

據(jù)了解，人工智能在提升生產(chǎn)力的同時(shí)，也帶來了包括幻覺、深度偽造、注入攻擊、數(shù)據(jù)污染或投毒等前所未有的安全新挑戰(zhàn)。作為兼具數(shù)字安全和AI雙重能力的科技企業(yè)，360很早開始關(guān)注大模型安全風(fēng)險(xiǎn)，并推出一系列有針對(duì)性的創(chuàng)新技術(shù)，包括開發(fā)了國(guó)內(nèi)首個(gè)安全大模型，通過“以模制模”理念，利用AI大模型來檢測(cè)和防范大模型可能出現(xiàn)的安全風(fēng)險(xiǎn)，既解決傳統(tǒng)網(wǎng)絡(luò)安全問題，又為攻克AI安全新挑戰(zhàn)提供了可行性方案。

近日，360集團(tuán)還牽頭發(fā)起成立大模型安全聯(lián)盟，旨在打造資源共享、共創(chuàng)共贏的大模型安全生態(tài)集群，共同推動(dòng)大模型安全標(biāo)準(zhǔn)的制定、安全技術(shù)的創(chuàng)新和安全能力的提升，打造大模型安全發(fā)展的新范式。

同時(shí)，360基于“安全、向善、可信、可控”的四大原則，推出多款具有重要行業(yè)價(jià)值的企業(yè)級(jí)應(yīng)用新產(chǎn)品,包括大模型全鏈路安全檢測(cè)的“智鑒”、內(nèi)容安全護(hù)航的“智盾”、搜索增強(qiáng)利器“智搜”，以及知識(shí)管理平臺(tái)“智能文檔云”和情報(bào)監(jiān)測(cè)工具“輿情衛(wèi)士”,全面覆蓋了大模型系統(tǒng)安全、內(nèi)容安全、智能知識(shí)管理與情報(bào)分析等關(guān)鍵領(lǐng)域，通過技術(shù)創(chuàng)新與生態(tài)建設(shè)，持續(xù)為大模型安全及行業(yè)發(fā)展注入新動(dòng)能。