探訪2023年網(wǎng)絡(luò)安全博覽會上的“黑科技”

2023年網(wǎng)絡(luò)安全博覽會在福州海峽國際會展中心開館。東南網(wǎng)記者 林先昌攝

東南網(wǎng)9月10日訊（本網(wǎng)記者 林先昌 洪振威）10日，2023年國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全博覽會在福州海峽國際會展中心開館。本次博覽會展覽面積約2萬平方米，共設(shè)置個人信息保護(hù)、產(chǎn)品與服務(wù)等多個展區(qū)，記者在博覽會現(xiàn)場看到了不少網(wǎng)絡(luò)安全新技術(shù)、新應(yīng)用亮相。

大模型安全檢測平臺“蟻鑒2.0”。東南網(wǎng)記者 林先昌攝

大模型安全性的“診療師”

在現(xiàn)場，螞蟻集團(tuán)發(fā)布的大模型安全一體化解決方案“蟻天鑒”吸引了不少人。據(jù)介紹，該方案包含了大模型安全檢測平臺“蟻鑒2.0”、大模型風(fēng)險防御平臺“天鑒”兩大產(chǎn)品，擁有AIGC安全性和真實性評測、AI魯棒和可解釋性檢測、大模型智能化風(fēng)控等多項功能。這也是大模型浪潮以來首個實現(xiàn)產(chǎn)業(yè)級應(yīng)用的大模型安全檢測與防御一體化解決方案。目前這兩項產(chǎn)品已對外開放。

今年以來，AIGC（生成式人工智能）圖片在全球躥紅，不僅引發(fā)倫理、侵權(quán)等大量爭議，也給電信詐騙、金融盜用、黃暴恐等違法犯罪帶來可乘之機(jī)。

現(xiàn)場工作人員表示，大模型安全問題產(chǎn)生的本源主要來自“用于訓(xùn)練的數(shù)據(jù)源頭有毒、推理過程不可控、外部惡意誘導(dǎo)”三個因素。此次發(fā)布的“蟻天鑒”，可從大模型安全性檢測度量、智能風(fēng)險管控、數(shù)據(jù)去毒對齊等方面，保障大模型在生產(chǎn)和使用過程中更加安全、可控、可靠。

“蟻鑒2.0”就像是大模型安全性的“診療師”，在大模型上線前對其進(jìn)行全方位的安全掃描，從數(shù)據(jù)安全、內(nèi)容安全、科技倫理等類型的數(shù)百種風(fēng)險維度，提前識別和挖掘風(fēng)險漏洞。

現(xiàn)場工作人員介紹，“蟻鑒2.0”通過智能攻擊對抗技術(shù)，自動生成數(shù)百萬的誘導(dǎo)性問題，對生成式大模型進(jìn)行誘導(dǎo)式問答，并對大模型的回答實時、自動化的檢測計算，24小時不眠不休“找茬”大模型存在的弱點和安全問題。“蟻鑒2.0”最新實現(xiàn)對AIGC生成圖片、視頻等多模內(nèi)容的“真?zhèn)?rdquo;辨別和安全性檢測，基于生成模型構(gòu)建的近千萬深度偽造樣本，可快速分辨內(nèi)容是機(jī)器生成還是人工生成，及是否存在倫理道德等風(fēng)險。展區(qū)現(xiàn)場可體驗AIGC圖片評測全過程，感受“魔法打敗魔法，以AI對戰(zhàn)AI”的產(chǎn)業(yè)實戰(zhàn)對抗交互技術(shù)，可現(xiàn)場生成鑒定報告。

國家電網(wǎng)公司展示電力系統(tǒng)軟硬件自主研發(fā)、防護(hù)實踐等方面工作成效。東南網(wǎng)記者 洪振威攝

硬軟件100%國產(chǎn)化，國家電網(wǎng)電力系統(tǒng)新成果亮相

在3號館國家電網(wǎng)展位，國家電網(wǎng)展出的電力專用隔離裝置、縱向加密認(rèn)證網(wǎng)關(guān)也受到許多觀眾的關(guān)注。工作人員介紹道：通俗來講，加密保護(hù)是將普羅大眾熟悉的文字、數(shù)字、視頻轉(zhuǎn)化為只有專用設(shè)備才能讀寫的數(shù)字和字符，這就能起到保護(hù)信息安全的目的。

工作人員介紹道：“我們展出的電力專用隔離裝置與縱向加密認(rèn)證網(wǎng)關(guān)是電力系統(tǒng)網(wǎng)絡(luò)邊界河西的安全保護(hù)裝置，硬件上100%采用國產(chǎn)芯片，軟件上搭載自研額瑞盾安全操作系統(tǒng)。這套設(shè)備在建黨100周年、北京冬奧會等重大會議活動中發(fā)揮了作用。”

“國家電網(wǎng)所自主研發(fā)的設(shè)備就是致力于電力領(lǐng)域的加密保護(hù)與安全認(rèn)證，電力設(shè)備作為國家關(guān)鍵信息基礎(chǔ)設(shè)施，縱向加密網(wǎng)關(guān)主要應(yīng)用于各類發(fā)電廠、變電站、新能源電站的數(shù)據(jù)安全傳輸和加密，電力專用隔離裝置主要幫助本地生產(chǎn)區(qū)與管理區(qū)之間的安全防護(hù)。”國家電網(wǎng)工作人員介紹道。

美亞柏科AI“慧眼”鑒真。東南網(wǎng)記者 林先昌攝

“好年華 聚福州”網(wǎng)絡(luò)安全人才云服務(wù)平臺在展會正式上線

在福州城市展區(qū)，“好年華 聚福州”網(wǎng)絡(luò)安全人才云服務(wù)平臺也正式上線。

工作人員介紹道：“該平臺是未來網(wǎng)絡(luò)安全人才發(fā)展需要，聯(lián)動政企校多方資源，培養(yǎng)網(wǎng)絡(luò)安全專業(yè)人才為核心搭建的智慧化產(chǎn)教融合平臺”

記者打開首頁：知識科普、技能培訓(xùn)、就業(yè)招聘、項目實訓(xùn)、創(chuàng)新孵化等五大板塊映入眼簾。工作人員介紹道：“平臺將在幫助深化福州市安全領(lǐng)域的產(chǎn)教融合、網(wǎng)絡(luò)安全領(lǐng)域產(chǎn)業(yè)發(fā)展、人才政策方案提供現(xiàn)實數(shù)據(jù)依據(jù)，力求打造‘好年華 聚福州’的重要綜合平臺。”

記者了解到，網(wǎng)絡(luò)安全宣傳周期間，福建省將持續(xù)展開多樣化的宣傳科普活動，福州市還將通過主題街區(qū)、主題地鐵、主題公交等多維度開展打造網(wǎng)絡(luò)安全宣傳走廊。

博覽會吸引了許多小學(xué)生參與。東南網(wǎng)記者 林先昌攝