近日，一股“大模型熱”正在延伸到工業(yè)領(lǐng)域。中工互聯(lián)智工·工業(yè)大模型、思謀科技工業(yè)多模態(tài)大模型IndustryGPT V1.0、海爾卡奧斯工業(yè)大模型COSMO-GPT、科大訊飛羚羊工業(yè)大模型等大模型創(chuàng)新應(yīng)用為智能制造提供了新的方向和思路。

但是，記者在采訪時(shí)卻了解到，工業(yè)企業(yè)利用分布式云將大模型引入到生產(chǎn)管理流程中是未來趨勢(shì)，但也會(huì)帶來越來越多的安全問題。工業(yè)級(jí)大模型應(yīng)用可解決安全生產(chǎn)力短缺問題，但大模型技術(shù)是一把“雙刃劍”，需要以大模型應(yīng)用安全為前提。

工業(yè)云已成網(wǎng)絡(luò)攻擊主要對(duì)象

騰訊研究院和騰訊安全聯(lián)合發(fā)布的《2023上半年云安全態(tài)勢(shì)報(bào)告》顯示，由于各行業(yè)用戶群體和業(yè)務(wù)需求不同，行業(yè)遭受攻擊的次數(shù)呈現(xiàn)出明顯差異，其中互聯(lián)網(wǎng)（通用工具、技術(shù)服務(wù)、通用SaaS）、工業(yè)云、金融是遭受攻擊最多的三大行業(yè)。

2023年上半年各行業(yè)用戶平均被攻擊次數(shù)

數(shù)據(jù)來源：2023上半年云安全態(tài)勢(shì)報(bào)告

據(jù)國家工業(yè)信息安全發(fā)展研究中心統(tǒng)計(jì)，2022年公開披露的工業(yè)信息安全事件共312起，行業(yè)分布覆蓋十幾個(gè)工業(yè)細(xì)分領(lǐng)域，制造、能源領(lǐng)域成為網(wǎng)絡(luò)攻擊重點(diǎn)目標(biāo)攻擊。攻擊方式包括惡意軟件、分布式拒絕服務(wù)（DDos）攻擊、網(wǎng)絡(luò)釣魚等，呈現(xiàn)出目標(biāo)多元化、手段復(fù)雜化、影響擴(kuò)大化的攻擊趨勢(shì)。

值得關(guān)注的是，制造業(yè)已成為勒索攻擊主要目標(biāo)。其中，電子制造行業(yè)遭勒索攻擊最多，占比約23%。汽車制造行業(yè)成為僅次于電子制造行業(yè)的重點(diǎn)攻擊目標(biāo)，占比約13%。

據(jù)Verizon統(tǒng)計(jì)的數(shù)據(jù)顯示，全球多國大型制造企業(yè)關(guān)鍵工業(yè)數(shù)據(jù)遭泄露，造成的經(jīng)濟(jì)損失和影響持續(xù)加大。比如，韓國三星電子190GB機(jī)密數(shù)據(jù)和源代碼被泄露。德國電子制造商賽米控遭數(shù)據(jù)勒索攻擊，2TB重要文件被竊取。

此外，供應(yīng)鏈也是網(wǎng)絡(luò)攻擊的一個(gè)重點(diǎn)。由于工業(yè)供應(yīng)鏈攻擊具有隱蔽性、威脅對(duì)象多、涉及維度廣等特點(diǎn)，利用上游企業(yè)的安全薄弱環(huán)節(jié)實(shí)施攻擊能達(dá)到“突破一點(diǎn)，傷及一片”的效果，工業(yè)供應(yīng)鏈已成為網(wǎng)絡(luò)攻擊最佳切入點(diǎn)。

此前，豐田汽車就曾因主要零部件供應(yīng)商遭受網(wǎng)絡(luò)攻擊，導(dǎo)致其不得不關(guān)閉在日本的全部14家工廠和28條生產(chǎn)線，影響約1萬輛汽車的生產(chǎn)，經(jīng)濟(jì)損失嚴(yán)重。

騰訊安全副總經(jīng)理董文輝在接受記者采訪時(shí)表示：“上云是必然趨勢(shì)，我們看到現(xiàn)在越來越多的工業(yè)企業(yè)是在上云的。他們會(huì)選擇優(yōu)先把自己原本就有的服務(wù)器等利用起來，進(jìn)行本地化部署。像寧德時(shí)代、三一重工等比較典型的工業(yè)企業(yè)就采用的是本地云、專有云。”

在他看來，這些工業(yè)企業(yè)利用分布式云將AI的能力逐漸引入到整個(gè)生產(chǎn)、管理流程中，這是一個(gè)數(shù)字化的過程，也是未來的趨勢(shì)。不過也正因如此，他們面臨的安全威脅也越來越多了。

“一方面，傳統(tǒng)工業(yè)企業(yè)在專業(yè)技術(shù)人才儲(chǔ)備方面存在短板。另一方面，工業(yè)制造業(yè)涉及的特殊工藝、技術(shù)以及工業(yè)知識(shí)，給攻防端都帶來了很大的技術(shù)挑戰(zhàn)。”董文輝說道。

大模型與安全行業(yè)結(jié)合成新趨勢(shì)

在工業(yè)領(lǐng)域，制造企業(yè)的安全體系面臨挑戰(zhàn)。蔚來汽車信息安全基礎(chǔ)設(shè)施負(fù)責(zé)人馬磊表示，對(duì)于汽車制造業(yè)而言，傳統(tǒng)的云上DDOS、CCI以及爬蟲風(fēng)險(xiǎn)持續(xù)存在，而智能網(wǎng)聯(lián)時(shí)代，整個(gè)汽車生產(chǎn)制造，包括服務(wù)都跑在云上，車載應(yīng)用迭代和更新的速度不斷加快，這樣也會(huì)加大安全漏洞的風(fēng)險(xiǎn)。此外，汽車制造業(yè)還面臨關(guān)鍵基礎(chǔ)設(shè)施的合規(guī)風(fēng)險(xiǎn)及供應(yīng)鏈風(fēng)險(xiǎn)，必須從傳統(tǒng)的被動(dòng)防御轉(zhuǎn)化成主動(dòng)。

“長期以來，我們一直在思考一個(gè)問題——安全運(yùn)營提效的終局會(huì)是怎樣，安全運(yùn)營未來會(huì)是怎樣？”騰訊云安全產(chǎn)品負(fù)責(zé)人周荃說道，“如今，大模型來了。我們做了很多探索和嘗試，發(fā)現(xiàn)通用的語言模型如果沒有專門針對(duì)于垂類行業(yè)進(jìn)行訓(xùn)練，就無法在指定領(lǐng)域里成為一個(gè)可對(duì)話式、生成式AI專家角色。為此，騰訊云安全在通用模型基礎(chǔ)上投喂安全知識(shí)語料庫二次訓(xùn)練出了一個(gè)安全大模型，并基于安全大模型打造了一款騰訊云AI安全助手，覆蓋告警解釋、漏洞修復(fù)、日志處理、智能客服等四大能力，產(chǎn)品將會(huì)在2024年1月全量正式上線。”

騰訊云安全年度產(chǎn)品發(fā)布會(huì)現(xiàn)場

不止是騰訊，微軟的Microsoft Security Copilot、阿里云安全大模型、360安全大模型、深信服安全GPT、安恒科技AI恒腦、奇安信Q-GPT安全機(jī)器人等產(chǎn)品的涌現(xiàn)，足以說明大模型與安全行業(yè)的結(jié)合已經(jīng)成為一個(gè)新趨勢(shì)。

據(jù)奇安信集團(tuán)總裁吳云坤介紹，目前奇安信推出的Q-GPT安全大模型已經(jīng)在安全運(yùn)營、事件響應(yīng)、攻防演練等場景中進(jìn)行大量實(shí)踐驗(yàn)證，大幅度提升了相關(guān)應(yīng)用場景的安全能力和效率。比如在安全運(yùn)營場景下，經(jīng)過初步測算，Q-GPT大模型每分鐘可以研判16條告警，是安全專家平均水平的16倍；年運(yùn)營效率可以達(dá)到人工運(yùn)營的70倍。

“安全大模型的不斷進(jìn)化將驅(qū)動(dòng)安全運(yùn)營從人工時(shí)代進(jìn)入全自動(dòng)運(yùn)營時(shí)代。”周荃表示。不過從現(xiàn)階段來看，工業(yè)領(lǐng)域安全交互產(chǎn)品本質(zhì)上仍停留在信息交換層面。很多工業(yè)設(shè)計(jì)包括產(chǎn)品體驗(yàn)設(shè)計(jì)更多都是提高信息反饋的及時(shí)性、準(zhǔn)確性、豐富度，幫助安全運(yùn)營人員拿到信息以后能夠快速準(zhǔn)確地做出下一步?jīng)Q策和判斷。

他指出，下一步，如果能把安全大模型應(yīng)用在產(chǎn)品交互、安全能力建設(shè)、安全服務(wù)等各個(gè)方面，將大大提升安全運(yùn)營效率。比如，基于大模型，讓用戶通過更簡單的操作，甚至對(duì)話的形式直接使用安全產(chǎn)品。再比如，嘗試?yán)么竽Ｐ蛯?duì)安全規(guī)則進(jìn)行泛化和變種，提升安全漏洞的檢出率。安全大模型最終演化為一個(gè)真正的安全智能體后，安全運(yùn)營人員使用安全產(chǎn)品時(shí)只需針對(duì)確定性的事情提出一個(gè)目標(biāo)，AI就能完成余下的工作。

工業(yè)大模型要遵循安全原則

工業(yè)場景有其特殊性，一方面工業(yè)制造業(yè)關(guān)乎國計(jì)民生，是經(jīng)濟(jì)和產(chǎn)業(yè)發(fā)展的基本盤。另一方面，這個(gè)領(lǐng)域極其復(fù)雜且細(xì)碎，目前國內(nèi)規(guī)模以上工業(yè)企業(yè)數(shù)量超過40萬家，覆蓋41個(gè)工業(yè)大類、207個(gè)工業(yè)中類、666個(gè)工業(yè)小類，其中存在著大量的場景和業(yè)務(wù)痛點(diǎn)。工業(yè)安全的重要性毋庸置疑。

尤其是經(jīng)過多年的發(fā)展，工業(yè)企業(yè)加速上云，完成了不少場景的智能化升級(jí)。大模型的到來，在為這個(gè)領(lǐng)域帶來新機(jī)遇的同時(shí)也帶來了更多安全挑戰(zhàn)。

“工業(yè)級(jí)大模型應(yīng)用可以解決安全生產(chǎn)力短缺的問題，但大模型技術(shù)是一把‘雙刃劍’，需要以大模型應(yīng)用安全作為生產(chǎn)力輸出的前提和基礎(chǔ)。然而，當(dāng)前大多數(shù)大模型應(yīng)用無法真正解決網(wǎng)絡(luò)安全生產(chǎn)力問題。”吳云坤表示。

他建議，安全大模型達(dá)到工業(yè)級(jí)應(yīng)用，需要滿足三個(gè)關(guān)鍵條件。一是需要高質(zhì)量知識(shí)數(shù)據(jù)、專家隊(duì)伍、實(shí)戰(zhàn)經(jīng)驗(yàn)和場景支撐；二是必須基于多種安全任務(wù)的強(qiáng)化學(xué)習(xí)和頂尖專家的反饋訓(xùn)練；三是要面向安全生產(chǎn)場景中的任務(wù)和應(yīng)用強(qiáng)化實(shí)戰(zhàn)能力。像奇安信推出的大模型衛(wèi)士，便可以防范大模型應(yīng)用中數(shù)據(jù)投喂造成的敏感數(shù)據(jù)泄露、避免觸發(fā)數(shù)據(jù)跨境安全監(jiān)管紅線、建立身份識(shí)別與溯源機(jī)制，對(duì)企業(yè)的大模型應(yīng)用進(jìn)行安全管控。

奇安信集團(tuán)總裁吳云坤在2023世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上發(fā)表演講

制造業(yè)是一個(gè)高度專業(yè)化的領(lǐng)域，且細(xì)分行業(yè)眾多，不能簡單地將一個(gè)通用大模型應(yīng)用于生產(chǎn)環(huán)境。即便是引領(lǐng)技術(shù)潮流的GPT-4，也由于缺少專業(yè)知識(shí)、無法理解工業(yè)場景的具體需求，而無法準(zhǔn)確回答制造行業(yè)的相關(guān)問題、識(shí)別常見的工業(yè)缺陷，或生成相關(guān)的業(yè)務(wù)流程和代碼。

在工業(yè)安全場景中，更是需要有全面的工業(yè)知識(shí)和安全知識(shí)的結(jié)合，這對(duì)安全大模型本身也提出了更高的要求。騰訊安全科恩實(shí)驗(yàn)室高級(jí)安全研究員唐祺壹表示：“要跟實(shí)際的業(yè)務(wù)場景去做結(jié)合，通過場景數(shù)據(jù)微調(diào)的方式，以更低的訓(xùn)練適配成本和插件化的靈活性，去將大模型應(yīng)用到不同的場景當(dāng)中，發(fā)揮真正的價(jià)值。”

360創(chuàng)始人周鴻祎認(rèn)為，大模型很熱，但絕不是風(fēng)口和泡沫，而是代表了一次工業(yè)革命的機(jī)會(huì)，將大幅提高生產(chǎn)力和生產(chǎn)效率。在構(gòu)建企業(yè)級(jí)大模型的時(shí)候一定要遵循“安全原則”。安全是大模型發(fā)展的底線，也是未來大模型的核心競爭力。