生成式人工智能技術(shù)驚人的發(fā)展速度加劇了人們對網(wǎng)絡(luò)安全的擔憂。近來，ChatGPT引發(fā)的風波不斷。意大利因數(shù)據(jù)安全問題成為首個宣布禁用ChatGPT的國家。緊接著，德國表示可能會追隨意大利的腳步。加拿大也在對OpenAI展開調(diào)查。蘋果、三星、SK海力士等越來越多的企業(yè)也開始禁用ChatGPT。7月6日，在2023工業(yè)安全大會上，多位專家表示，要警惕GPT技術(shù)在工業(yè)領(lǐng)域帶來的安全風險。

工業(yè)控制網(wǎng)絡(luò)是事關(guān)國計民生的關(guān)鍵信息基礎(chǔ)設(shè)施。隨著工業(yè)基礎(chǔ)設(shè)施逐漸走向數(shù)字化、網(wǎng)絡(luò)化、智能化，工控安全面臨前所未有的挑戰(zhàn)。中國工程院院士鄔江興表示，以ChatGPT為代表的AI算法模型存在不可解釋性、不可判識性和不可推論性，這讓AI應(yīng)用系統(tǒng)內(nèi)生安全共性問題浮出水面?，F(xiàn)階段，人類科技能力尚不能徹查復(fù)雜系統(tǒng)漏洞后門問題，AI應(yīng)用系統(tǒng)算法模型安全與網(wǎng)絡(luò)安全問題相互交織且難以分而治之。因此，AI應(yīng)用系統(tǒng)以及相關(guān)數(shù)字基礎(chǔ)設(shè)施極易成為網(wǎng)絡(luò)攻擊的高價值目標，造成社會性災(zāi)難。

隨著技術(shù)的發(fā)展，網(wǎng)絡(luò)攻擊手段也在不斷演變和更新。機械工業(yè)儀器儀表綜合技術(shù)經(jīng)濟研究所所長歐陽勁松表示，人工智能技術(shù)的深度應(yīng)用會讓危險源、威脅變得更加難以辨識，網(wǎng)絡(luò)物理攻擊路徑愈發(fā)難以預(yù)測，功能安全措施與信息安全措施也會越來越難協(xié)調(diào)。

北京天地和興科技有限公司副總裁伍澤廣也指出，隨著新技術(shù)的迅猛發(fā)展，安全范圍越來越廣，安全邊界逐步“上浮”和“下沉”。以GPT為代表的生成式人工智能技術(shù)將大幅降低黑客攻擊工控專有協(xié)議的技術(shù)門檻。OT（運營）環(huán)節(jié)的漏洞將會持續(xù)增加，工業(yè)企業(yè)數(shù)據(jù)資產(chǎn)面臨的安全風險也會越來越大。

“GPT類大模型技術(shù)在各行業(yè)的應(yīng)用生態(tài)快速形成，這對工業(yè)安全而言是一把‘雙刃劍’。”和利時信息安全研究院有限公司戰(zhàn)略規(guī)劃總監(jiān)李季表示，GPT技術(shù)將帶來包括隱私保護、資源消耗等問題，也會進一步加劇對抗性攻擊、自動化攻擊、惡意利用等安全隱患。但同時這項新興技術(shù)也將為網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來更多產(chǎn)業(yè)機遇。比如，網(wǎng)安大模型的應(yīng)用，就有助于安全從業(yè)者更好地理解和預(yù)測網(wǎng)絡(luò)安全威脅，開發(fā)出更加高效的安全工具和方案，提升網(wǎng)絡(luò)安全的智能化水平。

實際上，任何一項新技術(shù)的出現(xiàn)都將帶來安全風險，工業(yè)安全建設(shè)還是應(yīng)該從基礎(chǔ)設(shè)施出發(fā)。烽臺科技（北京）有限公司副總經(jīng)理、燈塔實驗室技術(shù)負責人王啟蒙指出，工業(yè)場景基礎(chǔ)設(shè)施數(shù)字化能力整體偏弱，數(shù)字化改造有待改善。CT（通信）與OT（運營）需求對接不足，導(dǎo)致工業(yè)應(yīng)用端到端可靠性難以保障，芯片、模組、終端產(chǎn)品工業(yè)特性有待增強。

工業(yè)數(shù)據(jù)價值越高，安全風險往往越大。北京交通大學(xué)信息安全系主任、教授王偉指出，工業(yè)數(shù)據(jù)普遍存在訪問控制權(quán)屬關(guān)系不清晰，易產(chǎn)生非法盜用、非法篡改等問題，借助Web3.0，工業(yè)物聯(lián)網(wǎng)時代的工業(yè)數(shù)據(jù)可以變成可確權(quán)、可支配、可流通的內(nèi)容，并最終形成可靠、安全、合規(guī)的工業(yè)數(shù)據(jù)安全保障平臺。

王啟蒙建議，復(fù)雜環(huán)境下，應(yīng)針對工業(yè)網(wǎng)絡(luò)控制設(shè)備、業(yè)務(wù)服務(wù)器、工業(yè)主機、網(wǎng)絡(luò)設(shè)備、安全設(shè)備產(chǎn)生的標識數(shù)、狀態(tài)數(shù)據(jù)、事件數(shù)據(jù)、運維數(shù)據(jù)、實時數(shù)據(jù)等，根據(jù)內(nèi)置的工業(yè)分級分類知識庫對采集的數(shù)據(jù)進行分級分類，并根據(jù)數(shù)據(jù)等級進行對應(yīng)安全策略處理。

值得一提的是，網(wǎng)絡(luò)分析公司Similarweb統(tǒng)計的最新數(shù)據(jù)顯示，2023年前5個月，ChatGPT全球訪問量環(huán)比增幅分別為131.6%、62.5%、55.8%、12.6%、2.8%，增長幅度明顯下降；6月份ChatGPT的訪問量環(huán)比下滑9.7%，為其推出以來首次。作為這輪生成式人工智能風暴的中心點，ChatGPT的訪問量持續(xù)下滑引發(fā)了人們對于人工智能泡沫的擔憂。

據(jù)不完全統(tǒng)計，國內(nèi)10億級參數(shù)規(guī)模以上的AI大模型已超80個。多位專家指出，國內(nèi)通用人工智能產(chǎn)業(yè)已出現(xiàn)過熱端倪，一旦技術(shù)無法有效落地、市場期待無法實現(xiàn)，“泡沫”就可能破裂。