近日，一股“大模型熱”正在延伸到工業(yè)領(lǐng)域。中工互聯(lián)智工·工業(yè)大模型、思謀科技工業(yè)多模態(tài)大模型IndustryGPT V1.0、海爾卡奧斯工業(yè)大模型COSMO-GPT、科大訊飛羚羊工業(yè)大模型等大模型創(chuàng)新應用為智能制造提供了新的方向和思路。
但是，記者在采訪時卻了解到，工業(yè)企業(yè)利用分布式云將大模型引入到生產(chǎn)管理流程中是未來趨勢，但也會帶來越來越多的安全問題。工業(yè)級大模型應用可解決安全生產(chǎn)力短缺問題，但大模型技術(shù)是一把“雙刃劍”，需要以大模型應用安全為前提。
工業(yè)云已成網(wǎng)絡(luò)攻擊主要對象
騰訊研究院和騰訊安全聯(lián)合發(fā)布的《2023上半年云安全態(tài)勢報告》顯示，由于各行業(yè)用戶群體和業(yè)務需求不同，行業(yè)遭受攻擊的次數(shù)呈現(xiàn)出明顯差異，其中互聯(lián)網(wǎng)（通用工具、技術(shù)服務、通用SaaS）、工業(yè)云、金融是遭受攻擊最多的三大行業(yè)。
據(jù)國家工業(yè)信息安全發(fā)展研究中心統(tǒng)計，2022年公開披露的工業(yè)信息安全事件共312起，行業(yè)分布覆蓋十幾個工業(yè)細分領(lǐng)域，制造、能源領(lǐng)域成為網(wǎng)絡(luò)攻擊重點目標攻擊。攻擊方式包括惡意軟件、分布式拒絕服務（DDos）攻擊、網(wǎng)絡(luò)釣魚等，呈現(xiàn)出目標多元化、手段復雜化、影響擴大化的攻擊趨勢。
值得關(guān)注的是，制造業(yè)已成為勒索攻擊主要目標。其中，電子制造行業(yè)遭勒索攻擊最多，占比約23%。汽車制造行業(yè)成為僅次于電子制造行業(yè)的重點攻擊目標，占比約13%。
據(jù)Verizon統(tǒng)計的數(shù)據(jù)顯示，全球多國大型制造企業(yè)關(guān)鍵工業(yè)數(shù)據(jù)遭泄露，造成的經(jīng)濟損失和影響持續(xù)加大。比如，韓國三星電子190GB機密數(shù)據(jù)和源代碼被泄露。德國電子制造商賽米控遭數(shù)據(jù)勒索攻擊，2TB重要文件被竊取。
此外，供應鏈也是網(wǎng)絡(luò)攻擊的一個重點。由于工業(yè)供應鏈攻擊具有隱蔽性、威脅對象多、涉及維度廣等特點，利用上游企業(yè)的安全薄弱環(huán)節(jié)實施攻擊能達到“突破一點，傷及一片”的效果，工業(yè)供應鏈已成為網(wǎng)絡(luò)攻擊最佳切入點。
此前，豐田汽車就曾因主要零部件供應商遭受網(wǎng)絡(luò)攻擊，導致其不得不關(guān)閉在日本的全部14家工廠和28條生產(chǎn)線，影響約1萬輛汽車的生產(chǎn)，經(jīng)濟損失嚴重。
騰訊安全副總經(jīng)理董文輝在接受記者采訪時表示：“上云是必然趨勢，我們看到現(xiàn)在越來越多的工業(yè)企業(yè)是在上云的。他們會選擇優(yōu)先把自己原本就有的服務器等利用起來，進行本地化部署。像寧德時代、三一重工等比較典型的工業(yè)企業(yè)就采用的是本地云、專有云。”
在他看來，這些工業(yè)企業(yè)利用分布式云將AI的能力逐漸引入到整個生產(chǎn)、管理流程中，這是一個數(shù)字化的過程，也是未來的趨勢。不過也正因如此，他們面臨的安全威脅也越來越多了。
“一方面，傳統(tǒng)工業(yè)企業(yè)在專業(yè)技術(shù)人才儲備方面存在短板。另一方面，工業(yè)制造業(yè)涉及的特殊工藝、技術(shù)以及工業(yè)知識，給攻防端都帶來了很大的技術(shù)挑戰(zhàn)。”董文輝說道。
大模型與安全行業(yè)結(jié)合成新趨勢
在工業(yè)領(lǐng)域，制造企業(yè)的安全體系面臨挑戰(zhàn)。蔚來汽車信息安全基礎(chǔ)設(shè)施負責人馬磊表示，對于汽車制造業(yè)而言，傳統(tǒng)的云上DDOS、CCI以及爬蟲風險持續(xù)存在，而智能網(wǎng)聯(lián)時代，整個汽車生產(chǎn)制造，包括服務都跑在云上，車載應用迭代和更新的速度不斷加快，這樣也會加大安全漏洞的風險。此外，汽車制造業(yè)還面臨關(guān)鍵基礎(chǔ)設(shè)施的合規(guī)風險及供應鏈風險，必須從傳統(tǒng)的被動防御轉(zhuǎn)化成主動。
“長期以來，我們一直在思考一個問題——安全運營提效的終局會是怎樣，安全運營未來會是怎樣？”騰訊云安全產(chǎn)品負責人周荃說道，“如今，大模型來了。我們做了很多探索和嘗試，發(fā)現(xiàn)通用的語言模型如果沒有專門針對于垂類行業(yè)進行訓練，就無法在指定領(lǐng)域里成為一個可對話式、生成式AI專家角色。為此，騰訊云安全在通用模型基礎(chǔ)上投喂安全知識語料庫二次訓練出了一個安全大模型，并基于安全大模型打造了一款騰訊云AI安全助手，覆蓋告警解釋、漏洞修復、日志處理、智能客服等四大能力，產(chǎn)品將會在2024年1月全量正式上線。”
不止是騰訊，微軟的Microsoft Security Copilot、阿里云安全大模型、360安全大模型、深信服安全GPT、安恒科技AI恒腦、奇安信Q-GPT安全機器人等產(chǎn)品的涌現(xiàn)，足以說明大模型與安全行業(yè)的結(jié)合已經(jīng)成為一個新趨勢。
據(jù)奇安信集團總裁吳云坤介紹，目前奇安信推出的Q-GPT安全大模型已經(jīng)在安全運營、事件響應、攻防演練等場景中進行大量實踐驗證，大幅度提升了相關(guān)應用場景的安全能力和效率。比如在安全運營場景下，經(jīng)過初步測算，Q-GPT大模型每分鐘可以研判16條告警，是安全專家平均水平的16倍；年運營效率可以達到人工運營的70倍。
“安全大模型的不斷進化將驅(qū)動安全運營從人工時代進入全自動運營時代。”周荃表示。不過從現(xiàn)階段來看，工業(yè)領(lǐng)域安全交互產(chǎn)品本質(zhì)上仍停留在信息交換層面。很多工業(yè)設(shè)計包括產(chǎn)品體驗設(shè)計更多都是提高信息反饋的及時性、準確性、豐富度，幫助安全運營人員拿到信息以后能夠快速準確地做出下一步?jīng)Q策和判斷。
他指出，下一步，如果能把安全大模型應用在產(chǎn)品交互、安全能力建設(shè)、安全服務等各個方面，將大大提升安全運營效率。比如，基于大模型，讓用戶通過更簡單的操作，甚至對話的形式直接使用安全產(chǎn)品。再比如，嘗試利用大模型對安全規(guī)則進行泛化和變種，提升安全漏洞的檢出率。安全大模型最終演化為一個真正的安全智能體后，安全運營人員使用安全產(chǎn)品時只需針對確定性的事情提出一個目標，AI就能完成余下的工作。
工業(yè)大模型要遵循安全原則
工業(yè)場景有其特殊性，一方面工業(yè)制造業(yè)關(guān)乎國計民生，是經(jīng)濟和產(chǎn)業(yè)發(fā)展的基本盤。另一方面，這個領(lǐng)域極其復雜且細碎，目前國內(nèi)規(guī)模以上工業(yè)企業(yè)數(shù)量超過40萬家，覆蓋41個工業(yè)大類、207個工業(yè)中類、666個工業(yè)小類，其中存在著大量的場景和業(yè)務痛點。工業(yè)安全的重要性毋庸置疑。
尤其是經(jīng)過多年的發(fā)展，工業(yè)企業(yè)加速上云，完成了不少場景的智能化升級。大模型的到來，在為這個領(lǐng)域帶來新機遇的同時也帶來了更多安全挑戰(zhàn)。
“工業(yè)級大模型應用可以解決安全生產(chǎn)力短缺的問題，但大模型技術(shù)是一把‘雙刃劍’，需要以大模型應用安全作為生產(chǎn)力輸出的前提和基礎(chǔ)。然而，當前大多數(shù)大模型應用無法真正解決網(wǎng)絡(luò)安全生產(chǎn)力問題。”吳云坤表示。
他建議，安全大模型達到工業(yè)級應用，需要滿足三個關(guān)鍵條件。一是需要高質(zhì)量知識數(shù)據(jù)、專家隊伍、實戰(zhàn)經(jīng)驗和場景支撐；二是必須基于多種安全任務的強化學習和頂尖專家的反饋訓練；三是要面向安全生產(chǎn)場景中的任務和應用強化實戰(zhàn)能力。像奇安信推出的大模型衛(wèi)士，便可以防范大模型應用中數(shù)據(jù)投喂造成的敏感數(shù)據(jù)泄露、避免觸發(fā)數(shù)據(jù)跨境安全監(jiān)管紅線、建立身份識別與溯源機制，對企業(yè)的大模型應用進行安全管控。
制造業(yè)是一個高度專業(yè)化的領(lǐng)域，且細分行業(yè)眾多，不能簡單地將一個通用大模型應用于生產(chǎn)環(huán)境。即便是引領(lǐng)技術(shù)潮流的GPT-4，也由于缺少專業(yè)知識、無法理解工業(yè)場景的具體需求，而無法準確回答制造行業(yè)的相關(guān)問題、識別常見的工業(yè)缺陷，或生成相關(guān)的業(yè)務流程和代碼。
在工業(yè)安全場景中，更是需要有全面的工業(yè)知識和安全知識的結(jié)合，這對安全大模型本身也提出了更高的要求。騰訊安全科恩實驗室高級安全研究員唐祺壹表示：“要跟實際的業(yè)務場景去做結(jié)合，通過場景數(shù)據(jù)微調(diào)的方式，以更低的訓練適配成本和插件化的靈活性，去將大模型應用到不同的場景當中，發(fā)揮真正的價值。”
360創(chuàng)始人周鴻祎認為，大模型很熱，但絕不是風口和泡沫，而是代表了一次工業(yè)革命的機會，將大幅提高生產(chǎn)力和生產(chǎn)效率。在構(gòu)建企業(yè)級大模型的時候一定要遵循“安全原則”。安全是大模型發(fā)展的底線，也是未來大模型的核心競爭力。
共0條 [查看全部] 網(wǎng)友評論