生成式人工智能技術驚人的發展速度加劇了人們對網絡安全的擔憂。近來，ChatGPT引發的風波不斷。意大利因數據安全問題成為首個宣布禁用ChatGPT的國家。緊接著，德國表示可能會追隨意大利的腳步。加拿大也在對OpenAI展開調查。蘋果、三星、SK海力士等越來越多的企業也開始禁用ChatGPT。7月6日，在2023工業安全大會上，多位專家表示，要警惕GPT技術在工業領域帶來的安全風險。
工業控制網絡是事關國計民生的關鍵信息基礎設施。隨著工業基礎設施逐漸走向數字化、網絡化、智能化，工控安全面臨前所未有的挑戰。中國工程院院士鄔江興表示，以ChatGPT為代表的AI算法模型存在不可解釋性、不可判識性和不可推論性，這讓AI應用系統內生安全共性問題浮出水面。現階段，人類科技能力尚不能徹查復雜系統漏洞后門問題，AI應用系統算法模型安全與網絡安全問題相互交織且難以分而治之。因此，AI應用系統以及相關數字基礎設施極易成為網絡攻擊的高價值目標，造成社會性災難。
隨著技術的發展，網絡攻擊手段也在不斷演變和更新。機械工業儀器儀表綜合技術經濟研究所所長歐陽勁松表示，人工智能技術的深度應用會讓危險源、威脅變得更加難以辨識，網絡物理攻擊路徑愈發難以預測，功能安全措施與信息安全措施也會越來越難協調。
北京天地和興科技有限公司副總裁伍澤廣也指出，隨著新技術的迅猛發展，安全范圍越來越廣，安全邊界逐步“上浮”和“下沉”。以GPT為代表的生成式人工智能技術將大幅降低黑客攻擊工控專有協議的技術門檻。OT（運營）環節的漏洞將會持續增加，工業企業數據資產面臨的安全風險也會越來越大。
“GPT類大模型技術在各行業的應用生態快速形成，這對工業安全而言是一把‘雙刃劍’。”和利時信息安全研究院有限公司戰略規劃總監李季表示，GPT技術將帶來包括隱私保護、資源消耗等問題，也會進一步加劇對抗性攻擊、自動化攻擊、惡意利用等安全隱患。但同時這項新興技術也將為網絡安全產業帶來更多產業機遇。比如，網安大模型的應用，就有助于安全從業者更好地理解和預測網絡安全威脅，開發出更加高效的安全工具和方案，提升網絡安全的智能化水平。
實際上，任何一項新技術的出現都將帶來安全風險，工業安全建設還是應該從基礎設施出發。烽臺科技（北京）有限公司副總經理、燈塔實驗室技術負責人王啟蒙指出，工業場景基礎設施數字化能力整體偏弱，數字化改造有待改善。CT（通信）與OT（運營）需求對接不足，導致工業應用端到端可靠性難以保障，芯片、模組、終端產品工業特性有待增強。
工業數據價值越高，安全風險往往越大。北京交通大學信息安全系主任、教授王偉指出，工業數據普遍存在訪問控制權屬關系不清晰，易產生非法盜用、非法篡改等問題，借助Web3.0，工業物聯網時代的工業數據可以變成可確權、可支配、可流通的內容，并最終形成可靠、安全、合規的工業數據安全保障平臺。
王啟蒙建議，復雜環境下，應針對工業網絡控制設備、業務服務器、工業主機、網絡設備、安全設備產生的標識數、狀態數據、事件數據、運維數據、實時數據等，根據內置的工業分級分類知識庫對采集的數據進行分級分類，并根據數據等級進行對應安全策略處理。
值得一提的是，網絡分析公司Similarweb統計的最新數據顯示，2023年前5個月，ChatGPT全球訪問量環比增幅分別為131.6%、62.5%、55.8%、12.6%、2.8%，增長幅度明顯下降；6月份ChatGPT的訪問量環比下滑9.7%，為其推出以來首次。作為這輪生成式人工智能風暴的中心點，ChatGPT的訪問量持續下滑引發了人們對于人工智能泡沫的擔憂。
據不完全統計，國內10億級參數規模以上的AI大模型已超80個。多位專家指出，國內通用人工智能產業已出現過熱端倪，一旦技術無法有效落地、市場期待無法實現，“泡沫”就可能破裂。
共0條 [查看全部] 網友評論