以大模型為核心的生成式人工智能（AIGC）正在加速融入商業場景，但過程中所引發的倫理問題也日益凸顯，特別是在算法“黑箱”、數據濫用、責任逃避等方面呈現出明顯的市場驅動特征，亟須制度性治理，以應對新型技術性市場失靈。

  筆者整理了商業化背景下，AIGC倫理風險的表現：

  ——數據要素產權尚不明晰，誘發數據濫采與技術“黑箱”。數據這一核心數字生產要素尚未實現明確的確權與合理定價機制，平臺企業可通過模糊授權、跨平臺抓取等手段低成本攫取用戶數據，而用戶對數據缺乏掌控權。在此結構性不對稱下，AIGC產品借助SaaS模式廣泛嵌入業務流程，算法邏輯高度封閉不透明，形成技術“黑箱”，用戶在不知情的情況下被動貢獻數據，知情權和選擇權未能有效保障。

  ——企業治理結構相對滯后，加劇倫理邊界退縮。部分企業仍延續傳統工業邏輯，以利潤與規模為導向，尚未將倫理治理充分納入企業戰略，或被邊緣化、或流于形式。在商業化壓力驅動下，一些企業選擇在敏感領域應用AIGC技術，如用于深度偽造、情緒操控、消費誘導等，操控用戶決策甚至影響公共認知，雖有短期收益，卻破壞長期社會信任與倫理秩序。

  ——監管規則尚不完善，導致治理空窗與責任真空。現有監管體系在權責劃分、技術理解與執法手段上尚未能完全適應AIGC快速演進，使部分企業得以在監管盲區內推進業務。當生成內容引發爭議時，平臺常以“技術中立”“非人為控制”為由規避責任，形成社會風險與經濟利益失衡的局面，削弱了公眾對治理機制的信心。

  ——算法訓練機制存在偏差，固化偏見與價值錯位。企業出于效率與經濟性考慮，往往采用歷史數據進行模型訓練，若缺乏偏差控制機制，易導致算法輸出固化偏見。在廣告推薦、人才篩選、信息分發等環節中，這類偏差可能進一步強化標簽化傾向，影響特定群體權益，甚至引發社會價值認知偏離。

  ——社會認知基礎薄弱，助推倫理風險外溢。多數用戶對AIGC技術的工作原理及其潛在風險缺乏了解，難以識別虛假信息與潛在引導行為。教育、媒體與平臺等多方未能形成合力推進倫理素養普及，使得公眾更易陷入誤信誤導，為AIGC濫用提供了低阻力環境，風險迅速蔓延至公共輿論與認知安全層面。

  那么，該如何完善倫理風險治理制度設計，確保科技向善呢？

  筆者認為，破解AIGC商業化應用中的倫理風險困境，需要從產權制度、企業治理、監管體系、算法機制及公眾素養等多維度入手，構建覆蓋前中后全流程、點面結合的系統性治理架構，實現倫理風險的前瞻性預警與結構性緩釋。

  首先，建立數據產權與定價機制，破解數據濫采與技術“黑箱”。應加快推動數據要素確權立法，明確數據的所有權、使用權和交易權邊界，保障用戶“數據知情—授權—撤回—追溯”的完整權利鏈條；建設統一的數據交易平臺與明示定價機制，使用戶能夠主動管理和定價自身數據；推動平臺披露算法運行機制或提供可解釋性披露，并建立信息來源標注機制，提升AIGC運行的透明度與用戶的感知能力。

  其次，改革企業治理結構，嵌入倫理責任與價值導向。建議將AI倫理治理納入企業戰略議題，設立算法倫理委員會與道德責任官，強化從組織結構層面對倫理的內嵌化管理；建立“技術倫理評估”前置機制，在產品設計和部署前進行倫理影響評估，確保價值取向合理、安全邊界明確；引入倫理審計制度，并將倫理實踐納入ESG績效考核體系；鼓勵頭部平臺發布倫理實踐報告，形成行業示范效應，引導企業實現“向善創新”。

  再次，強化跨部門協同監管，縮小治理空窗與責任模糊地帶。應盡快建立跨部門監管協調機制，共同組成AIGC綜合治理小組，統籌推進法規制定與執行落地；加快出臺生成內容識別、數據權屬界定、算法責任歸屬等專項法規，明確平臺在生成內容中的主體責任；對AIGC生成內容可設“可推定責任”原則，即平臺無法證明無過錯即需承擔相應責任，防止企業借“算法自動生成”之名規避治理義務，建立事前預防、事中監管與事后問責相結合的全鏈條治理體系。

  同時，完善訓練數據治理規則，消解算法偏見與價值錯位。應由權威第三方主導建立公共訓練語料庫，提供多樣、可信、經過審核的語料資源供企業使用，提升基礎數據的倫理質量；強制企業披露訓練數據來源、去偏技術及價值審核流程，并設立算法備案機制，強化外部監督；推動企業在算法目標中引入公平性、多樣性等多元指標，改變目前以“點擊率”“停留時長”為主的單一商業導向，構建價值均衡的AIGC應用邏輯。

  最后，還要提升公眾數字素養，夯實共識型倫理治理基礎。應將AI倫理與算法素養教育納入中小學與高校課程體系，支持媒體、行業協會與公益組織等社會力量參與AI倫理治理，通過設立“公眾技術觀察團”“倫理風險報告窗口”等方式，推動民間監督常態化；鼓勵平臺建立倫理科普與風險提示機制，對AIGC熱點應用及時發布技術解讀與倫理指引，緩解公眾焦慮，增強社會整體對AIGC的識別與防范能力。

  生成式人工智能的商業化應用，是技術進步與經濟發展融合的重大機遇，亦是對倫理治理體系的嚴峻考驗。唯有以系統治理理念統籌發展與規范，強化制度設計與責任落實，方能在推動技術創新的同時守住倫理底線，培育安全、可持續、可信賴的數字經濟生態。

  （作者：李大元系中南大學商學院教授，蘇亞系中南大學商學院博士研究生）