“人工智慧行業的發展，已經從原先的拼技術、拼資本，到了拼制度的時候法律。”2026年上海兩會期間，市政協委員、上海交通大學圖書館館長程金華在接受澎湃新聞（
市政協委員、上海交通大學圖書館館長程金華法律。受訪者供圖
過去幾年，大家把更多的關注度放在人工智慧產業的技術發展和資本投入上法律。如今，越來越多的產品應用落地，服務人群規模頗為可觀，且技術發展又還未到不可控制的地步。程金華認為，是時候把關注度落到制度上來，“法律其實是新技術實現穩定產業化和可持續盈利的重要因素，類似於行業的‘制度閥門’。”
2026年1月，國內首起AI服務提供者涉黃獲刑案引發廣泛關注法律。程金華指出這正是一個典型案例，當前人工智慧行業整體上還處於重視數量的初級發展階段，企業和產品進入市場的門檻相對較低，行業規範和法律標準過於寬泛，導致市場亂象環生。
另一方面，現有法律對人工智慧這樣的顛覆性技術又存在規範過嚴的問題，行業發展面臨沉重的制度“鐐銬”法律。例如，可信資料大部分受到版權保護或者由政府擁有，大模型訓練難以獲得全面且精準的語料。語料不全、不精準，容易導致大模型訓練的“資料偏食”，進而產生或者加重“AI幻覺”。
程金華打了一個形象的比方：“人工智慧有點像孫悟空，擁有超凡的力量，可以造福人類，但一旦失控，就會造成不可估量的破壞法律。我們需要給人工智慧設立一套寬嚴相濟的法律‘緊箍咒’，把上海打造成全球人工智慧治理的制度高地，以治理優勢持續引領行業發展。”
對於法律規範過嚴問題，他建議加強上海公共資料對人工智慧企業的動態開放，鼓勵龍頭企業建設行業語料庫技術標準，確保醫療健康等重點領域垂類大模型的語料來源均衡、資料精準並且及時更新；及時修訂《上海市促進人工智慧產業發展條例》，可以借鑑自貿區立法經驗，爭取全國人大常委會特別授權，加強上海地方立法對行業治理的前瞻性、突破性制度探索法律。
對於門檻太低導致的市場亂象，程金華希望“最前沿的利益相關者能夠去思考規範性的問題”，一個成熟的市場首先要有行業的標準，然後是監管標準，最後才到法律層面法律。他提出要鼓勵行業協會先行制定企業與產品的分類體系，加強政府的認證認可與質量監督工作。藉助世界人工智慧大會的平臺效應，成立“人工智慧產業發展法治保障共同體”，推動行業規範與法律規範一體建設，確保企業合規經營、產品無害於民。
此外，程金華還建議對語料“合理使用”等關鍵性制度問題形成一批創新性典型案例，完善涉人工智慧不正當競爭等新型別案件的裁判規則，深化技術調查官、專家陪審等“外腦”支援，為企業合規經營提供穩定預期法律。
