AI蒸餾同事?潛藏三方面法律風險需關注

AI蒸餾同事?潛藏三方面法律風險需關注

當下職場湧現出AI蒸餾復刻同事這類新型用工隱患,而社保未足額繳納、臨時用工勞動關係認定,則是常年高發的職場糾紛法律。讓我們結合司法案例,解析新技術催生的全新法律風險,釐清這些經典用工維權難題。

近日,AI開源工具“同事.skill”引發廣泛關注,開發者透過收集、提取離職員工的聊天記錄、工作文件、溝通習慣等資料,藉助AI蒸餾技術生成具備特定人格特徵、可替代人工完成工作任務的智慧模型,被輿論稱為“數字重生”法律。依託資料提取、人格復刻、能力遷移等特性,AI蒸餾技術快速落地,類似“同事.skill”等未經授權復刻他人人格與工作能力的專案不斷湧現,不僅嚴重侵害自然人的人格權、損害勞動者合法權益,還擾亂數字空間公序良俗,衍生出一系列現實法律風險。

風險一

資料未經授權濫用

人格權保護面臨嚴峻挑戰

AI蒸餾技術多以自然人肖像、聲音、聊天記錄、影像等人格要素為核心訓練素材,透過數字化提取、特徵固化、模型復刻等方式對人格利益進行實質性利用法律。實踐中,大量開發者未經權利人同意,擅自抓取並使用個人資料,甚至對逝者實施“數字復活”,嚴重侵害自然人人格權益。

北京某法院2023年4月審結的殷某訴北京某智慧科技有限公司人格權糾紛中,配音師殷某曾為科技公司錄製有聲讀物,科技公司利用AI技術將殷某聲音訓練成文字轉語音產品並對外出售,相關AI配音短影片廣泛傳播法律

法院認為,聲音屬於人格權客體,錄音著作權不能替代人格權授權,企業即便享有錄音版權,未經許可將他人聲音用於AI蒸餾仍構成聲音權侵權,判決公司賠禮道歉並賠償殷某25萬元法律

風險二

演算法監控勞動過程

損害勞動者身心健康

展開全文

AI蒸餾可將勞動者工作習慣、溝通方式、經驗技能、行為模式轉化為可複用的AI模型,企業透過蒸餾員工資料,最佳化派單、考核、薪酬全鏈條演算法,全程用硬性資料指標管控勞動者工作行為,倒逼勞動者被動貼合演算法標準,損害勞動者的身心健康和休息權益法律

北京某法院2024年7月審結的孫某訴北京市某商貿有限公司、某科技有限公司勞動糾紛中,外賣騎手孫某在送餐途中發生交通事故致骨折,商貿公司以“眾包非勞動關係”、平臺企業以“僅提供技術服務、不直接用工”為由,均拒絕支付傷殘賠償法律

法院認為,平臺演算法是核心管理工具,對騎手工作行為、勞動強度、收入分配具有絕對控制權,演算法強制派單、壓縮時效、高強度派單,直接倒逼騎手疲勞、趕單、分心作業,是導致事故受傷的重要誘因法律。最終平臺企業與孫某達成調解協議,支付孫某生活保障費1.3萬元。

風險三

演算法黑箱導致舉證不能

權利救濟與司法認定困難

AI蒸餾的訓練資料、模型邏輯、呼叫過程均由技術方掌控,形成典型演算法黑箱法律。被侵害的自然人通常無法獲取資料來源、授權記錄、演算法規則、蒸餾過程等核心證據,在維權中處於明顯弱勢,易因舉證不能導致訴求難以支援。

北京某法院2023年6月審結的唐某某訴某科技有限公司網路服務合同糾紛中,科技公司運營的平臺將唐某某釋出的內容判定為“包含AI生成內容但未標識”的違規情況,將該內容隱藏並將使用者禁言一天,唐某某向平臺申訴失敗後將科技公司訴至法院法律。案件審理中,公司未對其使用演算法決策依據和結果進行適度的解釋和說明。

法院認為,網路內容服務平臺在即時性創作文字場景下對使用演算法自動化決策結果承擔適度說明義務,判決公司展開摺疊的回答並刪除相關後臺記錄法律

【法官建議】

一是強化人格權授權與保護法律。企業使用自然人資料開展AI模型蒸餾相關工作,必須依法徵得書面明示同意,提前明確資料使用的具體用途、有效期限和適用範圍邊界,嚴禁企業未經許可擅自採集、固化、永久留存勞動者人格特徵與工作經驗資訊,防止以AI智慧化升級、崗位最佳化替代為由,違法解除勞動關係,變相脅迫員工簽署資料授權檔案。

二是全面強化勞動者專項權益保護法律。在AI智慧排班、演算法考核、數字化管理等用工場景中,全面規範企業用工行為,嚴格保障勞動者勞動報酬、休息休假、崗位安全、社會保障等各項法定基本權益,堅決防範演算法歧視、智慧壓榨、差異化對待等各類隱形侵權問題。

三是嚴格適用舉證責任倒置規則法律。針對職場演算法不透明、後臺規則隱蔽等演算法黑箱突出問題,統一由AI模型使用方舉證資料來源合規、人員授權真實、全程演算法合規,切實降低勞動者與人格權權利人取證壓力,大幅減輕維權實操難度。

文/陳境峰(北京市第一中級人民法院)

本站內容來自使用者投稿,如果侵犯了您的權利,請與我們聯絡刪除。聯絡郵箱:[email protected]

本文連結://haizhilanhn.com/post/38717.html

🌐 /