中新經緯12月4日電 “北京市場監管”微信號4日消息，為應對AI合成技術濫用風險，規范電商直播行業秩序，近日，北京市消費者協會(以下簡稱“北京消協”)聯合京東、美團、拼多多、唯品會、抖音、快手、小紅書、微信直播等8家電商平臺，正式簽訂全國首份《促進AI技術規范應用承諾書》(以下簡稱《承諾書》)，從技術標識、內容審核、責任追溯等環節建立企業自律規范，提出六大具體舉措，劃定AI技術應用“合規紅線”，壓實平臺企業主體責任，切實維護消費者合法權益。

近年來，AI數字人直播、虛擬場景帶貨等新技術應用快速普及，在提升消費體驗的同時，部分商家的違規操作也引發消費者廣泛擔憂。北京消協歷時3個月開展專項調查，通過問卷調研、體驗式調查、專家研討等方式，鎖定當前AI合成技術應用中侵害消費者權益的三大突出問題：

1、消費者知情權保障不足，“真假難辨”困擾普遍存在

據3162份有效回收問卷調查數據顯示，近九成的受訪者呼吁“AI生成內容需顯著標識”，超七成接受虛擬背景但強調需有顯著提示；超六成認為AI數字人“缺乏真情實感”，近三成擔憂其“可能誤導消費決策”。

2、合成技術濫用滋生消費風險，“虛假營銷”問題凸顯

針對電商平臺的AI數字人、AI場景直播帶貨行為，北京消協通過“模擬消費者在直播間購物+線下比對實物”的方式，對10個AI數字人直播帶貨樣本開展體驗調查。調查發現：5個樣本未在直播界面標注“AI生成”“擬真場景”等提示信息，5個樣本沒有對體驗人員的問題進行及時回應或互動；6個樣本存在未提示私下交易風險等問題。此外，部分網絡直播中存在利用公眾信任謀取不當利益的情況，近期網信部門也處置了一批利用AI換臉技術仿冒公眾人物開展直播營銷的網絡賬號。

3、平臺審核機制存在短板，“風險防控”能力待提升

經與專家研討調研發現，當前部分電商平臺尚未建立健全AI內容審核專項制度，對商家使用AI數字人、虛擬場景等技術缺乏有效管理規則和精準識別技術，導致消費者在購物過程中難以快速辨別信息真偽，增加了消費決策風險。

針對上述問題，《承諾書》以“標識透明、審核嚴格、責任可溯”為核心，提出六大具體措施，為AI技術在電商領域的合規應用劃定“紅線”。

堅守法律底線，明確合規邊界

嚴格遵守《中華人民共和國消費者權益保護法》《中華人民共和國電子商務法》《人工智能生成合成內容標識辦法》等法律法規，要求平臺及商家在應用AI生成合成技術時，必須以保障消費者合法權益為前提。

強化標識要求，保障知情權利

要求商家和內容創作者在利用AI技術生成合成數字人主播、虛擬場景時，在顯著位置清晰標注“AI生成”或“擬真場景”等提示內容；鼓勵使用平臺提供的統一AI內容標識功能主動聲明，嚴禁利用AI合成換臉技術仿冒名人明星帶貨。

技術監測與人工復核結合，阻斷違規傳播

在內容審核與傳播環節，采取措施對商家或內容創作者的直播內容、直播場景進行監測，一旦發現沒有標識的疑似AI數字人或AI虛擬場景問題，將及時采取適當方式在發布內容周邊添加顯著的提示標識，經平臺研判，確系存在違規行為的，將進一步采取屏蔽鏈接等措施。

提供工具支持，引導主動合規

為商家及內容創作者提供便捷的AI標識工具和清晰的操作指引，引導其主動規范使用AI標識。

嚴打標識造假，維護制度公信

堅決抵制惡意刪除、篡改、偽造或隱匿AI內容標識的行為，對違規賬號及內容依法依規嚴肅處理，維護AI制度的嚴肅性。

強化培訓賦能，提升行業認知

將AI內容標識要求納入平臺治理體系，對商家或內容創作者加強合規培訓，提升平臺內AI技術合規水平。

北京消協相關負責人表示，下一步，消協組織將持續跟蹤網絡AI技術應用動態，組織志愿者體驗直播間購物、追蹤反饋實際感受，督促企業嚴格落實承諾內容。同時，通過線上線下多渠道開展消費教育活動，向廣大消費者普及AI技術常識，提升消費者辨別虛假內容的能力與防范意識。通過多方協作、多維施策，構建“技術合規、平臺履責、消費安心”的網絡消費環境。(中新經緯APP)

來源：中新經緯

編輯：郭晉嘉

廣告等商務合作，請點擊這里

未經過正式授權嚴禁轉載本文，侵權必究