每經(jīng)編輯｜杜宇

據(jù)淘寶官方微信號，3月27日，淘天集團發(fā)文稱，從今天開始，淘寶全平臺啟動AI假圖治理，嚴(yán)厲打擊利用AI假圖欺騙消費者、侵害原創(chuàng)品牌商家的違規(guī)行為。

淘寶規(guī)定，商品圖片應(yīng)以商品實拍圖作為核心的效果體現(xiàn)，修飾行為應(yīng)當(dāng)適度，避免失真。嚴(yán)禁利用AI等技術(shù)合成方式，呈現(xiàn)顯著失真的與實際不符的商品信息效果圖。

淘寶稱，AI可能沒有價值判斷，但AI的使用者必須有判斷，平臺必須具有價值取向。AI的發(fā)展和使用應(yīng)該提高消費體驗、促進原創(chuàng)、保護合法商家權(quán)益，而不是成為黑灰產(chǎn)違規(guī)獲利的工具。我們也向全行業(yè)發(fā)出倡議:規(guī)范使用AI生成圖片，保障商品信息真實，一起加入對AI假圖的全面治理。

圖片來源：淘寶官方微信號

隨著AI技術(shù)加快發(fā)展，一些電商商家開始利用AI生成商品圖片、視頻，其中不乏失真、造假現(xiàn)象。這不僅嚴(yán)重影響消費者權(quán)益，也侵害原創(chuàng)品牌和商家的合法利益。

在社交平臺上，也有不少消費者紛紛抱怨：根本無法通過圖片看出實物是什么樣。

圖片來源：深圳商報

據(jù)深圳商報，淘寶相關(guān)負(fù)責(zé)人稱，平臺鼓勵探索AI應(yīng)用，但要求圖片修飾適度，不能失真、濾鏡過重。AI的發(fā)展和使用應(yīng)該提高消費體驗、促進原創(chuàng)、保護合法商家權(quán)益，而不是成為黑灰產(chǎn)違規(guī)獲利的工具。

據(jù)悉，接入AI假圖識別模型后，淘寶已累計攔截近10萬張AI假圖。此外，商品詳情頁還將上線AI合成提示標(biāo)識，保障消費者知情權(quán)。新規(guī)上線意味著打擊AI假圖納入體系化平臺治理范疇，AI虛假商品圖片有望在淘寶受到有效遏制。

據(jù)國家網(wǎng)信辦網(wǎng)站3月15日消息，近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》），自2025年9月1日起施行。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，《標(biāo)識辦法》旨在促進人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識，保護公民、法人和其他組織合法權(quán)益，維護社會公共利益。

圖片來源：中國政府網(wǎng)

近年來，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為生成合成文本、圖片、音頻、視頻等信息提供了便利工具，在促進經(jīng)濟發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時，也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問題。社會廣泛呼吁加快專門立法、強化技術(shù)監(jiān)管、壓實平臺責(zé)任。為積極響應(yīng)社會關(guān)切和群眾關(guān)心，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國家廣播電視總局制定了《標(biāo)識辦法》。《標(biāo)識辦法》以內(nèi)容標(biāo)識為抓手，細(xì)化前期相關(guān)部門規(guī)章的標(biāo)識相關(guān)要求，進一步發(fā)揮內(nèi)容標(biāo)識提醒提示和監(jiān)督溯源的技術(shù)作用，著力構(gòu)建開放、公正、有效的治理機制，營造公平有序發(fā)展環(huán)境，推動人工智能產(chǎn)業(yè)健康有序發(fā)展。

《標(biāo)識辦法》明確，人工智能生成合成內(nèi)容標(biāo)識主要包括顯式標(biāo)識和隱式標(biāo)識兩種形式，顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識；隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。

《標(biāo)識辦法》提出，按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》相關(guān)要求開展人工智能生成合成內(nèi)容標(biāo)識活動的，應(yīng)當(dāng)符合《標(biāo)識辦法》相關(guān)要求。

《標(biāo)識辦法》要求，服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照要求對生成合成內(nèi)容添加顯式標(biāo)識；服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識；提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取技術(shù)措施，規(guī)范生成合成內(nèi)容傳播活動。

《標(biāo)識辦法》強調(diào)，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識，不得為他人實施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益。

每日經(jīng)濟新聞綜合國家網(wǎng)信辦網(wǎng)站、深圳商報、淘寶官方微信號

封面圖片來源：每經(jīng)記者 楊卉 攝