近日，上海網(wǎng)信辦通報(bào)了“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)第一階段的顯著成果。此次行動(dòng)主要針對(duì)AI技術(shù)的違規(guī)使用，全面清理并整治了相關(guān)違規(guī)AI產(chǎn)品及信息。
在專(zhuān)項(xiàng)行動(dòng)中，上海市委網(wǎng)信辦積極指導(dǎo)包括小紅書(shū)、嗶哩嗶哩、拼多多在內(nèi)的15家重點(diǎn)網(wǎng)站平臺(tái)，集中對(duì)“一鍵脫衣”、未經(jīng)授權(quán)的人臉或人聲克隆編輯等違規(guī)AI產(chǎn)品、商品及其營(yíng)銷(xiāo)、炒作、推廣、教程信息進(jìn)行清理。這些平臺(tái)積極響應(yīng)，不僅主動(dòng)發(fā)布專(zhuān)項(xiàng)行動(dòng)治理公告，還開(kāi)通了有害AI內(nèi)容的舉報(bào)受理處置渠道，加強(qiáng)了對(duì)智能體的全面排查清理。
據(jù)統(tǒng)計(jì)，各重點(diǎn)網(wǎng)站和AI平臺(tái)在此次行動(dòng)中共攔截清理了82萬(wàn)余條違法違規(guī)信息，處置了1400余個(gè)違規(guī)賬號(hào)，并下線了2700余個(gè)違規(guī)智能體。這一系列舉措使得網(wǎng)絡(luò)上的違規(guī)AI信息得到了顯著減少。
此外，上海網(wǎng)信辦還圍繞AI內(nèi)容的“制作-傳播”環(huán)節(jié)，通過(guò)政策指導(dǎo)、生態(tài)協(xié)同與技術(shù)落地，推動(dòng)相關(guān)企業(yè)加快開(kāi)發(fā)上線隱式標(biāo)識(shí)和傳播鏈互認(rèn)驗(yàn)證。稀宇科技、階躍星辰、通義等多家企業(yè)已基本完成了顯式標(biāo)識(shí)規(guī)范的上線工作。同時(shí)，小紅書(shū)還牽頭編制了圖片模態(tài)元數(shù)據(jù)標(biāo)識(shí)實(shí)踐指南，為上海的標(biāo)識(shí)工作取得了階段性成效。
此次專(zhuān)項(xiàng)行動(dòng)的初步成果展示了上海網(wǎng)信辦在整治AI技術(shù)濫用方面的決心和成效，為營(yíng)造清朗的網(wǎng)絡(luò)空間邁出了堅(jiān)實(shí)的一步。
浙公網(wǎng)安備 33010502007447號(hào)