(資料圖)

5月7日消息，參照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等法律法規(guī)，抖音提出十一條平臺規(guī)范與行業(yè)倡議。其中提到，創(chuàng)作者、主播、用戶、商家、廣告主等平臺生態(tài)參與者，在抖音應用生成式人工智能技術時，發(fā)布者應對人工智能生成內容進行顯著標識，幫助其他用戶區(qū)分虛擬與現(xiàn)實，特別是易混淆場景；發(fā)布者需對人工智能生成內容產(chǎn)生的相應后果負責，無論內容是如何生成的；虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證；禁止利用生成式人工智能技術創(chuàng)作、發(fā)布侵權內容，包括但不限于肖像權、知識產(chǎn)權等。一經(jīng)發(fā)現(xiàn)，平臺將嚴格處罰。

在海外，蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）最近警告說，人工智能（AI）可能使詐騙和錯誤信息更難發(fā)現(xiàn)。他擔心這項技術會被“壞人”所利用。

技術本身并無原罪，就看如何使用及其目的。AI繪畫作品、換臉視頻等工具，從積極角度看，這類技術讓生活更有趣，讓制作或創(chuàng)作更加高效、逼真。但有些時候，深度合成工具也成為詐騙、侵權、違法等違法犯罪活動的“幫兇”。

在短視頻及短視頻分享潮流的興起下，在國家持續(xù)加強互聯(lián)網(wǎng)監(jiān)管的背景下，上述規(guī)范與行業(yè)倡議的可以說是互聯(lián)網(wǎng)內容領域亟需的，有助于防范深度偽造和ChatGPT等人工智能技術各種潛在風險。去年年底由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布并在今年初（在ChatGPT大熱之前）生效的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》要求：“深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識”。該規(guī)定還明確，深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發(fā)布、傳播虛假新聞信息。而根據(jù)微信公號“甘肅公安”5月7日消息，近日平?jīng)鍪泄簿志W(wǎng)安大隊就偵破一起利用AI人工智能技術炮制虛假不實信息的案件。

而更早之前的2019年，國家互聯(lián)網(wǎng)信息辦公室等三部門就頒發(fā)了《網(wǎng)絡音視頻信息服務管理規(guī)定》，針對網(wǎng)絡視頻的“深度偽造”進行適時管控，要求網(wǎng)絡音視頻信息服務提供者和網(wǎng)絡音視頻信息服務使用者“利用基于深度學習、虛擬現(xiàn)實等的新技術新應用制作、發(fā)布、傳播非真實音視頻信息的，應當以顯著方式予以標識”，“不得利用基于深度學習、虛擬現(xiàn)實等的新技術新應用制作、發(fā)布、傳播虛假新聞信息”（參考《暢語快評|ChatGPT變臉,中移動“算聯(lián)網(wǎng)》）。

今年一季度，全國網(wǎng)信系統(tǒng)還進一步加大網(wǎng)絡執(zhí)法力度，持續(xù)推進“清朗”系列專項行動，堅決依法查處網(wǎng)上各類違法違規(guī)行為，累計約談網(wǎng)站2203家，暫停功能或更新網(wǎng)站48家，下架應用程序55款，關停小程序12款，會同電信主管部門取消違法網(wǎng)站許可或備案、關閉違法網(wǎng)站4208家。在今年ChatGPT大熱之際，4月12日國家互聯(lián)網(wǎng)信息辦公室還起草了《生成式人工智能服務管理辦法（征求意見稿）》。更不用說，5月8日國家網(wǎng)信辦已經(jīng)派出工作組進駐斗魚平臺以治理相關的色情、低俗等嚴重生態(tài)問題。這些都表明：互聯(lián)網(wǎng)信息治理是當下重點之一。

而作為短視頻行業(yè)龍頭的抖音，在取得行業(yè)地位而亂象漸起之時，按照國家監(jiān)管需求不斷加強平臺自治、加強平臺內容管理規(guī)范也是理所當然的。因為其舉措已經(jīng)部分代表了短視頻乃至互聯(lián)網(wǎng)內容平臺的治理態(tài)度。例如此前2023年2月，抖音就在“治理詐騙開放日”上就發(fā)布智能交互反詐產(chǎn)品“抖音小安”。

預計未來在互聯(lián)網(wǎng)UGC領域，深度合成與AIGC應用管理業(yè)將更為規(guī)范，為大眾筑起數(shù)字時代的安全防護欄。

責任編輯：李楠

關鍵詞：