(資料圖)

5月7日消息，參照《互聯網信息服務深度合成管理規定》等法律法規，抖音提出十一條平臺規范與行業倡議。其中提到，創作者、主播、用戶、商家、廣告主等平臺生態參與者，在抖音應用生成式人工智能技術時，發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景；發布者需對人工智能生成內容產生的相應后果負責，無論內容是如何生成的；虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證；禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限于肖像權、知識產權等。一經發現，平臺將嚴格處罰。

在海外，蘋果公司聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）最近警告說，人工智能（AI）可能使詐騙和錯誤信息更難發現。他擔心這項技術會被“壞人”所利用。

技術本身并無原罪，就看如何使用及其目的。AI繪畫作品、換臉視頻等工具，從積極角度看，這類技術讓生活更有趣，讓制作或創作更加高效、逼真。但有些時候，深度合成工具也成為詐騙、侵權、違法等違法犯罪活動的“幫兇”。

在短視頻及短視頻分享潮流的興起下，在國家持續加強互聯網監管的背景下，上述規范與行業倡議的可以說是互聯網內容領域亟需的，有助于防范深度偽造和ChatGPT等人工智能技術各種潛在風險。去年年底由國家互聯網信息辦公室、工業和信息化部、公安部聯合發布并在今年初（在ChatGPT大熱之前）生效的《互聯網信息服務深度合成管理規定》要求：“深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識”。該規定還明確，深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息。而根據微信公號“甘肅公安”5月7日消息，近日平涼市公安局網安大隊就偵破一起利用AI人工智能技術炮制虛假不實信息的案件。

而更早之前的2019年，國家互聯網信息辦公室等三部門就頒發了《網絡音視頻信息服務管理規定》，針對網絡視頻的“深度偽造”進行適時管控，要求網絡音視頻信息服務提供者和網絡音視頻信息服務使用者“利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識”，“不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息”（參考《暢語快評|ChatGPT變臉,中移動“算聯網》）。

今年一季度，全國網信系統還進一步加大網絡執法力度，持續推進“清朗”系列專項行動，堅決依法查處網上各類違法違規行為，累計約談網站2203家，暫停功能或更新網站48家，下架應用程序55款，關停小程序12款，會同電信主管部門取消違法網站許可或備案、關閉違法網站4208家。在今年ChatGPT大熱之際，4月12日國家互聯網信息辦公室還起草了《生成式人工智能服務管理辦法（征求意見稿）》。更不用說，5月8日國家網信辦已經派出工作組進駐斗魚平臺以治理相關的色情、低俗等嚴重生態問題。這些都表明：互聯網信息治理是當下重點之一。

而作為短視頻行業龍頭的抖音，在取得行業地位而亂象漸起之時，按照國家監管需求不斷加強平臺自治、加強平臺內容管理規范也是理所當然的。因為其舉措已經部分代表了短視頻乃至互聯網內容平臺的治理態度。例如此前2023年2月，抖音就在“治理詐騙開放日”上就發布智能交互反詐產品“抖音小安”。

預計未來在互聯網UGC領域，深度合成與AIGC應用管理業將更為規范，為大眾筑起數字時代的安全防護欄。

責任編輯：李楠

關鍵詞：