據(jù)悉，去年8月抖音發(fā)布了《人工智能生成內(nèi)容的平臺規(guī)范及行業(yè)倡議》，強調(diào)禁止利用AI技術(shù)制作虛擬人物進行低質(zhì)量創(chuàng)作。今年3月27日，抖音安全中心又發(fā)布公告表示，發(fā)現(xiàn)少數(shù)賬號依然存在使用AI技術(shù)生成虛擬人物的違規(guī)行為。

此類違法行為主要表現(xiàn)在以下幾個方面：

首先，生成虛假外國人形象，假裝熱愛祖國吸引關(guān)注，例如聲稱愿意嫁到中國或是來中國生活。

其次，生成俊男靚女形象進行欺騙性互動，誘導(dǎo)網(wǎng)友添加個人賬戶進行私聊，甚至有些行為涉嫌詐騙。

再者，生成精英人士形象，發(fā)布偽成功學(xué)等引導(dǎo)性不良內(nèi)容，吸引低質(zhì)粉源，甚至引流至外部進行收費課程或加入收費團體。

針對此類違規(guī)現(xiàn)象，抖音平臺將視情節(jié)嚴(yán)重程度采取相關(guān)處理措施，如下架違規(guī)視頻、取消違規(guī)賬號的投稿和盈利許可、刪去該賬號粉絲、停用賬號直至封鎖賬號等。此外，若發(fā)現(xiàn)違規(guī)行為涉及刑事犯罪，抖音將會向警方尋求協(xié)助。

抖音官方再次聲明，AI技術(shù)為互聯(lián)網(wǎng)內(nèi)容提供了新的可能，但也存在被濫用的風(fēng)險。所有創(chuàng)作者、主播、用戶以及商家都應(yīng)遵守抖音應(yīng)用人工智能生成技術(shù)相關(guān)規(guī)定，具體內(nèi)容包括：

1.發(fā)布者應(yīng)該清晰標(biāo)注哪些內(nèi)容是由人工智能生成，尤其是易引起誤解的場景需要更加明顯的提示。

2.人工智能生成的內(nèi)容，責(zé)任應(yīng)由其發(fā)布者承擔(dān)，無論是怎樣生成的。

3.虛擬角色應(yīng)在平臺上完成注冊，虛擬角色技術(shù)使用方還需注冊為實名認(rèn)證用戶。

4.嚴(yán)禁利用人工智能技術(shù)生產(chǎn)、發(fā)布侵犯他人權(quán)益的內(nèi)容，比如肖像權(quán)、知識產(chǎn)權(quán)等。違反規(guī)定者，平臺將會嚴(yán)肅處理。

5.嚴(yán)禁利用人工智能技術(shù)制作、傳播違背科學(xué)常識、造謠傳遙的內(nèi)容。對于此類違法行為同樣會加大懲罰力度。