21世紀(jì)經(jīng)濟報道記者 肖瀟 北京報道

近日，韓國國會通過了一項性犯罪的修正法案——任何制作、持有、保存深度偽造色情視頻的行為，都可被定為刑事犯罪，并面臨最高七年監(jiān)禁或者5000萬韓元的罰款（約26萬元人民幣），目前在等待總統(tǒng)最終簽署。

制作深度偽造的色情制品并主動傳播，此前在韓國已經(jīng)是一項犯罪行為。根據(jù)韓國的《性暴力預(yù)防和受害者保護(hù)法》，此類行為面臨最高五年的刑期。 

最新修改的法案將上限提高到七年，并且持有、購買、保存非法影像者也納入了刑事處罰范圍，面臨最高三年刑期或3000萬韓元罰款（約15.7萬元人民幣）。

修正案推出的前情，是多起韓國“AI換臉”惡性犯罪事件曝光。

今年5月，韓聯(lián)社的一起調(diào)查報道發(fā)現(xiàn)，加密通訊應(yīng)用程序 Telegram 上有數(shù)十個“羞辱房”，韓國男性用戶在聊天群中分享普通女性照片，并用深度偽造軟件“換頭”成色情制片。8月，數(shù)百個類似的Telegram色情聊天室陸續(xù)曝光，波及范圍擴大到女學(xué)生、女教師、女兵等，其中已知最大的一個聊天室成員超過22萬人。

韓國警方表示，2024年前七個月共處理了297起相關(guān)案件，幾乎是2021年首次收集相關(guān)數(shù)據(jù)時的兩倍。尤其值得警惕的是，低齡化犯罪的特征明顯，2023年犯罪嫌疑人中的未成年人占比高達(dá)75.8%。

不只是韓國，濫用深度偽造技術(shù)進(jìn)行性犯罪的行為在全球范圍內(nèi)流行。欺詐安全網(wǎng)站Home Security Heroes去年的報告顯示，互聯(lián)網(wǎng)上98%的深度偽造視頻為色情內(nèi)容。報告還指出，現(xiàn)在只需不到 25 分鐘的時間，而且無需任何成本，就可以使用一張清晰面部圖像，為任何人制作長達(dá)一分鐘的色情視頻。

該報告分析的網(wǎng)絡(luò)深度偽造色情視頻中，大多數(shù)都是韓國女性。除韓國外，深度偽造色情受害者最多的國家是美國、日本、英國和中國大陸。

面對大幅降低了使用門檻的深度偽造技術(shù)，不少批評聲認(rèn)為，韓國修正案的作用仍然有限。韓國民主黨議員金南熙（Kim Nam-hee）研究了韓國地方法院2021年以來受理的深度偽造犯罪，在87名犯罪嫌疑人里，只有不到三分之一的人最終被判有期徒刑，緩刑、罰款或無罪的人占據(jù)六成。換言之，性犯罪問題沒有得到足夠重視，量刑過輕，可能對犯罪嫌疑人難以起到震懾作用。

另一方面，需要多大程度審查平臺內(nèi)容的爭辯再次擺于臺面上。 

金南熙在九月初的一場議會聽證會上坦言，韓國的“數(shù)字性犯罪受害者支持中心”可以幫受害者刪除色情影片，但有關(guān)部門沒有刪除內(nèi)容的合法性基礎(chǔ)，因此進(jìn)展并不算順利。不過，最新修正案的附加法案明確了韓國政府部門有刪除非法影像的權(quán)力，以及為受害者恢復(fù)正常生活積極提供援助的義務(wù)。

“韓國通信委員會也可以向谷歌等平臺傳播非法視頻采取措施，但我據(jù)了解，還沒有公司因此收到罰款的例子?！苯鹉衔跹a充道。

全球的監(jiān)管機構(gòu)、技術(shù)平臺和社交媒體，正在深度偽造色情事件上尋找共識。比如，最近經(jīng)過州長簽署的一系列美國加州人工智能法案，其中兩項規(guī)定，深度偽造色情圖像屬于刑事犯罪，并要求社交媒體平臺為用戶建立舉報渠道：在平臺調(diào)查期間，相關(guān)內(nèi)容必須被屏蔽，如果調(diào)查確認(rèn)屬實，平臺需要永久刪除。

與此同時，社交媒體和技術(shù)平臺也在主動開發(fā)技術(shù)，從源頭限制深度偽造技術(shù)的濫用。OpenAI曾表示，文生圖大模型DALL-E的訓(xùn)練數(shù)據(jù)中已經(jīng)刪除了露骨內(nèi)容，從而限制用戶創(chuàng)建這類圖像。此外公司會過濾用戶的提示詞，不能隨意生成名人圖像。 

今年早些時候，泰勒·斯威夫特的“換臉”色情圖片在社交媒體X上泛濫，X一度禁止了用戶搜索泰勒·斯威夫特的關(guān)鍵詞。

值得注意的是，盡管多家社交媒體在打擊性犯罪、虛假內(nèi)容上付出越來越多努力，但為本次性犯罪事件提供“土壤”的Telegram很少出現(xiàn)在相關(guān)報道中。由美國國家失蹤與受虐兒童中心 （NCMEC） 開發(fā)的平臺 Take It Down旨在打擊網(wǎng)絡(luò)中的色情復(fù)仇現(xiàn)象，也是業(yè)內(nèi)較常提起的解決辦法——使用哈希列表（一種數(shù)字指紋），巡檢平臺中的圖像和視頻，及時監(jiān)測和刪除非法影像。TikTok、Instagram、PornHub等全球性平臺都已加入該計劃，而Telegram不在其中。

韓國警方認(rèn)為Telegram服務(wù)器位于境外，而且對話內(nèi)容采取端到端加密，隱蔽性強，是此類案件偵查難辦的直接原因。

8月末，Telegram的創(chuàng)始人帕維爾·杜羅夫在巴黎機場遭到法國警方突然拘留，法國檢方的指控包括拒絕配合執(zhí)法部門，共謀持有色情材料等。Telegram官方表示，“聲稱平臺或其所有者對平臺濫用行為負(fù)責(zé)的說法是荒謬的”，全球近十億用戶使用Telegram作為通信手段和重要信息來源，“我們期待此事盡快得到解決”。