防范AI惡意使用 需強(qiáng)化法律觀念和社會(huì)責(zé)任意識(shí)

“有圖有真相”的說(shuō)法曾在互聯(lián)網(wǎng)上盛行一時(shí)。

(資料圖片僅供參考)

然而不久前，一女網(wǎng)友在地鐵上的照片被AI“一鍵脫衣”造謠的事件引發(fā)熱議。與這一案例中“AI脫衣”相似的，還有近年來(lái)走紅網(wǎng)絡(luò)的“AI換臉”。一些“AI換臉”App使用明星的圖片制作換臉照片甚至是視頻進(jìn)行推廣，引發(fā)了一系列法律糾紛。“有圖有真相”在惡意AI換臉換裝面前，可能正在成為歷史。

如何防范惡意AI換臉換裝？記者于4月4日采訪了首都經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院副院長(zhǎng)、副教授陶盈。

合理使用AI換臉換裝可提高生產(chǎn)效率

AI換臉換裝的實(shí)現(xiàn)，基于人工智能深度學(xué)習(xí)技術(shù)中的計(jì)算機(jī)視覺(jué)和人工智能技術(shù)。其中，計(jì)算機(jī)視覺(jué)技術(shù)主要通過(guò)分析面部特征來(lái)實(shí)現(xiàn)人臉或衣物的識(shí)別與替換；人工智能技術(shù)則被用于提高人臉或衣物的匹配度與真實(shí)感，使得換臉換裝的效果更加自然流暢。

“近年來(lái)，互聯(lián)網(wǎng)上出現(xiàn)了不少具有AI換臉換裝功能的App。”陶盈介紹，“利用這些App，用戶僅需一張照片就能實(shí)現(xiàn)換臉換裝，操作起來(lái)難度并不高。”

在合理使用的情況下，AI換臉換裝在影視剪輯、廣告設(shè)計(jì)等方面可以發(fā)揮重要作用，大大減少相關(guān)圖片或視頻內(nèi)容的生產(chǎn)成本，并在一定程度上提高生產(chǎn)效率與質(zhì)量。

但正如前述案例，AI換臉換裝也很容易被濫用，進(jìn)而產(chǎn)生嚴(yán)重的社會(huì)危害。“偽造、丑化、污損他人的個(gè)人形象或是生成不雅圖片，不僅可能侵害自然人的肖像權(quán)、隱私權(quán)、名譽(yù)權(quán)等人格權(quán)益，還有可能侵犯原照片、視頻作者的著作權(quán)等財(cái)產(chǎn)權(quán)益，甚至有可能構(gòu)成敲詐勒索、詐騙等相關(guān)刑事犯罪。”陶盈說(shuō)，“此外，惡意AI換臉換裝可以讓犯罪分子將自己的面孔或身份信息偽裝成其他人，從而更加輕易地進(jìn)行各種犯罪活動(dòng)。”

多手段助力打擊惡意AI換臉換裝

“我們應(yīng)該加強(qiáng)技術(shù)研發(fā)與監(jiān)管，強(qiáng)化發(fā)布平臺(tái)的審查義務(wù)，防范和治理惡意AI換臉換裝。”陶盈表示。

“首先，我們應(yīng)該嚴(yán)厲打擊通過(guò)惡意AI換臉換裝侵害他人合法權(quán)益的違法行為，強(qiáng)化技術(shù)開(kāi)發(fā)者與應(yīng)用者的法律觀念和社會(huì)責(zé)任。”陶盈表示，在進(jìn)行AI換臉換裝之前，首先應(yīng)該征得被換臉換裝者的同意，確保個(gè)人信息和數(shù)據(jù)安全。

“其次，發(fā)布圖片或視頻的平臺(tái)應(yīng)該承擔(dān)起實(shí)質(zhì)審查的義務(wù)，避免具有明顯惡意的內(nèi)容發(fā)布。”陶盈說(shuō)，“平臺(tái)還應(yīng)當(dāng)要求內(nèi)容創(chuàng)作者實(shí)名認(rèn)證，監(jiān)督內(nèi)容創(chuàng)作者標(biāo)明‘此視頻為AI合成’等標(biāo)識(shí)，以免誤導(dǎo)公眾。”記者了解到，目前國(guó)內(nèi)部分網(wǎng)絡(luò)視頻平臺(tái)已經(jīng)實(shí)現(xiàn)了對(duì)于AI合成的標(biāo)識(shí)。

“再次，監(jiān)管部門應(yīng)當(dāng)嚴(yán)厲打擊相關(guān)黑色產(chǎn)業(yè)鏈，對(duì)違法行為進(jìn)行精準(zhǔn)打擊，鏟除惡意換臉換裝的滋生土壤。”陶盈表示，“此外，通過(guò)加強(qiáng)人臉識(shí)別和深度學(xué)習(xí)算法的研究，提高人臉檢測(cè)和分割的準(zhǔn)確率，也有助于防范治理惡意AI換臉換裝。”

“我們應(yīng)該通過(guò)加強(qiáng)法治教育宣傳，增強(qiáng)人們的個(gè)人信息安全意識(shí)。”陶盈說(shuō)，“在生活中，每個(gè)人都應(yīng)該加強(qiáng)個(gè)人信息和隱私保護(hù)的意識(shí)，避免泄露敏感隱私照片以讓他人有機(jī)可乘。”

據(jù)悉，目前法院已經(jīng)有多起涉及惡意AI換臉換裝侵害他人肖像權(quán)的判決，近期的2023年“清朗”系列專項(xiàng)行動(dòng)也對(duì)相關(guān)濫用科技的互聯(lián)網(wǎng)不法行為進(jìn)行了系列打擊。“互聯(lián)網(wǎng)并非法外之地，我們應(yīng)該加大對(duì)惡意AI換臉換裝的防范治理力度，營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境。”陶盈表示。

責(zé)任編輯：Rex_07