原標(biāo)題：一夜爆紅引發(fā)病毒式傳播存在數(shù)據(jù)泄露隱患被約談

　　換臉軟件刷屏風(fēng)險(xiǎn)不容忽視

　　編者按

　　ZAO一夜爆紅,，讓AI換臉軟件引發(fā)廣泛關(guān)注,，但因涉嫌過(guò)度收集用戶個(gè)人信息也遭到廣泛質(zhì)疑,。9月1日,，這款軟件的微信分享鏈接已停止訪問(wèn),，由此引發(fā)的隱私安全爭(zhēng)議卻仍在繼續(xù),，人們對(duì)人工智能未來(lái)走向的探討更趨激烈,。

　　技術(shù)從來(lái)都是一把雙刃劍,，如何讓技術(shù)的進(jìn)步服務(wù)好人類社會(huì)經(jīng)濟(jì)的發(fā)展,，這是全社會(huì)需要思考的重要問(wèn)題,。為此，本報(bào)今日推出專題報(bào)道，梳理人工智能發(fā)展帶來(lái)的相關(guān)法律問(wèn)題與科技倫理風(fēng)險(xiǎn),，敬請(qǐng)關(guān)注,。

　　●　在隱私政策中，ZAO收集用戶的隱私信息范圍極其寬泛,，包括肖像及面部識(shí)別特征等生物識(shí)別信息,，身份證、軍官證,、護(hù)照,、駕駛證、社�,？�,、居住證等身份信息，以及芝麻信用等個(gè)人敏感信息

　　●　對(duì)于用戶來(lái)說(shuō),，ZAO換臉?lè)��?wù)最大的風(fēng)險(xiǎn)在于對(duì)用戶人臉數(shù)據(jù)的收集,。ZAO承擔(dān)的個(gè)人信息安全義務(wù)包括制定完備合法的隱私政策，向用戶明示收集,、使用個(gè)人信息的目的,、方式、范圍,，以及建立完善的個(gè)人信息安全保護(hù)措施　

　　●　ZAO的出現(xiàn)意味著AI深度換臉技術(shù)使用門檻大幅度降低,，相關(guān)偽造影音視頻被不法分子利用時(shí)，將對(duì)國(guó)家安全,、新聞?shì)浾�,、公眾安全、刑事審判,、政府通信等領(lǐng)域帶來(lái)眾多難以預(yù)測(cè)的風(fēng)險(xiǎn)　

　　8月30日晚,，打出“僅需一張照片，出演天下好戲”口號(hào)的換臉軟件ZAO刷屏,，在社交平臺(tái)上引發(fā)病毒式傳播,。

　　9月3日，針對(duì)媒體公開報(bào)道和用戶曝光的ZAO用戶隱私協(xié)議不規(guī)范,，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問(wèn)題,，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對(duì)北京陌陌科技有限公司(以下簡(jiǎn)稱陌陌科技)相關(guān)負(fù)責(zé)人進(jìn)行了問(wèn)詢約談。

　　在問(wèn)詢約談中,，網(wǎng)絡(luò)安全管理局要求陌陌科技嚴(yán)格按照國(guó)家法律法規(guī)以及相關(guān)主管部門要求,，組織開展自查整改，依法依規(guī)收集使用用戶個(gè)人信息,，規(guī)范協(xié)議條款,，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個(gè)人信息安全保護(hù)。同時(shí)，要進(jìn)一步加強(qiáng)新技術(shù)新業(yè)務(wù)安全評(píng)估,，切實(shí)采取有效措施,，積極防范自有業(yè)務(wù)平臺(tái)被利用實(shí)施電信網(wǎng)絡(luò)詐騙等風(fēng)險(xiǎn)隱患。

　　用戶協(xié)議存在爭(zhēng)議

　　容易造成隱私泄露

　　ZAO走紅后不到24小時(shí),，就因?yàn)殡[私安全問(wèn)題引發(fā)集體焦慮,。

　　“有手機(jī)號(hào)，有面部圖像,，通過(guò)技術(shù)合成,，犯罪分子可以替你和你的家人通話了�,！庇脩魧�(duì)ZAO泄露個(gè)人隱私的擔(dān)心,，集中體現(xiàn)在這條網(wǎng)友評(píng)論里,。

　　據(jù)了解,，在隱私政策中，ZAO收集用戶的隱私信息范圍極其寬泛,，包括肖像及面部識(shí)別特征等生物識(shí)別信息,，身份證、軍官證,、護(hù)照,、駕駛證、社�,？�,、居住證等身份信息，以及芝麻信用等個(gè)人敏感信息,。

　　9月1日,，ZAO修改了部分爭(zhēng)議內(nèi)容，主要體現(xiàn)在四個(gè)方面:刪除了用戶需授權(quán)ZAO“不可撤銷,、永久,、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”；刪除了ZAO可以“全部或部分修改用戶內(nèi)容”中的“全部”,；刪除了ZAO可以更換用戶的聲音的規(guī)定,；刪除了ZAO擁有對(duì)用戶內(nèi)容進(jìn)行“著作權(quán)法規(guī)定的由著作權(quán)人享有的全部著作財(cái)產(chǎn)權(quán)利及鄰接權(quán)利”。

　　然而,，修改后的條款仍存在爭(zhēng)議,。比如，被授權(quán)的對(duì)象為ZAO及ZAO用戶,。對(duì)此,，中國(guó)政法大學(xué)傳播法研究中心副主任朱巍認(rèn)為，被授權(quán)的對(duì)象包括ZAO用戶，其范圍太大,，而且沒(méi)有單獨(dú)提示,，容易混淆相關(guān)概念。

　　ZAO還在用戶協(xié)議開頭增加了“特別提示”稱,，用戶授權(quán)內(nèi)容“僅限用于為您提供上傳/發(fā)布短視頻,，以及利用技術(shù)對(duì)平臺(tái)上的短視頻進(jìn)行局部修改生成新的短視頻的服務(wù)，相關(guān)的內(nèi)容將嚴(yán)格按相關(guān)法律法規(guī)的規(guī)定保留在ZAO上,，除非為了改善ZAO為您提供的服務(wù)或另行取得您的再次同意,，否則ZAO不會(huì)以任何其他形式或目的使用上述內(nèi)容”�,！　�

　　9月1日下午,，一個(gè)未經(jīng)認(rèn)證的微博賬號(hào)“ZAO官方助手”發(fā)消息稱，我們十分理解大家對(duì)隱私問(wèn)題的擔(dān)憂,。你們提的問(wèn)題都已收到,，考慮不周的地方我們會(huì)去改，需要一點(diǎn)時(shí)間,。

　　但這仍不足以打消用戶的擔(dān)憂,。因?yàn)樾薷暮蟮臈l文也并未明確規(guī)定收集和使用用戶信息的具體情況，比如“特別提示”中“為了改善ZAO為您提供的服務(wù)”的規(guī)定,，就沒(méi)有明確列舉改善何種服務(wù),。

　　在朱巍看來(lái)，以前“隱私泄露”是事情發(fā)生后才去討論,，但是自從網(wǎng)絡(luò)安全法出臺(tái)后,，大家更傾向于把安全風(fēng)控前移，網(wǎng)絡(luò)安全法不僅對(duì)事后泄露和事中管理有規(guī)定,，更包括考查提供網(wǎng)絡(luò)服務(wù)的平臺(tái),，在保障數(shù)據(jù)安全和核心隱私方面是否能達(dá)到相關(guān)標(biāo)準(zhǔn)。

　　除了侵權(quán)問(wèn)題,，還有網(wǎng)友擔(dān)心,，既然人臉識(shí)別已經(jīng)在支付場(chǎng)景得到應(yīng)用，面部信息泄露,，是否會(huì)導(dǎo)致賬戶被盜刷?

　　對(duì)此,，支付寶安全中心8月31日發(fā)布公告稱，“不管換臉軟件多逼真,，都無(wú)法突破刷臉支付”,，刷臉支付采用的是3D人臉識(shí)別技術(shù)，在進(jìn)行人臉識(shí)別前,，也會(huì)通過(guò)軟硬件結(jié)合的方式進(jìn)行檢測(cè),，來(lái)判斷采集到的人臉是否是照片,、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來(lái)的身份冒用情況,。

　　“關(guān)于換臉軟件濫用威脅支付安全的問(wèn)題,，是矛和盾的問(wèn)題。很多刷臉支付軟件,，不是百分百能夠保證不被鉆空子,，只是可以通過(guò)很多辦法大大降低風(fēng)險(xiǎn)�,！敝袊�(guó)科學(xué)院神經(jīng)科學(xué)博士劉耀文告訴《法制日?qǐng)?bào)》記者,，比如視頻是一幀一幀的，目前的人臉識(shí)別是深入識(shí)別,，人錄視頻的時(shí)候眼睛眨動(dòng)和圖片是不一樣的,，圖片是不會(huì)眨眼的。此外,，還可以通過(guò)一些向左轉(zhuǎn)向右轉(zhuǎn)的行為來(lái)判定是否是本人,。“當(dāng)然,，一些刷臉支付軟件會(huì)有地理,、技術(shù)上各種保障安全的優(yōu)勢(shì)，但一些不安全的支付做不到這么嚴(yán)格,。”

　　此外,，ZAO還存在肖像權(quán),、著作權(quán)等知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)。例如,，用戶“換臉”前,，并未取得明星授權(quán)。法律界人士認(rèn)為,，對(duì)于ZAO版權(quán)說(shuō)明中“不享有素材的商業(yè)版權(quán)”的規(guī)定,，并不存在商業(yè)版權(quán)的概念，版權(quán)就是版權(quán),，只要未獲授權(quán)拿別人作品來(lái)傳播就是侵犯別人版權(quán),，雖然ZAO沒(méi)有直接通過(guò)作品收費(fèi)，但是整個(gè)平臺(tái)靠傳播改動(dòng)后的影視劇作品來(lái)吸引用戶,，進(jìn)而開拓其他商業(yè)模式,。　

　　ZAO版權(quán)說(shuō)明中還稱,，會(huì)在用戶生成的作品上打水印以示區(qū)別,，但這些都不能保證ZAO不會(huì)侵權(quán),。用戶在不可能取得授權(quán)的情況下，傳播經(jīng)過(guò)改動(dòng)的視頻素材,，這些內(nèi)容如果構(gòu)成作品,，會(huì)侵犯著作權(quán)人的保護(hù)作品完整權(quán)、信息網(wǎng)絡(luò)傳播權(quán)等相關(guān)權(quán)利,。

　　人臉數(shù)據(jù)亟待重視

　　一旦泄露風(fēng)險(xiǎn)難測(cè)

　　不過(guò),，在業(yè)內(nèi)人士看來(lái)，落在用戶身上真正的風(fēng)險(xiǎn),，既不是可通過(guò)訴訟或監(jiān)管即可確認(rèn)無(wú)效的用戶協(xié)議,，或不合理的肖像權(quán)安排，也不是著作權(quán)侵權(quán)問(wèn)題,，而是用戶一旦提供或讓渡,，即可能完全失控的“生物識(shí)別信息”的安全問(wèn)題。

　　“人臉識(shí)別是人可識(shí)別的個(gè)性化信息中的核心,，同時(shí)也是隱私權(quán)保護(hù)的核心,。”朱巍說(shuō),。

　　對(duì)于用戶來(lái)說(shuō),，ZAO換臉?lè)��?wù)最大的風(fēng)險(xiǎn)在于對(duì)用戶人臉數(shù)據(jù)的收集。畢竟臉部信息的細(xì)節(jié)實(shí)在是太豐富了,，是一種“生物信息”,，可以說(shuō)是非常敏感的個(gè)人信息，一旦泄露,，遠(yuǎn)比上網(wǎng)時(shí)產(chǎn)生的數(shù)據(jù)信息泄露的風(fēng)險(xiǎn)更大,。

　　據(jù)中國(guó)傳媒大學(xué)政法學(xué)院法律系副主任鄭寧介紹，換臉技術(shù)主要涉及到生物信息的采集,，屬于敏感信息,。根據(jù)網(wǎng)絡(luò)安全法第四十一條規(guī)定，網(wǎng)絡(luò)運(yùn)營(yíng)者收集,、使用個(gè)人信息,，應(yīng)當(dāng)遵循合法、正當(dāng),、必要的原則,，公開收集、使用規(guī)則,，明示收集,、使用信息的目的、方式和范圍,，并經(jīng)被收集者同意,。網(wǎng)絡(luò)運(yùn)營(yíng)者不得收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息,，不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集,、使用個(gè)人信息,，并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定和與用戶的約定,，處理其保存的個(gè)人信息,。

　　同時(shí)，民法總則第一百一十一條規(guī)定,，自然人的個(gè)人信息受法律保護(hù),。任何組織和個(gè)人需要獲取他人個(gè)人信息的，應(yīng)當(dāng)依法取得并確保信息安全,，不得非法收集,、使用、加工,、傳輸他人個(gè)人信息,，不得非法買賣、提供或者公開他人個(gè)人信息,。

　　“那么,，ZAO承擔(dān)的個(gè)人信息安全義務(wù)就包括制定完備合法的隱私政策，向用戶明示收集,、使用個(gè)人信息的目的,、方式、范圍,，以及建立完善的個(gè)人信息安全保護(hù)措施,。”鄭寧說(shuō),。

　　正因如此，劉耀文也認(rèn)為:“人們的擔(dān)憂是合理的,，最大的問(wèn)題可能就是安防方面,，還有侵權(quán)一類的問(wèn)題。這種換臉軟件應(yīng)用可能會(huì)造成用戶侵犯名人的權(quán)利,，還有用戶的個(gè)人信息歸平臺(tái)所有了,，生物信息讓度出去了是最大的一個(gè)風(fēng)險(xiǎn)，因?yàn)檐浖�的合約條款里規(guī)定了合理使用和永久授權(quán),，無(wú)法判斷他們會(huì)用我們的信息干什么,。”

　　不僅如此,，業(yè)內(nèi)專家還表示,，這款應(yīng)用的出現(xiàn)意味著AI深度換臉技術(shù)使用門檻大幅度降低,，相關(guān)偽造影音視頻被不法分子利用時(shí)，將對(duì)國(guó)家安全,、新聞?shì)浾�,、公眾安全、刑事審判,、政府通信等領(lǐng)域帶來(lái)眾多難以預(yù)測(cè)的風(fēng)險(xiǎn),。

　　首先，從國(guó)家安全層面看,，當(dāng)高度逼真的偽造視頻被惡意使用在國(guó)家領(lǐng)導(dǎo)人及其他關(guān)鍵人物身上,，不僅會(huì)導(dǎo)致領(lǐng)導(dǎo)人形象受損，如果偽造領(lǐng)導(dǎo)人發(fā)出有悖于國(guó)家安全的政治觀點(diǎn)或指令,，將導(dǎo)致嚴(yán)重后果,。雖然我國(guó)還未出現(xiàn)此類案例，但在美國(guó),，用于政黨攻擊,、娛樂(lè)的換臉視頻時(shí)常出現(xiàn)。如2018年4月,，美國(guó)娛樂(lè)網(wǎng)站Buzzfeed發(fā)布了一條網(wǎng)友制作的換臉視頻,，當(dāng)中，美國(guó)前總統(tǒng)奧巴馬用他的聲音和慣用動(dòng)作講了一段他從沒(méi)說(shuō)過(guò)的話,。

　　其次,，從輿論傳播層面看，如果AI深度換臉技術(shù)制造的虛假視頻與社交網(wǎng)絡(luò)相結(jié)合,，不僅會(huì)讓假新聞更難鑒別,，也會(huì)導(dǎo)致謠言的訊速傳播。例如印度某記者曾因揭露印度古吉拉特暴亂中官員的黑幕和不作為,，被人用AI換臉技術(shù)做成大量的道歉小視頻,，嚴(yán)重影響當(dāng)?shù)剌浾撟呦颉?/p>

　　最后，AI換臉技術(shù)對(duì)公眾安全,、刑事審判等也可能帶來(lái)不同程度負(fù)面影響,。例如，不法分子可利用圖片,、視頻冒充他人跟另一個(gè)人聊天,、交易，不僅危害他人隱私,、財(cái)產(chǎn)安全,，甚至生命安全也可能受到威脅。在司法機(jī)關(guān)調(diào)查取證,、審判等階段偽造出來(lái)的影音視頻證據(jù),，也可能對(duì)司法程序產(chǎn)生干擾,。

　　“核心風(fēng)險(xiǎn)就是個(gè)人信息安全問(wèn)題，換臉軟件一旦被濫用將會(huì)產(chǎn)生消極影響,。研究者們應(yīng)該遵循科技倫理,，企業(yè)合規(guī)和風(fēng)控部門應(yīng)當(dāng)加強(qiáng)法律風(fēng)險(xiǎn)的審查，政府部門應(yīng)當(dāng)加強(qiáng)監(jiān)管,，行業(yè)組織加強(qiáng)自律,，公民積極投訴舉報(bào)�,！编崒幷f(shuō),。