換臉軟件火了 用戶擔(dān)心隱私泄露
一次性至少上傳21張個(gè)人多角度照片 AI小程序可合成作出堪比照相館效果的寫(xiě)真照
上傳自己的照片，AI小程序就可以制作“數(shù)字分身”，做出的寫(xiě)真照片妝容發(fā)型堪比照相館幾百上千元拍攝的效果。近日，一款A(yù)I換臉軟件火了。同時(shí)，該軟件用戶條款中“授予開(kāi)發(fā)公司以任何形式使用上傳的內(nèi)容”而被質(zhì)疑“霸王條款”，一些用戶表示，“一次性至少要上傳21張自己各個(gè)角度的照片，不會(huì)泄露隱私嗎？”
體驗(yàn)
至少上傳21張照片 付費(fèi)制作“排隊(duì)”超4小時(shí)
7月24日，北青報(bào)記者進(jìn)入某小程序嘗試制作AI照片，點(diǎn)擊“制作數(shù)字分身”后被要求上傳一張正面照與20張多個(gè)角度、表情的照片，北青報(bào)記者確認(rèn)生成后應(yīng)用跳轉(zhuǎn)至公眾號(hào)，付費(fèi)9.9元小程序就開(kāi)始制作照片了。所有操作完成后，小程序頁(yè)面顯示前面有2592人正在制作，預(yù)計(jì)需要4小時(shí)15分制作成功。此外，不少用戶還表示在使用這款A(yù)I應(yīng)用時(shí)被系統(tǒng)告知服務(wù)器被擠爆了。
上述小程序是一款依據(jù)AI能力再度“生成”同一人照片的AIGC類應(yīng)用，很多用戶表示這款軟件出圖效果“非常強(qiáng)大”。95后女生小佳是該軟件的一名用戶，她對(duì)北青報(bào)記者說(shuō)：“這款軟件制作的照片和我平時(shí)出去拍的寫(xiě)真幾乎沒(méi)有區(qū)別，出圖效果挺讓我意外的，里面還有很多不同風(fēng)格的模板可以使用，現(xiàn)在的AI換臉技術(shù)真是越來(lái)越厲害了�！�
質(zhì)疑
“授權(quán)使用照片”被指屬于霸王條款
北青報(bào)記者測(cè)試發(fā)現(xiàn)，這款小程序需要用戶至少上傳21張個(gè)人照片，包括1張“五官清晰的正面照片”和20張“多光線、多背景、多視角、多表情”的半身照，總共需要21張照片。對(duì)此，有用戶表示，使用這款小程序最擔(dān)心的就是自己的隱私安全，上傳這么多照片，如何儲(chǔ)存、使用，以及后期如何處理都待解決。
此前有用戶發(fā)現(xiàn)，該小程序的用戶協(xié)議中顯示：“為了使我方能夠提供、確保和改進(jìn)本服務(wù)(包括但不限于使用AI生成內(nèi)容作為再訓(xùn)練數(shù)據(jù)等)，并且僅根據(jù)適用的《隱私政策》，除了本條款授予我方的任何其他權(quán)利外，您特此授予我方在全世界(包括元宇宙等虛擬空間)范圍內(nèi)享有永久的、不可撤銷的、可轉(zhuǎn)讓的、可轉(zhuǎn)授權(quán)的、免費(fèi)的和非獨(dú)家的許可，使得我方可以任何形式、任何媒體或技術(shù)(無(wú)論現(xiàn)在已知或以后開(kāi)發(fā))使用您的內(nèi)容。此處我方的‘使用’是指使用、托管、存儲(chǔ)、修改、交流、發(fā)布或任何我方認(rèn)為合適的使用方式。在您通過(guò)本服務(wù)向我方平臺(tái)提交您的上傳內(nèi)容之前，您將確保您有必要的權(quán)利來(lái)授予我方許可�！�
網(wǎng)友狗頭學(xué)長(zhǎng)表示，授權(quán)條款其實(shí)是霸王條款，雖然這類條款可以主張無(wú)效，但人臉信息數(shù)據(jù)泄露是不可逆的。網(wǎng)友catto也表示，用戶花費(fèi)9.9元上傳的照片，很有可能被一些商家收集成“數(shù)據(jù)集”轉(zhuǎn)賣了，這就意味著商家可以隨意生成用戶的成人照片甚至視頻、3D建模，任意使用用戶的臉做廣告、做視頻，更可怕的是不法分子還可能拿著用戶的照片進(jìn)行詐騙。
回應(yīng)
換臉軟件稱用戶照片分身制作完成后自動(dòng)刪除
對(duì)于用戶的質(zhì)疑，7月20日某小程序官方表示已修改用戶協(xié)議：“已經(jīng)收到用戶關(guān)于用戶協(xié)議的反饋，原協(xié)議內(nèi)容有誤，我們第一時(shí)間根據(jù)實(shí)際情況進(jìn)行了修改。并承諾，用戶上傳的照片只會(huì)用于數(shù)字分身制作，不會(huì)提取也不會(huì)用于識(shí)別和其他用途，且分身制作完成后自動(dòng)刪除�！�
雖然協(xié)議已更改，但部分網(wǎng)友還是表示對(duì)此有所擔(dān)憂。用戶“zzz”表示這款小程序很好用，但是用完以后她還是不放心，于是申請(qǐng)注銷賬號(hào)了，怕哪天自己的隱私被泄露。此外，一些在內(nèi)測(cè)期間以及協(xié)議修改之前使用過(guò)該應(yīng)用的用戶提出質(zhì)疑：“現(xiàn)在改了協(xié)議，那在協(xié)議未修改前上傳的照片安全嗎？之前收集的圖片信息是否已經(jīng)被泄露出去了？”還有用戶擔(dān)憂在實(shí)際操作中無(wú)法保證圖片“自動(dòng)刪除”。
此外，另一款可換臉的軟件“××”也曾一時(shí)風(fēng)光，其因用戶協(xié)議存在巨大的法律風(fēng)險(xiǎn)而陷入輿論風(fēng)波。根據(jù)此前的用戶協(xié)議第6條第1款規(guī)定：在您上傳及/或發(fā)布用戶內(nèi)容以前，您同意或者確保實(shí)際權(quán)利人同意授予‘××’及其關(guān)聯(lián)公司以及‘××’用戶全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個(gè)人的人臉或者聲音等)以及對(duì)修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及著作權(quán)人享有的全部著作財(cái)產(chǎn)權(quán)利及鄰接權(quán)利。
知名互聯(lián)網(wǎng)學(xué)者劉興亮表示，這一軟件不光借此免費(fèi)獲得了上傳資料中所包含肖像信息的使用權(quán)和轉(zhuǎn)授權(quán)，還將侵權(quán)的風(fēng)險(xiǎn)轉(zhuǎn)嫁給了用戶，雖然網(wǎng)絡(luò)上關(guān)于面部信息可用于刷臉支付屬于過(guò)度解讀，但也說(shuō)明大數(shù)據(jù)時(shí)代人們的隱私保護(hù)意識(shí)在不斷增強(qiáng)。迫于輿論壓力，如今該軟件的用戶協(xié)議已經(jīng)有了調(diào)整。
隱私保障
人工智能服務(wù)數(shù)據(jù)不得非法留存輸入信息
北青報(bào)記者了解到，7月13日，國(guó)家網(wǎng)信辦等七部門(mén)聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》，其中提到，提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)；提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄；提供者應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于刪除等其個(gè)人信息等的請(qǐng)求。
國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，出臺(tái)《辦法》，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。
近年來(lái)，生成式人工智能技術(shù)快速發(fā)展，為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí)，也產(chǎn)生了傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見(jiàn)歧視等問(wèn)題，如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關(guān)注。出臺(tái)《辦法》，既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。
陜西澤誠(chéng)律師事務(wù)所的趙騰飛律師稱，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局聯(lián)合制定的《APP違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》中，此類應(yīng)用若過(guò)度收集用戶信息問(wèn)題，涉嫌違反必要原則。從上述文中相機(jī)最初版本用戶協(xié)議來(lái)看，用戶授權(quán)之后會(huì)給APP方極大權(quán)限使用自己的肖像等人身信息。由于用戶同意了這種授權(quán)，當(dāng)此類應(yīng)用將用戶照片用于營(yíng)利或者其他商用，將會(huì)損害使用者權(quán)益。對(duì)于類似過(guò)度要求授權(quán)無(wú)關(guān)信息等行為，可以向相關(guān)監(jiān)管部門(mén)投訴舉報(bào)。
趙律師也表示，新協(xié)議相較原協(xié)議對(duì)用戶信息及隱私有了一定的保護(hù)，但是需要運(yùn)營(yíng)商嚴(yán)格遵守，不能用作其他用途，同時(shí)要及時(shí)刪除無(wú)關(guān)信息。如果運(yùn)營(yíng)商擅自使用，根據(jù)民法典人格權(quán)編的相關(guān)規(guī)定，構(gòu)成侵犯他人肖像權(quán)。
(記者 溫婧 實(shí)習(xí)生 張慧婧)
責(zé)任編輯：崔景靚
