首頁|滾動|國內|國際|運營|制造|監管|原創|業務|技術|報告|測試|博客|特約記者
手機|互聯網|IT|5G|光通信|LTE|云計算|芯片|電源|虛擬運營商|移動互聯網|會展
首頁 >> 快訊 >> 正文

AI換臉視頻、校園門禁系統:人臉識別應用引民眾擔憂

2019年11月19日 08:24  新京報  

原標題:“看”臉時代,人臉識別應用引來爭議

人臉識別廣泛應用到支付、娛樂、教育等領域,有人感嘆科技的進步,也有人質疑“我的臉到底屬于誰”。

人臉,承載了重要的身份信息,而在技術面前,人臉正成為辨認個體身份的“重要數據”。從上班打卡到消費支付,從安保檢查到酒店入住,從應用軟件到視頻娛樂,人臉識別的技術正應用到工作、生活的各個領域。

人臉識別廣泛應用,有人感嘆科技的進步,也有人質疑“我的臉到底屬于誰”?近期,中國人臉識別第一案備受關注。因杭州野生動物世界啟用人臉識別入園,該園年卡用戶認為其強制收集個人面部特征,違反《消費者權益保護法》而將杭州野生動物世界訴至法院。

事實上,人臉識別帶來的爭議遠不止此,從AI換臉淫穢視頻到ZAO App的用戶協議爭議,再到人們對人臉識別進校園、惡搞視頻泛濫的迷惑,這些都從不同維度反映著民眾對人臉識別技術的擔憂。

記者體驗某公司智慧課堂人臉識別技術相關系統。  新京報記者 程平 攝

風波:“換臉”淫穢視頻網上依然有售

今年8月,新興的娛樂換臉軟件“ZAO”(陌陌公司的一款產品)一夜之間沖上了微博熱搜,ZAO在蘋果應用商店的標語是“僅需一張照片,出演天下好戲”,ZAO使用AI技術,將用戶上傳的照片置入影視片段之中,實現用戶與“明星”的換臉。

隨著該軟件被用戶熟知,ZAO的用戶協議也受到了爭議。新京報記者調查發現,ZAO在用戶協議中寫到,“保護您的用戶信息與個人信息是ZAO及其關聯公司的一項基本原則,您同意,ZAO及其關聯公司將按照本協議及《隱私政策》的規定收集、使用、存儲、管理和保護您的用戶信息與個人信息;若您不同意或無法接受《隱私政策》全部或者部分條款或者有疑問的,請立即停止使用ZAO提供的服務,您繼續使用ZAO提供的服務將被視為接受”。

上述協議內容意味著,用戶使用該軟件,則被視為同意隱私政策,ZAO可以收集、使用、存儲、管理和保護用戶信息與個人信息。不僅上述條款,ZAO的用戶協議中,有關用戶上傳內容的使用權、授權內容位置、隱私協議、版權等方面均遭到質疑。

9月3日,針對媒體公開報道和用戶曝光的ZAO用戶隱私協議不規范,存在數據泄露風險等網絡數據安全問題,工信部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談。新京報記者近期調查發現,ZAO的用戶協議已經修改,肖像權、授權內容、用戶個人信息保護等內容被放置在用戶協議的明顯位置。

ZAO受到關注之前,新京報記者曾調查發現,有人利用“AI換臉”技術制作淫穢視頻,并在網絡上傳播售賣,甚至有人出售制作教程。這些視頻通過電腦技術將明星的臉植入淫穢視頻中,買賣方多通過貼吧、QQ和閑魚進行溝通交易。

近期,新京報記者調查發現,名為“AI換臉”“deepfake(與AI換臉相關的技術)”的貼吧均已被清理。不過,網絡上依然可以找到“明星換臉”“fakeApp(與AI換臉相關的技術)”等貼吧,并且貼吧里仍然存在網友自制的“明星換臉”視頻。

新京報記者在貼吧中聯系上某淫穢視頻賣家,該賣家向記者出示了包含明星名字、“明星換臉”淫穢視頻類目、“明星換臉”淫穢視頻截圖等。賣家稱,視頻僅以打包價形式出售,214部138元,附送精品在線看網站+AI網站(4個)或80部50元。

同時,新京報記者在閑魚上檢索“換臉”“AI換臉”“明星換臉”“deepfake”“fakeApp”等關鍵詞,均未搜索出任何相關商品;在淘寶上搜索相同的關鍵詞,只檢索到“AI換臉視頻教學”等商品。值得注意的是,多個明星的大頭照正被作為訓練人工智能的素材被售賣。

爭議:人臉識別走進校園,有贊成有質疑

2018年,杭州某中學將一款“智慧課堂行為管理系統”應用于課堂教學,時任校領導表示,該系統可實現無感“刷臉”考勤,同時通過攝像頭,還可對課堂上學生的行為進行統計分析,對異常行為實時反饋。該領導曾在接受新京報記者采訪時表示,“所采集的只是學生行為狀態信息,進而轉換成代碼進行分析,而不是課堂錄像,不涉及學生們的隱私”。

新京報記者近日選取某公司的人臉識別課堂輿情產品進行測試,被監控區域中的人臉會被系統自動抓取,并在顯示器上被紅色邊框標示出來,邊框右側顯示的是被分析的結果,包括什么情緒、注意力程度,以及皺眉、張嘴、閉眼、抿嘴的具體次數。記者測試發現,該系統存在一定程度的誤差,識別的臉部表情、心態與實際有不符合的情況。

事實上,隨著智慧校園的建立,多個高校已經引入人臉識別、人臉數據采集分析等相關系統。新京報記者了解到,目前北京大學、清華大學、中國傳媒大學等北京高校,均配有人臉識別的門禁或設備。

“我們學校東門今年新設了人臉識別門禁系統,我覺得很方便。”中國石油大學(北京)的學生王強(化名)表示,原來需要刷學生卡才能進入學校東門,現在只用刷臉就進去了,他認為沒有什么不妥,不用帶卡也更方便。

“利用人臉識別類技術,無論是進行課堂管理還是教學效果分析,都不可避免要收集用戶的數據。”聯合國網絡安全與網絡犯罪問題高級顧問吳沈括告訴新京報記者,若類似技術被非法利用,個人信息的安全等問題將存在法律風險。也有觀點稱,人臉識別技術應用在教育領域涉及倫理問題。

目前,華為、百度、商湯科技、云從科技、曠視科技等公司都有人臉識別技術研發,并涉及公共安全、信息安全、政府職能等多個領域。智研咨詢《2017-2022年中國生物識別設備市場供需預測及發展趨勢研究報告》顯示,預計到2020年,指紋識別市場規模將達到130億美元、人臉識別將達24億美元、虹膜識別將達到16億美元。

上述報告還指出,中國在生物識別技術領域研究已處于世界先進水平,但目前應用規模和滲透率與歐美市場相差還很大,加之目前行業增速穩定,估計國內未來將有較大發展空間,預計2020年生物識別市場規模將突破300億元。

訴訟:中國人臉識別第一案受關注

說到人臉識別的爭議,最受關注的恐怕要數中國人臉識別第一案。

11月1日,浙江理工大學特聘副教授郭兵收到杭州市富陽區人民法院的受理案件通知書,法院決定立案受理郭兵訴杭州野生動物世界一案。郭兵于2019年初花費1360元購買了杭州野生動物世界的年卡,該卡有效期一年,入園時要同時驗證卡和指紋。2019年10月17日,郭兵收到園區發來的短信稱,“年卡系統已升級為人臉識別入園,原指紋識別已取消,即日起,未注冊人臉識別的用戶將無法正常入園。”

盡管園區表示,這一做法出于讓游客快速通行的需求,但郭兵認為,杭州野生動物世界在未經其同意的情況下,通過升級年卡系統,強制收集他的個人生物識別信息,嚴重違反了《消費者權益保護法》等法律的相關規定。同時,現由于杭州野生動物世界的原因導致年卡無法正常使用,郭兵希望,杭州野生動物世界應退還年卡費用。

“這不僅是對于我自己權益的侵害,很多人可能都面臨著這樣的情況。”郭兵對新京報記者表示,面部特征等個人生物識別信息屬于個人敏感信息,一旦(被)泄露、非法提供或者濫用,將極易危害消費者的人身和財產安全,“如果是政府部門,特別是公安為了社會公共秩序進行人臉識別,可能具有一定必要性。”

北京志霖律師事務所副主任趙占領表示,收集、使用個人信息需要符合正當、合法、必要的原則,需要公開收集、使用規則,明示收集、使用信息的目的、方式和范圍,并經被收集者同意,“人的臉部特征這種生物信息屬于個人信息的范圍,也是需要遵守網絡安全法等相關法律法規的規定”。

除了此案,歌手蔡徐坤給嗶哩嗶哩彈幕視頻網站(B站)發律師函,也曾把娛樂換臉視頻推上了風口浪尖。今年4月,蔡徐坤方發出律師告知函,認為B站上存在大量嚴重侵犯蔡徐坤權利的內容,包括濫用肖像、故意誹謗、惡意剪輯等。蔡徐坤方提到的惡意剪輯視頻,就包括惡意將其他人的臉換到蔡徐坤的表演視頻里。新京報記者調查發現,不僅蔡徐坤,B站上有大量的“AI換臉”視頻,且人氣較高,其中,一個將明星蔡徐坤的臉替換成前網絡游戲主播盧本偉的臉的視頻,在嗶哩嗶哩上的播放量為260多萬。

不少B站網友,在相關“AI換臉”視頻評論區留言“毫無違和感”“搞笑”“換臉也是惡搞視頻的一種,就是圖個樂”。網友舒米(化名)告訴新京報記者,他出于獵奇和娛樂心態,喜愛觀看“AI換臉”視頻。但也有多名網友在相關視頻的評論區提出了對于“AI換臉”技術的其他看法,網友灰燼(化名)說,“‘AI換臉’,(可能用于)敲詐勒索色情造謠,技術無罪,果然還是人本惡”。

新京報記者 程平 陳維城編輯 趙澤  校對 劉越

編 輯:值班記者
免責聲明:刊載本文目的在于傳播更多行業信息,不代表本站對讀者構成任何其它建議,請讀者僅作參考,更不能作為投資使用依據,請自行核實相關內容。
相關新聞              
 
人物
中國移動副總裁簡勤:5G新時代,更加需要“大合作”
精彩專題
MWC19 上海 - 智聯萬物
2019年世界電信和信息社會日大會
中國電信5G創新合作大會
2019年世界移動大會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2017 By CCTIME.COM
京ICP備08004280號  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像
马会一肖中特免费资料