應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊個(gè)人注冊登錄

人臉識別安全之考:誰“動(dòng)”了你的臉?

2019-10-28 09:30 中國經(jīng)營報(bào)

導(dǎo)讀:“靠臉吃飯”,刷臉支付的到來讓這句調(diào)侃變成現(xiàn)實(shí)。

人臉識別 人工智能,人臉識別,大數(shù)據(jù),人工智能,隱私安全,倫理道德

圖片來自“123RF”

“靠臉吃飯”,刷臉支付的到來讓這句調(diào)侃變成現(xiàn)實(shí)。

這一切基于人臉識別技術(shù)正在走向商用,它帶來了便捷性,但應(yīng)用的局面并不樂觀。

《中國經(jīng)營報(bào)》記者了解到,人臉識別技術(shù)同時(shí)帶來了關(guān)于隱私的倫理之問,安全性可控邊界之惑。美國部分地區(qū)持續(xù)探討著這些問題,并在引入人臉識別技術(shù)上較為謹(jǐn)慎——舊金山成為美國第一個(gè)禁止地方機(jī)構(gòu)使用面部識別技術(shù)的城市,科技巨頭亞馬遜選擇在連鎖超市走“刷手支付”之路。

在國內(nèi),人臉識別的技術(shù)環(huán)境較美國寬松許多??萍季揞^們正在通過人臉識別向支付市場進(jìn)擊。在一些公開報(bào)道中,也有商家認(rèn)為,刷臉支付還沒有那么方便。

先進(jìn)的人臉識別,究竟為何還沒有得到廣泛信賴?

透明度有限

在一些時(shí)候,人臉識別反而被認(rèn)為具有危險(xiǎn)性。

《經(jīng)濟(jì)學(xué)人》刊發(fā)于2017年的報(bào)道提出,人臉本身存在特殊性,“人臉和其他生物特征數(shù)據(jù),比如和指紋之間存在一個(gè)巨大區(qū)別是,它們可以遠(yuǎn)距離起作用。任何人只要有手機(jī)都能拍攝一張照片供人臉識別程序使用?!?/p>

據(jù)本報(bào)記者了解,技術(shù)公司往往需要使用人的照片來訓(xùn)練相關(guān)技術(shù)的精準(zhǔn)度,這項(xiàng)工作的前提就是收集大量的人像素材。

中國傳媒大學(xué)從事大數(shù)據(jù)與人工智能研究的沈浩教授向本報(bào)記者介紹了人臉識別技術(shù)的原理。

沈浩提到,一般首先需要擁有關(guān)于人臉圖像的數(shù)據(jù)集;第二階段是進(jìn)行偵測,例如判斷是否是一張臉,其性別、年齡、情緒、是否佩戴眼鏡、是否張著嘴等;第三階段被稱作人臉識別和認(rèn)證,涉及新獲得的照片與數(shù)據(jù)集的比對。

“認(rèn)證的前提是我已經(jīng)(在數(shù)據(jù)庫)有了一張臉,那么就是我拍到的這張臉,是否跟這個(gè)已經(jīng)存在的臉,達(dá)到一定的相似性,怎么相似?實(shí)際上,現(xiàn)在的計(jì)算機(jī)的人工智能算法可以把一張臉的特征取出來,比方說有64個(gè)點(diǎn)、68個(gè)點(diǎn)、128個(gè)點(diǎn)?!鄙蚝平忉屨f,比對過程一般有兩類,一類是靜態(tài)檢測,一類是活體檢測,支付寶采用的現(xiàn)場刷臉支付屬于活體檢測,在技術(shù)上要求更高。

擁有計(jì)算機(jī)博士學(xué)位的李智佳向本報(bào)記者舉例,“比如將你的人臉基礎(chǔ)數(shù)據(jù)存入數(shù)據(jù)庫中,就可以用來做比對,如果系統(tǒng)試著找了一百個(gè)特征,其中有90個(gè)以上都是指向你的,那基本上就確定這個(gè)人就是你了,新拍的照片就是你了?!弊约旱臄?shù)據(jù)是否被采集,一般人不容易知曉。

關(guān)于采集于何處,美國國家標(biāo)準(zhǔn)與技術(shù)研究所(NIST)網(wǎng)站告訴了一部分答案。NIST曾舉辦人臉識別軟件競賽,據(jù)其所發(fā)布的一份項(xiàng)目報(bào)告提到,從2017年6月到2017年9月,NIST對16個(gè)開發(fā)人員的41種面部識別算法進(jìn)行了評估,并指出算法應(yīng)用于兩種類型的靜態(tài)類數(shù)據(jù)集:“野外的”新聞攝影和社交媒體圖像,以及從監(jiān)控視頻中識別出的人像庫。

沈浩談到,人臉的收集并不難,在今天,一個(gè)攝像頭便很容易在特定的環(huán)境中捕捉很多臉。他提到另一種較易操作的方式是從影視作品中截取名人的臉部圖像來訓(xùn)練,因?yàn)椤霸诰W(wǎng)上有很多他們的臉,而且我還知道他們是誰?!?/p>

記者通過國內(nèi)某知名科技公司員工張弛(化名)獲悉,數(shù)據(jù)的來源也包括一些公開的數(shù)據(jù)集,國際上諸如麻省理工、哈佛、微軟等機(jī)構(gòu),它們通過合法授權(quán)或者客戶授權(quán)的方式,能夠收集成一個(gè)比較大的人臉圖片庫,每一家做算法或軟件的公司可拿這些數(shù)據(jù)集來做訓(xùn)練,訓(xùn)練結(jié)束之后還可去識別其他的人臉圖片庫。

數(shù)據(jù)集可通過爬蟲等方式獲取人像圖片。記者在加州理工學(xué)院視覺實(shí)驗(yàn)室的數(shù)據(jù)集“Caltech 10000”的下載頁面看到,該數(shù)據(jù)集使用Google圖片搜索引擎的關(guān)鍵詞收集所得,包含了7092張圖,10524個(gè)人臉。

記者了解到,也有數(shù)據(jù)集通過志愿者提供數(shù)據(jù)。但除了這一種方式之外,人們的圖像被實(shí)驗(yàn)室或科技公司用來訓(xùn)練,一般不容易得知。

張弛談到,其實(shí)在一些商業(yè)場所,經(jīng)常能看到人臉數(shù)據(jù)采集的情況,但這個(gè)并沒有跟顧客簽任何授權(quán)協(xié)議,或者經(jīng)過其同意,而且顧客也不知道這些數(shù)據(jù)會(huì)存在哪里,用來做什么。

2019年10月11日,《紐約時(shí)報(bào)》報(bào)道了這樣一個(gè)故事。2005年的一天,一個(gè)母親在網(wǎng)絡(luò)相冊類網(wǎng)站Flichr上傳了她的兩個(gè)孩子的照片,多年之后,她發(fā)現(xiàn)孩子們的照片被存儲到用于人臉識別的數(shù)據(jù)庫MegaFace中。報(bào)道還稱數(shù)百萬個(gè)Flichr的圖像被存入名為MegaFace的數(shù)據(jù)庫中。

而在國內(nèi),微信朋友圈中不難看到這些活動(dòng)。人們上傳照片,就可以變成穿軍裝、古裝樣子。一些算命小程序也在鼓勵(lì)人們提交真實(shí)照片。

人們的樣子被捕捉了,很難知曉。一些數(shù)據(jù)集會(huì)要求非商業(yè)目的使用,但這些收集的圖片被用作何處,是否存在倒賣甚至色情產(chǎn)業(yè),外界很難獲知。科技公司在這方面的透明度并不高。

前段時(shí)間,AI換臉應(yīng)用“ZAO”陷入輿論中心,“ZAO”用戶需同意授予“ZAO”及其關(guān)聯(lián)公司以及“ZAO”用戶全球范圍內(nèi)完全免費(fèi),不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利,希望將使用用戶人臉的權(quán)利轉(zhuǎn)嫁給自己而引發(fā)爭議。

據(jù)記者了解,至少人臉識別與精準(zhǔn)營銷的聯(lián)系已經(jīng)不成為秘密。

《經(jīng)濟(jì)學(xué)人》在2017年的封面文章中談到,F(xiàn)acebook的人臉圖片庫不對外界開放,但這家硅谷巨頭可以獲取某家車行的客流圖片,然后利用人臉設(shè)備向其發(fā)送汽車廣告。

沈浩認(rèn)為,在國內(nèi)環(huán)境中,人臉識別技術(shù)被濫用的可能性較低,規(guī)范性企業(yè)可能更避免如此?!罢业侥愕哪樃蓡?做營銷?有可能,因?yàn)檫@件事本身也是在這么做的。但如果說收集你的臉,將來可以用于非法牟利,比如竊取支付寶信息,這是不可能的?!?/p>

精準(zhǔn)營銷“這現(xiàn)象是會(huì)有的,但是大部分的技術(shù)都沒有涉及這個(gè)問題。因?yàn)樗赡苡X得其他方法更方便,那么他不需要這樣,還有他如果采用了這種方法,必然會(huì)有另一些方法來去遏制這種方法。”沈浩隱晦道。

不同語境之下,兩種命運(yùn)

與國內(nèi)對于技術(shù)的擁抱不同,記者獲悉,在科技土壤肥沃的美國,人臉識別技術(shù)的落地生根實(shí)際更不容易。

據(jù)外媒報(bào)道,舊金山成為美國第一個(gè)禁止地方機(jī)構(gòu)使用面部識別技術(shù)的城市,進(jìn)一步推動(dòng)監(jiān)管這項(xiàng)技術(shù)。舊金山監(jiān)督委員會(huì)以高票通過了一項(xiàng)條例,包括上述禁令,且還規(guī)定任何想要購買監(jiān)控系統(tǒng)的城市機(jī)構(gòu)必須事先經(jīng)過該委員會(huì)審核。

科技巨頭亞馬遜,因這項(xiàng)技術(shù)而處在輿論的風(fēng)口浪尖。

據(jù)路透社5月23日的報(bào)道,過去一年間,亞馬遜的人臉識別技術(shù)已在俄勒岡州和佛羅里達(dá)州的執(zhí)法部門使用,但收獲兩種評論,批評者認(rèn)為會(huì)帶來有偏差的逮捕行為,支持者則認(rèn)為這可以保護(hù)公眾安全。

與阿里巴巴力推刷臉支付不同,據(jù)《紐約郵報(bào)》發(fā)表于9月3日的報(bào)道,亞馬遜開始測試用來識別單個(gè)手的掃描儀,在未來將作為在超市連鎖店的新的支付方式,這種方式被簡稱為“刷手支付”。

據(jù)本報(bào)記者了解,美國各地的官員、活動(dòng)人士和公司都在討論,如何平衡迅速發(fā)展的人工智能技術(shù)的實(shí)用性以及該技術(shù)可能侵犯隱私和侵蝕公民自由的隱憂。據(jù)了解,在全美范圍內(nèi),越來越多的人認(rèn)為人臉識別系統(tǒng)不夠準(zhǔn)確,難以應(yīng)用于警務(wù),因?yàn)樵摷夹g(shù)可能會(huì)將某人誤識為犯罪嫌疑人,尤其是對膚色較深的人。據(jù)悉,加州和馬薩諸塞州也在考慮類似舊金山對人臉識別的禁令。美國還有一些人臉識別的反對者擔(dān)心國家監(jiān)控公民。

同樣是在零售場景,在中國國內(nèi),人臉識別技術(shù)正在被規(guī)劃普及。已經(jīng)在移動(dòng)支付市場上取得超過90%份額的螞蟻金服和騰訊集團(tuán),正在安裝各自的人臉識別屏幕,期望進(jìn)一步爭取市場份額。人臉識別公司曠視科技在2018年還入股便利店品牌好鄰居,旨在數(shù)字化改造其門店。

據(jù)記者梳理,在中國,人臉識別技術(shù)至少進(jìn)入安防、金融、交通、零售、醫(yī)療、校園甚至易學(xué)等多個(gè)領(lǐng)域,呈現(xiàn)多點(diǎn)開花局面。

張弛談到,為了保證準(zhǔn)確率,人臉識別技術(shù)要根據(jù)人種、膚色等,擁有一套相應(yīng)的算法。用于人臉識別的技術(shù)需要有一套算法,需要不停地去訓(xùn)練,樣本庫越大越好,這樣訓(xùn)練的模型就能夠更精確地進(jìn)行識別。

沈浩談到,美國對于個(gè)人信息保護(hù)的法規(guī)較多,人們對于人臉識別等新技術(shù)的商業(yè)行為觸及到的法律較為敏感。

這項(xiàng)技術(shù)還在發(fā)展之中,它的特殊性,使得圍繞它存在話題空間。

在沈浩看來,人臉識別技術(shù)是否值得使用,更簡單的衡量方式是人們在感性上希望不希望使用,是否會(huì)感到被傷害。

沈浩表示,目前在國內(nèi),法無禁止則可行,“一旦未來的中國,如果老百姓或者特定區(qū)域人群的覺悟高了,認(rèn)為不該這樣,我們可能就限制了,并不是說技術(shù)不能用,而是人的感覺不能用,那他就不應(yīng)該用?!?/p>

場景邊界欠缺探討

本報(bào)記者觀察到,人臉識別技術(shù)盡管在國內(nèi)多點(diǎn)開花,大公司們紛紛尋求更多商業(yè)場景。但是哪些領(lǐng)域不甚適合,目前也欠缺這樣的探討。

9月初,一張對著某活動(dòng)現(xiàn)場大屏幕所拍攝的圖片在微博上傳播,圖片上展示著曠視科技的人臉識別技術(shù)可用于追蹤學(xué)生的課堂行為,辨別學(xué)生的“聽講”“走神”“睡覺”等行為。這項(xiàng)技術(shù)乍聽似乎有助于學(xué)生更認(rèn)真學(xué)習(xí),但引起了網(wǎng)民的討論。

記者了解到,2017年9月的《經(jīng)濟(jì)學(xué)人》報(bào)道顯示,斯坦福大學(xué)的研究人員已經(jīng)證明,當(dāng)展示一名男同性戀和一名異性戀男性的照片時(shí),算法將他們的性傾向準(zhǔn)確地分辨出來的比例高達(dá)81%,而人類只能識別61%?!督?jīng)濟(jì)學(xué)人》提出,在那些同性戀被視為犯罪的國家里,一款能夠從面部推斷出性傾向的軟件,讓人感到恐慌。

上述事件,似乎拋出了新問題:人臉識別技術(shù)觸角的邊界在哪兒。當(dāng)該技術(shù)應(yīng)用于公共場合時(shí),哪些行為被捕捉與識別,顯得無關(guān)緊要。哪些則是在倫理邊緣試探,需要謹(jǐn)慎。隨著時(shí)間推移,這個(gè)問題,科技企業(yè)或終將面對。

盡管面臨諸多不確定性,但新潮已來。

記者注意到,在剛剛結(jié)束的第六屆烏鎮(zhèn)互聯(lián)網(wǎng)大會(huì)上,15項(xiàng)世界互聯(lián)網(wǎng)領(lǐng)先成果發(fā)布,曠視科技將算法訓(xùn)練與模型改進(jìn)過程流程化的Brain++技術(shù)居于其列。

《經(jīng)濟(jì)學(xué)人》在2017年的觀點(diǎn)似乎如今仍然適用。這些規(guī)則都不能改變發(fā)展的方向?!半S著可穿戴設(shè)備的普及,攝像頭只會(huì)越來越普遍?!?/p>