美國的AI刷臉是不是該管管了？

過去一年，硅谷一直在因為如何處理數(shù)據(jù)、選舉和言論而應(yīng)接不暇?，F(xiàn)在，他們又有了新的擔憂：人臉識別。

就在過去幾個星期，批評人士指責亞馬遜將人臉識別技術(shù)賣給地方警察局，還對Facebook獲取歐洲居民許可，以便在其照片中識別其身份的方式提出質(zhì)疑。

微軟最近同樣遭遇批評，原因是該公司員工抗議美國移民和海關(guān)執(zhí)法局與之簽訂的云計算服務(wù)使用協(xié)議。

微軟表示，那份合同并不涉及人臉識別。在人臉識別領(lǐng)域，提供給其他公司使用的微軟服務(wù)識別白人男性的準確率，遠高于女性或有色人種。

但是，為了幫助社會各界適應(yīng)科技的快速發(fā)展，微軟總裁布拉德·史密斯（Brad Smith）今天發(fā)表一篇博文，呼吁政府對人臉識別進行監(jiān)管。

史密斯并未闡述具體原則，而是建議政府創(chuàng)建一個“兩黨和專家委員會”對該問題展開研究，并給出建議。

史密斯提出，該委員會應(yīng)該考慮的一系列問題，包括在執(zhí)法部門或國家安全部門使用這項技術(shù)時可能對其進行的約束；通過各種標準避免種族歧視；在使用這項技術(shù)之前獲得人們的許可，尤其是在公共領(lǐng)域；對于可能被錯認的人給予法律保護。但他沒有詳細闡述微軟在這些問題上的觀點。

“在一個民主共和社會里，在設(shè)計需要平衡公共安全和民主自由的問題上，什么也不能取代民選代表的決策。”史密斯說，“面部識別需要公共和私有領(lǐng)域共同組織，共同行動。”

與很多科技一樣，人臉識別既有用，也有害。

網(wǎng)民使用谷歌、Facebook等公司提供的服務(wù)來識別照片中的人。蘋果允許用戶利用人臉解鎖iPhone X。微軟則通過Windows Hello提供類似的PC解鎖服務(wù)。Uber也借助微軟的人臉識別技術(shù)來識別駕駛員的身份。人臉分析也可以用于在辦公室、機場和酒店驗證身份。

但對于刷臉，并沒有出臺多少監(jiān)管規(guī)定。

史密斯表示，政府數(shù)據(jù)庫或許可以用于監(jiān)控參加政治集會的人，甚至監(jiān)控你所瀏覽的信息，甚至你不感興趣的內(nèi)容?？紤]到華盛頓目前的政治僵局，提議組建專家委員會是一種比較保險的方式，可以避免政府真的限制微軟或其他科技公司使用人臉識別技術(shù)。但微軟總裁稱，這種委員會過去10年曾經(jīng)出現(xiàn)過28次，而且取得了一些成功。例如，9-11期間的委員會以及隨后對國家安全機構(gòu)的調(diào)整。

廣泛使用人臉識別，好處顯而易見，可以在公共場所識別犯罪分子。

當然，除了利用技術(shù)幫助政府監(jiān)管外，微軟總裁還表示，微軟及其他科技公司應(yīng)該在使用這種技術(shù)時肩負更多責任。

包括增強透明度、減少偏見、緩慢而謹慎地推進技術(shù)。“如果我們過快地推進人臉識別，可能會發(fā)現(xiàn)人們的基本權(quán)利遭到侵犯”，史密斯還表示，微軟正在努力減少人臉識別軟件中的種族差異。

關(guān)于科技使用過程中的道德問題并不新穎。但隨著人工智能逐漸具備識別人臉、駕駛汽車、預測犯罪等功能，相關(guān)的研究機構(gòu)、工業(yè)團體和慈善項目相繼出現(xiàn)。微軟2016年創(chuàng)辦了內(nèi)部顧問委員會對廣泛使用人工智能展開研究。

史密斯還在博文中表示，當他們認為可能構(gòu)成較大人權(quán)風險的時候，會對客戶的要求加以拒絕。但微軟拒絕披露具體案例。

微軟的模式贏得了斯坦福大學民主、發(fā)展和法制中心客座教授艾琳·多納霍（Eileen Donahoe）的贊賞?！拔④浽谡J真思考他們開發(fā)的技術(shù)所產(chǎn)生的道德影響和人權(quán)影響時走在前列?！彼f。多納霍表示，他預計這篇博文將引發(fā)其他科技公司參與討論。

有的批評者建議科技公司暫停人臉識別等人工智能技術(shù)的研究。但多納霍表示，這并不現(xiàn)實，因為其他領(lǐng)域也在開發(fā)這項技術(shù)。

“我更愿意讓這些參與者跟他們的員工、用戶和美國政府互動，共同思考科技的潛在使用方式，以及使用科技的過程中可能所帶來的風險。”

紐約大學斯登商業(yè)和人權(quán)中心主任邁克爾·珀斯納（Michael Posner）表示，他歡迎微軟的表態(tài)。

但珀斯納也警告稱，政府本身也有可能濫用人臉識別技術(shù)，并呼吁科技公司確?！斑@些科技系統(tǒng)的開發(fā)者與其服務(wù)對象保持同等程度的多元化?！?/p>

他還呼吁企業(yè)針對科技使用方式開發(fā)“明確的行業(yè)標準和指標”。