未來面部識別技術的最大問題是幾乎不會出錯

cnbeta 發佈 2020-01-16T21:20:51+00:00

去年12 月,美國國家標準技術研究院信息技術實驗室主任 Charles Romine 就在一份報告中證實了此事。

近年來,面部識別技術總被推上輿論的風口浪尖,比如針對女性和有色人種的誤報率太高、以及對個人自由和隱私的不利影響。在美國眾議院監督委員會的第三次專場聽證會上,議員希望解決私人企業和政府機構在公共場所使用該技術的一些問題。首先,種族和性別偏見不可忽視。去年 12 月,美國國家標準技術研究院信息技術實驗室主任 Charles Romine 就在一份報告中證實了此事。

白宮官網截圖(via Cnet)

報告指出,大多數面部識別算法,都存在著針對有色人種「十幾到上百倍」的高誤報率,此外某些議員對技術完善後的未來部署深感憂慮。

北卡羅來納州共和黨眾議員 Mark Meadows 表示:「如果我們只盯著面部識別不太準確這件事不放,反而會錯過問題的核心,因為技術正在以驚人的速度在發展」。

換言之,即使面部識別達到了 100% 的識別成功率,在必須在使用場所上作出嚴格的限制。目前該技術已被執法部門廣泛採用,尤其在兒童失蹤和大規模槍擊事件發生的時候。

另一方面,有關部門也可能藉此來監視和威嚇反對意見者、議員、活動人士,此舉已經對美國憲法《第一修正案》賦予的公民言論自由權利施加了令人生畏的影響。

憲法項目高級顧問 Jake Laperruque 表示:「儘管人臉識別的準確性問題非常嚴峻,但即使準確性提高,人臉識別仍將對公民權利和自由構成巨大威脅。若缺少規則約束,該技術或被濫用於各種目的」。

聽證會上,多名議員討論了委員會提出的針對面部識別的法案計劃。儘管此前有過這方面的討論,但美國迄今沒有任何相關的聯邦法律。

議員和權利倡導者們都預見到了面部識別技術將得到改進的未來,因而希望走出一條立法先行的道路。

電子前沿基金會政策分析師 Matthew Guariglia 表示:「對於該項目的監督,國會議員必須考慮更廣泛的公民自由含義,而不僅僅是技術是否有效」。

紐約大學 AI Now 研究所聯席主管 Meredith Whittaker 亦在聽證會上表示:「儘管人臉識別存在問題,可它即便完全準確,對性別和種族的偏見影響也會顯而易見的擴大」。

她以佛羅里達州的某個案件舉例,儘管被告永遠無法質疑這項技術的準確性,但檢察官還是認定了面部識別特徵,建議對其判處最高的八年徒刑。

Meredith Whittaker 補充道:「在沒有免責聲明的警告下,已面臨社會歧視的群體,將成為面部識別技術缺陷首當其衝的受害者」。

最後,儘管大多數議員同意面部識別的準確率需要進一步提升,但仍存在著該技術被用於監視工具的潛在擔憂。

有議員認為,人臉識別立法不應側重於種族和性別偏見,而在於保護人們隱私和相關權利的那些方面。

關鍵字: