據外媒報道，當地時間周三，聯合國人權事務高級專員呼籲暫停出售和使用構成人權風險的人工智能技術–包括國家使用面部識別軟件–直到適當的保障措施到位。儘管從隱私到種族偏見等諸多擔憂困擾着這一新興技術，但這一請求發出之際正值人工智能快速發展期間。
“人工智能可以是一股有益的力量，幫助社會克服我們這個時代的一些重大挑戰。但如果不充分考慮人工智能技術對人權的影響就會產生負面甚至災難性的影響，”聯合國人權高級專員Michelle Bachelet於周三在一份聲明中說道。
在Bachelet發出警告的同時，聯合國人權辦公室還發布了一份報告。該報告分析了人工智能系統如何影響人們的隱私權以及健康、教育、行動自由等權利。
Bachelet補充道：“人工智能現在已經滲透到我們身體、精神生活甚至情感狀態的幾乎每個角落。人工智能系統被用來決定誰能得到公共服務，決定誰有機會被錄用，當然，它們影響人們看到什麼信息，可以在網上分享什麼信息。”
該報告警告了在沒有盡職調查的情況下實施這項技術的危險，另外還列舉了一些案例如人們因為有缺陷的面部識別技術而被錯誤逮捕或因為這些工具的錯誤而被拒絕享受社會保險福利。
儘管該報告沒有提到具體的軟件，但它呼籲各國禁止任何不能按照國際人權法操作的人工智能應用。更具體地說，該報告呼籲暫停在公共場所使用遠程生物識別技術–至少在當局能夠證明符合隱私和數據保護標準、沒有歧視性或準確性問題之前。
該報告還抨擊了許多人工智能系統的實施缺乏透明度以及它們對大數據集的依賴可能導致人們的數據以不透明的方式被收集和分析並導致錯誤或歧視性的決定。報告稱，數據的長期存儲及未來如何使用也不得而知，這同樣也是一個令人擔憂的原因。
Bachelet說道：“鑒於人工智能的快速和持續增長，填補數據收集、存儲、共享和使用方面的巨大問責缺口是我們面臨的最緊迫的人權問題之一……我們不能在人工智能方面繼續追趕–允許其在有限或沒有邊界或監督的情況下使用，並在事後處理幾乎不可避免的人權後果。”另外他還呼籲立即採取行動，“為人工智能的使用設置人權護欄”。
數字權利倡導組織歡迎該國際機構的建議，尤其是在許多國家在執行有關人工智能的聯邦法律方面滯后的情況下。
非營利倡導組織Fight for the Future的負責人Evan Greer告訴ABC News，該報告進一步證明了這種新興技術構成的生存威脅。
Greer在接受ABC News採訪時表示：“這份報告反映了世界各地的技術和人權專家日益增長的共識：像面部識別這樣的人工智能監控系統對人類自由的未來構成了生存威脅。像核武器或生物武器一樣，這類技術具有巨大的潛在危害，無法得到有效監管，必須予以禁止。”
Greer還補充稱：“無論是政府還是企業等私人實體，面部識別和人工智能的其他歧視性用途都可能造成巨大傷害。我們同意聯合國報告的結論：應該立即在全球範圍內暫停銷售面部識別監控技術和其他有害的人工智能系統。”
多項研究表明，由人工智能驅動的面部識別技術可能存在種族偏見和假陰性。就在去年夏天，密歇根州的一名黑人男子被錯誤地逮捕和拘留，就因為面部識別技術錯誤地將他識別為入店行竊嫌疑人。
美國商務部國家標準與技術研究所於2019年的一項全面研究發現，市場上大多數面部識別軟件對亞裔和黑人面孔的假陽性匹配率高於白人面孔。英國2019年的另一項研究發現，被倫敦警察廳使用的面部識別技術標記的嫌疑人中，81%是無辜的。