全新任務中心上線了!
會員專屬好禮都在這

立即前往
任務中心
紐約研擬限制「AI 面試官」!用人工智能招募員工有何爭議?
作者 36氪
收藏文章
很開心您喜歡 36氪 的文章, 追蹤此作者獲得第一手的好文吧!
36氪
字體放大


分享至 Line

分享至 Facebook

分享至 Twitter


紐約研擬限制「AI 面試官」!用人工智能招募員工有何爭議?

2021 年 11 月 27 日

 
展開

提案最好的部分是它的揭露要求。

「我們無法提供有關您面試結果的具體回饋。」

在美國,越來越多的雇主利用人工智慧(AI)加快招聘流程。但求職者很少知道 AI 招聘工具為何拒絕他們的簡歷,或者如何分析他們的影片面試。當他們落選時,往往只能收到這樣一封冷冰冰的信件,不知道自己到底為什麼落選。 這不免令人不安,AI 在我們的職業生涯中究竟起了什麼樣的決定權?

美聯社報導,11 月初,紐約市議會以票數 38:4 通過了一項法案:如果 AI 招聘系統沒有通過年度審計,將被禁止使用。

年度審計將檢查 AI 招聘系統有沒有種族或性別歧視,允許求職者選擇人工審查等替代方案,AI 開發人員還需揭露更多過去不透明的細節。

有趣的是,負責年度審計的是 AI 開發人員,但會被處罰的是雇主,如果他們使用了未通過年度審計的 AI 招聘系統,每項違規行為最高處罰 1,500 美元。

支持者認為,該法案將為複雜的算法打開一扇窗戶。算法往往根據求職者的說話或寫作方式對技能和個性進行排名,但機器能否準確公正地判斷性格特徵和情緒訊號值得懷疑,這一過程未來會更加透明。

至少,知道「因為算法有偏見而被拒絕」就是有意義的,牛津大學技術法教授 Sandra Wachter 曾經表示: 反歧視法主要是由投訴驅動的,如果他們不知道發生在自己身上的事情,就沒有人可以抱怨被剝奪了工作機會。

新創公司 Pymetrics 也非常支持這一法案,他們提倡借助 AI 通過遊戲等方法面試,並認為其符合公平要求。

與此同時,過時的 AI 面試方案將被掃進垃圾堆。AI 招聘系統提供商 HireVue 在今年初已開始逐步淘汰其面部掃描工具,這項工具被學術界稱為「偽科學」,讓人想起有關種族主義的顱相學理論。

對法案的反對意見,大多是出於「這遠遠不夠」。民主與技術中心主席 Alexandra Givens 指出,提案實際上只是要求雇主滿足美國民權法的現有要求——禁止因種族、民族或性別而產生不同影響的招聘行為,但忽略了針對殘疾或年齡的偏見。而一些人工智慧專家和數字權利活動家擔心,法案只是讓 AI 開發人員自證他們遵守了基本要求,也只是為聯邦監管機構和立法者設定薄弱標準,具體如何「審計偏見」非常模糊。

值得注意的是,偏見在面試中並不少見,主要問題出在餵養算法的樣本,但它們往往被置於「黑箱」之中,普通求職者很難發覺。

幾年前,亞馬遜(Amazon, AMZN-US)停用了簡歷掃描工具,因為它偏向讓男性擔任技術崗位。部分原因在於,它將求職者的條件與公司內部的男性技術勞動力進行比較;同理,如果算法從種族和性別差異已經普遍存在的產業中獲取養料,那麽它只是在鞏固偏見。

這種偏見並不只是招聘中。今年 4 月,南加州大學一項新的研究表明,Facebook 正在以可能違反《反歧視法》的方式展示廣告,男性更有可能看到披薩送貨司機招聘廣告,而女性更有可能看到購物廣告。

本質上,“ AI 歧視 ” 就是被人類社會培養的,個人的偏見行為甚至是下意識的,我們自己不一定察覺。若將一家偏見較少的公司與偏見嚴重的公司比較,一般就是兩種原因——前者在有意消除偏見方面做得更好,後者更擅長收集並不合理的現狀並使它們永久化。

所以,中性意見認為紐約市提案最好的部分是它的揭露要求,讓人們知道自己正在被 AI 評估、如何被 AI 評估以及他們的數據去向是哪裡。

參考資料:

  • https ://apnews.com/article/technology-business-race-and-ethnicity-racial-injustice-artificial-intelligence- 2fe8d3ef7008d299d9d810f0c0f7905d
  • https ://apnews.com/article/job-seekers-artificial-intelligence-hiring-decisions- 784ccec7ac6175aadc573465ab604fb9

36氪》授權轉載

【延伸閱讀】

 
 
週餘
 
 
分享文章
分享至 Line
分享至 Facebook
分享至 Twitter
收藏 已收藏
很開心您喜歡 36氪 的文章, 追蹤此作者獲得第一手的好文吧!
36氪
分享至 Line
分享至 Facebook
分享至 Twitter
地圖推薦
 
推薦您和本文相關的多維知識內容
什麼是地圖推薦?
推薦您和本文相關的多維知識內容