前沿思考:AI驱动的招聘软件是否增加了偏见和麻烦

2019年11月27日 1228次浏览
思考这个话题:AI招聘的软件是否会加剧了偏见,增加了法律风险。刚好看到这篇文章,给大家分享下。





LinkedIn就业法总监Jaimi Kerr说,通往法庭的道路可以用善意铺就。




Jaimi说,随着招聘人员和招聘经理在AI驱动工具不断变化的地形中导航时,他们需要了解法律对此要说些什么。

在与LinkedIn全球人才招聘负责人Brendan Browne的一次对话中,Jaimi指出,当涉及到现在可用于帮助公司更有效地进行资源搜集和招聘的庞大软件库时,法律不仅可以关注结果,还可以关注结果。从理论上讲,具有较小的潜意识偏见。她说,类似地,良好的意愿并不是根据年龄,性别或种族做出工作场所决策的辩护。

Talent on Tap的最新一集中,Jaimi和Brendan探索了为什么公司的法律和人才获取团队比以往任何时候都需要紧密合作的原因:






告诫购买者:产品声称没有偏见并不意味着它没有偏见




Jaimi与Brendan的团队进行了足够的合作,以了解有多少人才招聘专业人士渴望快速,公平,高效地招聘候选人。同时,为帮助招聘人员做到这一点而推出的软件工具数量呈爆炸性增长。

“在LinkedIn上,您会看到很多广告,” Jaimi说,“对于一堆不同的供应商,他们说,'嘿,我们可以使用机器学习来帮助您找到合适的候选人。'”她经常指出公司还吹捧他们的产品消除了人为偏见。

贾伊米(Jaimi)对布伦丹说:“这听起来很棒,但这并不是说它不可能很棒,但是确实会有意想不到的严重后果,可能导致法律责任。”

陪审团可能不会像你的招聘团队那样相信这种炒作。正如今年早些时候哈佛商业评论》(Harvard Business Review)上的一篇文章所问:“聘用算法可以防止偏见,还是会加剧偏见?”

招聘人员可能会使用AI驱动的软件来完成全部任务-通过招聘广告来定位某些应聘者;寻找被动候选人;筛选申请人;评分简历;并评估技能和能力。这些工具背后的算法可能是精心设计的,但在美国法律看来,这并不是一个成功的辩护。

招聘团队需要了解什么是完全不同的影响以及如何避免

Jaimi说:“存在歧视的整个领域,这是完全不同的影响歧视。这就是在美国的称呼。在其他地方,有时也称为间接的。”

在招募过程中,工作原理如下:“基本上就是这样,人们要经过筛选工具,” Jaimi说,“一群人(例如男人)以一定的速度通过,也许一群人通过妇女以不同的速度通过。如果您将这两个比率进行比较,而通过率较低的那个小组的通过率不到另一个小组的80%,则可以称为“不良影响”,这被认为是不同的歧视影响的证据。

在以下两种情况下,人工智能驱动的工具可能会对招聘流程造成不同的影响:

  • 该算法不包括居住在距总部10英里以外的任何人,这可能会对人数不足的人群产生不同的影响,具体取决于周围邻里和社区的人口统计学。

  • 该算法仅转发具有20年前未提供的专业学位的申请人,这可能会对年长的申请人产生不同的影响。


这两种情况都不是邪恶的,但每种情况都可能是合法的地雷。而且公司不希望使用其AI工具来创建所需的数据,以查看它们是否会带来不同的影响。到那时,为时已晚。

Jaimi说:“您可以在前端设置一些流程,从而可以帮助您避免这种情况的发生。但是您必须在前端考虑它。您不能只是说,“哦,让我们插入工具,明天再使用。”​​”

在开始使用之前,请严格测试您的招聘软件

至关重要的是,技术援助团队必须与法律团队合作,以确保他们的新软件工具能够帮助他们找到优秀的人才,而不是让他们陷入麻烦。

Jaimi在Talent Blog上说:“符合标准的验证流程符合《员工选拔程序统一指南》(UGESP)中规定的指南。通常,首先要对要考虑使用该工具的工作进行有力的分析,然后进行一项技术研究,以评估选择程序对工作的反映或预测的成功程度以及选择程序是否对公平性产生影响。”

正如Jaimi指出的那样,在UGESP下进行验证过程还可以达到最终的业务目标:它有助于确保该工具实际上正在衡量对您发布的工作是否成功有意义的指标。

大多样性原则:永远不要根据某人的年龄,种族或性别做出决定

布伦丹问杰米(Jaimi),她是否对多元化招聘有更广泛的建议。她说:“最重要的是,要记住-这就是我所说的多样性大规则-不要基于某人的种族,性别,年龄或其他受保护的阶级来做出决定。”

Jaimi说,在召集各种各样的候选人之后,您想评估他们的优势和劣势,并选择贡献最大的人。

贾伊米说,有时候人们希望在这一点上找到漏洞。他们问她:如果我有两个相同的候选人,我可以用种族或性别作为决胜局吗?

她说:“我一直对此做出回应,没有两个完全相同和完全相同的候选人。。。。因此,看看那两个人。他们为您带来了什么?他们能为您的团队增加什么?”

这不仅是做出决定的合法方法,而且是正确的方法。

杰米(Jaimi)说:“没人希望被视为只有女性,只有西班牙裔候选人或只有非裔美国人候选人。没有人愿意选择或不选择与这些特征相关的任何东西。而且这恰好是违法的。对我来说,这对我们所有人都很重要。”

最后的想法

布伦丹说:“在与您的法律部门建立合作伙伴关系时,早期和经常是关键。”

他建议招聘经理对团队进行有关当前法律问题的培训,以便他们了解对平台和流程做出选择的背后原因,并建议将其作为当前的优先事项。

“没有很多会议,”布伦丹说,“贾米和我在一起,然后我们就在一个完成的地方。在您的招聘生涯中,无论现在还是永久,这都是您不断做出的承诺和不断建立的合作伙伴关系。”

 

*图片由  Rock'n Roll Monkey  on  Unsplash拍摄



您可能感兴趣的文章
 Hotline: 021-31266618   Email:hi@xinchou114.com