招聘中的算法单一化

研究范围与方法

• 讨论聚焦于一篇与 Stanford 相关的论文，研究对象是一家单一招聘供应商（pymetrics），其基于游戏的评估会筛选数百万求职者。
• 多位评论者强调，该工具使用的是心理测评“游戏”，而不是简历筛选或 LLMs；种族信息在很大程度上是自报的。
• 也有人指出，这篇论文与此前使用带有种族信号姓名的合成简历进行的实验被混淆了。

差别影响与四分之五规则

• 许多评论在讨论 EEOC 的“四分之五规则”，该规则会对不同群体之间选择率的显著差异发出警示。
• 有人认为它虽然粗糙，但作为潜在偏见的“预警器”仍然有用，能够促使进一步分析，而不是歧视的直接证据。
• 批评者则称其指标很差，忽视了申请池中的真实差异（教育、经验等），并可能把相关性与种族主义混为一谈。

系统性拒绝与算法单一化

• 一个关键结果是：在多个雇主之间使用同一家供应商的求职者，被一起拒绝的频率高于若决策彼此独立时的预期。
• 一些人认为，一旦单一筛选器主导某个行业，这一点就显而易见；一个很小的偏差或怪癖就可能在全局范围内把某些人挡在外面。
• 有人引用一项大型非 AI 简历研究作为对比，其结果看起来彼此独立，这被视为供应商单一化会改变动态的证据；怀疑者则质疑合成简历基线的现实性。

种族、社会经济代理变量与因果关系

• 许多人认为，AI 最终不可避免地会通过姓名、学校、邮政编码、教育经历或过往雇主等代理变量识别出种族。
• 也有人强调，不同结果可能源自阶层、地理位置和历史性劣势，并不一定意味着当下存在歧视意图。
• 线程中有一段很长的分歧，围绕“系统性种族主义”与仅仅存在差异化结果展开，也讨论了某些说法是否不可证伪。

监管、合法性与实践

• 一些人称赞 EU AI Act 将招聘归类为“高风险”是符合常识的；另一些人则质疑为何要单独针对 AI，而不是人类方法。
• 也有人提出对美国“AI safety”游说推动联邦层面抢先排除州级监管的担忧。
• 有些人预见到集体诉讼风险（例如年龄歧视；提到了 Workday 诉讼）。

用户行为与对 AI 招聘的怀疑

• 多位评论者不信任 AI 审核复选框，并表示会选择退出，尽管也有人指出，退出在事实上可能等同于自动拒绝。
• 招聘从业者表示，这些并不令人意外：HR 本来就像一个有偏见、黑箱式的筛选器；AI 只是把它规模化并标准化了。