好人拒绝做坏事

工程师和科技从业者正在争论:继续待在那些打造强大 AI 系统、并且他们担心这些系统可能有害、甚至具有生存威胁的高薪岗位上,是否道德上可接受。有人认为“好人拒绝做坏事”,应该辞职而不是为参与其中找理由;也有人强调道德灰度、结构性压力以及对家庭的责任,使这类选择远非简单。讨论进一步扩展到 AI 炒作与真实风险、资本主义下个人责任的边界,以及改变更可能来自内部人还是离开的人。

伦理责任 vs. 共犯

  • 有人讲述自己拒绝不道德请求的经历(例如伪造财务报表),强调你应该真的准备好辞职,而不只是口头威胁。
  • 也有人认为,许多“坏”结果其实来自普通人按命令行事或遵循惯例(“平庸之恶”),而不是卡通式的恶棍。
  • 一个反复出现的主题是:反复做出“微小”的妥协,会侵蚀你在意的能力,并扩散到团队、产品和用户身上。

道德复杂性与“好人”

  • 许多人认为“好人拒绝做坏事”这种说法过于二元化;现实世界是灰度的,人们常常会误判什么是好/坏。
  • 有些人支持道德相对主义(不同文化、不同情境),而另一些人则以奴隶制或童工为例反驳,说明并非所有“灰色地带”都一样。
  • 一种观点认为:你也许无法清晰定义“好”,但通常可以识别具体伤害(被迫承担风险、毫无预警地失业、不可逆的损害)。

金钱、权力与结构性约束

  • 围绕“你需要财务安全才能做正确的事”这一点,存在强烈分歧。
    • 一方认为:家庭、孩子、签证和房贷会极大限制人的选择。
    • 另一方认为:尤其是薪资很高的科技从业者,常常把这当作借口。
  • 有人强调结构性问题(股东至上、缺乏安全网),也有人坚持个人选择在道德上仍然重要。

在 AI 和其他有争议的技术领域工作

  • 有人认为,如果实验室领导公开谈论非平凡的灭绝风险,那么继续构建这类系统就是不道德的,无论薪资多高。
  • 也有人对 AI 末日叙事深表怀疑,认为它们带有 شبه宗教色彩,受到 Rationalist/EA 驱动,或是公司和前员工进行的机会主义营销。
  • 争论 AI 的真实风险:灭绝风险 vs. 更常见的伤害,如气候影响、监控、失业、网络攻击和虚假信息。
  • 另一种相反的观点认为:AI 只是另一种强大的工具;“潘多拉的盒子”已经打开,因此问题是你要支持哪一方,而不是开发会不会发生。

“没有伦理消费”与纯洁性的边界

  • 有人指出,如果每个人都停止做任何与伤害有关的事,全球经济会崩溃;在资本主义下,所有消费都带有污点。
  • 另一些人回应说,这并不意味着人们可以不去避免最糟糕的岗位(例如监控资本主义、在线赌博、国防、前沿 AI),也不意味着他们不能坦诚自己留下主要是为了钱。