关于拟议中的加州 SB 1047
加州拟议的 SB 1047 将对大型 AI 模型开发者施加安全、报告和停用要求，引发了激烈争论：它究竟能否真正降低风险，还是只会巩固大科技公司的优势。批评者警告说，基于算力的门槛、文书负担和潜在责任会压垮小型参与者，把工作推到州外，并把监管对象从具体有害应用（如诈骗或诽谤）转向抽象的“AI”。支持者则反驳说，社交媒体和其他缺乏监管的技术所带来的教训，证明了需要主动设置护栏，以及建立由州资助的算力集群等公共基础设施，以确保 AI 发展更可问责、也更广泛可及。
监管范围：模型 vs 应用
- 对于监管大型基础模型还是监管下游应用/自动化决策系统，存在明显分歧。
- 批评者认为，SB 1047 对算力/基准测试的关注偏向既有巨头，容易被钻空子，并把小型参与者推向大公司的 API，形成寡头垄断。
- 另一些人则认为，真正重要的是会影响人们权利和机会的系统（贷款、就业等），而现有的数据保护框架已经在某种程度上覆盖了这些问题。
风险表述与生存性威胁
- 有些人认为，相比真实的人类行为者，失控的、“终结者式”的 AI 被夸大了，并主张 AI “不想要”任何东西。
- 另一些人则认为，如果开发者自己都在谈论世界末日级风险，这一点本身就足以证明需要严肃监管。
- 该法案被认为主要针对失控模型风险，而不是用户请求导致的滥用；有些人认为这种划分在概念上并不一致。
责任、滥用与深度伪造
- 争论点在于，当工具被用于诈骗、身份盗窃或深度伪造色情内容时，责任应由开发者还是托管公司承担。
- 一方认为：这些工具像汽车/刀具/Photoshop 一样属于通用工具；应惩罚诈骗和诽谤，而不是工具制造者。
- 另一方认为：可预见、可避免的伤害（例如用名人图像训练却不阻止裸露深度伪造）应触发公司责任，类似不安全的汽车设计。
- 还有担忧认为，单靠诉讼并不现实，因为与制造伤害相比，诉讼成本太高。
竞争、官僚主义与门槛
- 有人担心，合规“文书工作”、安全认定以及模糊的模型门槛只会让大型科技公司应付自如，从而巩固它们的地位。
- 反方观点是：监管也可以通过反垄断式约束维持市场开放；既要警惕过度监管，也要警惕监管不足。
- 该法案通过 FLOPs 和“最先进”基准来定义模型，被认为含糊不清，可能涵盖远不止少数前沿 LLM，甚至包括非 LLM 模型。
CalCompute 公共集群
- 有些人认为，公共算力集群对于普及访问、支持开放研究以及制衡大科技公司的主导地位至关重要。
- 另一些人则担心这会变成采购黑洞：被现有承包商俘获、推进缓慢、落地即过时，并且可能将对开放工作的控制政治化或集中化。
加州背景与时机
- 对于严格的 AI 规则是否会把公司和人才赶出加州，还是企业会因为生态优势而留下来，存在分歧。
- 有些人认为监管“太早了”，应等到更清晰的危害出现；另一些人则表示，社交媒体已经展示了等待的代价，我们应当现在就对可预见的伤害进行迭代式监管。