加州的新法案SB 1047旨在为大型AI模型引入安全措施，防止它们造成严重伤害，如制造大规模杀伤性武器或引发重大网络攻击。该法案要求开发这些模型的公司执行严格的安全协议。
法案适用于成本超1亿美元、训练需10^26 FLOPS的大型模型，目前只有少数公司符合条件，但包括OpenAI、谷歌和微软等科技巨头可能很快会受影响。法案还规定了紧急停止机制、风险测试和年度安全审计。
违规者可能面临高达3000万美元的罚款，法案还保护举报人，鼓励内部人士揭露不安全AI模型的信息。支持者认为这是保护社会免受技术伤害的重要措施，但硅谷对此表示担忧，担心这会抑制AI生态系统的发展。
