【编者按】在人工智能浪潮席卷全球的当下，科技伦理与安全治理已成为各国面临的重大课题。加州作为硅谷所在地和全球AI创新策源地，此次率先立法具有标志性意义——它既展现了地方政府在联邦监管缺位时的担当，又开创了在保护公共利益与促进技术发展间寻求平衡的监管范式。这部法律通过设定算力阈值精准锁定前沿模型，要求企业披露安全协议、建立举报人保护机制，并明确将造成10亿美元损失或50人以上伤亡定义为”灾难性风险”。这种既给创新留出呼吸空间，又为危险行为划定红线的做法，或将为全球AI治理提供重要参考。
重磅！加州刚刚打响AI安全监管第一枪！州长纽森签署历史性法案，全面封杀用AI制造生物武器、瘫痪银行系统等毁灭性行为！
就在纽森与前总统克林顿畅谈AI监管时，他直言联邦政府行动迟缓，而加州已率先破局！这项全美首创的法律将对大型AI模型实施监管，同时绝不伤害本土科技产业。要知道全球顶尖AI公司大多扎根加州，这下全都必须乖乖遵守新规！
“加州再次证明，我们既能建立保护社区的法规，又能让蓬勃发展的AI产业持续繁荣。这项立法实现了完美平衡！”纽森在声明中豪情宣言。
法案要求AI公司必须实施并公开安全协议，防止最先进的模型被用于造成重大伤害。只要AI系统的算力达到“前沿”阈值，就必须接受监管——这相当于给超级AI套上了缰绳！
这个阈值究竟怎么定？全看计算机执行了多少次运算！立法者坦言，用数字划线虽不完美，但足以区分当前最强生成式AI和未来更强大的下一代。目前这些尖端系统基本被Anthropic、谷歌、meta和OpenAI等加州公司包揽！
最震撼的是法案明确定义：造成至少10亿美元损失或50人以上伤亡就算“灾难性风险”！就是要防范AI被用来干票大的——比如黑进电网让整个城市瘫痪！
企业必须在15天内向州政府报告重大安全事件！法律还建立了AI从业者举报人保护机制，开设公共研究云平台，违规者每次将被重罚100万美元！
虽然部分科技公司抱怨应该由联邦立法，但Anthropic盛赞这是“务实保障”，把很多企业自愿实施的安全措施正式制度化。
“尽管联邦标准仍是避免各州监管碎片化的关键，但加州创建了兼顾公共安全与技术创新的强大框架。”Anthropic联合创始人杰克·克拉克如是说。
要知道去年纽森曾否决更严苛版本，听取科技公司抱怨条款太死板会扼杀创新。随后他召集李飞飞等AI教父组成智囊团，专门研究前沿模型防护栏——这次的新法正是融合了专家与行业意见的智慧结晶！
法案起草人、旧金山州参议员威纳强调：对初创企业放宽报告要求，绝不影响创新活力。“凭借此法，加州再次确立了在技术创新与安全领域的全球领导地位！”
此举恰逢特朗普总统7月宣布要废除“繁重”法规以加速AI创新，巩固美国全球领导地位。今年国会共和党人曾试图禁止各州监管AI十年，但未成功。
在联邦监管乏力背景下，全美各州近年来纷纷出手：从选举深度伪造到AI“心理治疗”，监管触角不断延伸。加州今年更通过多项法案，解决儿童AI聊天机器人安全、职场AI应用等隐患。
值得一提的是，加州本身就是AI技术先行者——已部署生成式AI工具用于山火预警、高速拥堵治理和道路安全监控，堪称科技善治的典范！
本文由路知网原创发布，未经许可，不得转载！
本文链接：https://m.yrowe.com/sp/22695.html
