加州州长纽森否决有争议的AI安全法案

加州州长纽森（Gavin Newsom）周日（9月29日）否决了州议会8月份批准的争议性的人工智能（AI）监管法案。此前，科技业反对此案，认为这可能让AI公司离开加州，阻碍创新研发。

日前，加州议会通过了旨在监管强大AI模型的《前沿人工智能模型安全创新法案》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，SB 1047）。纽森必须在9月30日之前签署或否决该法案。

这项法案要求大型“前沿”AI模型的开发者采取预防措施，例如部署前测试，以确保它们不会导致大规模死亡、对公共基础设施的攻击，或被用于网络攻击。

该法案还将设立举报人保护措施，为希望分享安全担忧的AI公司的员工提供举报人保护；以及为了公共利益，开发AI的公共云服务等。法案还要求创建加州前沿模型委员会（Board of Frontier Models），以监督AI模型的发展。

纽森在否决该法案时，对其进行了全面审查，指出该法案可能“限制创新，而创新正是推动公益事业发展的动力”。

他还表示，该法案以一刀切的方式对AI进行监管，缺乏对AI所带来的真正威胁的实证分析。

他写道：“制定只适用于加州的法规可能是有道理的——尤其是在国会没有采取联邦行动的情况下——但这些行动必须建立在实证与科学的基础上。”

纽森还对该法案主要适用于成本昂贵的AI模型提出了质疑。该法案计划让开发者对其模型造成的损害承担责任，但仅适用于训练成本超过1亿美元的AI模型。目前还没有模型达到这个数字。

纽森认为，廉价的AI模型同样可能对公共利益或关键基础设施构成威胁。