0


AI安全立法:加州新法案的争议与未来影响

每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅:https://rengongzhineng.io/

一项备受争议的法案旨在强制执行大型人工智能(AI)模型的安全标准,这项法案已在加州州议会获得通过,以45票赞成、11票反对的结果通过了加州众议院。早在5月,加州参议院以32票对1票的结果通过了该法案(SB-1047)。现在,这项法案只需在参议院进行最后一次程序性投票,然后就会递交给加州州长加文·纽森(Gavin Newsom)审批。

正如之前详细探讨过的那样,SB-1047法案要求AI模型的创建者在模型出现“对公共安全和安保构成新威胁”时,尤其是在“缺乏人类监督、干预或管理”的情况下,必须实施一种可以“关闭”该模型的“杀手开关”。一些人批评该法案,认为它过分关注于未来可能发生的AI风险,而忽略了当下AI应用中诸如深度伪造(deep fakes)或虚假信息传播等现实危害。

在周三宣布立法通过时,该法案的发起人、州参议员斯科特·维纳(Scott Weiner)引用了AI行业知名人士的支持,如Geoffrey Hinton和Yoshua Bengio(这两位去年也签署了一份声明,警告快速发展的AI技术可能带来的“灭绝风险”)。

Bengio在《财富》杂志近期发表的一篇社论中表示,这项法案“为前沿AI模型的有效监管划定了最低限度的要求”,并且它只针对训练成本超过1亿美元的大型模型,因此不会影响小型初创公司。

Bengio写道:“我们不能让公司自我评估并仅仅给出听起来好听的保证。我们在其他技术领域如制药、航空航天和食品安全上不允许这样做。为什么AI应该被区别对待?”

然而,斯坦福大学计算机科学教授、AI专家李飞飞(Fei-Fei Li)在本月早些时候的另一篇《财富》社论中表示,这项“出于良好意图”的立法将对加州乃至全国产生“重大意外后果”。

李飞飞认为,法案对任何修改后模型的原始开发者施加的责任将“迫使开发者退缩并采取防御性措施”,这将限制AI权重和模型的开源共享,并对学术研究产生重大影响。

纽森将作何决定?

周三,加州的一群商业领袖向纽森发出公开信,敦促他否决这项“根本有缺陷”的法案,认为该法案“错误地将监管重点放在模型开发上,而非其滥用”。这些商业领袖表示,该法案将“引入繁重的合规成本”,并通过监管模糊性“抑制投资和创新”。

如果参议院如预期般确认众议院的版本,纽森将有时间直到9月30日决定是否签署该法案成为法律。如果他否决,立法机构可以通过每个议院三分之二的投票推翻(鉴于该法案获得的压倒性支持,这种可能性较大)。

在今年5月的加州大学伯克利分校研讨会上,纽森表示,他担心“如果我们过度监管,过度放纵,追逐一个闪亮的目标,我们可能会将自己置于危险境地”。

但与此同时,纽森也提到,他从AI行业领袖那里听到了相反的担忧。“当你看到这项技术的发明者,这些教父教母们在说‘帮帮我们,你们需要监管我们’时,这就形成了一种截然不同的氛围,”他在研讨会上说道。“当他们急于教育人们,基本上在说‘我们真的不知道自己做了什么,但你们必须对此采取行动’时,这就成了一个有趣的局面。”


本文转载自: https://blog.csdn.net/2301_79342058/article/details/141730393
版权归原作者 新加坡内哥谈技术 所有, 如有侵权,请联系我们删除。

“AI安全立法:加州新法案的争议与未来影响”的评论:

还没有评论