AI安全风险引发业界担忧 美科技政策面临“速度与安全”之争

【ANN NEWS 华盛顿讯】人工智能快速发展之际..

8266 次阅读

【ANN NEWS 华盛顿讯】人工智能快速发展之际,美国总统特朗普与多位科技巨头在AI发展速度问题上出现明显分歧。特朗普主张美国必须加快AI发展、保持全球竞争优势,而多位AI企业负责人则呼吁适当放慢步伐,为安全措施争取时间。

特朗普日前表示,不认同AI企业应该放慢发展的建议。他随后在Truth Social发文称,美国已经拥有监管这些公司的强大权力,并将AI竞争与中国联系起来,强调“谁赢得AI,谁就赢”。特朗普政府此前也多次将保持美国AI领先地位列为政策重点。

与此同时,Anthropic首席执行官Dario Amodei近日公开呼吁AI行业适当放慢前沿模型能力提升速度,让安全研究和防护措施能够跟上技术发展。他警告,随着AI越来越多参与下一代AI系统的开发,技术进步速度可能超过人类理解和控制这些系统的能力。

Dario Amodei、Demis Hassabis与Sam Altman等AI企业负责人。图片来源:Simon Walker / No 10 Downing Street / CC BY 2.0

这一主张迅速得到OpenAI首席执行官Sam Altman和Elon Musk等科技领袖响应。Altman支持引入独立安全评估机制,Musk也公开表示认同Amodei的观点。

AI安全问题同时引起美国国会关注。民主、共和两党均有议员提出加强AI安全监管的必要性,在支持美国保持技术领先的同时建立相应的安全机制。

另据报道,Anthropic、OpenAI和Google还在讨论建立新的行业安全机制,为快速发展的AI产业制定共同标准。随着AI能力持续提升,如何在全球科技竞争与潜在安全风险之间取得平衡,正成为美国政府、国会和科技行业共同面对的重要议题。

【END】