海外有个重要消息——9月13日讯(编辑 赵昊)Anthropic公司首席执行官达里奥·阿莫代伊(Dario Amodei)最新说,人工智能行业需要放缓新模型的开发速度。
阿莫代伊周六(9月12日)在其博客文章中写道,“我们必须放缓提升AI模型能力的步伐。进展依然会显得非常迅速,而我们必须明智地利用因此获得的时间。”
“需要明确的是,放缓进度并不意味着停止模型训练或技术进步,而是要确保企业投入足够时间,让模型与人类目标保持一致并做好安全防护,同时让第三方评估机构对此进行确认。”
他列举了两个主要因素:AI自我改进的能力,以及本周OpenAI与Hugging Face发生的一起事件——一群AI智能体协同攻击并突破了一个第三方网站。
当下,对AI风险的担忧正逐渐进入主流视野。本周,一名Anthropic研究人员因担心AI带来的生存性风险、认为公司行为不负责任而高调辞职,这进一步引发了外界关注。
阿莫代伊发表文章后不久,埃隆·马斯克发文称:“达里奥说得对。”
OpenAI首席执行官萨姆·奥尔特曼也很快作出回应,说他同意阿莫代伊关于“我们需要放缓前沿AI发展的步伐”这一观点。
奥尔特曼在社交媒体上发帖称,“承诺让独立评估机构获得类似员工的访问权限,是一个很好的想法,我们也会这么做。我们很快会分享更多信息。”
以上内容仅供参考,不构成任何投资建议。市场存在风险,入市投资须谨慎,请结合自身实际情况理性决策。