财联社11月2日讯（编辑 夏军雄）当地时间周三（11月1日），美国商务部长雷蒙多表示，美国将成立一个人工智能（AI）安全研究所，以评估前沿AI模型的已知和新出现的风险。

雷蒙多周三出席了在英国举行的AI安全峰会，她在发表演讲时表示：“我几乎肯定会呼吁在座的许多学术界和工业界的听众加入这个联盟。我们无法单独做这件事，私营部门必须挺身而出。”

雷蒙多补充称，她还将致力于让美国研究所与英国AI安全研究所建立正式的伙伴关系。

美国AI安全研究所将隶属于美国国家标准与技术研究院（NIST）负责，并领导美国政府在AI安全方面的工作，尤其是审查先进的AI模型。

据悉，该研究所将促进AI模型的安全、保障和测试标准的制定，制定验证AI生成内容的标准，并为研究人员提供测试环境，以评估新兴AI的风险并解决已知的影响。

本周一，美国总统签署了一项关于AI的行政命令，动用朝鲜战争时期的《国防生产法》，要求大型AI公司在开发对美国国家安全、经济、公共卫生或安全构成威胁的系统时，必须与美国政府分享安全测试结果。

除了要求向政府通报正在开发的AI系统外，上述行政命令还要求企业共享安全测试结果。不过，官员表示，这项新要求只适用于科技巨头的下一代AI系统，而不适用于目前的版本。

拜登政府还提出了其他措施，包括建立AI安全和保障的新标准，防范AI生成的虚假内容，保护美国人的隐私和公民权利，并为工作受到AI威胁的工人提供支持。