文 | Britney Nguyen

包括美国在内的18个国家昨天发表了一项国际协议，重点是确保人工智能在开发和部署过程中的安全，并呼吁创建和使用人工智能系统的AI公司在"设计上确保其安全"，以防止不法分子的侵害。这是解决人工智能开发和安全问题的最新一项政府间倡议。

关键事实

这份人工智能安全指南由美国国土安全部网络安全和基础设施安全局和英国国家网络安全中心联合发布。

这份20页的不具约束力的协议称，人工智能公司需要保护客户和公众的安全，使他们在开发、部署和维护人工智能系统的过程中免受滥用危害。

该协议包括关于保持人工智能系统安全的建议，例如监控滥用、保护数据不受黑客攻击、确保软件供应商合法以及建议公司在安全测试后发布模型。

该指南还概述了在设计、开发、部署和维护阶段保护人工智能系统的步骤。

德国、意大利、挪威、澳大利亚、智利、尼日利亚和新加坡都是该协议的成员国。

谷歌、微软和 OpenAI 等组织为制定该指南做出了贡献。

重要言论

美国网络安全和基础设施安全局局长Jen Easterly对路透社表示:“这是我们第一次看到对（AI）这个方面的肯定和承认，即这些技术不应该仅仅是很酷的功能，关于它们的讨论也不应该仅仅是我们能多快把它们推向市场，或者我们能如何通过竞争降低成本。”

关键背景

今年10月，拜登总统发布了一项内容广泛的行政令，重点是防范“人工智能的潜在风险”，并鼓励政府机构和科技行业解决与人工智能开发相关的隐私、信任和安全问题。该行政令还规定，根据冷战时期的《国防生产法》，开发可能威胁国家安全、经济或公共健康的人工智能系统的人工智能公司必须与美国政府共享安全测试结果和其他相关信息。据路透社报道，本月早些时候，德国、法国和意大利加入了一项关于监管人工智能的协议，称他们支持人工智能模型"通过行为准则进行强制性自我管理”。欧洲立法者在起草与人工智能开发和安全相关的立法方面领先于美国，包括面部识别和生物识别监控的规则，但欧盟在最终确定其人工智能法案时也遇到了挫折。