今天，美国商务部国家标准与技术研究院(NIST)的美国人工智能安全研究所宣布，将与Anthropic和OpenAI在人工智能安全研究、测试和评估方面进行正式合作。

每家公司的谅解备忘录为美国人工智能安全研究所建立了框架，以便在每家公司的主要新模型公开发布之前和之后获得访问权限。这些协议将使合作研究如何评估能力和安全风险，以及减轻这些风险的方法成为可能。

“安全是推动突破性技术创新的关键。有了这些协议，我们期待着开始与Anthropic和OpenAI的技术合作，以推进人工智能安全科学，”美国人工智能安全研究所所长伊丽莎白凯利说。“这些协议只是一个开始，但它们是一个重要的里程碑，因为我们努力帮助负责任地管理人工智能的未来。”

此外，美国人工智能安全研究所计划与英国人工智能安全研究所的合作伙伴密切合作，就其模型的潜在安全改进向Anthropic和OpenAI提供反馈。

美国人工智能安全研究所建立在NIST 120多年来推进测量科学、技术、标准和相关工具的传统基础上。这些协议下的评估将通过促进在一系列风险领域的先进人工智能系统的深度合作和探索性研究，进一步推动NIST在人工智能方面的工作。

根据这些协议进行的评估将有助于在拜登-哈里斯政府关于人工智能的行政命令和领先的人工智能模型开发人员向政府作出的自愿承诺的基础上，促进人工智能的安全、可靠和可信的开发和使用。

关于美国人工智能安全研究所

美国人工智能安全研究所隶属于商务部国家标准与技术研究院(NIST)，是在拜登-哈里斯政府2023年关于安全、可靠和可信赖的人工智能开发和使用的行政命令之后成立的，旨在推进人工智能安全科学并解决先进人工智能系统带来的风险。它的任务是开发测试、评估和指导方针，这将有助于加速美国和世界各地的安全人工智能创新。