OpenAI、Anthropic达成AI安全协议，与联邦政府达成研究协议_公寓

美国国家标准与技术研究院(NIST)周四宣布，领先的人工智能(AI)公司OpenAI和Anthropic已与美国政府签署协议，将其人工智能模型用于研究、测试和评估。

NIST在一份新闻稿中表示，根据该协议，美国人工智能安全研究所将被允许在公开发布之前和之后访问该公司的主要新模型。

该协议旨在加强对人工智能能力和风险的研究，以及预防风险的最佳方法。NIST还打算就可能的安全改进向OpenAI和Anthropic提供反馈。

“安全是推动突破性技术创新的关键。有了这些协议，我们期待与Anthropic和OpenAI开始技术合作，以推进人工智能安全科学，”美国人工智能安全研究所所长伊丽莎白·凯利在一份声明中表示。“这些协议只是一个开始，但它们是一个重要的里程碑，因为我们努力帮助负责任地管理人工智能的未来。”

该协议达成之际，人工智能公司正面临政府和立法者对其模型安全性越来越多的审查。

人工智能安全研究所于去年在商务部成立，作为拜登总统关于人工智能安全、风险和保护数据隐私的全面行政命令的一部分。在担任研究所所长之前，凯利曾担任拜登的经济顾问。

ChatGPT的制造商OpenAI也是人工智能安全研究所旗下的人工智能安全研究所联盟的一部分。该联盟的其他科技公司包括微软、Alphabet旗下的谷歌、苹果和元平台。一些政府机构和学术机构也是该组织的一部分。

博学网声明：未经许可，不得转载。

资讯

科技快讯

商业

科学

生活

健康动态

国际

综合

OpenAI、Anthropic达成AI安全协议，与联邦政府达成研究协议