美国国家安全局发布加强人工智能系统安全指南

鞭牛士报道，4月16日消息，据外电报道，美国国家安全局(NSA)今天发布网络安全信息表(CSI)，要求安全部署人工智能系统，部署安全且有弹性的人工智能系统的最佳实践。

CSI旨在支持美国国家安全系统所有者和国防工业基地公司，这些公司将部署和操作由外部实体设计和开发的人工智能系统。

「人工智能带来了前所未有的机会，但也可能为恶意活动提供机会。NSA在提供网络安全指导、人工智能专业知识和高级威胁分析方面拥有独特的优势。」NSA网络安全总监DaveLuber说道。

CSI是NSA人工智能安全中心(AISC)与网络安全和基础设施安全局(CISA)、联邦调查局(FBI)、澳大利亚信号局澳大利亚网络安全中心(ACSC)，加拿大网络安全中心、新西兰国家网络安全中心(NCSC-NZ)和英国国家网络安全中心(NCSC-UK)合作发布的第一个版本。

虽然该指南旨在用于国家安全目的，但它适用于任何将人工智能功能引入托管环境的人，特别是那些处于高威胁、高价值环境中的人。它建立在之前发布的安全人工智能系统开发和人工智能参与指南的基础上。

这是人工智能安全中心(AISC)领导的第一份指南，并表明该中心支持其核心目标之一：提高人工智能系统的机密性、完整性和可用性。

NSA于2023年9月成立AISC，作为网络安全协作中心(CCC)的一部分。

AISC的成立是为了检测和应对人工智能漏洞；推动与来自美国工业界、国家实验室、学术界、IC、国防部和精选外国合作伙伴的工业界和专家的合作伙伴关系；开发和推广人工智能安全最佳实践；并确保国家安全局有能力领先对手的战术和技术。

AISC计划与全球合作伙伴合作，随着该领域的发展，针对人工智能安全主题制定一系列指南，例如数据安全、内容真实性、模型安全、身份管理、模型测试和红队、事件响应和恢复。