全球首份AI安全标准发布，英美等国联合企业助力AI系统安全发展

随着人工智能技术的飞速发展，AI系统在各行各业的应用越来越广泛。然而，随之而来的安全风险也引起了广泛关注。为了确保AI系统的安全性，美国网络安全兼基础架构安全管理署（CISA）及英国国家网络安全中心（NCSC）日前正式发布了《安全 AI 系统开发指引》（Guidelines for Secure AI System Development）白皮书。这份白皮书号称“全球首份AI安全标准”，旨在从设计阶段强化AI系统的安全性，以防范可能的安全风险。

这份指引的制定得到了全球多个国家和网络安全组织的支持。包括美国、英国、德国、法国、日本、韩国、新加坡等18个国家，以及微软、谷歌、OpenAI、Anthropic、Scale AI等23个网络安全组织共同参与制定。这充分展示了国际社会对AI安全问题的高度重视，以及各国在应对AI安全挑战方面的合作精神。

《安全 AI 系统开发指引》白皮书主要包含四个部分：安全设计、安全开发、安全部署及安全运营（operation and maintenance）。在每个部分，指引都详细阐述了可能的安全风险及避免方法，以协助开发人员从源头降低相关安全风险。这有助于确保AI系统的安全性，为用户提供更可靠的服务。

指引强调了安全设计（Secure by Design）的原则，包括客户安全、透明度及责任、以及建立“安全设计”的组织结构。这意味着在AI系统的设计阶段，开发人员就需要充分考虑安全因素，确保系统的安全性。此外，指引还要求企业在AI系统的整个生命周期中，都要关注安全问题，从开发、部署到运营维护，全方位保障AI系统的安全。

这份指引适用于所有类型的AI系统，不仅涵盖行业内的“尖端模型”，还包括其他利用外部代管的模型或API系统。这表明，无论是大型企业还是中小型企业，都需要遵循这一安全标准，确保其AI系统的安全性。

在全球范围内推广AI安全标准，有助于提高整个行业的安全水平，降低安全风险。这对于推动AI技术的健康发展，以及保护用户隐私和数据安全具有重要意义。同时，这也有助于提高国际间在AI安全领域的合作，共同应对未来可能出现的新型安全威胁。

总之，英美等国联合企业发布的《安全 AI 系统开发指引》为全球AI安全发展提供了一个重要的参考框架。我们期待这一安全标准能够在全球范围内得到广泛应用，为AI技术的繁荣发展提供坚实的安全保障。

素材来源官方媒体/网络新闻