党的二十大提出，要建设现代化产业体系，推动战略性新兴产业融合集群发展，构建人工智能等一批新的增长引擎。大模型是人工智能从专业智能向通用智能转变的关键技术，它是继移动互联网之后最具影响力的技术浪潮，但也给技术合规、网络安全、隐私保护以及社会伦理法律等方面带来了新的风险和挑战。要让通用人工智能真正服务于社会和产业，必须有效应对这些风险和挑战，保障国家安全、企业安全和个人安全。
为贯彻落实国家发展新一代人工智能的决策部署，全面贯彻总体国家安全观，公安部第三研究所利用在网络安全等级保护领域的国家队优势，依托网络安全等级保护与安全保卫技术国家工程研究中心这一国家级创新平台，联合产、学、研、用领域的多家单位，包括头部大模型服务提供者、安全厂商、测评机构和高校等，共同研究制定了《大模型系统安全保护要求》和《大模型系统安全测评要求》两项团体标准。
这两项标准针对应用大模型技术的系统，主要从大模型系统的通用安全和全生命周期安全两个角度进行规范。通用安全是大模型系统安全的基础，涉及物理环境、网络架构、边界防护、身份鉴别、访问控制、安全审计、入侵防范、恶意代码防范、集中管控、供应链管理、个人信息保护、数据保密性、备份恢复、数据溯源等方面的安全要求；全生命周期安全则包括设计开发安全要求、测试安全要求、部署与运行安全要求、退役安全要求。
经过前期的讨论和系统的研究，目前已经形成了《大模型系统安全保护要求》和《大模型系统安全测评要求》的征求意见稿。为了提高标准的质量，检验标准的适用性和可操作性，计划选择2家大模型服务提供者进行标准的试点验证工作，目前正在向社会公开征集试点合作单位。
该文观点仅代表作者，本站仅提供信息存储空间服务，转载请注明出处。若需了解详细的安防行业方案，或有其它建议反馈，欢迎联系我们。
