促进人工智能安全发展 首个生成式AI监管文件出台

7月24日，中共中央政治局召开会议，分析研究当前经济形势，部署下半年经济工作。

会议指出，要大力推动现代化产业体系建设，加快培育壮大战略性新兴产业、打造更多支柱产业。要推动数字经济与先进制造业、现代服务业深度融合，促进人工智能安全发展。要推动平台企业规范健康持续发展。

专家、机构解读

中国宏观经济研究院战略政策室主任、研究员盛朝迅表示：当前我国正处在转变发展方式、优化经济结构、转换增长动力的攻关期，同时又遭遇严峻复杂的国际环境，迫切需要加快战略性新兴产业发展，优化产业结构，构建现代化产业体系，促进数字经济、生物经济、低碳经济发展，提高全要素生产率，培育形成经济发展新动能。下一步要坚持创新驱动、需求拉动、国际化带动，加大企业技术创新支持力度，鼓励场景创新和高技术产品市场应用拓展，促进企业国际化发展，提升竞争力。要加快实施产业基础再造工程，聚焦新一代信息技术、人工智能、生物技术、高端装备等战略性新兴产业升级发展所需的高端基础元器件、核心零部件、基础装备、关键基础材料等，努力补短锻长，增强战略性新兴产业发展的韧性、可持续性和竞争力。

北京交通大学中国高端制造业研究中心执行主任朱明皓表示：当前数字经济已成为推动我国经济稳增长的重要引擎，但数字经济与先进制造业、现代服务业的融合宽而不深，例如，由制造业和服务业产生所采集的数据没有充分发挥其应有价值，数据价值对于经济增长的贡献还不高；数字赋能产业升级还停留在采集存储和传输，数字经济与先进制造业、现代服务业融合深度不够。下一步需加快推进数字经济与实体经济深度融合，协同推进数字产业化和产业数字化，使数字经济更好赋能实体、服务社会、造福百姓。充分运用人工智能等数字技术，通过大数据挖掘制造业、服务业的潜在联系，通过全产业链数据融合，打通不同环节间的信息孤岛。同时，要强化人工智能安全治理工作，从数据安全、网络安全、算法安全、算力安全等多方面入手，实现人工智能对于经济的良性促进作用，发展负责任的人工智能产业。

东吴证券指出，不同于4月政治局会议，此次会议将产业政策的相关表述后置，但“科技”的含量依然很高：“数字经济”、“先进制造业”、“人工智能”等方面均与今年领导人的调研方向不谋而合。而“平台企业”的相关表述又与本次政治局会议活跃资本市场、提振投资者信心的议题相吻合。不过值得注意的是本次会议特别强调了人工智能的“安全”发展，这可能意味着之后对于AI面临的监管会有所加强。

招商证券则表示，相较于4月政治局会议提到的新能源汽车及人工智能，本次政治局会议明确提到数字经济、人工智能以及平台经济。根据该机构追踪发现，4月政治局会议之后，共有4部委表态支持人工智能发展，共有北京、上海、广东、苏州、杭州、成都、深圳等7个城市发布促进人工智能发展政策。该机构认为，根据本次政治局会议的部署，未来一段时间，各地及部位级支撑数字经济的政策将出台的更加密集，人工智能及平台经济相关政策的出台节奏也有望保持较高的频率。

中国首个生成式AI监管文件出台

今年4月28日，中共中央政治局会议提出，要重视通用人工智能发展，营造创新生态，重视防范风险。

要求人工智能“安全发展”，此前在多个监管政策中早有提及。

7月6日，在2023世界人工智能大会上，科技部战略规划司司长梁颖达则表示，人工智能法草案已被列入国务院2023年立法工作计划，提请全国人大常委会审议。要鼓励人工智能前沿研究和原始创新，鼓励人工智能技术开源发展，坚持科技向善的理念，发展负责任的人工智能。

7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广电总局公布《生成式人工智能服务管理暂行办法》(以下称《办法》)，自2023年8月15日起施行。这也是中国首次对生成式AI研发及服务作出明确规定。

国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。以OpenAI发布的ChatGPT为代表的生成式人工智能，正在激发包括微软、谷歌、Meta、百度、阿里巴巴等国内外科技巨头以及创业者的新一轮“AI军备竞赛”。

最新出台的《办法》共24条，从生成式人工智能服务提供者的算法设计与备案、训练数据、模型，到用户隐私、商业秘密的保护，监督检查和法律责任等方面提出了相关要求。同时《办法》中明确了对生成式AI产业的支持和鼓励态度。

多国宣布AI监管计划

不只在中国，随着聊天机器人ChatGPT等人工智能(AI)应用快速发展，各国监管机构也在加快探索如何妥善进行监管，在鼓励技术创新的同时保护公众利益。

爱尔兰数据保护负责机构今年4月表示，生成式人工智能需要受到监管，但管理机构必须在仓促实施“确实站不住脚”的禁令之前弄清楚如何正确监管。

据路透社消息，在英国有几家国家监管机构负责起草内容涵盖人工智能的监管规则，这些机构中就包括金融行为监管局。目前，该机构正在与艾伦・图灵研究所和其他法律与学术机构协商，提高其对人工智能技术的理解。

据《日本时报》报道，由于对生成式AI日益担忧，G7领导人5月在广岛召开峰会，同意成立一个工作组，以加强合作，解决与新技术相关的各种问题。他们还表示，将创建一个名为“广岛AI进程”的部长级论坛，在今年底前针对生成式AI导致的版权、虚假信息等问题展开讨论。

当地时间6月14日，欧洲议会以499票赞成、28票反对和93票弃权的压倒性结果通过了《AI法案》草案。若最终法案获得通过，这将成为全球首个关于AI的法案。美国有线电视新闻网报道称，一旦获得通过，该法案将适用于在欧盟开发和部署AI系统的任何人，包括位于欧盟以外的公司。

日本隐私监管机构6月表示，已警告OpenAI不得在未经公众许可的情况下收集敏感数据。日本预计将在2023年底之前出台监管措施，这些监管措施可能更接近美国的态度，而不是欧盟计划的严格监管措施，因为日本希望这项技术能够促进经济增长，并使其成为先进芯片的领导者。

美国也加入了这场生成式AI的监管风暴。当地时间5月23日，美国政府宣布了一系列围绕美国AI使用和发展的新举措，希望全面了解并捕捉到快速发展的AI技术所蕴含的风险和机遇。7月21日，包括谷歌、微软、OpenAI、亚马逊、Meta、Anthropic、Inflection在内的七家顶级人工智能公司在美国白宫召开会议。这些企业的高管承诺，将为消费者创建识别生成式人工智能的方法，并确保在生成式人工智能工具发布前，会测试其安全性。具体而言一共涉及八项措施：在音频和视频内容上使用水印来帮助识别人工智能生成的内容；在向公众发布工具之前，请独立专家评估其工具的安全性；与其他行业参与者、政府和外部专家分享有关最佳实践和规避安全措施的尝试的信息；投资网络安全措施；鼓励第三方发现安全漏洞；报告技术的局限性并指导适当使用人工智能工具；优先研究人工智能的社会风险，包括歧视和隐私问题；使用最前沿的人工智能系统(前沿模型)来解决社会最严重的问题，例如缓解气候变化和疾病等社会挑战。

近日，澳大利亚政府表示，将弥补现有法律漏洞，对新形式的人工智能技术采取“保障措施”。澳大利亚联邦工业、创新和科学部部长埃德・胡斯克(EdHusic)发布了澳大利亚国家科学技术委员会的建议，以及一份关于人工智能的讨论文件，其主旨是考虑有针对性的监管措施。

联合国也正在呼吁采用人工智能“全球监管标准”。联合国秘书长安东尼奥・古特雷斯6月12日支持一些人工智能高管提出的建立像国际原子能机构这样的人工智能监管机构的提议。古特雷斯还宣布计划在今年年底前启动高级别人工智能咨询机构的工作，定期审查人工智能治理安排并提出建议。

事实上，人工智能是一把双刃剑早已成为全球共识。在斯坦福大学发布的《2023年人工智能指数报告》中提到，对127个国家的立法记录调研的结果显示，包含“人工智能”的法案被通过成为法律的数量，从2016年的仅1个增长到2022年的37个。报告还对81个国家2016年以来的人工智能议会记录的分析也同样表明，全球立法程序中提及人工智能的次数增加了近6.5倍。

随着生成式人工智能研究和使用规模逐渐增长，建立新型的人工智能监管框架十分必要。