探索人工智能发展与治理之道

7月6日，2023世界人工智能大会在上海世博中心拉开帷幕。这是专家在一幅关于上海景象的智能生成画作前讨论。新华社记者黄晓勇摄

近日，由中国法学会网络与信息法学研究会主办，西南政法大学合办，西南政法大学人工智能法学院、西南政法大学智能司法研究院、西南大数据法律研究中心共同承办的“人工智能法治论坛”举行。会议深入探讨了人工智能发展与安全过程中的重大理论与实践问题。

来自全国人大法工委、最高人民法院等部门，中央党校（国家行政学院）、中国社科院法学所、清华大学、中国人民大学、浙江大学等科研院校，以及实务部门的一百余名专家、学者参加了此次会议。

首都师范大学政法学院副教授崔俊杰：科技伦理审查要考虑具体科学场景

程序规制不是封闭的构成性规制，而是开放的功能性规制，可以实现将表层的行为-责任分配与深层的集体道德决策过程深度互嵌。真实的科技伦理审查具有两阶审查的特点，与经典正当法律程序存在明显区别，为此不能简单套用法律程序中的一般制度，而需要考虑具体科学场景中伦理反思所需必要程序要求。科技伦理审查的正当法律程序设计中要有维系伦理审查组织的结构均衡程序、反思均衡程序、保障对话环境与塑造情景正义的程序。

南京大学中德法学研究所副研究员金健：人工智能对行政模式的冲击需要思考

人工智能技术的开发与应用引发了一系列问题，对传统行政模式产生了冲击。面对这些新问题，通过分析算法行政中的全自动化情形的自主性特征，可发现，组织责任、引入经济上的无过错责任与严格责任、把算法作为行政助手和像欧盟一样把算法升为主体上的电子人等方案，无法解决现有问题，须转向立法论的视角。

西南政法大学人工智能法学院博士生张翔：人工智能法律治理应贯穿目的与行为

应急式、分散式、场景式立法未能找准人工智能领域法律问题的症结，难以从整体上提供系统化、前瞻性的人工智能法律治理方案。应当以贯穿目的与行为的系统论为支撑，重构人工智能法律定义。人工智能领域立法应当以平衡安全与创新、平衡公平与效率为基本原则，以贯穿人工智能全生命周期的主体要素和行为要素为基本线索。而法律制度之间的内在脉络不仅受制于立法价值和法律原则，也受制于人工智能各要素之间相互联结、互为制约的系统论本质特征。

江西理工大学法学院副教授张志坚：人工智能自主交易的合法有效需研究

人工智能自主交易行为区别于电子合同，也区别于智能合约。人工智能在特定领域内实施自主交易行为，仍是人类意志的延伸，具有相应的民事行为能力，具备行为合法有效的可能性，而超越特定领域的行为效力待定。在人工智能自主交易行为的法律责任上，存在预期违约责任与违约责任两种类型，原则上以拥有独立财产的人工智能自身为责任主体。同时，基于人工智能的特殊性，除了财产赔偿方式外，还可以对其设置修正程序、删除数据、强制销毁等专属的责任承担方式。

《网络信息法学研究》特约编辑狄行思：确认合资格金融人工智能受信人地位

关于AI能否作为独立的信义义务人，与其智能化程度密切相关，也事关开发者、使用者在背后承担的角色。人工智能技术除了技术属性，还必须具有一定的社会属性。应确认合资格金融人工智能受信人地位，并以信义治理路径对其进行规制。

上海财经大学法学院副教授沈小军：自动驾驶产品责任险不能替代交强险

现有自动驾驶汽车产品责任保险研究主要集中在侵权责任和交强险上，对产品责任保险的研究存在明显不足。要引入一个强制性的产品责任保险，在未来完全自动驾驶时代强制性的产品责任保险是非常有必要的。在产品责任强制保险跟交强险的关系方面，因为构成要件和免除事由方面的限制，产品责任强制保险仍然不能替代交强险。

蚂蚁集团高级政策研究高级专家毛智琪：参考各国经验提升合规管理有效性

随着人工智能在国家竞争力、国家安全等方面的作用凸显，各国都在加紧相关规划部署和政策制定，人工智能已经成为国际竞争新的焦点所在。但由于人工智能目前仍在发展中，存在着隐私和数据安全、内容安全、竞争公平、知识产权保护等风险，技术和应用的安全性与真实性等问题尚待解决。大模型对算力的巨大消耗也对低碳转型目标的实现带来新的挑战，这些新的问题成为各国政府关注的新课题。参考目前各国监管趋势和行业实践，可以考虑从建立全生命周期的合规管理与监测机制、引入合规科技等技术手段强化风险识别能力和管控能力，进一步提升合规管理的有效性，更好地应对技术发展带来的挑战，推动人工智能技术的安全创新和产业变革，赋能中国经济高质量发展。

西南大数据法律研究中心执行副主任谭玲：多方面探寻人工智能著作权侵权防范

当前生成式人工智能的著作权侵权风险主要存在于数据获取、人机互动过程、大模型训练以及内容生成四个领域，需要从许可使用、合理使用、法定许可等著作权制度探寻不同阶段、不同类型生成式人工智能著作权侵权风险防范路径。商用情况下数据获取端对在先作品的利用可以集体许可为基础，其他授权模式为补充。非商用情况下适用合理使用制度，同时进行概括性作品使用申明。人机互动过程中，通过用户协议阐明未经授权上传在先作品的后果。对于内容生成端，风格和思想的相似一般而言不涉及具体侵权问题，但仍需完善AI“洗稿”的侵权行为认定标准。

东南大学法学院副研究员徐珉川：数据有效流动归根结底是信用生产

关于生成式人工智能的公共数据可信供给问题。“数字政府”背景下的公共数据开放，其核心是一种可信价值。建立可信的治理方式，建立一套公共数据开发的可信秩序激励。面向生成式智能创新，需要可信的公共数据供给。数据供给核心为信用问题，如何让数据有效流动、开放，归根结底为一种信用生产、适用等方面的再生产。

全国人大常委会法工委行政法室处长母光栋：人工智能治理可综合运用部门法原则

研究生成式人工智能的发展和治理问题，可以综合运用各个部门法确定的原则和具体制度。比如，生成式人工智能技术中的重要环节之一是公共数据治理，采集、生成数据需要遵循合法和必要原则，开发、运用数据需要遵循开放和共享原则，在整个公共数据治理过程中，还要遵循有关法律法规确定的安全和风险防范等原则。从不同部门法视角研究生成式人工智能问题，有利于推动这一新兴产业的健康发展。