国外人工智能领域最新进展

【安防在线 www.anfang.cn】

　　一、政府层面

1.美国发布新版《国家人工智能研发战略计划》

美国特朗普政府于2019年6月21日对外发布了最新版本的《国家人工智能研发战略计划》。美国认为，由于工业界、学术界和非营利组织开展了大量的投资，人工智能研发领域正变得越来越复杂并呈现出飞速发展的趋势，因此本次发布的最新版本在2016年奥巴马政府版本的人工智能研发七大关注领域基础上新增了第八个关注领域――公私合作伙伴关系。最新版本公布的美国在人工智能研发领域全部八个战略重点分别为：对人工智能研究进行长期投资；为人工智能合作制定有效的方法；理解并解决人工智能的道德、法律和社会影响；确保人工智能系统的安全性；为人工智能培训和测试研发能够共享的公共数据集和环境；通过标准与基准来测量、评估人工智能技术；更好地了解国家人工智能研发人员的需求；扩大公私伙伴关系，加速人工智能的发展。

2.美国总统特朗普签署“美国人工智能倡议”

美国国家科技政策办公室发布了由总统特朗普亲自签署行政令的“美国人工智能倡议”。该倡议旨在从国家战略层面重新分配资金，创造新资源以及设计国家重塑技术的方式，来促进美国的人工智能产业发展，让其变得越来越全球化，并力争位居世界领先水平。

据《麻省理工技术评论》网站报道，最新发布的这份倡议有五个核心要点：一是重新定向资金，该行政令指示联邦资助机构优先考虑人工智能投资；二是创建资源，寻求为人工智能研究人员提供联邦数据、计算机模型和计算资源；三是建立标准，它将指导美国国家标准与技术研究院（NIST）制定标准，以促进“可靠、强大、安全、可移植和可交互操作的人工智能系统”的发展；四是重新训练工人，要求各机构优先考虑学徒、技能计划和奖学金，为人工智能工作人员带来的变化做好准备；五是国际化参与，呼吁制定国际合作战略，确保人工智能的开发符合美国的“价值观和利益”。

3.美国国防部发布人工智能战略

美国国防部发布了人工智能战略。国防部首席信息官DanaDeasy对媒体称，“该行政命令对保持美国在人工智能领域的领导者地位至关重要，它不仅可以增加我们国家的繁荣，还可以增强我们的国家安全”。Deasy与美国防部联合人工智能中心第一任主任空军中将Jack Shanahan，与记者共同讨论了该战略的启动。Deasy表示，国家国防战略认识到美国的全球格局发展迅速，俄罗斯等国对军队现代化进行了大量投资，其中包括为发展人工智能技术投入的大量资金，他补充说，国防部人工智能战略直接支持国家国防战略的各个方面，正如人工智能战略所述，美国及其盟国伙伴必须利用人工智能来维持其战略地位，以期在未来战场中获胜并维护自由开放的国际秩序。

4.欧盟发布鼓励人工智能伦理发展的指导方针

目前，欧盟委员会发布了建立可信赖的人工智能的指导方针。欧盟委员会表示，人工智能需遵守一些基本的伦理原则，例如尊重人类自主性、不做伤天害理的事、公正且负责任。除此之外，它还尤为重视保护诸如儿童与残疾人等的弱势群体。欧盟还表示，公民应彻底掌控自己的数据。

欧盟委员会认为，研发或部署人工智能前需参考评估表，不过该指导方针并不会成为一项政策或规章制度，亦不会对其造成干扰。相反，它们的架构较为宽松。2019年夏，欧盟委员会将与利益牵涉方进行合作，确定好需要附加指导的领域，并规划好怎样才能贯彻实行并核实这些建议。2020年年初，专家组将采纳试验阶段中收集到的反馈。因欧盟研发出了诸如自主武器与假新闻生成算法这类有潜力的技术产品，越来越多的政府机构或将公开表明他们对人工智能伦理问题上的担忧。

5.俄罗斯将制定人工智能国家战略

俄罗斯将完成人工智能国家战略的制定，以加强对人工智能等产业的投资和支持。根据总统网站发布的普京总统国情咨文中将要实施的任务清单显示，俄政府必须制定出俄罗斯在人工智能领域的国家战略，并推出补充措施，加速对人工智能、物联网、机器人和大数据领域内的中小企业项目的投资和支持。

普京还要求，政府将在2019年年底前推出国家通信网络和数据储存处理基础设施发展总体纲要；在2021年年底前将俄所有中小学纳入高速互联网网络；在2022年1月1日前建成15个科学教育中心，其中位于彼尔姆边疆区等地的五个科教中心要在今年年底前开始运行。

2018年3月，俄国防部联合俄联邦教育与科学部、俄罗斯科学院召开会议，邀请国内外人工智能专家对全球人工智能发展现状进行研判，试图举全国学术、科技以及公司之力，制定“俄罗斯人工智能发展计划”。之后，俄国防部牵头发布了“人工智能十项计划”，对未来俄罗斯人工智能的研究工作以及各部门、各机构的协调分工作出了指导性安排。

6.法国工业界致力于使用人工智能技术

根据法国政府的“人工智能促进人类发展战略”，法国经济和财政部与法国八家全球行业巨头（法国液化空气公司、达索航空公司、法国电力公司、雷诺公司、赛弗兰公司、泰雷兹公司、道达尔公司和法雷奥公司）于2019年7月3日签署了一份关于工业人工智能的宣言，八家全球公司在宣言中提出了人工智能的共同战略愿景。签署方同意从现在至2019年9月期间进行联合审查，与政策制定者分享调查结果并在2019年年底前与法国人工智能生态系统协调制定行动计划，鼓励所有公共和私营利益攸关方参与分享人工智能的共同战略愿景。

　　二、科研层面

1.美国DARPA推出新的人工智能项目

美国弗吉尼亚州阿灵顿――美国国防高级研究计划局（DARPA）官员启动了“人工智能科学和开放世界新奇学习”项目（SAIL-ON），该项目旨在研究和开发基本科学原理及通用工程技术和算法，以创建在面对开放世界所发生的新奇情况时能够适当且有效地反应的人工智能系统。该项目的目标是制定科学原则，来量化和描述开放世界域的新奇程度，进而创建能够对开放世界的新奇事物做出反应的人工智能系统，并在由美国国防部选定的领域内对这些系统进行演示和评估。

如果研究成功，SAIL-ON将教会一个人工智能系统如何学习并做出相应的反应，而不需要重新在一个大型的数据集上训练。该项目旨在奠定相关技术基础，使无论什么领域的机器都能自主进行军事OODA循环过程，即观察形势、根据观察内容进行调整、决策最佳行动方针、最终采取行动。

SAIL-ON将要求演示者和团队描述和量化开放世界新奇事物的类型和程度，从而构建一个能够生成选定领域内不同程度新奇情况的软件，并开发能够对多个开放世界的新奇事物进行识别和响应的算法和系统。SAIL-ON寻求人工智能多个子领域的专业知识，包括机器学习、计划识别、知识表征、异常检测、故障诊断和恢复、概率编程等。

2.美国DARPA举办人工智能学术论坛商讨人工智能伦理问题

据《信号》杂志报道，美国DARPA官员在弗吉尼亚州亚历山大市举办的人工智能学术论坛上针对伦理与法律问题开展小组讨论主要涉及伦理、偏见、隐私等问题。据DARPA信息创新办公室副主任Everett透露，“我们正在研究人工智能技术的伦理、法律和社会影响，特别是当它们在某种程度上变得强大和民主化时”。

Everett指出，人们可以通过笔记本电脑、互联网连接亦或是云计算来接触人工智能。因此，我们需要考虑这些技术的广泛影响。他补充说，对军队来说，自主武器是持续关注的问题，实际上还有其他问题可能会变得越来越重要，如果看到一个自主坦克从平原开向营地，在某种意义上它是由人还是计算机驱动的重要吗？它的确是自主的，要么由一台计算机运行，要么由一台生物计算机――人来运行。国防部的政策要求在任何致命行动中必须有人在回路中，但俄罗斯等对手正在探索完全自主的武器系统，这种系统可能比人类操作系统更快、更致命。“这就导致了一个伦理问题，即兵力保护。我们如何确保我们的兵力，特别是如果对手可能不关心附带损害？他们对自主系统的态度更为激进，因此我们需要了解是否有可能提供足够的兵力保护。”Everett说。

另一个问题是由人类构建和编程的系统将表现出人类的偏见。在他们由许多不同的机器学习系统组成的系统中会出现更微妙的伦理问题，结果虽然并不是灾难性的错误，但它们是有偏见的，而且它们在系统性地偏见，Everett提出，他们的偏见使他们对一群人产生了微妙的影响。如果我们不了解测试偏见的方法，检测、证明它的存在，并予以纠正，可能会产生巨大的社会影响。此外，恶意黑客可以使用支持人工智能的假体和植入式医疗设备。前副总统Dick Cheney在2013年透露，他的心脏植入物的无线功能必须被禁用，因为恐惧恐怖分子可能会入侵它。人工智能将在培训这些系统方面发挥越来越大的作用，布朗宁解释道，“人工智能中可能存在漏洞、攻击面，所以我们必须关心网络安全问题。”

3.美国IARPA寻求将人工智能技术用于城市监视

目前，美国情报界研究机构正寻求通过训练机器学习算法来跟踪城市监视网络视频中的人群。美国情报高级研究计划局（IARPA）已发布了广泛机构公告，希望招募技术团队来构建更大、更好的数据集以训练计算机视觉算法，目的是对城市环境中的人群进行监视。经过大量的数据训练，计算机视觉算法可将安保摄像机网络拍摄的视频内容进行合成，以更好地跟踪和识别潜在目标。

计算机视觉算法是一种人工智能算法，它可使计算机理解图像和视频。该算法曾在2013年被用于调查波士顿马拉松爆炸案的犯罪嫌疑人，自此之后便开始广泛应用。许多法律执行机构和公共安全组织已经使用计算机视觉算法来调查犯罪活动、监视关键基础设施和保障大型活动，以防恐怖分子攻击。

IARPA称，目前可用于训练这些算法的数据相对较少，这限制了计算机视觉算法对现实世界各种态势的识别能力。IARPA寻求利用新型数据集来改进训练过程，并让计算机视觉系统能够连接城市环境摄像头网络拍摄的视频画面。未来，用于多摄像头视频网络的计算机视觉算法可支持案件后的犯罪现场重建、关键基础设施和运输设施保护、军队保护和国家特种安全活动。

4.美国IARPA加大对人工智能系统保护的研究力度

为了防止由于人工智能系统训练数据遭到恶意篡改而对用户造成伤害的情况发生，美国IARPA正在着手开展两个项目，第一个项目是最早于2018年12月公布的“人工智能特洛伊木马（TrojAL）”项目，该项目的目的是创建一个告警系统，在用于机器学习的训练数据遭到对手恶意篡改时发出警报。自从公布该项目之后，IAEPA收到了一些私营部门的反馈、评论和修改意见。针对人工智能的特洛伊木马攻击包括针对人工智能训练过程的攻击，如篡改用于人工智能系统训练的数据集。用于诸如人脸识别或语音识别的人工智能系统如果使用被篡改的训练数据进行训练，就会错误地识别物体或个人，而由于很多人工智能工具使用的是开源软件，这又使得特洛伊木马很难被察觉。IARPA官员表示，对“众包”数据集进行清洗或监控很难实现，数据和训练管道的安全性很脆弱，或根本不存在。而“TrojAL”项目的参与方将构建一个系统，监测对用户图像进行分类的人工智能工具中是否存在特洛伊木马程序，该系统必须能够在不需要人类干预的情况下每天大约扫描1000个系统。该系统将适用于人工智能的各个阶段，并在24个月内逐渐提高其准确度等级。

IARPA还计划于2019年晚些时候公布另一个项目，IARPA主管史塔西・迪克松表示，第二个项目主要针对的是个人照片被用来进行人脸识别算法训练的那些人，项目的目的是对这些人的个人身份进行保护。史塔西・迪克松表示，没有人能够确保训练出来的人脸识别算法不会被人恶意使用，从而通过逆向过程创造出数据库中存在的人脸数据，目前针对该领域的研究还远远不够，这也是开展该项目的原因。预计这两个项目将持续大约两年时间。除了以上两个项目，IARPA还致力于开发基于公开信息的网络攻击预报系统。迪克松表示，过去美国政府是一系列研究项目的最大出资方，今后这种情况将会发生改变，政府机构与院校以及私营部门利益相关方进行合作将变得越来越有必要。基于这个原因，IARPA正在对一些院校的研究者提供资助，以便在生物特征识别系统受到未知类型的攻击时对其进行保护。

5.“脑联网”研究旨在升级人类智能

用科技刷新大脑――未来这可能不再是一种口号，而是现实。将大脑与互联网直接相连，提升人类智能甚至构建“全球超级大脑”，这种“脑联网”研究当下受到越来越多关注。

硅谷知名企业家埃隆・马斯克日前透露，他创建的脑机交互技术公司“神经连接”即将发布新消息。而近期在国际期刊《神经科学前沿》上发表新论文的研究人员也预测，未来几十年内，“人脑/云接口”将有突破。脑机接口研究是“脑联网”的一大基础，半个世纪以来这一领域已有不少进展，成果主要体现在为残障人士实现视觉、听觉以及肌肉运动等方面的辅助功能。相关研究大多是通过将大脑以某种形式与外部设备连接，实现脑电波信号与相关指令信号间的转换。这些应用看起来已足够科幻，但让大脑直接“联网”显然比“联机”更加大胆。马斯克曾表示，通过高带宽数字接口将机器与人类大脑相接，以大脑思考的速度传输信息，将有助于升级人类智能。

而根据《神经科学前沿》上述论文作者之一小罗伯特・弗雷塔斯的说法，新试验已经取得一定进展。据介绍，他们的想法是将纳米机器人植入大脑，充当大脑和超级计算机之间的“联络员”，实现信息的“矩阵式”下载。研究人员在论文中说，这种脑机交互技术除了能够帮助直接、即刻获取人类积累的几乎所有方面的知识，还有其他一些潜在应用，包括改善教育、智力、娱乐、旅行和其他互动体验的能力。

研究人员也承认，要想将大脑提升到云计算的高级水平，必须先在技术和医学领域取得一定进展。比如，要将大量纳米粒子安全地植入大脑，先要对它们的生物相容性进行进一步研究，才能考虑将其用于人类发展。“随着这些技术和其他有前景的（脑机接口）技术以越来越快的速度发展，‘思想互联网’可能在世纪之交前成为现实。”论文第一作者努诺・马丁斯表示。不过，相关研究面临的困难也可想而知，在技术方面，这一领域涉及医学、生物学、物理、电气工程、机器学习、信号处理和模式识别等学科，需要在多方面取得突破；伦理方面，植入式脑机接口试验也有阻力。

文/张培  北京市通州区人民法院