核心阅读

任何技术都是双刃剑，人工智能也不例外。在享受最新技术带来的便利时，不能忽视与之相关的安全问题。要用法治为人工智能产业健康发展保驾护航，让人工智能服务造福人类社会。

原标题：代表委员热议人工智能发展，构建人工智能未来法治体系

来源： 法制日报

本报记者：战海峰

从智伴机器人到自动驾驶汽车，再到法院庭审中的智能语音识别，近年来，人工智能已逐渐进入人们的日常生活。

“深化大数据、人工智能等研发应用，培育新一代信息技术、高端装备、生物医药、新能源汽车、新材料等新兴产业集群，壮大数字经济。”今年政府工作报告让人工智能产业看到了前进的方向。

在人工智能迅猛发展的进程中，关于可能引发的道德伦理问题，可能带来的社会治理问题争议不断。

推动新一代人工智能健康发展，法治应该有哪些作为，或者说人工智能产业健康发展到底需要怎样的法治保障？近日，《法制日报》记者采访了人工智能产业领域、法律界的相关代表、委员，以及人工智能法律研究的相关专家学者。

人工智能发展亟需立法保障

几天前，全球首例无人车致死案宣判，uber公司不承担刑事责任，再次引发了公众对人工智能发展中法律问题的热议。

“如何推动法律体系与时俱进，尽快满足人工智能产业飞速发展和社会进步的需要，这对法治带来了很大挑战。”全国人大代表、科大讯飞董事长刘庆峰说。

与刘庆峰观点一致，在记者采访的代表委员中，无一例外都提出应加快人工智能立法工作。

全国人大代表、中华全国律协副会长刘守民认为，立法一方面要对人工智能发展做引领，另一方面也要规制如发展目标、路径和阶段。但由于人工智能发展飞快，立法往往跟不上发展速度。

关于法律滞后，全国人大代表、重庆盼达汽车租赁有限公司党支部书记、总经理高钰有不同看法：前沿的技术变革和创新的商业模式带来的不确定性，也决定了相关的立法工作会有滞后性。

“但新生事物并非排斥法律法规的制约，相反，法律对于新兴商业模式和技术创新的有效规范和制约能更好地引导企业、行业健康有序发展。”高钰说。

由于人工智能涉及的领域众多，不同领域涉及的立法也存在差异。因此，全国人大代表、北京市律师协会会长高子程建议，前期可在重点领域，比如交通、医疗等先行试点专门立法，待总结经验后再进行综合系统立法。

全国人大代表、致公党上海市委专职副主委邵志清也有类似的建议：“由于涉及面太宽，社会对人工智能的认识还处于初步阶段，目前对人工智能进行综合立法的条件还不具备。但是为了防范重大风险，需要针对人工智能的具体应用进行立法。”

对于立法到底应该从哪些方面进行，基于自己的专业实践，受访者都有不同的认知。

刘庆峰指出，算法、算料（数据）、算力是人工智能技术发展的重要支点，需要有针对性地予以立法规制。

而在高子程看来，还应立法应明确规定人工智能的法律地位、人工智能生成内容的权利归属、人工智能损害后果的责任分担、人工智能风险的法律控制等亟待解决的内容。

邵志清告诉记者，人工智能应用的管理应该重点围绕伦理道德、资源获取、主体认定、行为认定、责任划分等方面进行立法。

“人工智能立法已不仅是一个国内法的问题，这是人类共同面对的课题。”刘守民认为，人工智能发展还需要国内与国际间的协调，通过国际的公约条例，包括技术标准等领域形成共识。

规范司法加强执法不可或缺

“用法治的手段保障人工智能‘安全、可靠、可控’，也是欧、美、日、韩等国发展人工智能产业的必经之路和共同经验。”西南政法大学人工智能法学院院长陈亮说。

在陈亮看来，立法只是法治保障人工智能发展的其中一环：执法、司法等环节同样不能偏废。

高子程也认为，完善立法，规范司法，加强执法，加大普法，积极构建人工智能未来法治体系，用法治保障人工智能健康持续发展。

“在司法中，要坚持法治理念、法治思维和法治方式，树立谦仰、审慎、善意、文明、规范办案理念，恪守技术中立原则，不轻易对司法机关看不准、有市场、受欢迎的技术业态产品采取强制措施，最大限度减少司法活动对新技术发展的不利影响。”高子程说。

在高子程看来，司法还应坚持刑法的谦抑性，在其他法律规范足以保护相应法益的前提下，刑法不应首先介入，只有在其他法律规范无法充分有效保护相应法益时，刑法才有介入的必要和空间。

“在执法环节，应建立专门的执法部门，明确其职权范围，规范其执法程序。”陈亮认为，尤应注意的是，在制度设计时，应以委托代理理论为指导，从制度层面解决好该执法部门的参与约束和激励相容的问题，以免执法过程中出现委托代理人问题，导致人工智能立法流于形式。

为让执法真正有成效，高子程认为，应组织相关执法部门专责制定人工智能领域配套的各种技术规范、技术标准，这个标准应当是对行业自身所发展出来的标准与公共利益、个人权利保护原则的综合考量，其制定程序应当遵循公共参与、听证等行政程序规则。

伦理及安全问题不容忽视

从目前已经投入使用的人工智能产品中看，部分智能庭审系统甚至已经能够基本代替书记员的记录工作，加快了庭审进度。

人们不禁会问，当人工智能广泛应用之时，一些可以替代的传统行业是否会造成大量的失业，造成社会的不稳定。

“解决这些问题首先是在人工智能大规模替代现有工作之前，把社会保障体系建立起来。”刘庆峰说，在社会保障体系之下，人工智能代替了重复性工作后，人会有更多的时间去做创意等不能替代的事情，从而获得社会价值感。

刘庆峰认为，人机合成是未来人工智能的重要突破方向。他举例称，目前“智医助理”可以根据医嘱对话，自动生成对疾病的判断，供医生参考确认。“所以我想人工智能并不是要淘汰人类，而是要让人类站在人工智能的肩膀之上。”刘庆峰说。

对于人类与人工智能的关系，刘庆峰还是很乐观。他认为，人工智能立法应当遵循“人机耦合”和“以人为本”原则。

“这意味着要充分认清人工智能是帮助人的，而不是替代人的，要刺破技术面纱，有针对性地规制技术背后人的行为；意味着要把人民群众的生命和财产安全放在首位，实现人工智能在风险可控的范围内发展。”刘庆峰说。

不论乐观与否，人工智能立法在伦理道德方面还是要有明确规定。

邵志清认为，应明确禁止应用人工智能技术实施违反人类伦理道德的行为，特别是在基因工程、生命科学、情感意识等方面用法律为智能社会划出伦理道德的边界，让人工智能服务造福而不是困扰危害人类社会。

“对人工智能要抱有一定的尊重和敬畏，技术进步带来的东西不见得都是好事，一定要慎重，避免出现有悖伦理道德的事情。”刘守民说。

全国政协委员、360集团董事长兼ceo周鸿祎也认为，任何技术都是双刃剑，人工智能也不例外。“但我们在享受最新技术带来的便利时，也不能忽视与之相关的安全问题。”

手指动作捕捉服务

虚拟动作捕捉

动捕软件