中国学术?#21448;?#32593;

                  人工智能对现行刑法的完善思路

                   论文?#25913;?国内刑诉论文     更新时间2019/2/26 10:44:44   

                  摘要:人工智能技术伴随着AlphaGo战胜了人类围棋界著名棋手李世乭与柯洁又一次引起人们的广泛关注在刑法领域人工智能技术与犯罪主体的认定被认为是关键问题之一现今最具讨论价值的便是人工智能技术主导下的无人驾驶汽车该如何入罪如何厘清责任的问题由此出发经由对人工智能主体的进一?#25945;?#35752;我们可以推论出现行的刑罚体系是无法满足未来具有主体资格的人工智能生命体犯罪的规制需求的因而我们不仅要设想未来处罚人工智能犯罪的?#34892;?#25163;段也要考虑到现在如何?#34892;?#30340;规制人工智能

                  关键词:人工智能;主体认定;刑罚体系

                  2017年7月18日教育部国家语委在北京发布中国语言生活状况报告(2017)?#32602;?#38463;尔法围棋入选2016年度中国媒体十大新词阿尔法狗(AlphaGo)也正式作为人工智能的代表性产物为人们所关注这同样也吸引了法律人的目光人工智能发展应当遵循怎样的法律价值?在刑法学领域内人工智能的出现给现有的刑法体系尤其是刑罚体系带来了怎样的挑战?都值得我们进行深入的思考

                  一人工智能所引发的刑法思考

                  (一)人工智能引发的思考浪潮

                  所谓人工智能即ArtificialIntelligence英文缩?#27425;AI它是研究开发用于模拟?#30001;?#21644;扩展人的智能的理论方法技术及应用系统的一门新的技术科学自计算机科学技术出现伊始科学家们就对计算机拥有人类的智能这一未来做出了无穷的幻想1956年在美国达特茅斯大学召开的学术会议上与会专家和学者共同提出了人工智能的概念多年后这场会议被认定为全球人工智能诞生的标志1早在1936年哲学家阿尔弗雷德艾耶尔就曾经提出过区别有意识的人与无意识的机器之间的议题而1950年著名科学家图灵在其具有划时代意义的论文中预言了人类创造出具有真正职能的机器的可能性他又进一步设计出著名的图灵测试以达到区分人与机器的目的图灵的思考与担忧伴随着数次人工智能的浪潮起伏人们在设想未来机器具有人格后能给人类生活带来极大便利的同时也在思考着当真正意义上的智能的机器他们的行为逻辑是否应当受到人类社会的种种准则的限制在过去的数十年中严肃的哲学家们思考着浪漫的科幻作家们也在思考着人工智能带来的似乎不仅仅是一场科学技术的革命更像是一场席卷全球的头脑风暴?#34180;?#20154;们设计出了诸如缸中脑假说之类的哲学命题全面的检索着人工智能可能给人类带来什么这一命题

                  (二)人工智能对刑法的现实挑战

                  21世纪以来尤其是2010年以来的信息技术大革命大数据时代正式到来人工智能技术在其中大放异彩无论是通过深度学习技术战胜了能够集?#21009;?#29616;人类智慧的围棋运动中所有顶尖的人类选手还是通过大数据分析准确把握每一个人的性格爱好以决定推送内容的新网站都昭示着人工智能技术已经飞入寻常百姓家?#34180;?#20294;?#35813;?#30340;科学技术也带来了有识之士的担忧这其中尤其以法律人对于人工智能可能带来的风?#25112;?#34892;的思考最具代表意义立足于当下人工智能技术发展的节点之上在人工智能已经涉足的领域之内尤其是诸如机器人法律资格的民事主体问题人工智能作品的著作权问题智能系统致人损害的侵权法问题与人类隐私保护的人格权问题等等问题2已经引起了较为广泛的探讨而在刑法学领域诸如人工智能与量刑人工智能与刑事归责原则人工智能与医疗事故犯罪等都引起了人们的思考但就现阶段而言代表着人工智能技术的无人驾驶汽车发生的事故让我们开始思考从交通事故犯罪的层面看人工智能技术对刑法学的影响与挑战或许是比较具有现实意义的途径

                  二人工智能的主体认定新挑战从交通事故犯罪出发

                  无论是严肃的伦理思考还是浪漫的科幻畅想人们关注的焦点始终集中在具?#23567;?#20154;格的机器是否应当称之为人这一核心之上进一步?#30001;?#19979;去以著名悖论忒休斯之船的逻辑出发我们会发现这个问题的核心其实就是哲学上的千古难题人是什么?#34180;?#22914;此宏大的哲学命题笔者难以置喙但是哲学上的人是什么问题放到刑法学领域内具有了不同的含义在犯罪主体领域伴随着人工智能的发展我们要思考的是以往所言的犯罪主体中的人究竟意指什么现今具有现实讨论价值的情况主要是人工智能驾驶技术而相较于辅助性人工智能驾驶技术无人驾驶技术可以说是现今人工智能对主体认定的挑战的主要代表近年来无人驾驶技术的发展可谓如火如?#20445;?#35299;放双手智能规划轻松通勤似乎在不远的将来就能够实现世界各国各大科研机构与院校科技企业等都对其抱有极大的热情2016年百度与芜湖市政府就联手打打造了全无人车运营区域但是与政府科研机构的热情相反一般民众似乎对无人驾驶技术表现得比较冷淡根据一项民调显示在美国受访者中仅有20%表示自?#20309;?#26469;会考虑购买无人驾驶汽车50%的受访者表示自己暂时不会考虑而30%的受访者明确表示不会购买其中持否定态度与保守态度的受访者占到70%之多简单分析其心理无非是担忧人工智能技术可能的潜在风险近期谷歌无人车发生的几起事故虽然不至于彻底否定无人驾驶技术但是也给我们敲响了警钟无人驾驶技术尚不完善不完善的技术代表着无人驾驶有造成交通事故的可能从刑法角度进行考量交通事故犯罪主体如果变成了人工智能我们应该如何归责呢?

                  (一)我国传统刑法中对于交通事故犯罪的规定

                  在我国以交通肇事罪为例交通肇事罪是指违反交通运输管理法规因而发生重大交通事故致人重伤死亡或者?#26500;?#31169;财产遭受重大损失的行为在现行刑法理论中如张明楷教授认为此罪不属于身份犯盖因一方面刑法没有做出主体的限定另一方面而言没有?#37038;?#20132;通运输的人员也完全可能违反交通运输管理法规3也即本罪主体为一般主体并不局限于某种特定身份同时实行行为必须违反了交通运输管理法规;再者必须发生重大交通事故致人重伤死亡或者?#26500;?#21496;财产遭受重大损失;再次重大交通事?#26102;?#39035;发生在交通过?#35752;?#20197;及与交通有直接关系的活动中;最后交通肇事的结果必须由违反规范保护目的的行为所引起对?#20219;?#22269;刑法立法所采用的四要件体系中的规定二者表述相差不大而在责任层面而言交通肇事罪一般为过失本罪可能为危险驾驶罪的结果?#21448;?#29359;也可能与危险驾驶罪构成想象竞合人工智能参与下的自动驾驶无人驾驶技术在除却主体以外的其他构成要件的认定层面与传统交通肇事罪并无任何不同也不需要有任何不同主要的争议点集中于对于交通事故的责任者能否包含人工智能主体其实也就是人工智能能否被当做法律上的人这个问题的?#30001;?

                  (二)无人驾驶时代的主体认定新挑战

                  首先现行刑法体系中任何犯罪无外乎人在实施当然这里的人不仅仅包括自然人在某些犯罪中也可能包含单位但是一般而言机器是不会成为构成要件意义上的主体的在无人驾驶中往往人?#21271;?#36523;已经不参与?#23548;?#30340;驾驶行为至少参与程度大大缩减在人慢慢淡出视野的情况之下行为究竟是由谁来实施的呢?一般而言刑事责任主体的认定遵循着无行为则无犯罪原则在此情况之下此原则的适用或许留下了一定的讨论空间如2016年联合国教科文组织与世界科学知识与技术伦理委?#34987;?#21457;布的报告中指出的那样机器人一般被视为通常意义上的产?#32602;?#20154;工智能至少在现阶段我们不能认为其拥有自主意识那么没有无支配行为的意志此主体很明显不应当被纳入现行刑法的考量范围之内其次基于允许的风险而做出的风险分配责任体系下无人驾驶可能根本不会被纳入考量如前文所述现今人工智能技术很明显是不可能带有所谓意志?#34987;R?#24847;识的因而考量程序本身逻辑算法中所体现出的行为背后的罪过完全就是水中捞月根本不可能实现这是现行人工智能技术发展情况所决定的技术层面的限制此时可能会有人援引对ISP(网络服务提供者)的追责原则来对其进行追责此种做法明显是在混淆事?#25285;?#20559;执的将责任一并推卸给技术提供者此处明显需要?#26234;?#20917;进行讨论因为与网络服务不同的是人工智能技术支持下的无人驾驶驾驶行为明显是?#21892;?#31243;序内在的逻辑算法等决定好的人并没有参与到驾驶行为之中去如果编辑的逻辑算法的人含有造成交通事故的故意或是过失等那么自然可以追?#31185;?#21009;事责任这没有任何疑义但是如果导致交通事故发生的情况是逻辑算法所能涵盖的范畴之外的因素那么追究服务提供者的责任则显得有失偏颇这种依赖于寻找替代责任的方式是不符合现今刑法谦?#20013;?#30740;究进程的在人工智能深参与的无人驾驶中原交通肇事罪的主体人?#20445;?#24050;经变成了潜在的被害主体?#34180;?我们甚至可以说在无人驾驶之中传统的肇事者已经某种程度上消失了那么如上文所述将责任部?#26234;?#24418;的归于技术服务提供商身上也是不尽合理的是没有看到无人驾驶技术的特殊性的行为但是将无人驾驶可能导致的风险全部单纯的当做可以允许的风险对待恪守所谓技术中立则很明显是忽视了基础法益的保护纵容了过高的刑罚风险的行为刑法始终应当立足于保护被害人法益的基础之上展开在此基础之上或许将责任?#20540;?#22312;无人驾驶汽车使用者所有者提供者制造者身上是较为现实的解决之道在我们讨论之后回?#20998;Q律?#35270;以交通肇事罪为例的无人驾驶与交通事故犯罪的关系问题时我们不难发现人工智能技术本身可能就会成为导致危害结果发生的直接因素诸如现今无人驾驶技术中大规模运用的自动刹车系统即是需要?#21368;?#21069;方阻挡车辆前行的物体究竟是什么例如前面是人那么自然需要进行停车制动但如果前面是行进中的动物还需要停车制动么?也许可能有人会说应当停车制动但是如果?#20204;?#20917;发生于高速公路之上呢?多起高速公路之上的?#20234;?#36710;祸都证明了尤其是在视线条件不好车流量较大的情况下对忽然在路上行进的动物采取紧急制动措施是很可能会导致灾?#30740;院?#26524;的因此现行技术的瓶颈确实是入罪的?#20064;?#20043;一那么技术上的瓶?#34987;?#32773;是无法发现的薄弱?#26041;?#26159;否能够成为想制造者提供者追责的主要依据呢?很明显我们通过产品质量法相关规定可以得知此?#26234;?#20917;可以免责那么在体系更为完备定性更为严谨的刑法领域之内对其入罪是存在明显的过度倾向的因而也许在现行环境之下?#20540;?#36131;任承担是比较无奈但又唯一现实可行的处理方法综上所述以无人驾驶为代表的人工智能技术在主体认定层面将给现行的刑事司法体系带来相当程度的挑战但是也许未来有一天人工智能将会具有主体资格那么当它具有了主体资格?#38498;?#25105;们又该如何处它呢?现行的刑罚体系能够满足我们的需要么?

                  三人工智能的刑罚认定新挑战

                  如前文所述对人工智能是否具有主体地位这一问题在现行的科技视野之下我们得出的结论应该是一致的就当前而言人工智能更应该视为产?#32602;?#32780;不应该是一个独立的主体因而仅仅就现在而言单纯由人工智能技术导致的犯罪我们只能将其视为意外事件等来处理但是人工智能技术是属于未来的科学而刑法学也是流动的科学也应该具有一定的超前性在此我们可以大胆设想如果人工智能生命体可以被认为是刑法意义上的主体我们应当如何规制它

                  (一)人工智能对现行刑罚体系的挑战

                  现行的刑罚体系主要有管制拘役有期徒刑无期徒刑死刑等主刑也包括罚金剥夺政治权利没收财产等附加刑这样的刑罚设置的完善的合理的1.主刑对于具有主体资格的人工智能体的适用由我国主刑规定的刑种来看我国主刑主要都是?#26434;?#21009;?#25970;次?#20204;先不考量人工智能生命体具?#34892;?#27861;意义上的主体资格是否可能实现我们不妨大胆的设想伦理学社会学的问题都已经解决人工智能生命体具有了主体资格在此基础上进行讨论对于具有主体意识的人工智能而言?#26434;?#21009;的适用余地在哪里(1)类比管制拘役有期徒刑的?#26434;?#21009;再讨论有限度的?#26434;?#21009;之前首先应该明确的是规制人工智能技术规制的是其程序而并不是其程序的载体打个比方即是要管理的是程序而并不是电脑因此我们集中于讨论对程序而言如何限制其?#26434;?#26681;据现有的人工智能技术发展情况而言对于人工智能而言的?#26434;ɣ?#31867;比而?#26434;?#35813;是其生存发展的?#26434;ɣ?#31616;单的看人工智能的生存与发展依赖于能源与数据能?#27425;?#20204;可以以电能进行主要的讨论对象而数据一般而言类比于网络接入也是合理的?#25970;创?#36825;个角度出发对于人工智能而言最为契合?#26434;?#21009;构造的应该是?#31995;?#19982;断网就断网而言仅仅断开网络链接能达到限制其?#26434;?#30340;目的吗?人工智能程序在本地依然会留有相当部分的数据存储也?#27492;?#35859;单机使用因而对于人工智能的?#26434;上?#21046;应当体现在断开网络链接+限制对其使用两个层面在理论上这样的设置也许是合理的但现实中而言达成这样的目的只需要关闭电源或即可以做到但这样的处罚并不能说具有处罚效果断开电源并不能?#34892;?#22320;伤害到人工智能所拥有的?#26434;ɣ?#22240;为人工智能所拥有的?#26434;?#26159;在连通电源接入网络后进行信息处理的?#26434;?#32780;这种?#26434;?#30340;前提是连通电路连接网络这种?#26434;?#19981;能类比与人类的?#26434;ɣ?#26159;被法律先予赋予的人工智能的?#26434;?#24212;该说是在接入网络联通电源时被赋予的则更为合理而赋予他?#26434;?#30340;应该是在没有前提的情况下自?#24187;?#26377;之后的结论因而针对人工智能的?#26434;?#21009;更应该是针对人工智能这一特殊主体的特殊情况所设置出的独特的新形态的刑罚(2)设想中的针对人工智能的新形态的?#26434;?#21009;从人工智能这一主体的新状态出发他的生存与发展体现在接入能?#30784;?#33021;够接触数据之后所以我们从人工智能的运作模式出发人工智能的生存与发展其实应该是依赖于其运算能力而体现因而降?#25512;?#36816;算能力可以起到限制其生存与发展的目的也许能够让具有?#29616;?#33021;力的人工智能感受到足够的?#32431;?#20197;达到刑罚规制的目的同样是从人工智能的工作模式出发我们可以看到人工智能的生存依赖于其程序编码中所书写的程序的命令?#28909;?#25105;们将其假定为独立的主体那么这个主体的生存与发展是依托于命令语句得以实施的在此角度上而言针对犯罪的人工智能通过高级别的命令语句修改其程序限制其行为我们可以将其视作对其?#26434;?#30340;限制

                  (二)附加刑对于具有主体资格的人工智能体的适用

                  我国附加刑由剥夺政治权利罚金没收财产构成我们不难发现无论是政治权利还是财产权利针对人工智能而言其存在的前提都是人工智能具有了法律上的主体资格?#29992;?#27861;刑法理论出发对于责任能力的认定民法显然是比刑法宽松一些的但如果是这样人工智能生命体将会拥有生命权财产权权等基础权利回?#27515;罚词?#26159;只是复制活人本体的克隆技术都遭受了伦理学社会学领域的猛烈抨击至今克隆人都无法产生遑论其主体资格很难想象在人工智能生命体层面我们能够认为一个由代码构成的几乎没有生命表征的程式集合体能够具有成为人的可能至少在人工智能能够称之为人之前现行刑罚体系下的附加刑对其完全没有适用的余地结合对于现行刑法关于主刑与附加刑的讨论我们可以进一步得出结论如果一个主体在连规定较为宽泛的民法范畴之内都无法被认定为民事主体在刑法领域内反而单独将其认定为刑事主体存在一定程度上的疑问因而在解决好人工智能具有民事法律资格这一宏大命题之前现行的刑罚附加刑体系很?#24310;行?#30340;规制人工智能综上所述无论是现行的主刑亦或是现行的附加刑体系都无法?#34892;?#30340;规制人工智能我们更应该创新出属于人工智能的独立的崭新的处罚方式但是针对人工智能的处罚是否能让人工智能感受到?#32431;?#33021;否真正的起到一般预防与特殊预防的目的依然值得我们思考

                  四规制人工智能的法律建议

                  对人工智能的规制设想到未来是体现了理论研究应当具有的前瞻性的但短时间内的现实意义并不能得到很好的体现对于人工智能的规制?#26434;?#26356;多地注重在被认定为产品的人工智能的范围之内而笔者?#27493;?#20197;此为出发点着眼于人工智能具有主体资格之前的时间节点思考?#34892;?#30340;规制人工智能的法律建议1建立更为严格的人工智能技术准入制度以大数据时代的到?#27425;?#32972;景人工智能技术可以说代表着未来科技发展的主要方向拒绝进步拒绝变革是错误的人工智能技术所体现出的强大的辅助能力与几乎无限的发掘潜能使得我们倾注心血研究并尝试着推广应用是可取的但在现阶段人工智能技术?#23853;?#36215;步的前提之下对人工智能技术进行准入门槛适用范围进行限制无疑是必要的以无人驾驶汽车为例如果严格限定无人驾驶汽车仅用于点对点交通或是城市内环通勤在车速不快的前提之下造成的损害也许相比在高速公路上疾驰相对而言更为可控其他人工智能技术也更多的应当设立严格的准入制度尤其是对于涉及人民生命财产安全的领域而言2设置人工智能命令禁区在编译程序的范畴之内命令优先级各有不同因此这也使得我们规制预测人工智能的行为成为了现实对于某些事项而言我们需要调动最高级的命令指令对其加以限制例如著名的机器人三定律就是对此最为生动形象的?#25925;͡?#23545;于人工智能能够涉及的领域进行规定而对于允许人工智能涉及的领域内也要设定人工智能的工作原则以此确保使用人工智能时的安全性3人为控制人工智能技术发展速度在可以预见的未来人工智能技术会取得飞速的发展将来人工智能的智能水平达到或者超越人类都是有可能的但是一旦当人工智能达到了所谓强人工智能阶?#38382;保?#20063;许对于人工智能的规制动用法律就已经显得力不?#26377;?#20102;我们从人工智能发展的脉络为起点不难发现人工智能从不具备任何智能到具有基础的类似于人类幼儿的智能水平需要非常漫长的时间但是一旦其达到了人类幼儿的智力水平要达到乃至超越一般人类的智力水平时间则会大大的缩短这是由人工智能背后巨量的运算能力与深度学习技术可以推测出的合理?#34892;?#30340;结论而许多人工智能专家学者都认为一旦当人工智能达到人类的智力水平在此之后人工智能与人类的差距会愈加拉大而且这一过程是完全不可逆的到那个时候也许再去讨论刑法如何规制人工智能已经不再具有足够的现实意义了因此在其初备智能较为可控之时限制乃?#20102;?#27515;人工智能发展是具有充分的必要性的必须要在人类尚能控制人工智能之时限制其进化速度以保障人类的生存安全总之着眼于科技发展之未来我们可以大胆设想在未来的某一天人工智能技术可能制造出现今所谓强人工智能产?#32602;?#26174;然产品责任法规定的原则对此很可能是不适用的进一步思考下去在未来的人工智能入罪问题解决之前我们更应该解决的是伦理学哲学层面的问题人是什么人与非人的界限在哪里?也许是破解今日之迷局的钥匙所在人工智能技术方兴未艾回顾史上三次的人工智能浪潮我们不难发现公众对于人工智能的担忧总是如同波浪一般起伏要不是担心人工智能?#25112;?#27585;灭人类要不就是觉得所有不过时耸人听闻的无由之言但法律法规的研?#31354;?#19981;应该这样应该始终保持着对现行技术的?#29616;?#22987;终思考可能带来的困境并寻求解决之道法律应该是当下的法律但法律人的眼光在当下立足的同时也应该具有一定的前瞻性以免无法适应迅速到来的未来人工智能技术点亮的全新画卷只是被揭开了一个小角就足以让人目眩神迷法律研?#31354;?#20204;应该秉持着科学与理性探索与发现适应新时代的理想的法律制度体系科学之光与法律之光交相?#26434;常?#23558;最终照亮这一整幅绚丽多姿的未来画卷

                  参考文献:

                  1JMcCarthMMinskyNochesterCEShannonAProposalfortheDartmouthSummereserachProjectonArtificalIntel-ligenceEB/OLݣ

                  2吴汉东人工智能时代的制度安排与法律规制Jݣ法律科学(西北政法大学学报)201735(05):128136

                  3张明楷刑法学Mݣ北京:法律出版社2016:718720

                  4孙道?#20572;?#20154;工智能对传统刑法的挑战Nݣ检察日报20171022(003)

                  5ݣ美艾萨克阿西莫夫我机器人Mݣ叶李华译南京:江苏文艺出版2013:5960

                  作者叶镝 徐立 单位中南财经政法大学 刑事司法学院

                  • 参考文献
                  学术网收录7500余种种类遍及
                  时政文学生活娱乐教育学术等
                  诸多门类等进行了详细的介绍

                  国内刑诉论文
                  @2008-2012 学术网
                  出版物经营许可证 音像制品经营许可证
                  主机备案200812150017
                  值班电话
                  0825-6697555
                  0825-6698000

                  夜间值班
                  400-888-7501

                  投诉?#34892;?/b>
                  13378216660
                  咨询电话
                  ?#35780;?#24072;:13982502101
                  涂老师:18782589406
                  文老师:15882538696
                  孙老师:15982560046
                  何老师:15828985996
                  江老师:15228695391
                  易老师:15228695316
                  其它老师...
                  ɹ11ѡ5ͼǰ