郑戈:如何用法律规制算法?如何用算法强化法律? ︱ 中法评(3)
2016年,欧洲议会提出了“机器人法”立法建议报告。鉴于人工智能可能在无人监管的情况下做出“决策“并自主执行这样的”决策“,该报告在第50(f)项建议:
“
“从长远来看要创设机器人的特殊法律地位,以确保至少最复杂的自动化机器人可以被确认为享有电子人(electronic persons)的法律地位,有责任弥补自己所造成的任何损害,并且可能在机器人作出自主决策或以其他方式与第三人独立交往的案件中适用电子人格(electronic personality)。”
韩国国会正在讨论的《机器人基本法案》以欧盟的这份报告为范本,也提出要“赋予机器人以享有权利并承担义务的电子人格。”沙特阿拉伯则在没有相关立法的情况下在2017年授予一家香港公司生产的机器人索菲亚以公民身份并向“她”发放了护照,其主要目的是给沙特的人工智能发展战略做宣传。
实际上,在如何落实这种“法律人格”所必然带来的民事行为能力和责任能力时,欧洲议会报告并没有提出具体的方案。如果机器人对人造成了损害,无论是适用罗马法中的“缴出赔偿”(noxoe deditio)原则(即把机器人交给受害者或其家属处置),还是让机器人支付赔偿金或坐牢,最终承担责任的始终是机器人的“主人”,因为机器人不可能有独立的收入,限制它的“自由”则等于剥夺了其“主人”的财产权。
由此可见,机器人无论以何种方式承担责任,最终的责任承担者都是人,这使得它的“法律人格”显得多余和毫无必要,经不住“奥康剃刀”(如无必要,勿增实体)的检验。实际上,这份报告在具体的规则设计部分也自动放弃了适用机器人“法律人格”的努力,比如,它提议制造商为他们的机器人购买强制性保险。此外,还要设立专门的基金来补充保险机制,主要的出资人也是制造商、经销商和其他利益相关者。
赋予具有自动化决策(ADM)能力的人工智能体以法律人格并不是一种完全不可行的模式,不可行的是目前这种缺乏相应法律能力和法律责任分配机制的简单拟人化模式。
出于解决问题的需要,法律当中充满着各种拟制(fictions),“法人”这种“不可见、不可触、只存在于法律的凝思之中”就是其中的一种,它导致了独立于自然人的行为能力和责任能力规则。要使“电子人”这一新的法律拟制有意义,就必须对智能算法的设计原理、它与人(设计者和使用者)之间的互动模式以及它做出决策的自主程度进行详细的研究、分类和基于应用场景的规则设计,从而使它能够带来现行自然人和法人概念所无法得出的权责规则。
(二)矫正正义模式
(略)
(三)风险控制模式
(略)
(四)预防模式
(略)
(五)算法规则和算法伦理模式
(略)
(六)算法可解释性问题
在美国,已经有案例涉及到算法黑箱问题。
2013年初,威斯康辛州指控艾瑞克·鲁米斯(Eric Loomis)五项刑事罪行,都和一起驾车枪击事件有关。鲁米斯否认自己参与了枪击,但承认自己在案发当晚驾驶过那辆车。在辩诉交易中,他承认了两项较轻的罪名:“企图逃避交警以及未经车主同意擅自驾车”。在量刑阶段,法院收到州政府罪犯改造部门提交的一份量刑前调查报告(PSI),其中包含再犯风险评估内容(COMPAS)。
- 《中国法律评论》2018年第4期,新雨鸣秋~2018-08-09
- 用数据说话:中国大学距离世界一流还有多远?2018-08-04
- 【征稿】《中外法学》2018年夏季论坛征稿启事2018-05-18
|
|
|
|