郑戈:如何用法律规制算法?如何用算法强化法律? ︱ 中法评(4)
在初审判决中,法院在量刑部分援引了COMPAS评估的内容,并且部分基于这一评估判处鲁米斯六年监禁外加五年监外管制。在申请定罪后救济动议(motion for post-conviction relief)被拒后,威斯康辛州上诉法院批准了向州最高法院上诉。鲁米斯的上诉理由是法院对COMPAS评估的依赖侵犯了他的正当程序权利。
正当程序权利包括获得个别化量刑考量的权利(the right to an individualized sentence)以及基于准确信息而受量刑的权利(the right to be sentenced on accurate information)。
由于COMPAS评估报告提供的数据是类型化的,未能充分体现个人特殊性,同时由于作出评估的方法是COMPAS算法的提供者Northpointe公司的商业秘密,其可靠性无从判断,鲁米斯主张自己的上诉两项权利受到了侵犯。此外,他还声称该算法评估将他的性别作为一个因素加以考量,侵犯了他的平等权。
威斯康辛州最高法院支持了初审法院的判决。在安·布拉德利(Ann Walsh Bradley)大法官撰写的多数派意见中,鲁米斯的正当程序和平等权主张被一一否定。
首先,法院认为性别因素是作为提升评估准确性的目的而非歧视目的而进入算法参数的,而且鲁米斯无法证明法院在量刑时的确考量了性别因素,因此他的平等权并未受到侵犯。
其次,因为COMPAS所分析的数据是记录在案的公共数据(犯罪纪录)和被告自己提供的数据(他对137个问题的回答),因此,被告在算法评估结果出来之前本来就有机会否认或解释相关信息,也有机会验证相关信息的准确性,因此质疑信息准确性的主张站不住脚。
最后,关于量刑个别化问题,法院承认COMPAS算法评估的结论揭示的是与鲁米斯相似的一类人的再犯风险,但指出该评估结论不是法院作出量刑判决的唯一依据,由于法院拥有在其认为适当的情况下不同意评估结论的裁量权和相关证据,因此该量刑判决是充分个别化的。
从这个案例可以看出,当算法涉嫌针对个人作出了歧视性的或错误的评估或决策的时候,至少在美国,法院倾向于保护算法产品厂商的商业秘密,这种权益被视为没有争议的前提,法院不会要求厂商公开算法代码,也没有要求厂商用自然语言解释算法的设计原理、功能和目的。
但算法可解释性是“算法的法律”可以成立的前提。人不可能控制或约束自己不懂的东西。之所以说人工智能算法进行深入学习的过程是个黑盒子,主要的原因除了它的保密性外,更重要的是即使公开了法官和律师也看不懂。算法可解释性乃至可视化是一个可以用技术解决的问题,一旦法律提出了相关要求,技术界便会想方设法使算法成为可解释的。
- 《中国法律评论》2018年第4期,新雨鸣秋~2018-08-09
- 用数据说话:中国大学距离世界一流还有多远?2018-08-04
- 【征稿】《中外法学》2018年夏季论坛征稿启事2018-05-18
|
|
|
|