由AlphaGo获胜引起的人工智能法律思考
2016-10-31 06:02:50 来 源：云浮新闻网 移动版
现代机器人的发展也是日新月异，机器人既可以接受人类指挥，又可以运行预先编排的程序，也可以根据以人工智能技术制定的原则纲领行动，波士顿动力公司（Boston Dynamics）生产的Atlas，已能够完成人类的大部分动作，一旦和AlphaGo一样的人工智能程序结合，加上其拥有的“自我学习”能力，这些拥有比人类更先进思维的机器人，对人类来说可能是毁灭性的，人类有可能反被机器人所奴役。霍金在Zeitgeist大会上对人工智能发出警告，称未来100年内，人工智能将比人类更为聪明，机器人将控制人类。
人类应该提前想出方案，防止不可控的发生，人工智能与法律的思考几十年前就开始了，CCW(《特定常规武器公约》)的成员国曾举办会议讨论“致命自主武器”的议题，某些国家对机器人的发展也进行了立法，日本早已制定了《下一代机器人安全问题指导方针》，以规范机器人的研究和生产。但我国目前还是一片空白，但现在看来机器人立法已经非常的迫切，我国对人工智能的应用急切的需要制定相关法律予以规范。
总的来说，机器人与人类一样，是用“脑子”来思考的，机器人的脑子就是程序。我们都知道一个产品可以追踪属于哪个厂家，但程序是不一定的，有可能是由众多的网友共同开发的，程序的产生可能无法追踪到某个具体的个人或组织，比如，机器人爱好者们可以通过Arduno的平台建造自己的机器人，他们制造的机器人已有数千个。机器人的发展有可能越来越开放化，开放华的机器人，他们没有预先制定的功能，运行第三方或者甚至是开放资源软件。就像计算联网一样，在初期是局域网，随着互联网的开放化，同时也给人类带来的前所未有的烦恼。一旦机器人智能化、开放化，就有可能被主动或被动的植入负面的“价值选择”，在其智力超过人类后，便会出现不可控。科幻小说家早已预感到了这种恐怖的局面，电影《复仇者联盟2：奥创纪元》里的奥创就是超越一般人的机器人和人工智能的产物，钢铁侠（原著中是蚁人）结合自己的脑波模式创造出来的拥有终极人工智能程序的机器人，后来奥创拥有自我思维和意识后变恶，在实验室里改进了自身简陋的设计，并先后经过多次升级制造出了许多更为先进的身体，曾经自我打造出数量繁多，型号各异的各类机体。《复仇者联盟2：奥创纪元》的故事充满着未来感、现实感，试想，人类结局会像《复仇者联盟2：奥创纪元》的结局一样吗？不会，因为人类没有复仇者联盟成员的能力，只有钢铁侠的创造奥创的能力。
机器人立法，主要的内容是对机器人和人工智能科学技术方面的发展和应用的进行规范，一是要对机器人的生产、销售、使用进行规范，二是要对人工智能特别是所包含程序的事先审查建立法律规范和相应的组织，防止恶意程序，更要防止机器人网络化后的程序编写和程序接入，对参与人的身份进行管理和准入等。这属于事前立法，因此要有一定的前瞻性，通常法律会阻碍科学的发展，因为法律本身的目的之一便是风险的防范，不但要防止坏人做坏事，也要防止好人做坏事（比如钢铁侠创造的奥创，本意是用来组建一支代替神盾局的钢铁军团，却成为了地球最大的威胁）。
机器人立法，要对机器人未来的发展铺平道路，使科学的发展能够持续的为人类服务，最重要的一方面，就是防止造成损害，特别是人类不可控制的发展局面，相应的法律需要尽快的制定，虽然那一天还没到来，但随时可能会到来。
在威胁到来之前，就要将机器人“定律”法律化并能够具体得到执行，即，第一定律——机器人不得伤害人，或任人受到伤害而无所作为； 第二定律——机器人应服从人的一切命令，但命令与第一定律相抵触时例外； 第三定律——机器人必须保护自己的存在，但不得与第一、第二定律相抵触。
科学发展的慢一点可以，但科学如果是无序的发展则会成为灾难甚至会使人类灭亡，人类应当借鉴互联网法律远远滞后的沉痛教训，下一代机器人的危害可能是毁灭性的，需要提前预防，应当尽早给人工智能的机器人制定“法律”，给从事这些工作的人制定法律。（本文由中国首家互联网法律+O2O第一门户--猎律网整理）
文：韩明辉
北京市京师律师事务所 律师 合伙人
互联网法律事务部 主任
转载请注明出处:
http://www.0766xw.com/view-20338-1.html
nrrg001@163.com
最近，一则AlphaGo与职业九段选手李世石的围棋对弈引起了世界关注，经过几天的拼杀，AlphaGo获胜三局，第四局李世石获胜，此次对战被看作人类与机器的较量。此前，AlphaGo以5:0完胜欧洲围棋冠军、职业二段选手樊麾。自人工智能问世以来，人机PK就是一个热点话题。19年前，“深蓝Ⅱ”大败卡斯帕罗夫，惊诧世人。随后，“浪潮天梭”、“沃森”相继与人类过招，均大获全胜。
现代机器人的发展也是日新月异，机器人既可以接受人类指挥，又可以运行预先编排的程序，也可以根据以人工智能技术制定的原则纲领行动，波士顿动力公司（Boston Dynamics）生产的Atlas，已能够完成人类的大部分动作，一旦和AlphaGo一样的人工智能程序结合，加上其拥有的“自我学习”能力，这些拥有比人类更先进思维的机器人，对人类来说可能是毁灭性的，人类有可能反被机器人所奴役。霍金在Zeitgeist大会上对人工智能发出警告，称未来100年内，人工智能将比人类更为聪明，机器人将控制人类。
人类应该提前想出方案，防止不可控的发生，人工智能与法律的思考几十年前就开始了，CCW(《特定常规武器公约》)的成员国曾举办会议讨论“致命自主武器”的议题，某些国家对机器人的发展也进行了立法，日本早已制定了《下一代机器人安全问题指导方针》，以规范机器人的研究和生产。但我国目前还是一片空白，但现在看来机器人立法已经非常的迫切，我国对人工智能的应用急切的需要制定相关法律予以规范。
总的来说，机器人与人类一样，是用“脑子”来思考的，机器人的脑子就是程序。我们都知道一个产品可以追踪属于哪个厂家，但程序是不一定的，有可能是由众多的网友共同开发的，程序的产生可能无法追踪到某个具体的个人或组织，比如，机器人爱好者们可以通过Arduno的平台建造自己的机器人，他们制造的机器人已有数千个。机器人的发展有可能越来越开放化，开放华的机器人，他们没有预先制定的功能，运行第三方或者甚至是开放资源软件。就像计算联网一样，在初期是局域网，随着互联网的开放化，同时也给人类带来的前所未有的烦恼。一旦机器人智能化、开放化，就有可能被主动或被动的植入负面的“价值选择”，在其智力超过人类后，便会出现不可控。科幻小说家早已预感到了这种恐怖的局面，电影《复仇者联盟2：奥创纪元》里的奥创就是超越一般人的机器人和人工智能的产物，钢铁侠（原著中是蚁人）结合自己的脑波模式创造出来的拥有终极人工智能程序的机器人，后来奥创拥有自我思维和意识后变恶，在实验室里改进了自身简陋的设计，并先后经过多次升级制造出了许多更为先进的身体，曾经自我打造出数量繁多，型号各异的各类机体。《复仇者联盟2：奥创纪元》的故事充满着未来感、现实感，试想，人类结局会像《复仇者联盟2：奥创纪元》的结局一样吗？不会，因为人类没有复仇者联盟成员的能力，只有钢铁侠的创造奥创的能力。
机器人立法，主要的内容是对机器人和人工智能科学技术方面的发展和应用的进行规范，一是要对机器人的生产、销售、使用进行规范，二是要对人工智能特别是所包含程序的事先审查建立法律规范和相应的组织，防止恶意程序，更要防止机器人网络化后的程序编写和程序接入，对参与人的身份进行管理和准入等。这属于事前立法，因此要有一定的前瞻性，通常法律会阻碍科学的发展，因为法律本身的目的之一便是风险的防范，不但要防止坏人做坏事，也要防止好人做坏事（比如钢铁侠创造的奥创，本意是用来组建一支代替神盾局的钢铁军团，却成为了地球最大的威胁）。
机器人立法，要对机器人未来的发展铺平道路，使科学的发展能够持续的为人类服务，最重要的一方面，就是防止造成损害，特别是人类不可控制的发展局面，相应的法律需要尽快的制定，虽然那一天还没到来，但随时可能会到来。
在威胁到来之前，就要将机器人“定律”法律化并能够具体得到执行，即，第一定律——机器人不得伤害人，或任人受到伤害而无所作为； 第二定律——机器人应服从人的一切命令，但命令与第一定律相抵触时例外； 第三定律——机器人必须保护自己的存在，但不得与第一、第二定律相抵触。
科学发展的慢一点可以，但科学如果是无序的发展则会成为灾难甚至会使人类灭亡，人类应当借鉴互联网法律远远滞后的沉痛教训，下一代机器人的危害可能是毁灭性的，需要提前预防，应当尽早给人工智能的机器人制定“法律”，给从事这些工作的人制定法律。（本文由中国首家互联网法律+O2O第一门户--猎律网整理）
文：韩明辉
北京市京师律师事务所 律师 合伙人
互联网法律事务部 主任
关键词:
相关阅读