注释

1．参照水野佑：《法律的设计——创造性和创新伴随法律的加速》，Film Art公司2017年版。

2．欧洲委员会（European Commission）是欧盟的行政执行机关，拥有提交法案的权力。该委员会制定的法案将由欧盟理事会、欧洲议会表决。

3．http://www.robolaw.eu/.

4．http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesregul-atingrobotics_20140922.pdf.

5．因为与作为前提的技术不同，采用了分领域讨论，在归纳法上推论共同课题的方法。

6．关于以上几点，参见森田果：《围绕AI法律规制的基本观点》RIETI Discussion Paper Series17-J-011，2017年。但是，该论文指出，现行法（不法行为法和产品责任法）基本采用了社会上期望的法律规则的结构，开发者和用户没有必要过分重视法律的不确定性。

7．另外，中国共产党中央委员会、国务院也表示，在2017年7月公开的《下一代AI开发计划（新一代人工智能发展规划）》中，有必要引入AI相关的伦理规范、规格和规制，提出到2030年，AI领域不仅在技术方面，而且在伦理、法律政策方面处于世界上主导地位的目标，http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm。

8．该项目的预算来自“第七次欧洲研发框架计划（FP7）”。它以《里斯本战略》中的“构筑基于知识的欧洲经济和社会”为前提，表明成功投资机器人领域的国家在未来可以建立强大产业的认识。

9．本指南中的“增强”除了使用机器人技术的假肢、矫形器、Powered Suits等之外，还包括植入、基因治疗、脑深层刺激等。

10．这里所说的“预防原则（Precautionary Principle）”是指即使在某种物质或技术可能产生严重且不可逆转的效果，科学因果关系尚未得到充分证明的情况下，也要预防性地进行政策决定（规制等）的想法。

11．http://www.europarl.europa.eu/committees/en/juri/subject-files.html?id=20150504CDT00301.

12．http://www.europarl.europa.eu/RegData/etudes/STUD/2016/563501/EPRS_STU%282016%29563501_EN.pdf.

13．http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+REPORT+A8-2017-0005+0+DOC+PDF+V0//EN.委员会通常为每个案件任命一名报告人，报告人将向本会议提交的报告书进行汇总。本案的报告人是欧洲议会第二党的中左派政党“社会民主进步同盟”所属的、卢森堡选区的马迪·德尔沃（Mady Delvaux）议员。

14．欧洲议会的表决没有法律约束力，欧洲委员会不承担提交法案的义务。

15．大内伸哉：《AI时代的工作方式和法律：对2035年劳动法的思考》，弘文堂2017年版，在第46页及以下的内容中写道：迄今为止，劳动政策的重点一直放在解雇法规和维持雇佣的方面。认识到劳动移动政策处于落后的基础上，指出今后人才可以在企业、产业间顺利进行再分配，采取安全网措施来防止劳动者长期失业和所得保障的方法就变得重要。另外，如果以人才流动化为前提，那么单个公司将很难获得激励来进行人才教育，因此公司外部的职业培训将成为一个问题。

16．美国也在2016年12月，总统府发表了《AI、自动化与经济》（Artificial Intelligence，Automation，and the Economy）的报告。该报告指出，AI自动化可以提高劳动生产率和GDP的增长，虽然创造和丧失就业机会，但是失业率不会有大的变动。另外还指出，由于劳动力市场所需技能发生了变化，特别是对低工资、低熟练、低教育的劳动者的雇用产生威胁，有可能导致经济上的不平等和贫富差距扩大。因此，长期的政策干预，具体来说，应该致力于①对AI研发的投资；②对教育和训练的投资；③失业保险和再就业支援等安全网的构建和强化。https://obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/Artificial-Intelligence-Automation-Economy.PDF.另外，韩国也在2017年8月讨论了关于工业机器人等自动化设备投资，缩小税制上的优惠措施，确保社会福利和生活保障的财源。

17．在此之前的2007年4月，韩国政府的产业资源部（当时）起草了《机器人伦理宪章》。Guo，Shesen，and Ganzhou Zhang，Robot rights，Science 323. 5916（2009）：876.

18．在欧盟范围内，2016年4月，英国标准协会也总结了“机器人和机器人系统的伦理设计和利用指南”。同年，英国下议院的科学技术委员会“机器人技术与AI”就社会、伦理、法律问题进行了探讨，并发表了一份报告书。http://www.publications.parliament.uk/pa/cm201617/cmselect/cmsctech/896/896.pdf.

19．虽然该指南不具有法律约束力，但可以作为（具有约束力的）法律解释，提供论据和参考。

20．不过，也有观点认为，应该鼓励提供研究资金的机构和研究机构等通过实施风险评估，尽早研究技术对未来的影响。

21．例如，1980年9月，经济合作与发展组织（OECD）通过关于个人信息保护和个人数据国际流通指南的理事会劝告，提出所谓的“OECD八原则”，世界各国所有个人信息和个人数据保护法律和标准都是基于这八项原则。

22．虽然自由度高会产生恶意使用的可能性，但是如果因此而对设计本身加以规制进行无菌处理的话，预计孕育创新的再生力也会消失。关于这种担忧，请参照：Jonathan L.Zittrain，The Generative Internet，Harvard Law Review 119（7），pp.1974—2040（2006）。

23．中国的“中国制造2025”、印度的“Make in India（印度制造）”等正在采取同样的措施，所有这些都具有制造业在产业政策方面占有较大比重的特征。

24．http://www.bmas.de/SharedDocs/Downloads/DE/PDF-Publikationen/a883-weissbuch.pdf?_blob=publicationFile&v=9.在《劳动4.0》中提出，以实现将来的“优质雇用”为目标，即使劳动力市场和社会由于数字化而发生变化，也要确保每个人的职业人生（职业生涯）都有获得雇用的能力等五个政策目标。具体政策问题之一是改善继续教育和培训，其旨在帮助就业者维持和获得必要的知识和能力，以应对外部环境的变化。另外，还建议“从失业保险到为了劳动的保险”，教育和培训费用由失业保险来支付。

25．FHI对社会的建言活动也在积极开展，除对世界经济论坛（World Economic Form）提出政策性建议外，还向瑞典、比利时、英国、美国等政府机关提供信息。

26．2014年，FHI所长尼克·波斯特洛姆出版了《超级智能：路线图、危险性与应对策略》（Superintelligence：Paths、Dangers、Strategies，牛津大学出版社）。

27．http://www.aaai.org/Organization/presidential-panel.php.

28．2016年度人工智能学会全国大会“公开讨论：人工智能学会伦理委员会”江间有沙报告。http://ai-elsi.org/archives/321.

29．https://ai100.stanford.edu/.

30．IEEE从1974年开始制作信息伦理纲领（Code of Ethics）。另外，关于“机器人与法律”的关系，1984年开始举办的“有关机器人与自动化的国际会议（IEEE International Conference on Robotics and Automation：ICRA）”也应该引起关注。

31．http://standards.ieee.org/develop/indconn/ec/autonomous_systems.html.

32．http://standards.ieee.org/develop/indconn/ec/ead_v1.pdf.

33．参照http://standards.ieee.org/等。

34．http://standards.ieee.org/develop/indconn/ec/autonomous_systems.html.

35．产业界和学术界之间的密切合作有望产生将技术研发投资与产品、服务开发投资联系起来的效果。

36．网络通话服务“Skype”的共同开发者；另外，作为“DeepMind”（因其开发的围棋程序“阿尔法狗”战胜职业棋手而成为热门话题）的共同出资人也非常有名。

37．建立在线支付服务“PayPal”的前身公司，并因推出制造和开发太空火箭的“Space X”以及开发电动汽车业务的“Tesla”而闻名。

38．关于公开募集的结果，西下佳代、茅明子、矢岛章夫、奥和田久美：《关于人工智能和机器人社会影响的先行研究动向》，载创新学会年度学术大会演讲摘要集30，2015年，第479—482页。

39．https://futureoflife.org/bai-2017/.

40．https://futureoflife.org/ai-principles/.

41．他是PayPal的共同创始人，并以建立对冲基金“Clarium Capital”和几家风险投资公司而闻名。

42．他以创业孵化器“Y Combinator”的代表而知名，该孵化器支持在线存储服务“Dropbox”和民宿服务“Airbnb”。

43．强烈意识到普遍公开源代码，允许任何人自由处理的“开放源软件运动（Open-source software movement）”取得的成功。

44．https://www.partnershiponai.org/tenets/.

45．这种趋势在所谓的“预测规制”中也可以看到。欧洲于2016年5月生效的《欧盟通用数据保护条例》第22条授予作为数据主体的个人有关个人预测的权利。另外，在美国，如联邦贸易委员会在2016年1月发布的报告“大数据：是包含还是排除的工具？”中所示，是以软法和自主规制为目标。有关此问题的更多信息，请参照本书的第四章。

46．有关自主规制的分析，请参照原田大树：《自主规制的公法学研究》，有斐阁2007年版，第230页以下部分。另外，在本书中，自主规制被定义为“以对某个私法主体实施外部影响为契机，通过该法律主体自愿采取符合实现公共利益的行动”。

47．关于信息通信领域的共同规制，请参照生贝直人：《信息社会与共同规制——网络政策的国际比较制度研究》，劲草书房2011年版等。

48．https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf.

49．https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf.

50．在欧盟，国防研究和技术投资计划“准备行动（Preparatory Action）”正在实施中，目的是促进机器人和AI的使用。另外，2017年9月，法国总统马克龙提倡设立以DARPA为原型的研究开发支援机构。

51．例如，2017年10月在东京举办的“AI与社会研讨会（AI and Society Symposium）”和“东京：有益的人工智能（Beneficial AI Tokyo）”不仅国内学术研究机构和新兴企业参与，IEEE和CFI相关人员等来自各国的参加者也聚集在一起进行了讨论，http://www.aiandsociety，org/organizers-ja/。

---

(1)　工藤郁子，Makaira股份有限公司高级研究员。