机器人是人吗

内容简介

人工智能概念在猝不及防的 AlphaGo 事件中家喻户晓，手机助手 Siri 已经能够进行语音交流，完成很多工作。无人驾驶汽车已经在全球各地实地测试。随着人工智能成为愈加无法逃避的现实，它将促使我们改变生存世界的假设，颠覆我们对生活秩序的认知。无人驾驶汽车、机器人保姆、机器人管家、人工智能外科手术医生……越来越多的人工智能机器人走进我们的生活，法律、政策与伦理如何规范/p>

霍金说：“由于生物学意义上的限制，人类无法赶上技术的发展速度。人类无法与机器竞争，并会被取代。全人工智能的发展可能导致人类的终结。”机器人的崛起，法律将如何应对《机器人是人吗一书中，美国律师约翰 · 弗兰克 · 韦弗探讨了这个引人入胜的新故事的法律层面，从无人驾驶汽车发生事故时的具体法律问题，到正在向法律本身提出挑战的基本问题。

名人推荐

无论是在对人工智能甚嚣尘上的颂歌声中，还是在对人工智能言人人殊的争议声中，系统考察人工智能应用引发的法律问题的著作尚不多见。本书是一个专业人士对人工智能法律问题全面而深入的思考，让我们认识到，在人工智能研发和应用高歌猛进的同时，我们在许多法律乃至伦理问题上却还远远没有准备好。如此“盲人骑瞎马，夜半临深池”的局面，令人不寒而栗。本书有助于我们更理性地思考人工智能问题。

——江晓原（上海交通大学讲席教授，科学史与科学文化研究院首任院长）

机器人的崛起所带来的问题看起来像是出自科幻小说，但是这些问题正变得越来越真实。本书中，韦弗探讨了这个引人入胜的新故事的法律层面，从无人驾驶汽车发生事故时的具体法律问题，到正在向宪法本身提出挑战的基本问题。

——P. W. 辛格，布鲁金斯学会21世纪安全和情报中心主任

作者简介

约翰 · 弗兰克 · 维弗，美国律师，人工智能法律领域专家。

本书内容

主编序

彭诚信

一

无论生物学意义上的自然人类（以下简称人类）是否做好准备，人工智能时代正逐步走来，而这恰恰是由人类自身所引起。

初级的人工智能或许能为人类带来便捷，在我国，或许还能带来规则意识，甚至法治理念的真正普及。这是因为，人工智能的本质就是算法，任何算法必然建立在对某项事物认识的共性与常识之上。也正是在此意义上，人工智能能为人类服务，能代替自然人为人类服务。初级的人工智能，如果还没有深度学习能力，或者深度学习能力尚不充分，它就难以进行诸如自然人价值判断与情感判断的活动，比如包含爱的交流与体验，难以对疑难案件作出理性裁判，对案件的漏洞填补与价值补充等。在此意义上，人工智能产品还主要表现为人工智能物，仅在有限的意义上具有自然人的属性。但即便是初级的人工智能，在我国也具有非常重要的意义，主要表现为规则意识与诚信观念的建立。人工智能最核心的“大脑”就是算法，算法本身便是规则。初级人工智能对人类的服务就是规则服务；而人类要接受人工智能的服务，就必须接受算法设定的各种规则。人工智能，尤其是结合网络运用的人工智能，会促使与提升自然人的规则意识，因为无论自然人在线下是否遵守规则，也无论规则在线下如何难以推行与实现，只要自然人接受线上服务，就必须遵守线上规则；无论自然人在线下如何不守信，他在线上也必须诚实，否则他就进入不了虚拟世界，便也无从获得特定人工智能的服务。在初级的人工智能时代，人类仍是核心，是世界的主宰，毕竟自然人仍是规则的制定者，是人工智能的服务对象。

而到了高级人工智能时代，即，当人工智能能够进入深度学习与感情交流，可以进行团体合作与共同行动时，换句话说，当人工智能可以改变甚至完全脱离自然人为其设计好的初始算法而创制新的算法时，那时的人工智能物便实实在在地变成了人工智能人。人工智能人如何改变自然社会，甚至如何引导与影响整个自然社会走向，已非自然人所能完全掌控与想象，恐怕也为人工智能人本身所不知。尤其是，当人工智能人可以在虚拟世界制定规则（创制新的算法），而这种规则又必然会影响到自然世界时，那时自然世界的主宰到底是人工智能人，还是自然人，或许现在的我们（人类）已经难以给出确定答案。那时的人类在自然世界或虚拟世界中处于何种主体地位，现在的我们也不得而知。当人工智能人有了情感交流能力并具有生物生成功能后，在自然人与自然人、人工智能人与人工智能人以及自然人与人工智能人之间的多元关系中，谁来制定规则，为谁制定规则，谁是自然世界或者虚拟世界的主宰或规则主体，以及各种形态主体之间具体的生活样态如何等问题，可能都远远超出了我们当下的想象，或许那时的社会状态本身就不可想象！

正是为了认真面对这些问题，警惕与体味这些问题，以便未来更好地深入研究或应对这些问题，上海人民出版社曹培雷副总编辑、法律与社会读物编辑中心苏贻鸣总监、秦堃编辑等及本人一起探讨决定编译人工智能丛书，帮助我国读者了解既有的人工智能研究，并以此为切入口对人工智能进行深度了解与学习。我们筛选并翻译了国外有关人工智能研究的较有影响力的三部经典著作，推介给中国读者。这三部著作便是意大利学者乌戈 · 帕加罗所著的《谁为机器人的行为负责、美国律师约翰 · 弗兰克 · 韦弗所著的《机器人是人吗以及美国学者瑞恩 · 卡洛、迈克尔 · 弗鲁姆金和加拿大学者伊恩 · 克尔编辑的文集《人工智能与法律的对话》。

二

《谁为机器人的行为负责一书，由张卉林、王黎黎和笔者共同翻译。该书通篇都在试图回答一个问题：“谁来承担责任（Who Pays）”。作者建构了一种分析法律责任模型。他在刑法、合同法和侵权法的框架下讨论了27种假设情况，例如刑法中的机器人士兵、合同法中的外科手术机器人以及侵权法中的人工智能雇员等，目的是分析在不同的情况下设计者、生产者、使用者和机器人之间应当如何分配责任。作者还讨论了机器人对现代法学体系中的若干重要内容带来的挑战，比如刑法中的正义战争理论、合同法中的代理资格以及侵权法中的责任承担。上述问题的讨论建立在作者对法律责任和义务的概念的分析基础上，讨论法律基础是否会受到机器人技术的影响。最后，作者讨论了“作为元技术的法律”，即如何通过法律实现对技术发展的控制。

《机器人是人吗一书由刘海安、徐铁英和向秦翻译。该书认为，人工智能可以达到如同与真人一样进行语音交流的程度，并自主学习知识和判断问题。作者讨论了人工智能的知识产权享有和责任承担问题。作者认为，面对人工智能承担法律责任，可以通过人工智能保险或储备基金支付赔偿费用。如何规范人工智能者以美国各州对自动驾驶汽车的相关立法为例，对未来人工智能统一立法作出合理预测：(1)当产品制造商、开发商和人类都没有过错时，不同体系的机构将会为涉及人工智能的事故受损者建立赔偿或补偿基金；(2)至少在初期，很多形式的人工智能产品的使用将被要求获得执照许可背书；(3)在初期，往往需要对人工智能进行人为监督，但是最终，只有那些主要用于改善人类表现的人工智能才需要人为监督；(4)尽管最初的立法将会经常把人类作为操作者(行为人)，即使这种标签不适用于人工智能的类型，但最终立法会在以确定操作者责任为目的时变得更加细分；(5)立法将始终区分用于测试目的的人工智能和向消费者提供的人工智能；(6)立法将始终要求这样一个机制，允许人类脱离人工智能但很容易重新控制人工智能；(7)立法将始终要求在自动化技术失败时，人工智能产品能向周围的人发出警告；(9)对采集个人信息的担忧将会迫使法律要求披露人工智能运作时所收集的信息。

《人工智能与法律的对话》由陈吉栋、董惠敏和杭颖颖翻译。本书共分讨论起点、责任、社会和道德意义、执法和机器人战争5个部分，共14篇论文。其中，大部分是首次在“We Robot”这一跨学科会议上发布的最新论文。这些论文探讨了机器人的日益复杂化以及它们在各个领域的广泛部署，重新思考了它所带来的各种哲学和公共政策问题、与现有法律制度不兼容之处，以及因此可能引发的政策和法律上的变化。整本书为我们生动地展现了一场内容广泛、启发深远的对话，如本书第二部分有关机器人行为责任的讲述：F. 帕特里克·哈伯德教授《精密机器人所致人身损害的风险分配》一文对普通法应对技术变革的能力提供了一种乐观的评估：“普通法系统包含了内部机制，能够为应对机器人化的世界作出必要的相对较小的变化”；而柯蒂斯 · E. A. 卡诺法官在《运用传统侵权法理论“迎接”机器人智能》一文中则提出了截然相反的观点：传统的过失和严格责任理论不足以应对真正自主性机器人的挑战。

需要说明的一点是，我们从2017年9月确定翻译书目，10月组建翻译团队，到12月后陆续落实版权并着手翻译，翻译时间可谓十分紧张。丛书译者多为高校或者研究机构的青年科研教学人员，需要克服繁重的教学和科研压力；加之，所译著作内容涉及法律、计算机和伦理等多元且交叉的学科知识，远远超出了多数译者所在的法学学科领域，翻译不当甚至错误恐在所难免，在此我们衷心恳请并接受各位读者、专家批评指正。

三

2017年7月中华人民共和国国务院发布《新一代人工智能发展规划》，强调建立保障人工智能健康发展的法律法规，妥善应对人工智能可能带来的挑战，形成适应人工智能发展的制度安排。《规划》为此要求“开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等”。但正如弗鲁姆金（Froomkin）指出的，也可能是本译丛三本书的作者们皆认可的：“(1)对于机器人和监管问题，现在还为时尚早；(2)技术问题远比律师想象的复杂，法律、伦理和哲学问题比工程师想象的更有争议（有时也更复杂）；(3)我们要彻底解决这些问题的唯一办法就是扩大和深化我们跨学科的努力。让世界为机器人做好准备的同时，使机器人也为世界做好准备，这必须是一个团队项目——否则它可能会变得很糟糕。”由此揭示出，对于人工智能的探讨与研究，即便是对于人工智能的规范性研究，并非法学一个学科所能胜任。人工智能本身就是一个具有综合性、复杂性、前沿性的知识、智识与科学，它需要几乎所有的理工与人文社会科学学科进行交叉性研究，也需要研究者、实体技术者与产业者等各个领域的人配合与对话。法律人在人工智能的研究、开发、规则制定等各个环节中是不可缺少的一环，但也仅仅是一个环节，他只有加入人工智能的整体研究与发展中去，才会发挥更大的价值。我们期待这套译丛的出版有助于人工智能在法学及其他领域展开深入讨论，为跨学科的对话甚至团队合作提供一定程度的助益。

无论未来人工智能时代的社会生活样态如何，无论人工智能时代的社会主体如何多元，多元的主体依然会形成他们自己的存在哲学，也许依然需要他们自己的情感系统。无论未来的人工智能时代多么不可预测，问题的关键还是在于人类的自我与社会认知。就像苹果公司首席执行官蒂姆 · 库克（Tim Cook）在麻省理工学院（MIT）2017届毕业典礼演讲中指出的，“我并不担心人工智能能够像人一样思考，我更关心的是人们像计算机一样思考，没有价值观，没有同情心，没有对结果的敬畏之心。这就是为什么我们需要你们这样的毕业生，来帮助我们控制技术”。是的，我们或许不知未来的人工智能是否会产生包含同情与敬畏的情感，但我们能够确信的是，即便在人工智能时代，我们最需要的依然是人类饱含同情与敬畏的“爱”！未来的人工智能时代无论是初级样态还是高级学习样态，能够让多元的主体存在并和谐相处的，能够把多元主体维系在一起的或许唯有“爱”。这个从古至今在自然世界难以找到确定含义的概念，在虚拟与现实共处的世界中更是难以获得其固定内涵，但我们唯一知道并可以确信的是，如果没有“爱”，那么未来的人工智能时代就真的进入了一个混沌而混乱的世界！

上海交通大学凯原法学院

2018年7月10日

中文版序

当《机器人是人吗在2013年首次出版时，我在第一章中承认的一件事是，尽管本书讨论了当时已投入使用的程序和机器，但也谈到了人工智能（AI）“很快就会可用”。很快是多久如我当时所写到的，“在未来的10年到20年，人工智能将渗透到我们的生活中”。本书出版五年了，那么这个时间段已经变得更短。我们正处于人工智能的复杂性和广度的爆炸式增长之中。

在2013年，创作艺术、音乐和书面叙事的创造性人工智能并没有在商业上得到广泛应用。作曲家、大学教授大卫 · 科普（David Cope）创造了自动作曲程序，但由此产生的音乐几乎没有商业利润。现今，像 Jukedeck 这样的公司已经成功地向广告商、播客用户、在线视频制作商和许多其他买家销售了人工智能在数秒内完成的原创音乐。同样，2013年时，自动洞察公司（Automated Insights）和叙事科学公司（Narrative Science）向少数公司和媒体销售了人工智能自动编写的美联社（AP）风格报告。如今，自动洞察公司的程序正在撰写实际的美联社报告，因为美联社与该公司签订了合同，每年将发布数千份季度收益报告，且由此撰写的报告数量是美联社在依赖人工智能之前发布量的12倍。

在2013年，我研究了具有不同程度自主功能的机器人外科医生。然而，自那以来，医疗保健领域的人工智能在数据分析方面发展得更快，反映出过去五年里人工智能领域广泛发展趋势之一。凭着能够分析和借鉴大数据集的人工智能而产生的医学报告、诊断和图像，医生正在通过人工智能医疗项目来改善对核磁共振（MRI）和 X 光片的解释、微观和细胞学的解释、皮疹识别、色素病变评估潜在的黑色素瘤，视网膜血管检查预测糖尿病、视网膜病、心血管疾病的风险，以及其他用途。

在2013年，当研究人员开发出一款能够在城市街道上行驶的自动驾驶汽车时，人们认为这是一个重大突破。几年后，另一重大突破是一辆自动驾驶汽车从旧金山出发开了3400英里横越美国来到纽约。现在，许多汽车制造商销售的汽车都具有不同程度的自动驾驶功能，且每年都在提高汽车的自动驾驶能力，尽管其中一些功能在许多市场上还不“合法”。即使已经发生几起广为人知的事故，其中不止一起致命的车祸，也没有减少人们对自动驾驶汽车的需求。

我还可以举出其他方面的许多发展的例子，包括自主无人机的扩大、谷歌的阿尔法狗（AlphaGo）在围棋比赛中击败李世石、预测性人工智能指出了肯塔基赛马的获胜者和《时代》周刊的年度风云人物，此处仅举几例，作为人工智能越来越重要的证据。但是，我在《机器人是人吗中提出的基本挑战并没有改变。所有法律都有一个基本的假设：所有的决策都是由人类作出的。随着人工智能的应用变得越来越广泛，这种假设越来越不正确，并对法律的运作方式产生了影响。

当然，世界各国政府都在努力跟上科技发展的步伐，取得了不同程度的成功。自动驾驶汽车就是一个很好的例子。到2013年，美国有7个州（含哥伦比亚特区）试图通过立法解决自动驾驶汽车的问题，其中有3个州（含哥伦比亚特区）取得了成功。到2018年，35个州已经开始考虑自动驾驶汽车的立法，10个州已立法，另外2个州的州长发布行政命令来管理自动驾驶汽车的测试。然而，这些州的努力几乎没有一致的，某些州设立了委员会来研究如何监管自动驾驶汽车，另一些州则允许对自动驾驶汽车进行测试，还有一些州构建了法律框架以最终允许消费者在公共道路上使用自动驾驶汽车。

在欧洲，德国于2017年通过了一项法律，为自动驾驶汽车制定了法律框架，并允许自动驾驶汽车可以在道路上行驶。同年，英国政府宣布投资2亿英镑用于自动驾驶汽车的研究和测试。

在亚洲，新加坡于2017年修订了《道路交通法》（Road Traffic Act），承认机动车不需要人类驾驶。中国政府在许多方面采取了最宽松的规则，基本上允许中国任何一个城市在公共道路上测试自动驾驶汽车。

国际上政府监管人工智能的努力较为分散，虽然解决了与人工智能相关的各种问题，但没有对人工智能技术进行全面管理的计划。例如，沙特阿拉伯没有人工智能立法，但在2017年授予机器人公民身份。2017年，美国发布了几份报告，阐述了政府在人工智能方面的政策立场，尽管美国参议院和众议院采取了一些行动，却没有通过针对人工智能的法律。

欧盟一般数据保护条例（GDPR）规定，要求任何人工智能在“自动化决策，包括分析”是否参与个人数据处理，并为个人提供“有意义的信息所涉及的逻辑”处理时，要通知个人，受到人工智能影响的个人有权获得关于人工智能决策过程的解释。虽然人工智能可以操纵个人数据是一个重大问题，但欧盟总体上并没有建立对于任何人工智能的立法框架。

中国已经成为人工智能研究和发展的新兴力量，也可能成为人工智能法律和公共政策的领导者。中国表示正积极计划发布人工智能技术标准和规则。另一个似乎准备积极寻求普遍的人工智能治理的国家是爱沙尼亚，因为其正在积极考虑赋予人工智能有限的法律人格。

《机器人是人吗的核心信息之一是人工智能的监管策略。如本书所述，通过修改法律，以巧妙的方式赋予人工智能有限的法律人格，我们可以确保人工智能的利益得到广泛的传播。尽管本书主要关注美国法律和公共政策，但这一经验是普遍的，应该适用于所有国家。

我很高兴《机器人是人吗一书被翻译成中文，这将更容易为中国人民所接受。大学毕业后，我曾在江苏省扬中市的江苏扬中高级中学教英语，在那里的教学经历让我对中国产生了浓厚的兴趣。随着过去七年里我对人工智能发展以及由此产生的法律意涵的研究，我看到中国人工智能行业的增长是显而易见的。我希望这本书能有助于中国建立一个全面的法律体系来管理人工智能，且成为世界上其他国家可以效仿的范本。

致 谢

非常感谢贝丝 · 帕塔里斯（Beth Ptalis），他在计划、书写和出版过程中给了我很多指导。我也感谢戴维 · 科普（David Cope），伊丽莎白 · 哈萨克夫（Elizabeth Kazakoff），和彼得 · 卡赞齐德斯（Peter Kazanzides）抽出时间与我讨论他们的工作和观点。

我亏欠珍 · 芬奇（Jen Finch）很多，她比我所见过的那些理性的人都更有帮助，更具合作性。她是我研究上的“图书馆”，她听到“你能给我找出有关机器人在无人操作时进行手术的文章吗”时，总是说“没问题”，而不是“不可能”。

最后，我对我的妻子、最好的朋友和最喜欢的编辑，艾丽西亚 · 韦弗（Alicia Weaver）致以无尽的感谢，她阅读了我写下的每一个字，适当地告诉我什么时候该删除字词以及用更好的替换它们。

第一章 人工智能已经到来

首先要声明的是，本书与哈尔（Hal）、基特（Kitt）、戴塔（Data）或者《星球大战》中任何其他机器人无关。本书也不涉及比人类更有智慧的机器或者那些与人类智慧相当的软件，事实上，本书仅与具有部分人类智能的机器或者能够作出人类决定的部分类型的机器有关。换言之，本书与已经实现或者即将实现的人工智能（AI）有关。但有必要澄清的是，苹果公司的 Siri 顶多是像 C-3PO[1]一样的人工智能。

C-3PO 与 Siri 中的人工智能的区别，除了安东尼 · 丹尼尔斯（Anthony Daniels）[2]的声音之外，是强人工智能和弱人工智能的区别。强人工智能具有与人类相当或者超过人类智能的智力水平，因而能够像人类那样解决任何问题以及在任何社交场合和人类进行交流互动。当前，强人工智能仍是尚未实现的幻想。然而，弱人工智能则完全是另一回事。弱人工智能只能在电脑中创造出人类智能的某些方面。我们总是与弱人工智能接触——谷歌的搜索引擎、全球定位系统（GPS）、电子游戏等。能够遵循、复制人类智能简单规则的机器或者软件都算弱人工智能。

我们近期看到了弱人工智能的快速发展，比如：深蓝（Deep Blue，围棋大师机器）、“危险边缘”大师机器沃森（Watson）。但在一定意义上，那些例子仍像《星球大战》或者《星际迷航》中的故事一样虚无缥缈，因为人们仍然很难与那样的机器进行交流互动。

我们会看到可用于购买的弱人工智能产品在数量上的激增。上面列举的产品仅具有有限的功能：谷歌仅适用于互联网；你也不是去任何地方都需要全球定位系统；电子游戏人工智能仅在虚拟世界中发挥作用。在接下来的10年到20年里，人工智能将更充分地渗透进我们的生活，无论是我们旅行的方式，还是消费媒介，抑或是监管我们街道的工具。随着弱人工智能成为愈加无法逃避的现实，它将促使我们改变一些有关我们生存世界的假设。

这包括我们法律所依赖的假设。在美国，我们地方、州和联邦层面的几乎所有法律都有一个共同的假设：即所有决定是由人类作出的。人工智能的发展和传播会促使我们改变法律，因为这些法律中很多不能充分地规范人工智能产品如何与我们互动，也不能规范人工智能之间的互动。像法律责任、知识产权、宪法权利、国际法、区划条例和很多其他多个法律领域，将不得不调整以有效应对那些并非由人类作出的决定。

有了上述铺垫，让我们来快速了解一下什么是强人工智能，这可以更好地理解弱人工智能以及本书要表达什么。

一、 机器人三大定律与人工智能的人格

科幻小说中人工智能的一个重要概念是“机器人三大定律”。在1942年，科幻作家艾萨克 · 阿西莫夫（Isaac Asimov）在其短篇小说《环舞》（Runaround）中提出了这一概念。尽管它们经常被其他作家调整，但最初样式似乎是这样的：

1. 机器人不得伤害人类，或者坐视人类受到伤害而袖手旁观。

2. 机器人必须服从人类的命令，除非这些命令违反了第一定律。

3. 机器人必须尽可能地保护自己的生存，前提是这种保护与第一或第二定律不冲突。

如果你仔细阅读本书的三个部分，你会发现它们就是建立在这些定律之上的。机器人三大定律试图保证机器人工作是为了人类的福祉而非伤害人类。当然，如果运行良好，这三大定律在很多科幻小说中不会产生丝毫冲突。然而，正如罗杰 · 克拉克（Roger Clarke）评论的那样，阿西莫夫的小说本身就为如下内容提供了充分的证据：试图通过一系列规则限制机器人的行为并不存在依赖的方式。[3]

由此便引出了科幻小说中人工智能机器人和软件中具有的内在冲突：强人工智能与人类具有相同的自由意志，但却不享有人类所拥有的行动自由。阿西莫夫的《环舞》勾画了去水星旅行的三人组飞船。其中一个成员是机器人。当为了获得稀有物品而必须展开危险的旅行时，机器人便会得到指令去执行任务。他虽然有自由意志，但这种意志却是有条件的。这样的意志还能被称为真实的自由意志吗/p>

甚至没有表达机器人三大定律的科幻小说也表达了强人工智能拥有自由意志的可能性。在《星际迷航：下一代》中，机器人戴塔被迫在军事法庭中为其感觉能力和个人自由而辩护。在电影《2001：太空漫游》中，哈尔（HAL9000）是否有情绪和自由意志这个问题对于剧情是有决定性的。在雷 · 布莱伯利（Ray Bradbury）的小说《牵线木偶公司》（摘自《纹身人》）中，一个故事的主角买了一个自己的人工智能复制品，试图让这个机器人替代他在家中一段时间，以便他的妻子不会想他。尽管制造商保障机器人会遵守规则——“无条件”是其座右铭——但该人工智能复制品仍然攻击了他，并与其妻子开启了一段关系。在这种类型的故事背后的故事中，一个信息越来越清晰：部分自由意志以及对这种意志的认可对强人工智能而言是不够的。

此外，更明确的是，本书中讨论的弱人工智能（现在可以获得或者将会很快获得）均不会产生自由意志和完整人格的问题。机器和系统只是再造了人工智能或者作出某些决定。但即使在再造人类决策的某些方面，弱人工智能做的决策仍然被认为是人作出的决定。在法律上，“人”的规范法律含义是法律权利和义务的主体。[4]由于我们的法律是受宪法制约的，机器不具有法律权利和责任；设计、制造、销售和使用它们的人才具有法律权利和责任。当弱人工智能——通过设计、制造、销售或者使用它的人没有过错行为——造成损害时会怎样成死亡呢生可测量的知识产权呢犯某人的宪法权利呢/p>

尽管人工智能不会有自由意志，法律应当认可将有限权利和责任赋予弱人工智能，以保护与它们交流互动的真实的人，以及（理想地说）将人类置于从中获益的更好位置。法律如何改变并以这种途径认可人工智能机器人和系统为有限的“人”，是本书的关注点。

二、 Siri——苹果公司拉开了人工智能革命的序幕[5]

尽管已经可以在市场上买到弱人工智能产品了，但真正能够展示即将到来的人工智能的内在能力和法律问题的第一款大众市场产品是 Siri，“仅需通过提问即可帮助你获取事物的智能私人助理”。[6]Siri是第一款可以在市场上买到的高级弱人工智能。“高级弱人工智能”是指能够通过像人类一样的交流互动从而再现人类智能某些方面的弱人工智能。[7]这将它与其他像谷歌那样的弱人工智能的例子区别开——在它们的自然设置上，人类不会打字输入问题以提出要求。[8]

为什么高级弱人工智能很重要呢坦福大学的教授以及人类与交互式媒体交流实验室主任克利福德 · 纳斯（Clifford Nass）认为，当我们向电脑讲话而它回应时，我们把它当真人一样。“人脑为交流而生，因而任何东西听起来像人声，我们的大脑就会被点亮，而我们获取到很大范围的社会和其他回应”，他说。“我们的大脑对待这些基于电脑人声的语音，在很大程度上就像是我们在与真人进行语言交流——包括阿谀、调情和其他。”[9]我们对待高级弱人工智能会不由自主地像对待生活的其他人一样，也就是说我们信任高级弱人工智能以及将高级弱人工智能纳入我们生活的方式将会区别于我们现在对待机器的方式。Siri 代表了另外一种即将到来的弱人工智能，能够让我们像和人类一样交流互动的其他形式，尽管它有前后不一致的表现，以及它可能逊色于谷歌语音搜索[10]。这就带来了如下问题：我们是否应当检视我们的法律以反映我们实际对待这些机器的真实方式。

与互联网和全球定位系统一样，Siri 是美国国防部高级研究计划局（DARPA）研发的产品——该局旨在研发新科技。2003年，美国国防部高级研究计划局与斯坦福国际研究院（SRI International）（在加利福尼亚门洛帕克市的一个研究组）达成协议，研究和开发一个“能够学习和组织的有感知的助理”。[11]2007年，斯坦福国际研究院成立了一个独立的实体，Siri 公司为美国国防部高级研究计划局项目中研发的人工智能开发一款商业应用软件。[12]Siri 公司获得了风险投资并最终在2010年2月为苹果手机（iPhone）推出了一款虚拟个人助理应用软件。[13]在2010年4月，苹果公司收购了Siri公司。[14]当苹果公司在2011年10月推出 iPhone 4S 时，Siri 作为一个多用途虚拟助理被预安装在手机中，而不只是作为一款应用软件被安装。

Siri 不只是虚拟个人助理。它有语音输入和输出功能。用户可以对它说话并获得语音回应。人们与苹果手机和互联网的交流互动程度被大大扩展了。问 Siri 天气，它会告诉你一段你所在地区的简短天气预报。让 Siri 告诉你的丈夫你要迟到了，它会发出一条短信。让 Siri 记录你与你母亲下周五将一起吃午饭，它会更新你的日程表并给你语言确认。Siri 不只是在你手机上处理输入的语音。当然，软件需要服务器传达数据，因而有必要让用户连接无线网络或者调制解调器服务（威瑞森公司、美国电话电报公司等)。[15]

Siri 将你的语言翻译成行动——呼吸变成字节——的实际程序代表了互联网技术的一个巨大成就。比如说，你告诉 Siri 给你最好的朋友兰多发短信。Siri 需要马上将你话语的声音编码成一组保留了其信息的电子形式。Siri 然后将这组电子信息通过附近信号塔和一组光缆或者其他陆地线路传递回你的互联网服务提供者，它能够与云端的服务器联接。一系列用于分析口头语言的数据模型，会分析你的语音。

同时，Siri 本身的软件会评估你的话语。与云端服务器协作，Siri 将判断你的指令是否能在手机上得到最好的处理——比如如果你向它要一张兰多在千年隼号上的已下载图片——或者是否必须连接网络获得更多协助。如果需要服务器，它会将你的语音与基于数据的模型相比较，以评估哪些字母可能组成这些语音。服务器然后使用这些最高可能性评估并传送。

基于这一评估，你的话语——现在被理解为一组元音和辅音——被运用于一个语言模型分析，该模型评估你话语中包含的文字。电脑会创建一组理解你的话语可能指什么的清单并选择最有可能的含义。如果 Siri 和服务器工作得适当，然后它们确定你的意图是发送短信，了解到兰多是你的收件人，从你的手机联系人中调出他的联系信息，妥当地撰写你的实际留言给他。但你所看到的只是你的短信信息，它们魔术般地出现在屏幕上，手指不必介入。然而，如果 Siri 在分析程序期间不确定你的指令，电脑会在短暂的迟延之后问你更进一步的问题：你是说兰多 · 卡里森还是兰多 · 莱克斯等。[16]

简而言之，Siri 依赖在手机软件中复杂的弱人工智能，后者与互联网云端复杂的弱人工智能联接，创造了一个具有用户友好性的高级弱人工智能项目。通过依赖互联网上的中央处理器，Siri 能够在更多人使用它时得以改进。Siri 从用户那里收集数据并分析数据以改进其服务。[17]那代表了很多与真实世界的人交流互动的自主技术，带来了我们前所未闻的法律问题，但那会随着本书讨论的人工智能产品上市以及其广泛应用而更加普遍。在这一点上，Siri 能够被视为跨越“几乎所有决定是由人类作出的”这一当下法律假设之桥梁的第一声炮响。随着 Siri 的功能到达一个逻辑极致，我们能够预见未来的人工智能会突破那一假设。特别是，Siri 反映出知识产权（详见第八章）和责任法（详见第二章）将不得不调整以适应人工智能。

三、 Siri 的声音——谁拥有该知识产权/h3>

现在，Siri 表达的字词、文句和观念作为被记录的媒体内容几乎没有价值。但 Siri 对成功的和盈利的媒体具有潜在贡献。而一旦涉及金钱，谁拥有 Siri 回应内容的知识产权，以及其商业应用的潜在许可费问题，就变得更为重要。

(一) 通过 Siri 采样

以多种流行音乐——最著名的嘻哈音乐、流行音乐和说唱音乐——采样已成为知识产权法里一个争论激烈的话题。正如第六巡回法院所指出的：“与嘻哈或者说唱音乐流行的到来相伴的科技进步，使得数据采样的例子极其普遍，并已经产生了大量的著作权纠纷和诉讼”。[18]包含采样的著作权纠纷已经导致有关各类艺术家的诉讼，如罗伊 · 奥比森(Roy Orbison)、[19]野兽男孩(the Beastie Boys)[20]和小乔治 · 克林顿(George Clinton Jr)[21]。事实上，小乔治 · 克林顿的音乐就成为著作权侵权的最大指控之一，拥有音乐著作权的实体在2001年针对大约800个被告未经授权使用其录音带和音乐的一部分而在500个县提起诉讼。[22]在这些案件中，关键的纠纷发生在音乐创作者或者声音录制者，以及从音乐或者声音采样中而创造出其他的新媒体内容的另一个人之间。[23]

就 Siri 而言，使用者可以实验 Siri 输出的语音以创造一个娱乐的或者有趣的声音节拍，录下那个声音，通过自动调谐（Auto-Tune）将其改为市场上成功的媒体内容（比如歌曲、广告等）。在该场景下，这个创作者似乎能够拥有这一新媒体内容的著作权。然而，法律就这一点尚未确立。

(二) Siri 创作的知识产权的归属

美国《版权法》第201(a)条规定：“本条保护的作品知识产权归作品的作者。”[24]最高法院已经指出：“作为一个一般规则，作者是切实创作该作品的一方，换句话说，将想法转变为具体、有形的表达并有权享有知识产权保护的这个人”。[25]但随着像 Siri 那样越来越多的弱人工智能计算机系统能够创作出原创音乐、文句和声音，这个观念是变化的。[26]你能够找到电脑创作的诗歌集，[27]麦金托什(Macintosh)从杰奎琳 · 苏珊（Jacqueline Susann）那里获取灵感而写出的小说，[28]以及由自主系统创作的音乐唱片。[29]当 Siri 说出一些新的内容，谁是拥有其知识产权的“人”/p>

拉尔夫 · 克利福德（Ralph D.Clifford）[30]试图回答这一问题，尽管他是在考查人机合作产生的知识产权而非由 Siri 产生的知识产权。[31]克利福德考察了计算机及其创造知识产权的潜力，确定人机交互的层次是存在的。克利福德认为，在该层次的一端，存在人类编程和指导的机器进行开发的知识产权；这些著作权由编程者合理所有。[32]在该层次另一端的是能够通过其编程创造新媒体内容、几乎不与人进行交互的机器；这些著作权进入了公共领域。[33]他的结论建立在最高法院审理费斯出版物公司诉农村电话服务公司（Feist Publications, Inc. V.Rural Telephone Service, Co.）一案中的推理上：“著作权的必要条件是原创性。作者要获得著作权的保护，作品必须是原创的。”[34]

克利福德扩展了这种推理，他认为，经过编程而产生了独立创造性的机器自身并不能保证著作权保护，因为“没有人推导出机器控制自身创造性的规则；确实，机器利用其学习程序并基于被提供的训练案例，独立开发规则。这种学习独立于其使用者。”[35]事实上，这听起来与Siri在更多人使用它时学习如何更好操作的能力非常相似。当克利福德问道：“那么谁能够对电脑独立完成的有价值的作品主张著作权[36]他回答了自己的问题：“机器使用者的主张似乎很值得怀疑。使用者并非这些表达内容的创造者，因为使用者并没有进行特别的创造性努力。”[37]

我怀疑克利福德在像 Siri 那样的程序产生的知识产权上的观点是错误的。自然和法律厌恶一个真空，那正是针对知识产权的公共领域。Siri 如此有趣的一个原因是，它是首款市场上可获得的高级弱人工智能。尽管 Siri 可能是在克利福德所说的层次一端，即知识产权由与人工智能交流互动的人类享有，但那一层次在弱人工智能可从大众市场获得时就崩塌了。克利福德假设编程者（创造机器的人）、使用者（使用机器创造成果的人）和艺术家（通过机器输出而创作新媒体内容）都是同一人。从 Siri 开始，那就不一定是事实了。

确实，如果 Siri 创作的声音有一个所有权人，他可能是下列主体的任意一个或者组合：

对 Siri 的语音输出采样而创作新媒体内容的艺术家；

通过 Siri 实验以创造语音输出的使用者（与艺术家可以是同一人）；

苹果公司，即拥有 Siri 资源编码的人。

至此，当其他形式的弱人工智能产生了新的著作权时，在这三方主体之间几乎没有（如果有的话）区别。当斯科特 · 弗伦奇（Scott French）修改麦金托什程序以创造《娃娃谷》（valley of the dolls）的散文回忆时，他给电脑编程，让它问他问题，以允许它撰写适当的语言和故事。当戴维 · 科普与半人马唱片公司（Centaur Records）达成协议将其命名为艾米利 · 豪威尔（“Emily Howell”）的程序创作的音乐发布唱片时，他已经编写了艾米利 · 豪威尔的程序，并在该程序创作新的音乐之前给程序输入了音乐素材以便分析。

科普是一个恰当的例子，因为艾米利 · 豪威尔程序是弱人工智能的发展方向。艾米利 · 豪威尔是一个程序，能够分析音乐并反馈并创造自己的风格。[38]科普说道：“我已经教给程序我的音乐品位是什么，但它创作的音乐不是任何音乐风格中的一种——它是艾米利自己的风格。”[39]关于其他人类创作者，科普说他们“正在观察一个竞争者——一个在同样的舞台上竞争并拥有‘她’自己的风格，确实很棒的音乐的虚拟创作者。”[40]尽管在2010年由半人马唱片出版艾米利的第一张唱片时，科普并没有针对唱片的版权作任何公开评论，此后他说过认为自己拥有艾米利创作的任何音乐的著作权，而且可以确信地假设他享有艾米利编程者的版税。

四、 谁应当享有 Siri 创作的媒体内容和类似著作权/h3>

科普和艾米利展现了为什么必须有人享有 Siri 或者其他类似计算机、机器或者程序创作的媒体内容相关的著作权。当涉及金钱时，公共领域并非现实的选择，因为有人(可能是很多人)会主张所有权以及通过有强制力的证据这么做。同样，没有收回投资的潜力，程序员和投资者不会追求设计出能够产生创造性的技术。

尽管现在没有法律直接规范这个问题，但随着市场上出现越来越多的弱人工智能，立法者或者法院在不久的将来需要规范它。这一必要发展会在第八章中进行更透彻的讨论，但现在请允许我说，从公共政策的视角看，立法者来规范它更为有利，这样就在整个国家层面具有了一致性，而不是在巡回法院间有所区别。假设会有更多来自大众市场的复杂的弱人工智能，如 Siri，将人工智能产生的媒体内容的所有权赋予使用者和艺术家，而非编程者，会促进使用人工智能的媒体内容有更大的创造性发展。另外，使用者和艺术家与这些媒体内容的“作者”更接近，就考虑当下美国版权法而言。

但克利福德的关切是一个立法问题。应该赋予编码——其在很大程度上独立于人类指示而创作原创性作品——的写作者传统著作权和专利保护吗米利 · 豪威尔以及其“先辈”程序埃米（Emmy）（作为一个创作者在音乐上稍欠高级但更为自主）已经创作了经典音乐；[41]我们有理由相信，能创作出受市场欢迎的流行音乐的程序会在不久的将来被开发出来。同样，已经有了能撰写完整体育事件文章的人工智能程序；我们有理由相信在不久的将来能够开发出来可以创作出受市场欢迎的小说的程序。本书后面讨论的一个建议是，在完全自主创作新内容的人工智能和需要与人类互动才能创作的人工智能之间应当有一条界线。考虑到克利福德所提的应关切适当促进和回报人类的创造性，可以使能够完全自主创作的人工智能的编程者在程序进入公共领域之前获得一个有限的版权——可能是十年。[42]尽管这一问题现在貌似遥远，Siri 只是在弱人工智能变得愈发复杂的道路上的第一个产品，但它会使得知识产权问题更加重要，诚如第八章所解释的那样。

五、 Siri 让我这样做——Siri 产生错误的责任

已经发生事故当事人就事故归责于弱人工智能的案例——最著名的是全球定位系统。比如：

2009年，一个司机跟随全球定位系统提供的指示到了悬崖边的一条狭窄路上并被困在那里，一个当地农民说那是一条“人都不能下马的路”，警察不得不将其拖拽回主路。尽管司机试图归咎于全球定位系统，但英国法院认为应归咎于其疏忽驾驶。[43]

2012年，一个司机穿过了一个指示为“不得进入”的标识开进一条道路，占用了其他机动车的路。尽管该标识被庄稼遮掩，但存在类似的标识指示驶向180码处的十字路口。法官认为司机主张他根据全球定位系统的指示并无说服力，进而处以罚款。[44]

2011年，法官发现在一起致命的汽车相撞案中全球定位系统设备有部分可归责性，指出司机过分信赖其所行驶道路的全球定位系统地图。法官对其处以超过四年的监禁。[45]

尽管全球定位系统在事故中具有可归责性的案例法是有限的，但法院可以在某些情形下将部分或者全部责任归于全球定位系统的想法并非不着边际。一些美国律师预料到了不久将来的这一发展，随着更多司机依赖卫星指示，尤其是在他们不知道地理位置所在的区域。[46]这种依赖会随着全球定位系统中高级的弱人工智能发展到 Siri 建议的水平而增加。由于司机能够直接与全球定位系统交流——“前方有道路拥堵，在下一个十字路口会有其他的路吗——他们会越来越依赖那些设备。通过模仿真实的人类互动，全球定位系统设备增加了法院部分或者全部归责于全球定位系统系统的可能性，使得司机依赖于它们变得更加合理。如果它像人一样说话，我们会像人一样待它和信赖它。

Siri 呼唤一个相似的依赖——它的程序通过其运行的互联网云端积累用户数据，在用户提出问题和请求的时候，学习有关用户的更多内容。通过设计，Siri 试图使其与每一个用户的互动更加不可或缺。

所以，考虑一个这样的场景：用户造访一个他从未到过的城市。他有一个预约但他迷路了，他问 Siri 到他会面地点的最快路线。Siri 向他提供了指示，但没有提示与路线有关的一些潜在危险。如果用户选择了该路线会经过了一个犯罪率很高的区域，出现他被袭击了、抢劫了等情况，Siri（以及扩展到苹果公司）对那些损害承担什么责任/p>

这并非一个容易回答的问题，任何决定都取决于法院对用户行为的分析。用户合理地做出行为了吗户应当已经识别到危险情形了吗户有充分的信息偏离 Siri 的指示吗果公司能够这样抗辩，用户在事故的发生上也有过失，如果他未能合理做出行为或者将自身置于不合理的损害风险中。[47]

考虑上述场景中的合理性问题的任何法院将不得不考虑 Siri 的设计。它的程序设计是为了更加实用。考虑到这一目标，用户在使用Siri时增加对它的依赖程度不是合理的吗其在用户询问他们自己不懂的主题的有关问题时是真实存在的——新地理位置的指示、菜谱、木工课程等。交流在这个分析中也很重要。依赖于回应所问问题的设备比依赖于需要笨重键盘的设备更为合理。

对此没有快捷的答案，但 Siri 只是众多的要求我们重新考察如何决定并配置责任的新科技发展项目的第一个。比如，很多美国公司——包括通用汽车和谷歌——已经花费大量的时间和资源研发自动驾驶汽车。[48]现在的雏形已经在监视下以每小时70码的速度行驶在公路上，并穿过了所选州的人口密集的市区；通用汽车公司的艾伦 · 陶布(Allan Taub)说，预计在2020年之前能在市场上买到自动驾驶汽车。[49]尽管侵权法已经在汽车发明之后认定了司机过失的法律态度，那一观念会很快过时，就像是电梯操作者的过失那样。为什么说会过时将在第二章和第三章中加以解释，在那里会分别考察人工智能责任和自动驾驶汽车。

六、 Siri 之后会发生什么

我希望关于 Siri 问题的这一简短讨论会被带到法院，合同和立法显示我们法律的设计并未以任何形式考虑到人工智能。而且坦白地说，他们不应该是亨利 · 克莱（Henry Clay）和丹尼尔 · 韦伯斯特（Daniel Webster），而杰斐逊 · 史密斯（Jefferson Smith）没有任何理由去考虑这些能够思考的机器。

但是我们现在有理由讨论这一问题。市场上已经出现了本书中讨论的产品，在不久的将来会进入商店，它们正处于研发阶段。包括自动驾驶汽车（第三章），机器人保姆（第四章），军用无人机（第七章），写作与创作软件（第八章），农场和工厂人工智能工人（第五章），以及警用无人侦察机（第六章）。有可能弱人工智能将会是我们生活的一场革命，类似于19世纪的工业革命，20世纪晚期自动化的扩展，以及20世纪90年代和21世纪互联网的兴起。

也就是说，30年后的人们会疑惑我们没有人工智能是如何生活的，而且人工智能会在接下来几十年毁掉很多工作、剥夺很多生命。想到这些，我们开始讨论人工智能、公共政策和我们的法律就非常重要，尤其是因为可以渐进到工业革命那样的时间表不再存在了。依赖于资源，工业革命在18世纪90年代和19世纪30年代之间的美国某些地方开始了。然而，这个国家用了一个世纪改变其法律以规范工业革命产生的问题：非基于土地的财富，大量而集中的劳动力，非围绕家庭的工作，新工作场所危险，新环境危险等。美国国会和州政府在进入20世纪之前没有颁布童工法、最低工资法，尚未进行公共教育改革，（劳资）集中谈判权，以及其他法律改革。直到20世纪中叶，通过工业革命科技进步积累的财富才足够广泛地得以扩展，从而产生了基于制造工作的大规模且有保障的中产阶级。没有回应工业革命的法律，那些财富是不会扩展的，这将在第八章中详述。

不幸的是，我们再没有一个世纪应对科技进步了。基于最后两个主要科技发展——工业自动化和互联网——的时间计算，我们只有20年，或者30年，来保障科技进步的利益被广泛扩展。为了保护中产阶级，我们不得不快速修正我们的法律以适应科技变革。所以我们需要现在开始讨论人工智能和法律。

本书的其他章节讨论公法（被公共讨论和制定的法律：立法、规章等）和私法（在私人和公司之间的法律，如合同、侵权法等）应当改变以适当规制人工智能，借此开启上述交流。尽管你只有将 Siri 的程序使用到极致才会面临上面讨论的挑战，但其他的程序、机器人和这里讨论的产品并不需要这样的操作。它们将会通过存在于市场或者政府使用时会面临的那些挑战。在很多案件中，法律将不得不把人工智能作为法律“人”看待，赋予其一定权利和责任以改善真实人的生命。

在继续探讨之前，思考下面的问题是有帮助的：现在是否有正确答案以及我们对于这些技术又有哪些看法：

如果两辆自动驾驶汽车发生事故，汽车并没有导致严重后果而是以最可能的方式避免损害，事故中受伤的人还能从汽车所有人或者其保险公司那里获得赔付吗/p>

人工智能外科医生会造成不当医疗后果吗/p>

什么水平的弱人工智能应当被政府代理人规制iri 吗动驾驶汽车呢作和作曲软件呢谍无人机呢/p>

正如很多城市和城镇规章所制定的，机器人能够取得成人娱乐的资格吗/p>

如果你将孩子交由人工智能保姆照顾，你需要为出现问题的所有事情负责吗姆的制造商呢/p>

控制警察使用监控无人机，宪法上界限在哪里/p>

排除战争或者侵略行为而其他国家可以在美国使用人工智能无人机吗/p>

如果程序员能写出每周创作出像《哈利 · 波特》那种畅销书的软件，那她能够拥有“作者”挣到的数亿美元吗/p>

如果我们知道这么多的人工智能产品到来，是否存在帮助我们减少失业的公共政策/p>

下面的章节将回应这些问题和更多的问题。

注释：

[1] C-3PO是科幻电影《星球大战》中的一个智能机器人。——译注

[2] 安东尼·丹尼尔斯，英国著名演员，在《星球大战》中饰演机器人C-3PO。——译注

[3] Roger Clarke, Asimov’s Laws of Robotics: Implications for Technology Part 1, IEEE Computer(December 1993): 53—61; Clarke, Asimov’s Laws of Robotics: Implications for Information Technology Part 2, IEEE Computer(1994), 57—66.

[4] John Chipman Gray, The Nature and Sources of the Law(New York: Columbia University Press, 1909), 27.

[5] 本节部分内容改编自作者的文章：Siri Is My Client: A First Look at Artificial Intelligence and Legal Issues, New Hampshire Bar Journal 52:4(Winter 2012): 6—10.

[6] Apple Siri FAQ, Apple, http://www.apple.com/iphone/features/siri-faq.html.

[7] 尽管有展现高级弱人工智能的全球定位系统的设备，评论好坏参半。通过全部措施，Siri的语音互动似乎比任何全球定位系统设备更加优越。在这上面，Siri的普及潜能与具有更多限制功能的全球定位系统相区别。

[8] 基于本书的目的，短信、即时信息、电子邮件等不被认为是人的自然环境。

[9] Steve Hehn, Speak Up! Advertisers Want You to Talk with New Apps, NPR, April 15, 2013, http://www.npr.org/blogs/alltechconsidered/2013/04/15177345718/speak-up-advertisers-want-you-to-talk-with-new-apps.

[10] Farhad Manjoo, Siri Is a Gimmick and a Tease, Slate, November 15, 2012, http://www.slate.com/articles/technology/technology/2012/11/siri_vs_google_the _search_company_s_voice_recognition_program_gets_closer.html.

[11] Johm Markoff, A Software Secretary That Takes Charge, New York Times, December 13, 2008, http://www.nytimes.com/2008/12/14/business/14stream.htmlr=1.

[12] Timothy Hay, Apple Moves Deeper into Voice-Activated Search with Siri Buy, Wall Street Journal Blog, April 28, 2010, ttp://blogs.wsj.com/venturecapital/2010/04/28/apple-moves-deeper-into-voice-activated-search-with-siri-buy/.

[13] Siri Launches Virtual Personal Assistant for iPhone 3GS, SRI International, press release. February 8, 2010, http://www.sri.com/news/releases/020510.html.

[14] Hay, Apple Moves Deeper into Voice-activated Search with Siri Buy.

[15] Jill Duffy, What Is SiriPC, October 17, 2011, http:// www.pcmag.com/article2/0, 2817, 2394787, 00.asp.

[16] Andrew Nusca, Say Command: How Speech Recognition Will Change the World, Smart Planet, November 2, 2011, http://www.smartpplanet.com/blog/smart-takes/say-command-how-speech-recognition-will-change-ghe-world/19895ag=content; siu-container.

[17] Duffy, What Is Siri/p>

[18] Bridgeport Music, Inc. v.Dimension Films, 410 F.3d 792, 798—799(6 Cir. 2005).

[19] Campbell v.Acuff-Rose Music, 510 U.S.569(1994)，判定两位现场船员乐队(2 Live Crew)使用奥比森的《美丽女人》构成合理使用。

[20] Newton v.Diamond, 349 F.3d 591(9th Cir. 2003)，判定野兽男孩不为在其音轨《通过麦克风》(Pass the Mic)中采样了詹姆斯 · 牛顿的《唱诗班》(Choir)而负责。

[21] Bridgeprot Music, 410 F.3d at 798—799(判定NWA从克林顿的《远你而去》(Get Off Your Ass and Jam)中采样了一个吉他和弦侵犯了那首歌的著作权。

[22] Bridgeport Music, 410 F.3d at 795.

[23] 尽管《美国法典》第106条第17款区分了音乐创作著作权的权利人拥有的权利和录音著作权的权利人拥有的权利，这一区分与本书不相关。

[24] 美国法典第201(a)条第17款，参见http://www.gpo.gov(accessed April 29, 2013).

[25] Community for Creative Non-Violence v.Reid, 490 U.S.730, 737(1989).

[26] See Melville B.Nimmer and David Nimmer, Nimmer on Copyright, vol.1(Newark, NJ: Matthew Bender, 2010), ss 5. 01[A].

[27] Racter, The Pooliceman’s Beard Is Half Constructed(New York: Warner Software/Warner Books, 1984).

[28] Scott French and Hal, Just This Once(New York: Random House Value Publishing, 1993).

[29] 该项目指的是艾米利 · 豪威尔，由加州大学圣克鲁斯分校一位名叫戴维 · 科普的音乐教授写就。科普和艾米利在本节稍后有大量讨论。

[30] 克利福德是马萨诸塞大学法学院的教授。尼莫在他的基础上就人工智能创造的知识财产进行过深入讨论。

[31] Ralph D.Clifford, Intellectual Property in the Era of the Creative Computer Program: Will the True Creator Please Stand UpTulane Law Review 71(June 1997): 1675—1703.

[32] Clifford, 1686—1694.

[33] Clifford, 1694—1695.

[34] Feist Publications, Inc. v.Rural Telephone Service, Co., 499 US 340, 345(1991).

[35] Clifford, 1694, 删除了注释。

[36] Clifford, 1695. 克利福德否认了的人工智能本身能够享有著作权的观点，至少在现行法下是如此。注意到在联邦版权法下作品的“作者”拥有版权，他分析了其在此处及在《美国法典》中其他部分的使用。他得出结论认为“术语‘作者’在版权法中的使用暗示着国会指的是人类作者……《美国法典》中术语‘作者’的使用致使结论是国会试图使该术语指人类。”Clifford, 1682, 1684.

[37] Clifford, 1695.

[38] Jacqui Cheng, Virtual Composer Makes Beautiful Music—and Stirs Controversy, ars technica, September 29, 2009, http://arstechnica.com/science/news/2009/09/virtual-composer-makes-beautiful-musicand-stirs-controversy.ars.

[39] Ibid.

[40] Ibid.

[41] Farhad Manjoo, Will Robots Steal Your JobSlate, September 27, 2011, http://www.slate.com/articles/technology/robot_invasion/2011/09/will_robots_steal_your_job_4.single.html.

[42] 如果那看起来是太短的一段时间，考虑这个：《福布斯》杂志在《哈利 · 波特》首次出现在图书架上七年后评估J.K.罗琳的纯身价接近十亿欧元。

[43] Chris Brooke, I Was Only Following Satnav Orders’Is No Defence: Driver Who Ended Up Teetering on Cliff Edge Convicted of Careless Driving, Daily Mail, December 31, 2012, http://www.dailymail.co.uk/news/article-2080456/Judge-blames-drevers-reliance-sat-nav-jails-killing-motorcyclist.html.

[44] Sat Nav Confusion Blamed for Penzance Crash, Falmouth Packet. Jul 3, 2012, http:www.falmouthpacket.co.uk/News/9793476.sat_nav_confusion_blamed_for_Penzance_crash/.

[45] Driver “Had Too Much Faith in Satnav” in Run Up to Death of Biler in Appalling Weather, Says Judge, Daily Mail, December 31, 2012, http://www.dailymail.co.uk/news/article-2080456/Judge-blames-drivers-reliance-sat-nav-jails-killing-motorcyclist.html.

[46] Eric Sinrod, Is GPS Liability NextCNET, January 16, 2008, http://news.cnet.com/Is-GPS-liability-next/2010-1033_3-6226346.htmlag=ne.fd.mnbc.

[47] Martin J.Saulen, The Machine Knows! What Legal Implications Arise for GPS Device Manufacturers When Drivers Following their GPS Devices Instructions Cause an AccidentNew England Law review 44:1(Fall 2009): 189.

[48] Tom Vanderbilt, Let the Robot Drive, Wired, January 12, 2012, http://www.wired.com/magazine/2012/01/ff_autonomouscars/all/1.

[49] Vanderbilt, Let the Robot Drive.

第二章 如何起诉机器人：人工智能与法律责任（上）

第二章 如何起诉机器人：人工智能与法律责任（下）

第三章 统一人工智能法典和人工智能管理规定

第四章 机器看护人：当由机器人照料孩子（或者成人）

第五章 机器人在我的后院

第六章 人工智能与第四修正案

第七章 即将到来的联合国人工智能公约

第八章 一台机器人拥有什么

第九章 人工智能对我们有利吗

索 引

译后记

阅读全文: http://gitbook.cn/gitchat/geekbook/5ba1e2b04f0c661a6f731680

相关资源：凯歌软件安装管理器1.0-其它文档类资源-CSDN文库

来源：蔚1