导论

一、时代背景与研究意义

目前，学术界关于人工智能与机器人的研究如日中天，兴盛异常。各地纷纷成立关于人工智能的研究机构，许多企业竞相加大对人工智能的投入力度，各国政府相继发布相关战略规划，唯恐在这场科技竞争中处于下风。同时，随着计算机、人工智能与机器人学等科学技术的快速发展，机器人与其他各种人工智能产品越来越多地进入公众的视野当中。机器人不仅在工业、农业、军事、医疗等领域得到广泛应用，而且在家庭服务、社会娱乐等领域也得到了人们越来越多的关注。

从世界的角度看，美国、日本、欧盟等竞相加大对机器人产业的投资力度，强调多方合作，共同推进机器人技术与产业快速发展。比如，美国专门制订了国家机器人发展计划（National Robotics Initiative），目的就是为了促进美国机器人研究与应用，国家科学基金会、国家航空航天局、国家卫生研究院以及农业部等联邦政府部门共同资助机器人发展计划。2004年，欧洲机器人研究网络（European Robotics Research Network）出台了欧洲机器人研究路线图，描述了欧洲机器人技术发展的重点领域，并强调要在机器人技术的市场竞争中取得领导地位。众所周知，日本、韩国也大力发展机器人技术与产业，日本还经常被誉为是“机器人大国”。

我国政府同样高度重视机器人技术的研发。2012年4月，科技部专门制订了《智能制造科技发展“十二五”专项规划》和《服务机器人科技发展“十二五”专项规划》，提出“十二五”期间将重点培育发展工业和服务机器人新兴产业。2014年6月9日，习近平总书记在两院院士大会上的讲话中指出，“机器人革命”有望成为“第三次工业革命”的一个切入点和重要增长点，将影响全球制造业格局，而且我国将成为全球最大的机器人市场。2015年11月，世界机器人大会在北京召开，习近平总书记致信祝贺，李克强总理做出批示，充分显示了国家领导人对机器人技术与产业的高度重视。

我国政府在2017年7月发布的《新一代人工智能发展规划》中提出，到2020年，我国人工智能总体技术和应用与世界先进水平同步，人工智能核心产业规模超过1500亿元，带动相关产业规模超过1万亿元；到2030年，人工智能理论、技术与应用总体达到世界先进水平，人工智能核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。

在世界各国普遍重视机器人产业的历史背景下，考虑到机器人技术可能产生的深远社会影响，将21世纪称为“机器人（人工智能）世纪”可能并非夸大其辞。但是，在机器人越来越聪明、使用越来越广泛的时代背景下，人们难免会对机器人可能导致的负面效应感到忧虑。诺贝尔和平奖获得者、核物理学家罗特布拉特（Joseph Rotblat）指出，会思考的计算机、机器人拥有人工智能，使它们可以复制自身，而不加控制的自我复制是这些新技术具有的危险之一。

与机器人技术一样，飞速发展的现代科学技术在带给我们种种益处与便利的同时，也引发了形形色色的伦理问题。于是，生命伦理、网络伦理、核伦理、信息伦理等种种科技伦理如雨后春笋般涌现。相对而言，机器人伦理出现较晚。2004年1月，第一届机器人伦理学国际研讨会在意大利圣雷莫召开，正式提出了“机器人伦理学”（roboethics）这个术语。机器人伦理学研究涉及许多领域，包括机器人学、计算机科学、人工智能、哲学、伦理学、神学、生物学、生理学、认知科学、神经学、法学、社会学、心理学以及工业设计等。2005年，“欧洲机器人研究网络”专门资助研究人员进行机器人伦理学研究，希望能够为机器人伦理研究设计出路线图。此后，机器人伦理研究很快得到越来越多的学者的关注。

虽然有学者认为当前的人工智能热不可能持续很长时间，不过人们普遍认为，人工智能将会对人类社会产生深远影响。那么，人工智能究竟应该向何处去？在人类社会深度科技化的历史背景中，想要阻止人工智能的快速发展几乎是不可能的，更为现实的做法是为人工智能的发展进行伦理规制，由此彰显了机器人与人工智能伦理研究的重要性。

我们可以从学术价值与实践意义两个角度来看人工智能伦理研究的重要意义。从学术价值的角度看，人工智能伦理开拓了科技伦理研究的新领域，并且对我们加深与变革——包括人、生命、智能与机器等基本哲学概念——的理解与认识具有重要意义。从实践意义的角度看，对于社会大众来说，人工智能伦理研究有助于建构起人类与智能产品互动的道德观念与道德规范，实现人与智能产品的和谐相处。对人工智能技术的研发人员来说，人工智能伦理设计原则与方法的研究成果，可以为其提供技术研发的伦理依据与理论支撑；而且，人工智能伦理研究也有助于加强科技人员的道德责任感，培养科技人员的道德想象力与实践能力。对科技管理人员来说，人工智能伦理研究成果可以为相关产业政策的制定提供理论参考。

二、研究现状

首先对“机器人”“人工智能”这两个概念做出简单的界定。一般认为，“机器人”（robot）这个词最初出现在捷克作家恰佩克（Karel Capek）于1921年写的剧本《罗素姆的全能机械人》中，源于捷克（或斯洛伐克）单词“robota”，其意义为“努力工作”或“奴役”。现在机器人一般指在很大程度上拥有人类特征的机械。现在广泛使用的关于机器人的术语有安卓机器人、拟人化机器人、自动机器人、半机械人、人类辅助设备、人形机器人、仿人机器人，等等。本书中采取一种比较宽泛的机器人界定，主要指拥有一定智能，并且拥有人类（或动物）外观甚至外在表情的机器。

与机器人类似，人们对人工智能的定义也变化不定，没有形成共识。李开复、王咏刚认为，人们对人工智能有五种定义，定义一：人工智能就是让人觉得不可思议的计算机程序；定义二：人工智能就是与人类思考方式相似的计算机程序；定义三：人工智能就是与人类行为相似的计算机程序；定义四：人工智能就是会学习的计算机程序；定义五：人工智能就是根据对环境的感知，做出合理的行动，并获得最大收益的计算机程序。博登（Margaret Boden）认为，人工智能就是让计算机完成人类心智（mind）能做的各种事情。通常还有强、弱人工智能以及超级人工智能的区分。弱人工智能一般指可以模拟或实现人类智能部分功能的人工智能，强人工智能则指可以实现人类智能所具有的大多数甚至全部功能的人工智能，超级智能则是可以完全超越人类智能的人工智能。本书中提及的人工智能概念一般来说包含了强、弱人工智能两个层面，一般不涉及超级人工智能方面。

一般认为，机器人是人工智能研究的一个分支学科，许多讨论人工智能的著作与论文中都有涉及机器人的内容。这两个概念当然是有区别的，但从科技伦理研究的角度看，实际上机器人伦理与人工智能伦理并无实质性区别，基本的观点、理论与方法几乎是通用的。所以，本书并不严格区别这两个概念，为行文或讨论内容的方便，有时单独使用，有时并列使用。

关于机器人与人工智能伦理的思考很早就开始了，但真正引起学术界和公众的广泛关注是最近十余年的事。2005年，欧洲机器人研究网络资助成立了机器人伦理学研究室（Euron Roboethics Atelier），该研究室于2006年7月出台了第一个机器人伦理路线图。路线图对机器人研发中涉及的伦理问题进行了系统的评估，以促进跨学科的深入研究。不过，这种路线图不是学术研究，其目的不是为科技研究提供伦理指南，不是简单罗列问题与答案，也不是原则性的宣言，而是根据机器人领域发展现状及其可能的发展情况，为机器人的设计者、制造商以及使用者提供某些伦理分析与建议。受此激励，日本、韩国等国家也纷纷着手制定关于机器人设计、使用的法律法规与指导路线。

目前，在西方学者出版的关于机器人与人工智能伦理研究的著作中，比较有代表性的主要有以下几部：美国耶鲁大学伦理学家瓦拉赫（Wendell Wallach）等的《道德机器》从理论上讨论了具有伦理判断能力的机器人的必要性、可能性以及实现方法；美国佐治亚理工学院的机器人专家阿金（Ronald Arkin）的《控制自主机器人的致命行为》考察了军用机器人引发的伦理问题及可能的解决途径。美国哈特福特大学计算机专家安德森（Michael Anderson）等人主编的论文集《机器伦理》收集了31篇论文，从机器伦理的性质、重要性、问题域、实现路径以及前景等五个方面进行了论述；美国加州州立理工大学的林（Patrick Lin）等人主编的论文集《机器人伦理》收集了22篇论文，讨论了机器人的社会影响及其引发的部分伦理问题。另外，许多英文期刊如《IEEE智能系统》（IEEE Intelligent Systems）、《信息技术与伦理》（Ethics and Information Technology）、《人工智能与社会》（AI ＆ Society）等也不定期地刊载有关的论文，或者出版专刊。比如，英文期刊《信息技术与伦理》在2010年、2012年、2013年、2016年、2017年和2018年开辟专刊讨论机器人与人工智能伦理问题，西方学术界对相关研究之关注可见一斑。

我国学者主要从2013年开始发表机器人与人工智能伦理的研究成果。中国知网上能够找到的较早的学位论文是武汉理工大学李俊平的硕士论文《人工智能技术的伦理问题及其对策研究》，较早的博士论文则是南开大学王东浩的《机器人伦理问题研究》，不过以硕士论文为主，博士论文比较少见。较早发表的机器人伦理研究论文的是王绍源、赵君的《“物伦理学”视阈下机器人的伦理设计》，以及任晓明、王东浩的《机器人的当代发展及其伦理问题初探》等文章。自2016年以来，国内人工智能与机器人伦理研究呈井喷式增长，发表了大量研究论文，此处就不一一提及了。比如，在中国知网上能够查到的2018年发表的题名中含有“人工智能、伦理”或“机器人、伦理”的论文就多达七十余篇。另外，李伦主编的“互联网、大数据与人工智能伦理丛书”是我国第一套关于互联网、大数据与人工智能伦理问题的综合性学术丛书，陆续推出《人工智能与大数据伦理》《数据伦理与算法伦理》《人工智能道德决策》《开源运动与共享伦理》《给人工智能一颗良芯》《大数据环境下信息价值开发的伦理规范》等论文集和专著。

三、学科定位与学科特点

1.学科定位

很多学者将科技伦理研究定位于“应用伦理学”。比如，德国波恩大学哲学系教授豪纳费尔德（Ludger Honnefelder）认为，生命伦理学属于应用伦理学的范畴；我国学者甘绍平把科技伦理划归为应用伦理学的分支学科，等等。对于机器人伦理学，《欧洲机器人伦理路线图》起草者维如格（Gianmarco Veruggio）等学者也将其归为应用伦理学的范畴，并称其为一种新的应用伦理学。人工智能的研发与使用涉及面较广，所以人工智能伦理研究必然需要吸取并应用多种伦理学流派的思想。从这个角度来看，把人工智能伦理学归为“应用伦理学”是合情合理的。但是，把人工智能伦理学简单地归为应用伦理学可能在一定程度上会掩盖它的学科特点。与一般意义上的应用伦理学相比，人工智能伦理研究显示出更强的交叉学科特点。

笔者对2012年美国麻省理工学院出版的论文集《机器人伦理》一书的作者进行了一个简单的统计。结果显示，在该著作的22篇论文中，作者有27人，其中来自计算机、人工智能、机器人学等自然科学研究领域的有9人，占三分之一，来自哲学等人文社科领域的有18人，占三分之二。另外，剑桥大学出版社2011年出版的《机器伦理》的两位主编，一位是哈特福特大学计算机教授迈克尔·安德森，另一位是康涅狄格大学的哲学荣休教授苏珊·安德森（Susan Anderson）。来自计算机科学与哲学两个领域的学者共同担任主编，而且该论文集中亦有不少自然科学家的论文，充分体现出人工智能伦理研究的交叉学科特点。又如，在欧洲机器人伦理路线图的起草过程中，有五十多位科学家与人文学者共同参与其中。

其实，无论何种伦理学理论流派，从来都是与人类道德实践密切相关的。把经济伦理学、科技伦理学、医学伦理学等统称为“应用伦理学”并不完全妥当，而按照研究对象来区分学科分类可能更为合理。事实上，由于人工智能伦理研究对象的特殊性，采用现有的伦理理论已经无法解决人工智能引发的伦理问题。也就是说，把归属于应用伦理学的各种科技伦理冠名为“部门伦理学”应该更为准确、合理。同时，如果把计算机伦理、信息伦理、机器人伦理等划归为不同学科的部门伦理学，各自的学科特色更为鲜明，学科定位也更为准确。当然，像计算机伦理、人工智能伦理等部门伦理学同时也是科技伦理，更准确地说是不同科技领域的伦理。这种定位模式的一个直接益处在于，突出强调了科技工作者的伦理责任，表明伦理考量不仅仅是科技人员的兴趣爱好，也是他们的工作内容，而“应用伦理学”的定位似乎更多地把人工智能伦理的研究责任推到了哲学工作者身上。事实上，人工智能伦理问题的最终解决必须通过科技手段，否则再多的理论研究都是“纸上谈兵”。

2.学科特点

第一，研究对象的特殊性。跟已有的科技伦理研究对象相比，机器人具有非常明显的特殊性，至少表现在类人性和智能性两个方面。从外观上看，人形机器人跟人类几乎一模一样。在未来的智能社会中，机器人可以陪人类聊天，为人类做家务，从事教学与各种社会服务工作。如何与跟人类高度相似的非人类相处，是机器人伦理研究必须要回答的问题。另外，随着人工智能技术的快速发展，机器人的智能程度在不断提高，甚至在某些方面超过人类。2016年3月9日至15日，谷歌人工智能“阿尔法围棋”（AlphaGo）与韩国职业围棋高手李世石展开了一场“人机大战”，最终李世石以1:4落败。这场比赛引起了人们的普遍关注，也再次引发了人们对人工智能技术的讨论与思考。人类如何与机器人这种智能人造物相处，对于科技伦理研究来说是一个全新的话题。

第二，研究主体的特殊性。在计算机伦理、生物伦理等科技伦理的研究中，确实有不少科学家自觉参与其中，与人文学者共同分析解决科技伦理问题。虽然这些领域的科学家研究科技伦理问题是建立在他们对科学研究的理解之上，但是，他们对伦理问题本身的关注并不涉及具体的科技知识，也可以说主要涉及的是“人类应该如何做”的问题。对这些伦理问题的研究，人文学者也可以胜任。但是，对于人工智能伦理研究来说，不仅涉及“人类应该如何做”的问题，还涉及“人工智能应该如何做”的问题，这方面仅仅依靠人文学者就远远不够了。也就是说，要让伦理理论在智能产品身上实现，必须借助于科学家的科技知识。比如，前面提到的《控制自主机器人的致命行为》的作者就是佐治亚理工学院的机器人专家。可见，人工智能伦理研究要求从事相关领域研究的科学家从“理性的科学家”到“理性的和伦理的科学家”的角色转变。

第三，研究内容的特殊性。从研究内容来看，人工智能伦理固然包括科技人员的职业道德等内容，但更重要的是要考察人工智能应用已经或者可能产生的亟待解决的社会伦理问题。理论性的研究固然重要，但人工智能伦理研究必须要解决具体的现实问题。已有的大多数科技伦理研究成果主要是从相应科学技术的社会影响、科学家的职业规范与社会责任、使用者应遵守的道德规范等角度进行，一般不涉及具体的技术内容本身。人工智能伦理研究当然包括了一般意义上的科技伦理的研究内容，更为重要的是，由于需要在智能产品上具体体现相应的伦理学思想，所以人工智能伦理必须融入具体的技术之中。也就是说，必须根据相应的伦理学思想与理论对人工智能进行伦理设计，由此体现出真正意义上的理论与实践相结合。因此，在社会调研、程序调试与产品试验等过程中，需要哲学家与科学家反复磋商与对话，共同努力解决可能出现的种种问题，仅仅是哲学家或科学家单方面显然难以胜任相应的工作。这一点可能是人工智能伦理研究中最为困难，也是最为重要的部分。

总的来说，目前机器人学与人工智能等领域的科学家对人工智能伦理问题的重视程度还远远不够。希望人工智能伦理学的“部门伦理学”的学科定位以及学科特点，能够引起科学家对伦理问题的关注。对科学家来说，在科研选题、技术研发与产品市场化等多个层面中需要主动加入道德考量，从而使科研活动具有更大的合理性。在人工智能伦理研究中，“伦理能不能管科学”应该不再是一个问题，因为科技与道德两者必须融合在一起。

四、本书主要内容

曼纳（Walter Maner）在为计算机伦理学的正当性进行论证时指出，计算机的应用如此急剧地改变了某些伦理问题，以至这些问题本身值得研究（弱观点）；或者计算机对人类行为的影响引发了全新的伦理问题，这些问题是计算机领域独有的问题，在其他领域没有出现过（强观点）。在人工智能伦理的研究内容中，无论是从“弱观点”，还是从“强观点”的角度来看，人工智能伦理研究都具有充分的理由。从部门伦理学的立场看，只要人工智能伦理学对属于自己领域的特殊伦理问题给予了回答，就算是完成了自己的主要任务。参考目前的研究成果与趋势，本书主要研究以下三大部分内容。

第一大部分是关于人工智能伦理的普遍性问题研究。具体表现在前三章的内容，第一章主要讨论机器人权利问题，初步回答了机器人权利研究的必要性，机器人为何可以拥有权利、可以拥有哪些权利等问题。第二章探讨了机器人道德能力的建构问题，主张从机器人外观、社会智能、人工情感等方面建构机器人的道德能力。第三章讨论了人工智能安全问题，强调了研究人工智能安全问题的紧迫性，初步讨论了从内部、外部进路解决人工智能安全问题的措施。

第二大部分是关于具体领域机器人引发的伦理问题研究。由于机器人的应用领域非常广泛，不同领域的机器人引发的伦理问题差别较大，需要分门别类进行考察。第四章考察了军用机器人引发的伦理困境，强调了控制军用机器人自主程度的重要性。第五章研究了情侣机器人对婚姻与性伦理的挑战，认为情侣机器人会引发与传统的婚姻伦理、性伦理相冲突的一系列问题，初步提出了一些解决策略。第六章主要为助老机器人进行伦理辩护，认为助老机器人的确可以带来较多的益处，同时提出了从多个角度入手对助老机器人进行治理的途径，使其更好地为人类服务。

第三大部分主要研究人工智能伦理问题的可能解决路径。第七章讨论了机器人伦理中的道德责任问题，认为机器人无法独立承担道德责任，并且探讨了机器人的设计者、生产商、使用者等各自应该承担的道德责任内容，其中重点强调了科研人员的前瞻性道德责任。第八章总结了机器人伦理设计的理论与实践进路，认为我们应该通过伦理设计的方式使机器人拥有一定的道德判断与行为能力。第九章在澄清自反性伦理治理概念的基础上，分析了四种代表性治理理论的自反性，指出了实现人工智能伦理治理需要解决的几个关键性问题。第十章讨论了建构友好人工智能的问题，认为我们可以从政府管理层面、关系层面、技术层面以及公众层面等多方面着手构建友好型人工智能，并强调建构友好人工智能应该成为全社会的非常明确的努力目标。

鉴于国内外学术界目前发表了大量相关论文，受时间与能力所限，本书不可能对所有人工智能伦理论题全部涉及，只能选择部分话题进行讨论。即使如此，本书涉及的所有话题，都有很大的进一步深入研究的空间，这也是本书取名为“引论”之缘由。由于相关文献数量较大，新的文献还在源源不断发表，本书中肯定会有不少不当与缺漏之处，恳请各位专家、读者批评指正。另外，为保证各章内容的相对完整性，不同章节中的内容有少量交叉现象，请读者谅解。