机器人伦理学

机器人伦理学（英語：Robot ethics）是有关机器人的伦理学。它是以人类为责任主体，研究如何开发和应用机器人的伦理学。^[1]属于应用伦理学和机器人学的交叉领域。^[2]

发展

机器人伦理学的起源可以追溯至艾萨克·阿西莫夫提出的“机器人三定律”，其表述以机器人作为责任主体^[3]。2000年代以后，各领域研究人员开始以人类作为责任主体，探讨机器人伦理学。术语“机器人伦理学”（英語：Roboethics）于2002年左右被提出。^[4]

2004年，在日本福冈市举行世界机器人会议（International Robot Fair）上发表了《世界机器人宣言》，期望下一代机器人成为人类的伙伴，并为人类的身心健康和构筑安全社会做出新贡献。^[5][6]2005年IEEE机器人和自动控制协会（英语：IEEE Robotics and Automation Society）成立了机器人伦理技术委员会。^[7]

2016年，英国标准协会（BSI）发布了《机器人和机器系统的伦理设计和应用指南》，指南开篇声明：不应设计用于伤害甚至杀死人类的机器人；人，而非机器人，为责任主体。^[8]2016年起，IEEE开始推出《人工智能设计的伦理准则》（Ethically Aligned Design），鼓励技术人员在设计开发人工智能和自动化系统时优先考虑道德因素。^[9][10]2017年，欧洲议会呼吁制定“机器人法”，其中要求为机器人的研发和应用制定道德框架，并为机器人的所作所为确定责任主体。^[11]

案例

杀手机器人

軍用機器人中的致命性自主武器（亦称“杀手机器人”）存在着伦理问题。^[12]此类武器会在没有人类干预的情况下选中并攻击目标，人类无法控制和判断其武器使用和武力伤害。^[13]

红十字国际委员会提出要在三个主要方面限制此类武器^[13]：

• 对不可预测的自主武器系统应予以明令禁止
• 应禁止使用自主武器系统攻击人类
• 对于未被禁止的自主武器系统，其设计和使用应受到规制

2014年起，《特定常规武器公约》开始就限制致命性自主武器展开讨论。^[14]2021年，关于限制致命性自主武器的提议在联合国遭包括美国、俄罗斯、英国、印度在内的多国反对，未能达成共识。^[15][16]

服务机器人

有的服务机器人被做成宠物型或者類人型并用于社交领域，例如用于自闭症治疗或者老年人陪护。对于这类型的机器人是否为道德主体（英语：Moral agency），目前没有明确的答案。^[3]

机器人公民身份

2017年，沙特阿拉伯授予“女性”机器人索菲亚公民身份，引发了机器人伦理学的相关争议。有网友指出，机器人索菲亚因没有监护人，某种意义上甚至比沙特女性享有更多的权利。^[17]李开复评论称其“丝毫没有人性，人的理解、爱心、创造力”^[18]，杨立昆斥该机器人为“扯淡”和营销产物^[19]。

自动驾驶汽车

2018年在美国亚利桑那州坦佩市，优步无人驾驶汽车撞死了行人伊莱恩·赫兹伯格（英语：Death of Elaine Herzberg），成为首宗自动驾驶车辆撞死行人事件。事后引发了关于自动驾驶伦理、道德和法律的讨论：事故负责人应为测试部门、自动驾驶系统设计部门、还是传感器供应商^[20]？当面对无法规避的碰撞而要选择伤害对象时，自动驾驶系统会陷入更严峻的伦理困境，例如汽车应该优先保护乘员的生命还是行人的生命；选择优先撞击带头戴的摩托车手还是不戴头盔的；是否选择保护更多的性命等等^[21]。

参见

• 机器人三定律
• 我，机器人
• 人工智能法案
• 人工智能憲法

参考

1. 闫坤如. 机器人伦理学:机器的伦理学还是人的伦理学?. 东北大学学报. [2023-03-07]. （原始内容于2023-03-07）. 
2. Robot Ethics. IEEE Robotics and Automation Society. [2023-03-07]. （原始内容于2023-03-07）. 
3. The Ethical Landscape of Robotics. IEEE Robotics & Automation Magazine. 2011. doi:10.1109/MRA.2011.940275. 
4. The EURON Roboethics Roadmap. IEEE-RAS international conference on humanoid robots. 2006. doi:10.1109/ICHR.2006.321337. 
5. 世界首届机器人会议通过《世界机器人宣言》. 新浪网. 新华网. 2004-02-26 [2023-03-07]. （原始内容于2023-03-07）. 
6. World Robot Declaration. kyodonews. [2023-03-07]. （原始内容于2023-03-07）. 
7. IEEE-RAS Technical Committee (TC) on Roboethics. [2023-03-07]. （原始内容于2023-03-07）. 
8. Do no harm, don't discriminate: official guidance issued on robot ethics. 衛報. 2016-09-18 [2023-03-07]. （原始内容于2023-04-11）. 
9. IEEE Ethically Aligned Design Document Elevates the Importance of Ethics in the Development of Artificial Intelligence (AI) and Autonomous Systems (AS). businesswire. IEEE. 2016-12-13 [2023-03-07]. （原始内容于2023-03-07）. 
10. 第2版《人工智能设计的伦理准则》白皮书推出. 科学网. 2017-12-22 [2023-03-07]. （原始内容于2023-03-07）. 
11. European parliament calls for robot law, rejects robot tax. 路透社. 2017-02-16 [2023-03-07]. （原始内容于2023-03-15）. 
12. 联合国与致命自主武器系统. 联合国教科文组织. 2022-04-21. 
13. 红十字国际委员会关于自主武器系统的立场. 红十字国际委员会. 2021-05-12 [2023-03-07]. （原始内容于2023-03-07）. 
14. Background on LAWS in the CCW. 联合国. [2023-03-07]. （原始内容于2023-04-05）. 
15. UN talks fail to open negotiations on ‘killer robots’. 半岛电视台. 2021-12-18 [2023-03-07]. （原始内容于2023-03-07）. 
16. UN talks to ban ‘slaughterbots’ collapsed — here’s why that matters. CNBC. 2021-12-22 [2023-03-07]. （原始内容于2023-03-25）. 
17. Saudi Arabia grants robot citizenship. DW. 2017-10-28 [2023-03-07]. （原始内容于2023-03-07）. 
18. 沙特授予机器人公民身份，是对人类最大的羞辱和误导. 搜狐. 创新工场. 2017-10-29 [2023-03-07]. （原始内容于2023-03-07）. 
19. 杨立昆怒怼机器人索菲娅：AI硬加人类意识是揠苗助长. 中新网. 北京青年报. 2018-01-08 [2023-03-07]. （原始内容于2023-03-07）. 
20. 规范人工智能：伦理问题在自动驾驶领域最为突出. 新浪网. 科技日报. 2021-09-30 [2023-03-07]. （原始内容于2023-03-07）. 
21. Tomas Hauer. Importance and limitations of AI ethics in contemporary society. Nature. [2023-03-07]. （原始内容于2023-03-07）. 

参考书目

• Patrick Lin; Keith Abney; George A. Bekey. Robot ethics : the ethical and social implications of robotics. Cambridge, Mass.: MIT Press. 2014. ISBN 026252600X. 
• 帕特里克·林; 凯斯·阿布尼; 乔治·A.贝基. 机器人伦理学. 人民邮电出版社. 2021. ISBN 9787115561749. （中译本）

外部链接

• Conference list on the "Roboethics" Website （页面存档备份，存于互联网档案馆） (up to 2009)
• IEEE Technical Committee on Roboethics （页面存档备份，存于互联网档案馆）
• The International Institute of Humanitarian Law （页面存档备份，存于互联网档案馆）