未来局科幻办
18-04-23 22:42 微博认证:微博科学科普账号

#世界读书日# 推荐一下大名鼎鼎的“机器人三定律”的来源——阿西莫夫《机器人短篇合集》。一名科幻作家设定的定律,如今甚至可以成为机器人的设计准则。

18年4月,英国上议院人工智能特别委员会发布了一份报告,探讨了AI发展前景,以及可能带来的影响、风险与伦理问题。第九章的“AI准则”主要包括五个方面:
 
1、AI应为人类共同利益服务;
2、AI应遵循可理解性和公平性原则;
3、AI不应用于削弱个人、家庭或社区的数据权利或隐私;
4、所有公民都应有权利接受相关教育,以便能在精神、情感和经济上适应AI发展;
5、AI绝不应被赋予任何伤害、毁灭或欺骗人类的自主能力。
 
是不是有点熟悉?来看看机器人三定律:
第零定律:机器人必须保护人类的整体利益不受伤害。
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律。
第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。
第三定律:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。
(1985年,在《机器人与帝国》里,阿西莫夫将三定律扩张为四大法则)