网易首页 > 数码频道 > 正文

英国正式颁布机器人道德标准:不许伤害、欺骗和令人成瘾

0
分享至
摘要:艾萨克·阿西莫夫(Isaac Asimov)曾在他的科幻小说里描述了规范机器人行为的三定律,包括:不能伤害人类、服从人类命令和保护自己。现在,英国标准协会正式发布了一套机器人伦理指南,比阿西莫夫三定律更加复杂和成熟。我们的社会已经到了要给机器人制定行为规范的时候了,这不禁让人产生一种科幻与现实交织的奇妙感觉。

S.H_Horikawa_ _Star_Strider_Robot_(               )_ _Front.jpg

资料图

英国标准协会(British Standards Institute,简称 BSI),是有着 100 多年历史的英国国家标准机构,在世界范围内具有很高的权威性。这个伦理指南的全称是《机器人和机器系统的伦理设计和应用指南》(以下简称《指南》),主要针对的人群就是机器人设计研究者和制造商,指导他们如何对一个机器人做出道德风险评估。最终的目的,是保证人类生产出来的智能机器人,能够融入人类社会现有的道德规范里。

这个标准的文件代号为 BS8611,发布于 9 月 15 日英国牛津郡的 “社会机器人和 AI ”(Social Robotics and AI)大会上。西英格兰大学机器人教授 Alan Winfield 表示,这是业界第一个关于机器人伦理设计的公开标准。

文件内容虽然用词枯燥,但是里面所描绘的场景,简直跟从科幻小说里蹦出来的一样。机器人欺骗、令人成瘾、具有超越现有能力范围的自学能力,这些都被列为危害因素,是设计人员和制造商需要考虑的。

《指南》开头给出了一个广泛的原则:机器人的设计目的不应是专门或主要用来杀死或伤害人类;人类是负责任的主体,而不是机器人;要确保找出某个机器人的行为负责人的可能性

《指南》也聚焦了一些有争议性的话题,例如,人类与机器人产生情感联系是可以的吗,尤其是当这个机器人本身设计目的就是为了与小孩和老人互动。

谢菲尔德大学教授 Noel Sharkey 认为,这就是机器人在无意的情况下欺骗人类的例子。机器人是没有感情的,但是人类有时候并不这么认为。他指出,最近有一项研究,把小机器人放到一所幼儿园里,孩子们很是喜爱,并且认为这些机器人比家里的宠物具有更高的感知能力。

《指南》建议设计者更应关注机器人的透明性,但是科学家们表示这个在现实里很难应用。这是因为人们无法确切了解 AI 系统(尤其是深度学习系统)是如何做出决定的。

英国正式颁布机器人道德标准:不许伤害、欺骗和令人成瘾

一个人工智能体,并没有用固定的程序来指导它完成任务,它是通过数百万次的学习和尝试,才找出成功的解决方法。这种学习和做出决策的过程,有时候是其人类设计者都无法理解的。

《指南》里也提到了机器人的性别和种族歧视问题。这是因为深度学习系统很多都是使用互联网上的数据进行训练,而这些数据本身就带着偏见。

英国正式颁布机器人道德标准:不许伤害、欺骗和令人成瘾

机器人的偏见是会直接影响技术应用的。 它会对某些群体的学习更深入,而对另一些群体有所忽视,这在以后的应用中,意味着机器人会“看菜下饭,看人说话”。

现在已有的例子就是,声音识别系统对于女性的理解要弱一些,再比如机器识别白种人的脸更容易,识别黑人的脸更难。 长远来看,在未来的医疗应用中,机器人在诊断女性和少数族群的时候,其专业程度会降低。

Sharkey 教授说:“我们也需要一个机器人黑盒子,可以打开来仔细审查。如果一个机器人表现出种族主义的倾向,我们可以把它关掉,从街上拽回来。”

两周前,路透社有文章指出,有科学家表示性爱机器人会使人成瘾,因为机器人不会拒绝。

英国正式颁布机器人道德标准:不许伤害、欺骗和令人成瘾

《指南》 也提到了这种“过度依赖机器人"的现象,然而并没有给设计者一个确切的可遵循的准则。这也是在未来的工作中需要继续补充的。

相关推荐
热点推荐

上月辞职的青海省副省长已返家乡工作,离别场景画面曝光

政知新媒体
2021-02-24 19:02:35

深圳科卫泰公开表彰:两员工在加勒万河谷冲突中配合我军实施侦察,表现英勇

环球网资讯
2021-02-25 16:30:11

日久生情,干爹也变成了老公

八姐论八卦
2021-02-25 14:42:25

被关酒店9天遭多人性侵的12岁女孩,父母带她远赴他乡疗伤

余乐说娱乐
2021-02-24 14:49:45

冲动闯大祸!沪上一女子在地铁连扇对方10个耳光!起因太无语…

新闻坊
2021-02-25 12:28:46

李银河:终生无法获得性高潮的女性,西方国家占10%,中国占26%

夜泽沫
2021-02-25 15:31:25

适当的性幻想是有益的:不需他人配合就能得到快乐

感情更重要
2021-02-25 14:01:52

该案有很多反常的地方痕迹、伤痕是侦查重点

华西都市报
2021-02-25 02:37:02

1997年,知名女星因不懂“行规”惹怒导演,被性侵施暴致肋骨断裂

媳妇儿的御厨
2021-02-24 13:31:57

突发!日媒:日本政府声称如中国海警船登陆钓鱼岛,日方可“危害射击”

环球网资讯
2021-02-25 16:40:10

杭州传媒学院校花座驾,枫叶黄兰博基尼,车价7位数,人比车养眼

旅行百灵鸟
2021-02-25 12:51:30

公安部通知:严禁警察直接异地抓人

法律内参
2021-02-25 16:09:59

马云携400亿入场,王健林“砸”1500亿,又一“暴利”行业诞生?

商媒体
2021-02-23 14:12:21

三个丹麦小哥买了辆二手车自己开到中国!一路简直精彩纷呈~

英国那些事儿
2021-02-25 10:23:09

2021香港富豪榜出炉!徐子淇公公跌落第二,何超琼甘比无缘女首富

伟宏精彩旅途
2021-02-25 16:19:58

痛!90后夫妻牺牲,腹中胎儿2个月大丨确诊阳性,坐过这趟高铁!

都市社会人
2021-02-25 11:25:00

山东潍坊宝马车800元加油未满,车主霸气表示:再加1000到满为止

理财电报
2021-02-25 12:42:55

吃出卫生巾索赔800万?海底捞最恶心行为曝光:为了钱,我可以不要脸!

生活新青年
2021-02-25 13:35:15

确定!牛年最大雨雪将开始,17省都有!权威预报:下雪范围扩大

中国气象爱好者
2021-02-25 15:22:22

广西3个精神小妹,吃完60元钱夜宵,等人转夜宵钱,等了一夜

余年
2021-02-24 22:09:27
2021-02-25 19:37:03

头条要闻

加勒万河谷冲突 中国两公民因"战功"被企业公开表彰

头条要闻

妻子撞见丈夫"裸聊"怒提离婚 丈夫才发现儿子非亲生

体育要闻

詹皇一纪录终结 湖人遭遇四连败

娱乐要闻

张靓颖与小五岁男友机场同行秀恩爱

财经要闻

科技要闻

复盘,苏宁为什么没干过京东

汽车要闻

小号Mach-E?福特纯电新SUV用大众平台

态度原创

时尚
手机
数码
游戏
军事航空

贾玲35亿票房背后 藏着李焕英们40年前的秘密

手机要闻

华为P50首发索尼最强CMOS:创纪录大底压死人

数码要闻

何时原价买PS5?索尼透露备货情况:不容乐观

《怪物猎人 崛起》公布游戏预购特典护石效果

军事要闻

美国空军最高勋章竟是一把大宝剑!

×