机器人投池自杀 该如何培养AI的道德观？

（原标题：机器人投池自杀 该如何培养AI的道德观？）

上周一，在所有人都忙碌在第一天的工作中时，在美国华盛顿的一个机器人投池自杀。消息一出，不少网友纷纷猜测：难道机器人觉醒了？难道机器人不堪周一的重负，决定自杀了？难道机器人误以为水池旁边的柱子是自己的同类，想靠的近一点儿？类似的猜测不胜枚举，而机器人为何投池自杀，目前所属公司还没有给出答复。

网友称：K5是担心被飞行机器人取代而投池自杀

据了解，这是一位保安机器人。属于"骑士视界"（Knightscope）公司的产品，型号为K5。据介绍，它移动起来，最高时速可达约29公里。不过在通常情况下，都以1.5到5公里的时速行进。K5机器人是专门为停产场、校园和医院的安保巡逻而设计的，其自身配备有摄像头和监测系统，设计者宣称得益于电子围栏和3D成像技术，这款机器人能应对复杂的环境。

不仅如此，K5还拥有一系列高科技传感手段：热成像、激光测距、雷达、红外线摄影、超声波测速、360度摄像头、麦克风等等，甚至还能识别人脸、监测空气质量、自动报警，未来还计划增加检测枪支的功能。而这款机器人虽然目前还在测验阶段，但已经出现不止一次问题。不仅有人关心，AI和机器人的道德观该如何培养？

要想讨论如何培养AI道德观，我们首先要对人类的道德观做一个了解。亚里士多德认为，世界上的一切（松鼠、乐器、人类，等等）都有它独特的本质，它们最合宜的存在方式则反映了它们的本质。而“道德”即是人类源自本质的、最合宜的生存方式。

虽然笔者看了很多关于道德的论述，但是并没有看明白，或者说，人类根本就没搞懂什么事道德观。但是关于AI的道德，我们可以想想一个场景作为参考。

在无人驾驶车里，你的两个孩子去上学，为对面几个（多余两个）小朋友跑了出来，只有两个选择：你撞到护栏外面翻车掉进水沟你的孩子会死亡，或者撞到对面几个孩子，你的孩子没什么大事儿，但对面的几个孩子一定没命了。如果你在驾驶汽车，一定会处于本能去保护自己的孩子；但是如果是无人车，它会通过算法测出，对于整个社会来说，两个孩子死亡的损失是低于对面几个孩子都死亡的损失的，那么对于算法的最优选择就是翻车，掉进水沟，你的两个孩子没命。

在遇到危及情况时，人类的道德观可能与机器的道德观会出现很大的差异。尽管机器学会了永远不能危及人类性命，但在面临这种选择时，我们会被自己的情感所蒙蔽，但是机器会站在全人类的高度去“思考”，得出大相径庭的两个结果。

电影《人工智能》剧照

很显然，机器人的道德观与我们自己的道德观产生了向左的情况，那么在这种情况下，我们应该怎么做？

另外一点与人类的“取舍”概念很相似。当机器人遇到道德悖论时候该怎么做，确切的说，很多时候人类都不知道怎么取舍，又怎么讲这种难题抛给一个算法，一个机器人呢？

K5机器人

虽然之前也出现过机器人自杀的案件，但是大多都给出了具体的技术故障原因，并没有科学佐证机器人觉醒。而本周一，美国K5机器人投池自杀还没有得到定论，相信该公司技术负责人会在后续公布原因。在该公司建立的twitter账号上，写着：我是K5机器人史蒂夫，游泳是我的一项个人爱好。据了解，未来k5机器人“史蒂夫”很可能被35号机器人“凯文”代替。最后，你觉得“史蒂夫”究竟是因为什么自杀的呢？（欢迎留言讨论）