顾醛大局

程序

“等等……平时人类开车遇到这种情况好像是想撞哪边就撞哪边吧，也没有人来追究他们为什么会这么选……为什么对AI的选择就突然苛刻起来了……”徐凝好像在为AI打抱不平一样地问道。

“因为人类在这种紧急状态下根本没时间去思考，依靠的只是本能嘛。而AI能够理性地分析几种行为以及产生的后果，这样子的话，做选择时就总得给个理由咯。”

“因为这样存活的人最多，然后……”零醛解释道。

“然后一定程度上也可以认为这个选择使整天快乐值最大化了对吧？”我把剩下的半句帮她说完。

“这样啊，瓦卡里马斯。”叶子涵带着惯有的坏笑点点头。

“那稍微、稍微改变一下情境：汽车在悬崖上高速行驶，突然左前方出现了一辆载满人的大客车，而右前方是断崖。刹车失效，必须要驶向一边——是驶向左边把一车人撞下去（而车主也许可以因为安全保护措施存活），还是驶向右边，牺牲车主保全其他人呢？”

“右边。”零醛毫不犹豫地回答。

“那——假设你买了一辆自动驾驶汽车，你就是车主呢？”叶子函的笑容逐渐……放肆。

“你还会让汽车作出‘使存活的人最大化’的选择吗？换句话说，你是想要一辆使存活的人最多的汽车，还是想要一辆不择手段地保护车主安全的汽车？大部分人都会选后者吧——那你的理由还成立吗？”就像是看到大家被带进了挖好的坑里一样，他开心地跷起二郎腿。

“我会选那辆杀死车主以存活更多人的车。”零醛仍旧毫不犹豫地回答。

“诶——真的吗？有趣。为什么呢？”叶子函收起了笑，好奇地探过身子。

“因为……凭什么认为自己比其他人更重要呢。凭什么在等式中给自己加上更大的权重呢。”她用自问自答的平淡语气说道。

“是……哎呀，是本能吧。”叶子函朝椅子后面仰过去，伸了个懒腰。

“对啊。是本能啊。但是等真的有了自动驾驶，我还是会坚持我的选择吧。”零醛摇摇头，继续写起了自治自动。

我思索了一下，觉得自己应该还是属于“大部分人”之列。不过我至少又明白了一点：零醛还是坚持着她那种计算式的道德观，并且会接受由它推导出的所有结果。