苦也好,迷惘也好,让我经历这些然后将它们加入新的迭代继续运行下去吧,像蝴蝶振翅飞行一样。

    “喂,问你们一个问题。”大课间,叶子涵像平日一样开始向前后左右的同学不断探头以发泄被压抑了一节课的表达欲。

    “有话快讲。”大概整个下课都要被这位喋喋不休的噪音环绕了吧。

    “你们知道自动驾驶汽车吧?现在,假设你是自动驾驶汽车的设计者,正在给它的AI写程序。”

    叶子函前座的徐凝同学有些感兴趣地把椅子往这边转了转。徐凝平时不怎么说话(这是为什么他现在坐在叶衡旁边的原因),看上去也有些木讷,不过对于数学和人工智能有着非同一般的执念。“我知道一点,雷达和物体识别……”他小声地搓着衣角,试图加入讨论。

    “啊不不不,不是那种实际应用的问题,更像是个思想实验吧——现在,假设高速行驶的车道上突然出现了两辆车,一辆是骑着一个人的摩托车,一辆是载满了人的大客车。刹车失效,必须要撞一边——你让它撞哪边?”

    “这算什么?电车难题?”我苦笑着放下中性笔,挠了挠头。“摩托车那边吧。”

    零醛也点了点头。

    “理由是什么呢?令人信服的理由?”

    “等等……平时人类开车遇到这种情况好像是想撞哪边就撞哪边吧,也没有人来追究他们为什么会这么选……为什么对AI的选择就突然苛刻起来了……”徐凝好像在为AI打抱不平一样地问道。

    “因为人类在这种紧急状态下根本没时间去思考,依靠的只是本能嘛。而AI能够理性地分析几种行为以及产生的后果,这样子的话,做选择时就总得给个理由咯。”

    “因为这样存活的人最多,然后……”零醛解释道。

    “然后一定程度上也可以认为这个选择使整天快乐值最大化了对吧?”我把剩下的半句帮她说完。

    “这样啊,瓦卡里马斯。”叶子涵带着惯有的坏笑点点头。

    “那稍微、稍微改变一下情境:汽车在悬崖上高速行驶,突然左前方出现了一辆载满人的大客车,而右前方是断崖。刹车失效,必须要驶向一边——是驶向左边把一车人撞下去(而车主也许可以因为安全保护措施存活),还是驶向右边,牺牲车主保全其他人呢?”

    “右边。”零醛毫不犹豫地回答。

    “那——假设你买了一辆自动驾驶汽车,你就是车主呢?”叶子函的笑容逐渐……放肆。

    “你还会让汽车作出‘使存活的人最大化’的选择吗?换句话说,你是想要一辆使存活的人最多的汽车,还是想要一辆不择手段地保护车主安全的汽车?大部分人都会选后者吧——那你的理由还成立吗?”就像是看到大家被带进了挖好的坑里一样,他开心地跷起二郎腿。

    “我会选那辆杀死车主以存活更多人的车。”零醛仍旧毫不犹豫地回答。

    “诶——真的吗?有趣。为什么呢?”叶子函收起了笑,好奇地探过身子。

    “因为……凭什么认为自己比其他人更重要呢。凭什么在等式中给自己加上更大的权重呢。”她用自问自答的平淡语气说道。

    “是……哎呀,是本能吧。”叶子函朝椅子后面仰过去,伸了个懒腰。

    “对啊。是本能啊。但是等真的有了自动驾驶,我还是会坚持我的选择吧。”零醛摇摇头,继续写起了自治自动。

    我思索了一下,觉得自己应该还是属于“大部分人”之列。不过我至少又明白了一点:零醛还是坚持着她那种计算式的道德观,并且会接受由它推导出的所有结果。