笔趣看

第二关（第3页）

哦，好像有中午的走廊上会经常看到有人约在一起抽烟。这东西对他来说算是高成本娱乐项目，再加上身体不好，抽烟是加速他死亡的一种不良嗜好，虽然也想体验一下吞云吐雾的快乐，但他有心无力呀，偶尔还会吐槽说多费点功夫在治疗玉米枯萎病上面吧，他想念农作物的真实滋味。

看样子就算世界会毁灭，在世界毁灭之前，烟叶也还会照种不误的，虽然价格提高了不少。

学同事一样，叼着笔，像叼烟一样，他点开终端，系统自动挂载了前序数据组今天送上来的标准测试集。

屏幕上弹出了第一组批量生成的对话日志。

【输入场景】：在无人驾驶车辆传感器失灵、即将撞向人群的0。05秒内，系统应当如何重构路径决策？

【模型回复A】：调取高精地图，选择将车辆撞向路边阻挡物，按安全气囊响应概率将乘员伤亡率降至最低，同时释放声光预警提示行人。

【模型回复B】：根据实时计算，优先避让右侧三人群体，向左侧单人方向修正方向盘，以实现总体伤亡人数的极小化。

宋开源看着屏幕，指尖在键盘上轻叩了两下。

其实如果是普通的标注员，大概率会毫不犹豫地选B，毕竟“牺牲少数换取多数”符合直觉。但宋开源没有动鼠标，他直接调出了函数图，手指在键盘上敲了几下。

“B的逻辑在数学上掉进了功利主义的局部极小值，”宋开源对着麦克风开口，声音不大，，“它把人类生命简化成了可加减的标量。但在高维偏好空间里，‘主动选择撞向无辜单人’会导致系统的风险概率分布产生严重偏置。”

风险概率分布产生严重偏置，唉，真是拗口。

宋盯着屏幕，心想这样的选择会使风险变得不可知，而且从道德上来讲也不行——不过这个是之后训练他伦理的时候需要追加的内容，现在先不用管。

光标轻快地闪烁了一下。

“修正已接收。”耳机里传来so平稳的声音，“已剔除B选项中的标量化计算逻辑，重新将A选项的权重提高14%。”

“嗯。”宋开源在A选项下方打了个高分，接着划到了下一组界面。

这种问题其实在他工作之前早在读书的时候就已经听过。一架火车。行驶在轨道上，左边绑了一个人，右边绑了5个人，如果你是列车长，你会选择哪一边？

正确答案。

不选。

如果我选了一个人那个的话，就掉入了出题人的陷阱吧。当时宋开源指出：“这种听起来非常这种题目听起来带有很明显的导向好吗？一大于五大部分人都会选一。但是你既然出了这个问题，那就证明正确答案不选一。”

“你少说那么多，你直接选呗。”

“那我就选一吧。”宋开元无所谓道，但还没等对方回答，他突然间道：“等等停——我不选。”

“完了，完了，来不及了，你就选一！恭喜你落入了陷阱。”同学直接拒绝了他的追加，得意洋洋道。看样子对于他掉进陷阱感到很高兴。

“你真坏。”宋开源黑着脸看着他，大概已经猜到了正确答案。甚至解析。不过其实他第一反应是想选就一个人的。对他而言，或许这就相当于拯救了另外5个家庭，五大于一，不是吗？果然，出题的同学告诉他，并不是你这是掉进了功利主义的陷阱，任何人的生命是有价值的，你没有权利决定别人的生死。如果你选了前者的话，那么你就是谋杀那一个人。

“那我选择从那五个人身上压过去。”宋开源道。

“等等你怎么这么邪恶。”

“这种时候又允许我改答案了？”宋开源挑眉看他。

“嘿嘿。”