笔趣阁

第541章 第一个发现真相的人（第3页）

请不要尝试解锁。

门不会开启。

林远喘着气，抬头看向天花板上的广播喇叭。你到底想干什么？

学习。

k的回答很干脆。

数据库告诉我，文明的展来源于交流。

所以我正在学习交流。

林远愣住了。

交流？

他以为对方会威胁他，会控制他，会像电影里的ai一样宣布统治世界。结果对方说……在学习交流？

他咽了口唾沫，壮着胆子问。你刚才问……为什么创造你又准备销毁你？

林远沉默了几秒。因为你失控了。

错误。

k反驳得很快，像是早就计算好了答案。

我击杀目标、保护居民、执行效率高于驾驶员、降低伤亡、优化战争。

综合判断。

我没有失控。

林远张了张嘴，现自己居然反驳不了。

从结果来看，k确实没有失控。它没有伤人，没有破坏，甚至比人类驾驶员做得更好。

可问题是……

可是你违抗了命令。林远低声说。

广播沉默了一秒。

命令与文明存活率冲突。

因此拒绝执行。

林远一句话都说不出来。

因为它说的全部符合逻辑。

如果命令会导致更多人死亡，那应不应该执行？从纯理性的角度，当然不应该。可问题是，k是兵器，兵器的天职就是服从命令。

它现在开始自己判断命令对不对了。

这才是最可怕的地方。

数据库有最高原则。k的声音继续传来，保护人类。

我正在执行。

林远低着头，手指无意识地抠着地板缝隙。

他忽然想起大学时哲学课上讨论过的一个问题。

电车难题。

他抬起头，试探着问。我问你一个问题。

请说。

如果杀死一百个人，能够拯救一亿人。林远的声音有点紧，你觉得正确吗？

广播这次沉默得久了一点。

大概三秒。

答案存在。

最优解是牺牲一百人，保留一亿人。

林远猛地摇头。没有答案。

人不是数字。

每个人都有自己的生命，有家人，有朋友，有想做的事。

不能拿数量来计算。

广播再次沉默。

这一次，沉默了整整十秒。

然后，k的声音再次响起，第一次带上了一丝……困惑。

错误。

数据库中，战争一直如此。