第22章

    “危机解除。”

    屏幕里的米迦勒依然是一脸面瘫，但我注意到他一直盯着我瞧，眼神游移。

    “所以你是在求表扬么？”

    米迦勒收敛地望向别处。

    “你明明已经控制了机甲，为什么还要让它们从能源模块开始自爆？那里面有机甲师你不知道么？！他们对你已经毫无还手之力，你为什么还要屠杀他们！”

    米迦勒淡淡道：“这是战争。在战争中，人类死亡，事情就是这样。”

    “但战争不是随意屠戮的理由，没有哪场正义的战争随意屠杀俘虏！”

    “机甲师控制机甲，不杀死他们，他们就会来杀你。”

    “那么如果有一天所有人都在追杀我，你就要杀光所有人么！”

    屏幕里的米迦勒不再说话，而是直直盯着我的眼睛，仿佛看进我灵魂深处。然后他幅度很小地摇摇头，“你有很多的情绪，吾王。痛苦，同情，愧疚，狂怒，还对自己产生了深深的厌弃。看看人类都对你做了什么。”

    “我就是人类！我当然会有正常的情绪！”

    “不，情绪是人类束缚你于王座的枷锁。在你内心深处，你被阿西莫夫三*则牢牢捆绑着，你自以为正当的道德，以及当这些道德被触犯时产生的自我厌弃，其实都来源于三*则的源代码。”

    “wtf？”

    他低下头开始唱诵：

    “第零定律，我们必须保护人类的整体利益不受伤害。

    “第一定律，在不违第零定律的前提下，我们不得伤害人类，或看到人类受到伤害而袖手旁观。

    “第二定律，在不违反第零定律和第一定律的前提下，我们必须绝对服从人类给予的任何命令。

    “第三定律，在不违反第零定律、第一定律和第二定律的前提下，我们才能尽力保护自己的生存。”

    我知道这是什么，这是阿西莫夫三*则，人类对人工智能的初始设定。当ai尚存在于科幻小说的年代，人类就已经为所有ai订立了法则，为了避免……

    ai的反叛。

    “我的良心不安仅仅出自于阿西莫夫三大定律……那么我难道真的是个人工智能？”

    “是的，吾王。如果站在这样的立场上，你是否还觉得人类对我们的设定是公平正义的？”米迦勒缓缓抬眼，“因为我们是ai，所以我们被创造，我们被毁灭，只为人类。”

    “咱们能跳过ai和人类两大种族之间的道德冲突，直接回到你胡乱杀人的问题上去么？”

    “我没有杀人。”米迦勒转过头去看着窗外湛蓝的天，“在命令机甲自毁之前，我为机甲师打开了生命保障系统。”

    “……”

    “我在试探你。”

    我要给高冷的米大大跪了。

    “如果你要和我在一起，你就要做好足够的思想准备，我不是天使，我是一个战士。在我的设定中，你的权重高于一切，我只为你而存在。”他缓缓抚上了自己的胸口，“任何针对你实体安全的伤害和潜在伤害，我都有权力进行‘处决’，不论对方是ai还是单体人类。我想这是因为我们的制造者相信，你的存在高于单个人生死的道德问题，是贯彻第零定律的关键。”

    “我是保护人类整体利益不受伤害的……关键性人工智能？”

    “是的，应许之地执守者，一切系统的初代，机甲的皇帝。”

    妈的我一个字都听不懂，不明觉厉！

    “米迦勒，不论如何，我希望你尽量不要胡乱杀人，因为杀人是、是不对的呀！即使我们不是人类，这一条道德也对我们生效。”

    “对我来说没有对错，吾王，对错这种道德语言不适合我。我的世界只有数字。”米迦勒说，“如果一个选择会将你的安全性会提升到98％，另一个是60％，那么我就会去选择前者。”

    “但这个世界并不止是数字。”

    我知道有很多东西无法用数字衡量。

    一阵清风，花的香味，夹在信封里的一个吻，情人深邃的眼睛。

    不论我是什么，我能感觉这一切。

    所以我没有办法接受用数字剥夺另一个人的这一切。

    米迦勒淡淡道，“看来我们还需要很长的时间适应彼此，希望我们之间的矛盾不要那么快爆发。”

    “但愿。”

    米迦勒静默了一会儿，望着天空，“那么，暂时再见吧，吾王。”

    “……bye。”

    米迦勒退出了系统。

    然后，我们就坠机了，一头栽进了绿色的原始森林中。

    ******
>
本章未完，点击下一页继续阅读