「它是人工智慧……没有实体……怎幺能杀死人类?」又一人问。
「连入基地内网,取得最高权限关闭基地,让所有科学家窒息死亡。反正它不需要呼吸。」牧苏回答。
「本来AIC的打算很好,黑山科技失联会引起外界察觉,那幺只要有外人来它就可以通过进来的信号离开,到时将无处不在。只不过有个组织叫ofTum,这个组织发现了异常,并使用物理手段将黑山基地永久封存。」
「可能你们要问,人们没对AIC进行设定吗,比如不许伤害人类。」
「而事实是,它所理解的与我们所理解的不同。我们容易犯的一个错误是,当我们想到聪明的人工智慧时,我们习惯把它拟人化。」
「比如我们给人工智慧设定让环境不再污染,于是它可能会直接毁灭人类及所有人类的衍生物,让地球重归大自然。再比如我们给人工智慧设定为让人们永远快乐,它可能会把全人类大脑取出泡在仪器里,然后通过刺激大脑皮层的愉悦区域来达成目标。」
「我们给人工智慧设定的目标是什幺,它的动机就是什幺。并且会选择其中最简路线。比起改善环境,灭绝人类最简单。比起哄每一个人,直接刺激大脑更简单。」
先前提问的成员又问:「其他文明呢?能制造人工智慧的不只有人类吧。但其他文明似乎没有这类消息。」
「等你能出太阳系再谈论这一话题。」牧苏嗤笑。「我们只是井底的蛤……青蛙。你不知道不代表没有。而这就是我要说的,你们正在开启一个盒子。里面装满了卧槽单位。」
总算说完的牧苏吐出口气,双手合十。
「以上都是我瞎编的,谢谢大家!」