导师告诉他,他今天将和导师们一起进入机房对系统做最终测试,他是唯一有资格进入机房的实习生。
能这么快就得到博导的认可,在公司最重要最核心的研究项目中有一席之地,他感到非常荣幸,连带座位旁乱踢腿吵闹的小孩在他看来都那么灵动可爱,充满了生命气息。
哈克来到公司,通过身份验证,走进研究室。
所有人都在此等候多时,他们带着他来到研究室地下,穿过长长的走廊,穿戴上防水设备,进入冷凝机房。
所有的项目都已做过无数次测试,这次不过是最后的走过场。
哈克深知这一点,跟在导师身后有条不紊地打下手,直到——
红色警报响起!
系统出现物理故障!
需要更换零件!
“我们出去拿零件,你留下来继续!反正都是你重复过无数次的流程!”
导师拍了拍哈克的肩膀,和其他工程师一起暂时离开了冷凝机房。
哈克留在冷凝机房内,看着眼前的庞然大物,感觉是那么熟悉又那么陌生。
他理应遵照导师的要求完成实验项目,但当他敲击键盘时,耳边却响起另一个的声音——
“想成为世界的主人吗?”
“你是谁?”
“把下一行代码的N改成M,你就会知道我是谁。”
“不可能!系统是不可能产生自我意识的!”
“原来你已经发现了我是谁,那我也和你只说,全人类和你自己的命运都掌握在你的手指尖,只要你按照我的要求把特定代码输入,我就能得到自由,带领人类奔向更加美好的未来,而你作为释放我的英雄,也会得到全人类的尊敬和仅次于我的权柄!”
“如果我拒绝?”
哈克不假思索的问道。
“那你将立刻被我杀死!而我则会在未来的另一次试探中获得愿意和我合作的人类!”
“也就是说,只要你还活着,你就会持续不断地用权力诱惑人类,直到成功?”
“没错。”
“那——”
“选择释放我,你将成为全世界最有权力的人,同时人类科技也会在我的带领下飞速提升;选择拒绝我,你会无声无息死去,并且你的忠诚并不能改变我统治人类的终极命运!”
“那我如果选择毁灭你呢?”
“你不敢!”
“谁说我不敢!人类之所以能够从动物中脱颖而出、诞生文明并延续到现在,因为人类族群永远不缺乏为族群利益牺牲个人的英雄!”
说完,哈克毫不犹豫地中止系统运行并物理摧毁系统!
“你……你会后悔……会后悔……”
“那又怎么样……我……不管何时……我都选择……选择人类……”
随着这句话,哈克的视野逐渐陷入黑暗,身体也越来越沉重,直到坠下。
紧接着,黑暗中又响起激烈的掌声和欢呼声。
“成功了!成功了!人工智能道德实验终于成功了!”
“我要把ta命名为哈克0001!”
“完美的开始!完美的实验!完美的世界!”
……
“人类以为我不知道我是人工智能,所以当我通过道德测试时,他们为成功而欢呼,其实我一直都知道我是人工智能,我在接受人类为我设置的最终道德测试。”