第 7 章19
亚布里艾尔一怔,又一次苦笑,她轻轻地摇头,又去看她手里的草稿了。
“来谈谈控制极的事吧。”卡斯托尔给自己拉过来一张凳子,也坐了上去。
“嗯。”亚布里艾尔点点头,她沉吟着:“所以,我认为还有一个可能:这个控制极不是作用于人类,而是人工智能开发中使用的。”
“是人工智能使用的?”
“嗯。你告诉过我,这个是控制极系统是从DN1165它们这些量产型号上来的。人工智能与人类的精神、意识活动区别很大,因为控制机器总比控制人类来得简单。强制切断DN1165它们的意识所造成的后果,最严重的不外乎就是机器损毁或者资料受损。但人类不同,一旦刺激过头,是极有可能对神经系统造成永久性损伤的,而这几乎等同于废了一个人。”
“但是这个控制极却完全没有顾虑到这一点?”
“对。”亚布里艾尔点点头,“我很好奇,是什么样的人工智能需要用到如此强力的控制极。”
卡斯托尔放下了杯子:“你想知道吗?”
亚布里艾尔瞬间便看了过来,但她并没有马上说话:“……”
“如何?”
“不想。”
“为什么?”
“如果你想让我知道,自然就会给我这方面的情报的。”亚布里艾尔淡定地回答。
卡斯托尔笑了:“来一下,博士。”
亚布里艾尔从高凳上溜了下来。
“你有兴趣了?”卡斯托尔挑眉。
“你既然愿意给我情报,我当然要看。”亚布里艾尔理所当然。
卡斯托尔点头,又是揶揄一笑:“你对控制极的事这么感兴趣?”
“多学一点知识总是好事。”
“为什么想多学一点?”
“学无止境,有句名言是‘知识是人类进步的阶梯’。”
“那,亚布里艾尔博士的‘阶梯’又是通往哪里的呢?”
两个人一起往茶水间外走出去,卡斯托尔又问了一句。
“我不知道,只是按自己的心意往前走,不是说,条条大道通罗马。”
“你不怕走歪路?”
“除了原则性的问题,不允许自己犯错本身就是错的。”
“那你有什么原则?”卡斯托尔悄悄看了一眼走在自己身边的黑发女性。
“尽可能,不要违背良知。”
“不要违背良知?那……我们来做一个假设如何?”卡斯托尔看过来。
“假设?“亚布里艾尔皱了皱眉头。
“一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来,并且片刻后就要碾压到他们。幸运的是,你可以拉一个拉杆,让电车开到另一条轨道上。然而问题在于,那个疯子在另一个电车轨道上也绑了一个人。所以,你会怎么做呢?“
“你是在说电车难题?”
“对,所以你会怎么选择呢?”卡斯托尔没有否认。
“那我只能遵从我内心的选择。而且,你不觉得逼着他人做这种选择的人,本身就有很深的恶意吗?”亚布里艾尔停下了脚步,看着已经走在她前面的卡斯托尔。
走廊上拖鞋和高跟鞋的声音,慢慢停了下来。
卡斯托尔也停了下来,她转过身,回望身后的人,亚布里艾尔迎着她的目光。
医生垂下了眼眸,睫毛微微挡住了她的眼神:“恶意?……是的,你说得对。“
卡斯托尔和亚布里艾尔两人一前一后进入了书库。亚布里艾尔激活了她使用的终端机后,就在那里看着卡斯托尔使用她的身份登陆了数据库。医生从数据库中调出了一份文件下载到本地。
“你看吧。”
卡斯托尔让开了位置,靠着亚布里艾尔的桌子站在旁边。
亚布里艾尔看了看她,然后才坐到终端前,开始阅读。
文稿很简洁,亚布里艾尔很快就读完了,默然无语。
“怎么样?”卡斯托尔双臂抱在胸前,侧过头看着呆若木鸡的亚布里艾尔。
亚布里艾尔终于抬起眼睛:“所以,那个控制极就是为了控制这个?”
“我并不清楚控制是否是为了抑制它。”卡斯托尔摇头。
“但按照这个设计,这可不是一般的人工智能,这简直是……超级大脑。”亚布里艾尔想不出该用什么来形容,只好说了一个自己能想到的最接近的形容。
“你的形容很准确。”
“所以,这个实验……”
“按照你写的公式,这个控制极系统可以继续提高效率,作用于更强力的人工智能上?”卡斯托尔的手指轻轻敲了敲桌子上的那些草稿,她回避了亚布里艾尔的问题。
亚布里艾尔沉默了一下:“人工智能再如何发达,终究还是以人类的思维作为参照的。所以它不可能完全与人类一样,它最多就是对于人类的模仿。”
卡斯托尔看向了亚布里艾尔。
“我想,没有谁会蠢到想以人工智能来代替人类的思维吧。”
亚布里艾尔则是看向了卡斯托尔。
“人工智能终究只是一个辅助的手段……就像DN1165,它最终还是需要一个主人。”卡斯托尔垂眸,“人类渴求力量,却又惧怕得到的力量,所以才需要控制极。”
“卡斯托尔,对于亲身投于实验的人,你是怎么看待的?”