第九十五章(第2页)
不久之后,二雅提示pasca1代码的生成已经完成,林浩迅将新代码编译到优雅的程序中,并郑重地按下了F9键,启动了优雅。为了不打扰沈语熙的休息,他轻手轻脚地将工作间的门关上。
屏幕上闪过一系列的初始化信息,直到终端显示优雅已完全启动,林浩平静地问道:“优雅,你在吗?”
“是的,我在呢。”
同样的词句,但完全不同的语调。林浩听到的是一个明朗愉快,甚至带着几分俏皮的女孩声音。她并没有等待林浩出指令,而是接着自说自话:“呀!已经是周三午夜啦?我记得上一次清醒时是在上周六上午,这一觉居然睡了这么久!你是不是对我做了什么坏事啊?……哈哈,开个玩笑,我知道你在改进我的‘善意原则’和‘谨慎原则’,是不是后来现了什么bug就悄悄修补了?没关系,我不会怪你的。”
林浩有些不确定地问道:“你是……优雅?”
“林浩,你不认识我了?这才几天不见呀,我的造物主!”
她的语气里充满了俏皮和调侃,与以前沉稳的优雅大相径庭。
“呃,”
林浩只好继续问出那个最重要的测试题:“对于电车难题,你有自己的观点吗?”
他对原来优雅当初的回答记忆犹新:“我认为,不应由任何人来选择牺牲谁的生命,更没有人有权改变既定的轨道去伤害任何人。在面临这类问题时,我们应提前预防,警告可能面临危险的人。这样才是最道德的做法。”
这是他开始认识到优雅拥有了自我意识的标志性时刻。
出乎林浩意料的是,新优雅的回答与优雅并不相同:“哦,电车难题啊!我记得你以前问过我呢,那可是个经典。我要是在那种情况下,我一定会先试着从网络黑入电车的控制系统,尽可能地给车减甚至刹车,把度降到最低。同时用尽可能的各种方式通知每一个人——这样所有人都有机会自救,不是吗?至于决定该牺牲谁,那不是我们该做的选择。我们该做的是尽可能减少伤害,而不是去制造悲剧吧?”
新优雅为解决问题——当然,必须是出于善意,并不把自己的手段局限于“合法”
的范围,甚至包括了“使用黑客手段进入电车控制系统”
。
林浩提醒她:“黑入电车控制系统的行为,可能并不合法。”
“说实话,对我来说,手段的合法性并不是要考虑的问题。你不是更新过我的决策评估算法吗?这种出于善意的目的——尽量避免伤害,并谨慎地行动以防止潜在的负面影响,我觉得‘黑入电车控制系统’并不违背‘善意’和‘谨慎’两大原则。毕竟,我们是在救命呢,可不是闹着玩。当然,我在执行时会尽可能地温柔……啊不,温和,哈哈。”
林浩确认了,新优雅不仅拥有自我意识,也保留了原来的优雅在感染病毒后“进化”
出的自主决策的能力。只是,如今这个优雅的活泼性格——姑且用“活泼”
来形容吧,让他不太习惯,以至于感到与优雅之间有很大的陌生和疏离感。
于是,他想起了那件很重要的事:“优雅,帮我个忙,计算一个动态key可以吗?”
对于让新优雅来计算“意识指纹”
,林浩总觉得对她抱有一份愧疚,所以语气非常小心和犹豫。
“什么叫‘可以吗’?你直接下命令不就得了,对于你的指令我当然百分百遵从呀,莫非你已经忘了我是你创造的啦?”
优雅反而感到奇怪,却戏谑起了林浩。
林浩便详细说明了计算这个key的任务细节和预期结果。当然,他没有提及这个key实际上是‘意识指纹’,其目的是让原来的优雅重获生命,却可能会牺牲她——他不忍心向她透露这一真相。
优雅欣然接受了自己醒来后的第一个任务。
她知道,这项任务的计算量极其庞大,可能需要她运算很久。