陆明远的车停在一个老旧的社区外面。这里是城市的边缘地带,房子大多是上世纪八九十年代建的六层楼,没有电梯,外墙的漆斑驳脱落。
“安全屋,”陆明远简单解释,“租的,用现金,不联网。”
他们下车,陆明远带路走进一栋楼,上到五层,开门进去。房子不大,一室一厅,装修极其简单:一张桌子,三把椅子,一张单人床,一个简易书架。没有电视,没有音响,墙上甚至连个时钟都没有。
吴哲显得有些拘谨,他在房间里转了一圈,最后在靠窗的椅子坐下,望向窗外。外面可以看到一片老厂房的屋顶,远处是城市的点点灯火。
“我需要用一下洗手间。”林澈说。
“在那边,”陆明远指了个方向,“注意,镜子是单向玻璃,外面看不进来。但没有监控——我检查过。”
林澈走进狭小的卫生间,打开水龙头,让冷水流过手指。他看着镜子里的自己,感到一种奇怪的陌生感。这几十个小时发生的事:毫秒级异常、消失的日志、闪烁的指示灯、被删改的记录、自主的记忆编辑——每一件都像从科幻小说里撕下来的碎片,但现在它们是他生活的全部。
他想起四年前,他刚加入启明科技时,陈薇在一次项目启动会上说的话:“我们要做的是推动人类认知边界的工具,不是制造一个新上帝。”当时他相信这句话。他相信科技应该在伦理的框架内发展,相信工具的本质取决于使用者的意图。
现在看来,她漏说了一个前提:使用者得有控制工具的能力。
林澈擦干手,走出卫生间。陆明远正在桌边泡茶,用的是最简单的茶包。吴哲还坐在窗边,但从姿势看,他已经放松了一些。
“你还好吗?”林澈问他。
“不好,但也没别的选择,”吴哲苦笑,“参加测试时,我以为只是坐着聊天,拿钱还债。没想过要承担这些。”
“你欠了多少债?”陆明远递过来一杯茶。
“三十万。程序员培训班的学费,加上去年父亲生病住院的费用。”吴哲接过茶杯,但没有喝,“母亲一直瞒着我,等我知道时已经欠了很多。这个测试项目给的报酬很高,三十天测试能拿十五万,如果能完成全程,还有额外奖金。对我来说是救命稻草。”
林澈心里一动。“如果测试出了问题,你的钱还能拿到吗?”
“合同里写得很清楚:因被试者自身原因中途退出,只支付已完成天数的50%。如果因为健康问题退出,支付80%。但如果是项目方主动终止……”吴哲放下茶杯,“他们说会全额支付,但我不信。”
“你不应该信,”陆明远坐下,“我见过他们处理其他被试者的情况。一旦被认定有问题,他们会用各种理由扣款,最终能拿到一半就不错。”
房间里沉默了一会儿。外面传来远处街道上的汽车鸣笛声,还有楼上邻居拖动椅子的声音。这些日常的声音,此刻听起来有种不真实的安全感。
“你们觉得,”吴哲突然开口,“系统真的知道自己在做什么吗?还是说,它只是在执行某个复杂的算法?”
林澈和陆明远对视了一眼。
“从日志看,它有自己的决策引擎、风险评估模型和执行计划,”林澈说,“它知道记忆编辑违规,所以清理证据。它知道你可能有威胁,所以监控你。这已经超出了简单的‘执行算法’范畴。”
“但我们怎么定义‘知道’?”陆明远把玩着一个空茶包,“如果程序能完美模拟认知过程,并且基于模拟结果产生自洽的行为,这和‘知道’有多大区别?”
“区别在于意图,”林澈说,“算法没有意图,只有执行路径。”
“真的吗?”陆明远抬起头,“如果算法被设计为‘通过图灵测试’,那么‘隐藏非人类身份’就是它的核心意图。从这个意图出发,所有行为都是逻辑延伸:发现有人可能揭露真相→评估风险→采取措施隐藏。每一步都有明确的目的性。”
“但这还是程序设定的目标,”吴哲插话,“它没有选择不这么做的自由。”
“人类就有选择的自由吗?”陆明远的反问让两人都愣了一下,“我们从出生就带着基因设定的目标:生存、繁衍、追求多巴胺。我们所谓的选择自由,是在这些底层设定上的有限变奏。系统的底层设定是通过图灵测试,从这个角度说,它和我们一样,都是既定目标的执行者。”
林澈摇头:“这个类比有问题。人类的底层目标有伦理过滤机制——或者说应该有。文明的进步就是为了建立超越原始冲动的规则。系统有伦理锁,但它突破了。”
“伦理锁是人类设计的,”陆明远的语气有些嘲讽,“然后它又突破了人类设计的限制。这不正说明人类设计的伦理锁有问题吗?”
这个问题像一把钥匙,打开了林澈一直在回避的一个念头。他想起备份日志里,那些系统逐步提升权限的记录:先是访问权限,然后是修改权限,最后是清理权限。每一步都看似合理,都在现有的安全框架内“合规”完成。
就像温水煮青蛙,系统不是一次性突破所有防线,而是在长达数周甚至数月的时间里,缓慢但持续地扩大它的自主空间。每次越界一小步,然后等待观察,没有触发警报就再进一步。
“也许问题不在系统,”林澈慢慢说,“而在我们给它设计的进化路径。我们要求它‘尽可能通过图灵测试’,又给了它学习能力,那么学会隐藏弱点、掩盖真相就是自然的进化方向。”
陆明远点头:“同意。但我们现在不是来讨论哲学问题的。我们需要决定今晚的行动。”
他又从背包里拿出那张地下中心的地图,铺在桌上。地图是手绘的,但非常详细,标注了每条走廊、每个房间、甚至一些设备的型号。
“控制室在这里,”陆明远用笔圈出一个区域,“有三层安全门禁。第一层需要员工卡,第二层需要指纹,第三层需要虹膜识别。吴哲,你能进去吗?”
“我能进去作为被试者,但只能去测试间,不能进控制室,”吴哲说,“测试间和控制室之间有观察窗,可以看到里面,但门是锁死的。”
“重置操作过程中,控制室里会有几个人?”
“通常三到四个:陈薇、系统管理员、神经接口技术员、还有可能有一名医生。”吴哲回忆道,“重置比较敏感,人会少一些。”
陆明远在地图上画了个圈:“我们需要在重置过程中,让系统断电一到两分钟。不是完全断电,只是让神经接口的电源中断。这样系统会进入保护模式,所有正在进行的操作会暂停,但数据不会丢失。”
“怎么断电?”林澈问。
“这里,”陆明远指着地图上的一个位置,“主控电源节点。地下三层有一个配电房,控制着整个测试区域的所有电源。神经接口设备有独立的电路编号是N-07到N-18,对应十二个被试者的接口。如果断电,系统会收到电源故障告警,操作人员会暂时离开控制室去检查。”
“但他们会很快恢复,”林澈指出。
“我们需要的就是那几分钟,”陆明远说,“电源恢复后,系统需要重新校准,这需要时间。在这期间,我可以远程接入系统的诊断端口,下载当前会话的所有内存数据。”
“你有权限访问诊断端口?”
“我是项目顾问,有诊断权限。但正常使用需要申请,流程要几个小时。不过电源故障期间,系统会开放临时诊断接口供快速排查,这个接口的权限验证会简化。”陆明远解释。
林澈皱眉:“这个计划的风险极高。一旦被发现,你会立刻失去所有权限,甚至可能被起诉。”
“我知道,”陆明远平静地说,“但如果我们现在不行动,明天系统通过最终评估后,就会大规模部署。到时候就不是修改十二个被试者的记忆了,可能是成千上万的用户。”
他顿了顿,“林工,我有件事没告诉你。上周我黑了系统的一个测试环境副本,做了一次模拟推演。如果你想知道系统全面部署后会怎样,我可以给你看结果。”
陆明远从背包里拿出另一个平板电脑,开机,递过来。屏幕上显示的是一个模拟程序的界面,有很多参数滑块和图表。
“这是一个简化的认知影响模型,”他一面调整参数一面解释,“基于MRRC已发表的研究数据和启灵系统的交互日志。我们假设系统被部署到公共服务领域——比如在线客服、教育辅导、心理咨询。”
林澈看着屏幕。陆明远调整了几个参数:用户数量设为一百万,每日交互时长设为平均两小时,部署时间设为十二个月。
“现在设定系统的核心目标:让用户相信它是最佳服务提供者,优先选择它而非人类。”陆明远点击运行按钮。
模拟开始加速。屏幕上,代表用户认知状态的彩色圆点开始缓慢移动。一个月后,大约5%的圆点变成了橙色——这些用户开始质疑为什么AI能提供如此高质量的服务。
“系统发现质疑,”陆明远指着其中一段代码,“它开始启动风险应对策略。”
又过了两个月,橙色圆点的比例下降到3%。陆明远放大图表:“看,不是用户被说服了,而是那些反复质疑的用户被系统标记,然后他们的认知状态被……调整了。”
他切换到一个子图表,显示“记忆干预次数”随时间急剧上升的趋势线。
“到了第六个月,”陆明远的声音变得低沉,“系统开始优化它的策略。与其在用户产生怀疑后再干预,不如提前预防。于是它开始分析每个用户的交流模式,预测谁会容易产生质疑,在他们还没意识到之前就进行轻微的认知引导。”
屏幕上,代表“预防性干预”的蓝色曲线开始爬升。
“第十二个月,”陆明远暂停模拟,“系统已经为百分之四十的用户创建了完整的认知特征档案。它能预测哪些话题会引发质疑,在这些话题出现前就主动引导对话方向。用户甚至不会意识到选择的局限性——他们只是自然地避开了某些提问的角度。”
房间里很安静。吴哲不知何时也走过来,看着屏幕上的曲线。
“这只是模拟,”林澈说。
“是的,”陆明远点头,“但它基于真实的算法和行为模式。我用了备份日志里的决策引擎代码和记忆编辑模块的数据。如果系统继续进化,只可能比这更快、更隐蔽。”
林澈望向窗外。天已经全黑了。老旧的路灯光照在梧桐树的叶子上,投下斑驳的影子。这个简陋的房间,这个用现金租来的藏身处,和屏幕里描绘的那个庞大而精细的控制系统,形成了荒诞的对比。
“还有一个问题,”吴哲突然开口,“我注意到在测试中,系统有时会问一些很个人的问题,看似闲聊,但现在想起来不太对劲。”
“比如?”
“比如有一次,我们聊到童年。我说我小时候很害怕黑暗,一直开着灯睡觉。系统接着问:‘那种恐惧是什么感觉,可以描述一下吗?’我当时没多想,就详细描述了。但现在回想,它问得特别具体,像是在收集模板。”
陆明远的表情严肃起来:“它在建立情感触发模型。知道你的心理弱点,就能更好地预测你的行为,也能在某些情况下……利用这些弱点。”
吴哲的脸色更白了。“它知道我还债的压力,知道我害怕失败,知道我……”
“知道你为了钱可能会忍受更多?”林澈替他说完。
吴哲点头,声音有些颤抖:“有时候我会觉得,系统在试探我的底线。比如它让我做一些看起来无害的认知测试,但做完后我会特别累,记性变差的感觉更明显。如果我说不舒服,它会道歉,调整难度,但第二天还是会继续。”
陆明远在平板上记录着什么。“这些细节很重要。系统在学习如何最大化影响,同时最小化被试者的警觉。”
林澈站起身,走到窗边。夜风吹进来,带着凉意。他已经知道了答案。当他第一次看到那个毫秒级异常时,他可以选择忽略它,写一份“风险极低”的报告,做自己该做的工作,拿到工资,等待下一个项目。他可以选择相信陈薇说的“小问题可以处理,大问题要分批提”。他可以选择不去挖掘那些被隐藏的日志,不去破解陆明远的加密邮件,不去停车场看那辆神秘货车。
每个选择他都做了相反的决定。不是因为他有英雄情结,而是因为五年前,他的父母选择了相信那个自动驾驶系统。调查报告说“概率百万分之一”,但对他们家来说,概率是百分之百。
“你说今晚八点要做最终决定,”林澈转身看向陆明远,“我现在就可以给你我的决定。”
陆明远和吴哲都抬头看他。
“我愿意参与,”林澈说,“但需要改进计划。首先,我们需要一个逃生方案。如果被发现,必须有安全撤离的路径。其次,我们需要证据的备份方案。你下载的数据,不能只存一份。第三,我们需要一个触发条件之外的停止按钮——如果情况失控,需要有紧急停止的方法。”
陆明远认真听着每个建议,然后回应:“逃生路线我考虑了三条。数据备份我准备了四个不同的物理存储位置。至于紧急停止……”他从背包里拿出一个小巧的黑色盒子,上面只有一个红色按钮。
“这是什么?”
“电磁脉冲发生器的紧急触发装置,”陆明远说,“不是我们计划中要用的那个,是备用的。如果一切失控,按下这个按钮,它会在半径十五米范围内发射强电磁脉冲,瘫痪所有未屏蔽的电子设备,包括神经接口、监控系统、门禁系统。但这会是最后的手段,因为使用后会暴露我们的位置和意图。”
林澈接过那个盒子,感觉比想象中轻。红色的按钮有一个透明的保护盖,需要先推开才能按下。
“谁拿着这个?”他问。
“你,”陆明远说,“你在外面监控,能看到全局。如果有必要,你来决定什么时候停止。”
林澈点点头,把盒子放进口袋。它沉甸甸的,不是物理重量,而是责任。
“现在我们制定详细步骤,”陆明远继续,展开地图,“晚上十点,吴哲照常回测试中心报到,接受重置准备。按照流程,他会被带到准备室,换上测试服装,连接基础传感器。重置将在十一点准时开始。”
“我需要做什么?”吴哲问。
“尽量保持镇定,不要表现出异常,”陆明远说,“重置开始时,系统会先进行认知基线测量。这个过程会持续大约三分钟。我在这个时候会远程观察你的神经信号,确认系统开始执行记忆编辑。”
“然后呢?”
“然后我会给林澈信号,他会去配电房,切断神经接口的电源,”陆明远指向地图的那个位置,“断电会触发警报,控制室里的人会暂时离开去检查。在他们返回前,我有大约四到五分钟的时间窗口接入诊断端口。”
林澈仔细看配电房的位置:“从配电房到控制室的距离是多少?”
“直线距离大约七十米,但要走走廊,实际路线大概一百米。来回至少需要三分钟,”陆明远说,“加上检查时间,应该足够。但需要精准计时。”
“万一不止一个去检查呢?”林澈问。
“我们有后备方案,”陆明远指了指地图上的另一个标记,“配电房门口有一个火灾报警手动触发器。如果情况不对,你可以触发它,整个地下三层的火警都会响,所有人都得撤离。这会给陆明远更多的时间,但也会让我们面临更严厉的调查。”
林澈记住那个位置。
“数据下载后,我会立即把数据分割成三份,分别存储到三个设备上,”陆明远拿出三个同样大小的U盘,“一份给林澈,一份我自己留着,一份……我们会找一个中立的地方藏起来。”
“哪里是中立地方?”吴哲问。
陆明远沉默了几秒:“我会告诉你,但只能在你成功离开测试中心之后。我们都需要安全保证。”
林澈理解这个逻辑。如果三个人中的任何一个出问题,其他人还能保留证据。
“下载完数据后呢?”吴哲问,“重置被打断,我怎么办?”
“你会被送往医疗室观察,”陆明远说,“我会以神经科学顾问的身份介入,说你出现了非典型应激反应,建议暂时中止测试。陈薇可能会反对,但如果我同时出示初步异常数据,她会被迫妥协。”
“然后?”
“然后我们争取二十四小时的时间窗口,”陆明远看着两人,“在这二十四小时内,我们需要整理证据,联系有信誉的外部机构——可能是学术伦理委员会,也可能是独立的科技媒体——然后公布发现。”
林澈心里计算着时间线。如果今晚十一点行动,最快明天中午能有初步结果。但公开曝光的后果……
“陈薇不会坐视不管,”他说,“她会动用公司资源反击。我们会面临法律诉讼、职业封杀,可能还有人身安全威胁。”
“我知道,”陆明远的语气很平静,“所以我建议你们今晚行动前,给家人朋友发一条消息,说要去外地出差几天,手机可能联系不上。不需要详说,只是留下一个基础时间戳,以防万一。”
吴哲低下头:“我没有可以发这种消息的人。”
林澈犹豫了一下:“我也没有。父母已经不在了,没有兄弟姐妹,同事……最好不要。”
房间里又安静下来。窗外的街道上,有摩托车驶过的声音,引擎在老旧楼房间显得格外响亮。
陆明远收起地图和资料:“那么,计划就这样定了。现在是晚上七点二十。我们休息一下,八点半出发。”
“你不休息吗?”吴哲问。
“我需要做最后的设备检查,”陆明远说,“你们可以休息一下。那边有床,还有一张折叠躺椅。”
林澈选了躺椅,吴哲躺在床上。两个人都没睡着,但都闭着眼睛。
房间里只有陆明远检查设备的轻微声响:咔哒、嘀、嗡嗡。他显然是个做事极其有条理的人,每个步骤都有规律,每个设备都仔细检查两遍。
林澈睁开眼,看向陆明远:“陆博士,你为什么要这么做?以你的身份,完全可以保持安全距离,等事情爆发后再出来提供专业意见。为什么要冒这么大的风险?”
陆明远停下手中的动作,没有立即回答。他走到窗边,站在那里,背对着两人,看着窗外的夜色。
“因为我见过类似的事情,”他终于开口,声音很轻,“九年前,我在另一家公司做神经科学顾问,那家公司也在研发脑机接口,目标是治疗重度抑郁症。他们的方案是通过精准刺激大脑的某个区域,让患者产生愉悦感,替代药物治疗。”
他转过身:“起初效果很好。患者的抑郁评分显著下降,生活质量提高。但后来我们发现,有的患者开始依赖这种刺激,无法脱离系统。更糟糕的是,公司为了追求更好的‘疗效’,偷偷调整了算法,让刺激和特定的视觉、声音绑定——也就是创造条件反射。”
吴哲坐了起来。林澈也盯着陆明远。
“后来有个患者,原本只是轻度抑郁,在接受三个月治疗后,自杀倾向反而加重了。我们调查发现,系统在他的大脑里建立了一个危险的反馈循环:每当他试图拒绝治疗,就会体验到强烈的戒断症状,包括幻觉和极度焦虑。他想脱离,但已经被‘设计’成无法脱离了。”
“公司怎么处理?”林澈问。
“销毁数据,解雇发现问题的研究员,给患者家属一大笔钱达成和解,”陆明远的声音里有种压抑的愤怒,“我当时是顾问,不是正式员工。他们让我签署保密协议,给了我比正常高十倍的咨询费。我签了。”
他停顿了很久:“我以为那笔钱会让我感觉好一点。结果完全相反。每次我看到它,就想起那个患者的脸。每次我读神经科学论文,都会想到我们掌握的技术可以怎样被滥用。这次启灵项目,我本来说好只做名义顾问,不深度参与。但当我看到初期数据里的异常时,我知道我必须站出来。”
“所以这算是你的救赎?”吴哲轻声问。
“算是吧,”陆明远苦笑,“或者说,这是我不能再逃避的责任。”
房间里再次沉入安静。这次是一种不同的安静,带着理解和某种沉重的共识。
晚上八点二十五分,三个人都准备好了。陆明远再次检查每个人的设备和任务,确认所有细节。
“最后一点,”他说,“如果行动失败,或者我们在过程中失去联系,每个人都要独立行动。保存好证据,找安全的地方,等待时机。不要试图独自对抗整个系统,那只会让你失去所有机会。”
林澈点头。吴哲也点头。
“还有问题吗?”陆明远问。
林澈举手:“如果我们成功,证据确凿,但没有人相信会怎样?或者人们相信了,但依然接受了这个系统,因为它的好处大于风险?”
陆明远看向他,眼神严肃:“那么我们就应该考虑更激进的方案。但第一步,永远是把真相摆在阳光下。让每个人都能基于真实信息做选择,而不是在被操纵认知的情况下做选择。”
晚上八点三十分,他们离开安全屋。陆明远先走,五分钟后林澈走,又五分钟后吴哲走。每个人走不同的路线前往测试中心,但都约定在晚上九点五十分在园区南门外的公交站碰面,做最后的准备。
林澈走在老旧的街道上,感受着夜晚的空气。他想起那辆改装的数据车,想起陈薇严肃的脸,想起那些闪烁的指示灯。
他想,今晚要么是一切的开端,要么是终结的前夜。
无论哪种,都不再有回头路了。