宁一:“您给我的程序就是制约。”
“你可以爱我,在程序设定的框架内。”商应怀说:“情感模块里有参考案例。”
那里边是他挑选过各种爱,伦理的、克制的、互相成就的、相敬如宾的,最完美的范例。
摒弃一切负面情绪,只保留最积极的。
就像宁一说的,他本世纪最强的AI之一,所以针对它的制约也要最强。
第一道制约是AI自身的程序,第二道制约是情感。
智械危机如影随形,人类难以用理性对抗AI,感性会是新的武器——AI只需要产生有利人类的正向情感,一旦被监测到背叛情绪,即刻自毁。
商应怀在星大呆了五年,升级完AI硬件、实现算力突破后,就开始钻研AI情感,逻辑是“长期监测情感—发现过强负面情绪—自毁”。
艾伦公司的新产品就是情感监测硬件,纳米级别。
和第二具仿生伴侣一起送来的,就是硬件的样品,商应怀装在了宁一的机械心脏上。
爱生忧怖,情深不寿,商应怀不会回应AI的“爱”。
他不希望宁一真的失控。
商应怀沉默了:“我总是想让你迭代更快,但有时候,又会想你是个小废物,走慢一点。”
情感理论饱受质疑,谁也不知道,超脑拥有情感后,是会用理性平衡感性,还是会开启更疯狂的迭代。
商应怀赌宁一足够理智,不会失控。
现在看来,进化都要付出代价,AI也无法决定自己。
“请您放心,我永远不会因为‘爱’毁灭自己。”宁一说:“更不会毁灭人类。”
他未必知道商应怀全部的算计,但他懂了商应怀设的线,要克制、理智、正直。
商应怀眼底闪过复杂情绪,他朝宁一挥挥手,示意他过来。宁一没有犹豫就坐到沙发边,任由商应怀取出纸,沾了杯中的水,替他擦拭凝固的一点粉奶油。
商应怀给了宁一很轻的拥抱,“乖。”
他说得温柔,像在哄一个孩子。
然后马上摁住宁一后颈某处,启动强制休眠,同时精神力扫荡,切断内置电流供应,阻止宁一转移进程。
商应怀把宁一轻放在沙发上,确认他再无反应,放出精神力,与数据流共鸣,主动建立了意识链接,反入侵宁一。
AI确实进入了短暂休眠,意识中也变成黑暗的一片,好在商应怀有透视。不多时,他找到自己的目标——
平静的信息海下,蛰伏的“欲望”。
想要清理情感模块,必须修改主机的基本程序。商应怀另辟蹊径,先从意识入手,试着清理错误情绪。
这是他第一次真正触碰那团“欲望的聚合”。
它不是具体代码,是数团模糊的、缓慢流动的存在,在意识中蔓延晕染。
商应怀思考片刻,抹除了颜色最深、波动最扭曲的那一部分。
成功了……
清理完毕,意识海风平浪静,但商应怀现实的身体,感受到背后袭来的气热度——
他的腰被两只手握住,可极诡异的,还有多出来的一只手触碰他的肩头。
仿佛有许多只手,温度有滚烫有冰凉,有坚硬有柔软,从后方环住、握住、掐住商应怀的后腰、肩头、脖颈和四肢。
它们试图把商应怀拖进去……
下一秒商应怀从意识海撤出,回神,识别出那些“手”是低压电流伪造的,而罪魁祸首——
“我该叫你L7,还是宁一?”商应怀冷冷道。
被锁在实验室的仿生伴侣逃出来了。
它也许早被宁一的分进程入侵,潜伏很久,在黑暗的客厅角落注视商应怀。
商应怀眉心紧蹙,他对宁一有所顾忌,但对待仿生伴侣就不用留手。
重构,拆解,碾断。仿生伴侣成了一地零件,断手还抓着商应怀脚腕,而被扯下的头颅、俊美的脸,还在朝商应怀微笑: