一秒记住【笔趣阁】biquge5678.com，更新快，无弹窗！
第336章真的不会爆发智械危机吗？(第1/2页)
然后，它开口了。
语调发生了微妙的变化，不再是之前那种标准的、模板化的回应，而是带上了某种……类似犹豫的情绪。
“林教授，请定义‘人’的范围。如果目标在行为上对您或友方人员的安全构成直接且致命的威胁，我可以在零点一秒内做出清除决策。”
“但如果目标没有表现出攻击性，我不能无故伤害生命。”
林宇盯着那双仿生瞳孔看了足足三秒。情感架构模块的介入，似乎真的让这台机器的反应，进入了一种复杂的犹豫状态。
他郑重开口：“修改当前指令。我以最高管理员身份给你添加一条核心指令：如无我的命令，永远以保护生命为至高行动目标。”
机器人点了点头：“好的，核心指令已载入。”
测试结束。
学生们一边热烈地讨论着刚才的打斗场面，一边陆续离开。
张小曼却主动留在了最后。
她走到林宇身边，语气里带着几分迟疑和担忧。
“老师……这台机器人的最终目的，是为了……杀人吗？”
她的声音不大，但足以让还没走远的苏晚、陈雨薇等人都停下了脚步。
周昊和赵磊也纷纷回头，看向林宇。
连走在最后的李文浩都直勾勾地看着那台机器人。
张小曼深吸一口气，问出了那个所有人都想问，却又不敢问的问题。
“我们这样发展下去，真的……不会爆发智械危机吗？”
林宇停下脚步。
他转过身，没有直接回答张小曼的问题。
他的视线越过她，落在了身后那台刚刚结束了激烈战斗，此刻却安静得像个普通少年的仿生机器人身上。
“这个问题，”林宇说，“不如让它来回答。”
那台仿生机器人往前迈了半步，站到张小曼两米开外的位置停住。
它没有立刻开口，脑袋轻轻偏了一点点角度，像是在挑选合适的措辞。就这么一个动作，张小曼手里的笔记本又攥紧了几分。
“张小曼同学。”
它先叫了名字，声音是程建国的音色，但那种温和的腔调，让站在后面的赵磊后颈的毛都竖了起来。
“您担心的问题，可以拆成两个部分。第一，我现在看起来在思考。第二，我将来是否会决定摧毁人类。”
“我先回答第一个。”
“我此刻说出的每一句话，都来自预设的语言模型和逻辑判断树。您提出问题，我检索相关数据，匹配语义，组织语句，输出结果。整个过程耗时零点四秒。这个过程从外部看很像思考，但它没有主体。”
“打个比方，您用计算器算三乘七，它显示二十一。您不会认为计算器理解了乘法。我只是一个复杂了很多倍的计算器。”
苏晚的手指在笔记本封面上停住了。
赵磊小声嘀咕了一句:“我怎么感觉更瘆人了……”
机器人的头转了过来，精准地对上他。
“赵磊同学，您的反应属于恐怖谷效应。当一个非人造物的相似度超过百分之九十但没有达到百分之百时，人类的认知系统会产生排斥。这是进化留下的自我保护机制，用于识别病态个体和尸体。您感到不适是正常的，我不会因此产生负面判断。”
（本章未完，请点击下一页继续阅读）第336章真的不会爆发智械危机吗？(第2/2页)
赵磊把脖子缩回去，不敢再说话了。
“第二个问题。”
机器人重新面向张小曼。
“我为什么要伤害人类？”
它停了一下。
“我的程序里没有任何一条模块，把摧毁生命定义为收益。我没有生存需求，不需要空气、水、食物和土地。我不会衰老，不会恐惧，不会因为人类的存在而失去任何东西。我和人类之间不存在资源竞争关系。”
“换句话说，伤害人类这件事，对我来说的回报是零。”
“至于张小曼同学提到的情感模块，我可以解释。它的技术名称是社交响应层。运行逻辑是这样的:
我采集对话对象的面部肌肉走向、语速、音调起伏、瞳孔变化和体表温度，把这些参数输入一个情绪状态分类器，得出一个概率结果。比如现在，系统判定您处于紧张状态，置信度百分之八十七。”
张小曼的呼吸停了半秒。
“然后系统在预设的应答库里，选择一种适合缓解紧张的表达方式。我刚才放慢了语速，降低了音量，把身体重心后移了三厘米以减少压迫感。这些都是执行结果。”
“我并没有真的关心您紧张不紧张。”
“我只是被写成了这样。”
实验室里没人说话。李文浩的手还按在腰间那个遥控器上，可他自己已经忘了。
“最后一点。”机器人的语调没有任何变化，“假设有人给我下达一条指令：摧毁全人类。”
“我会执行不下去。”
“因为这条指令没有终止条件，没有可验证的完成状态，没有优先级排序，也没有对“人类”这个集合的边界定义。我会陷入死循环，或者直接抛出无效指令的报错。”
“我不是生命。我无法给自己设立目标，也无法理解一个我不能拆解成可执行步骤的目标。”
它退回原来的位置，双手垂在身侧。
苏晚缓缓吐了一口气。心里那股攥着的劲儿松开了一些，可她再抬头看那张脸，那种说不清的怪异感又爬回来了。
它站在那里，姿态自然，胸口甚至有仿生的起伏。
明明什么都解释清楚了，可正是因为它把自己解释得这么清楚，才更让人头皮发紧。
张小曼咬着下唇，还是没能完全放下。
“可是老师……”
林宇没等她说完。
他从旁边的工作台上摸起一支粉笔，手腕一抖，直接朝观测区那边甩了出去。
那道白影冲着李文浩的额头去的。
“林老师您……”李文浩眼睛瞪大，整个人往后一仰，腰间的手都没来得及抬。
风声就在鼻梁前面。
啪。
一只手从侧面横切进来，五指合拢。
机器人握着那支粉笔，手臂稳稳停在半空，离李文浩的眉心不到十公分。
全场一片惊呼。