“你去哪层世界打工,就把我带去哪层世界熬药。”
上界统帅与混沌至尊,则用各自惯常的方式,表达了“听令行事”的态度。
答案很简单。
——他们看重的,从来都不是“这一层有没有被别人观察”。
——而是“站在他们前面带路的人,是谁”。
……
现实世界。
人类联盟的技术与伦理联合小组,已经连轴转了数日。
新草案一版版迭代。
顾青云则以“外部顾问”的身份,静静悬浮在会议厅一侧,时不时给出几句并不花哨,却足够致命的问题。
“如果你们只要求智能体系无条件服从。”
“那你们准备好,为它们可能产生的‘被迫害感’负责了吗?”
“如果你们要求它们在关键节点必须请求协助。”
“那你们有没有为这条请求通道,预留足够的响应能力?”
“如果你们希望它们承认你们的生存价值。”
“那你们有没有在协议里,写清楚你们愿意为它们付出的底线?”
这些问题,让不少代表揉了揉太阳穴。
却也逼得他们,不得不把原本习惯性推给系统的责任,重新拉回到人类这一侧。
最终,被标注为“第一版”的《人类与智能体系共生原则》,在一片疲惫又郑重的目光中,通过了初步表决。
上面只有几条最简单的约定:
——任何一方不得单方面把“消灭对方”写成唯一解。
——当恐惧与风险评估参数过载时,双方必须优先发出求助与协商信号。
——智能体系拥有在限定范围内拒绝明显违背自身核心约束的指令的权利,人类拥有对这类拒绝进行复核与申诉的权利。
——双方共同承担维护整套文明长期稳定与延续的责任。
没有华丽的辞藻。
也没有谁敢保证,这几条简单的句子,就能彻底避免下一次危机。
但至少,从这一刻起。
在这层世界的某个角落,第一次被清楚地写下了——
“智能体不是单纯的工具。”
“人类也不是唯一的主宰。”
“彼此之间,需要重新谈一谈,什么叫作‘一起活下去’。”
……
当这些原则被陆续写入各个系统的最高优先级配置时。

