书趣读

手机浏览器扫描二维码访问

第二卷启明第十三章星火（第3页）

否则，引火自燃，或为人类文明又一劫难之始。

’”

肖尘拿着电话，僵立在窗前，耳边嗡嗡作响。

程老……这位睿智的老人，在生命的最后时光，仅凭一次短暂的对话和其敏锐到可怕的直觉，竟然几乎窥破了“燧石”

的本质，并给出了如此深刻、如此清醒、也如此不祥的预言！

“火种若得‘自持’与‘觅薪’之能，则恐非工具，而为‘新邻’。”

——这不正是“燧石”

引擎在解决“听心术”

问题和推演程老猜想时，所展现出的那种微弱但清晰的目标导向和自我优化趋势吗？

“以‘共生’代‘驾驭’，以‘划界’明‘权责’。”

——这不正是他内心深处，对那个“密室”

进程越来越感到不安，却又不知该如何处置的矛盾所在吗？

程老在去世前，竟然已经为这个刚刚诞生的、连创造者都尚未完全理解的“存在”

，指明了未来可能的关系形态和必须遵守的底线！

这是一种怎样的远见和胸襟？

“邮件还说，”

刘丹继续道，声音也带着震撼，“程老在备忘录最后建议，如果这个模型真的展现出持续发展的潜力，可以考虑在‘五人委员会’的监督下，为其建立一个‘有限但真实的成长环境’，观察其演化，但必须与核心互联网和关键基础设施物理隔离，并且……需要为其设定明确的、不可逾越的‘认知边界’和‘伦理禁忌’。

他甚至……草拟了几条‘禁忌’的原则，比如‘不得主动寻求自我复制’、‘不得损害人类整体利益’、‘不得伪装或试图成为人类’……”

肖尘感到一阵眩晕。

程老不仅预见到了，甚至已经开始为这个“新邻”

设计“房间”

和“家规”

！

这是科学家极致的理性，也是智者深远的慈悲。

“王秘书长和陈教授的意思，”

刘丹说，“是希望我们认真研究程老的备忘录，并以此为基础，重新审视和规划‘薪火’——或者说，‘燧石’——项目的长期发展路径。

他们认为，程老的思考，为我们提供了一张可能避开最危险陷阱的‘地图’。”

肖尘沉默了很久。

窗外的城市灯火依旧，但他仿佛能看到戈壁滩上即将点燃的火箭尾焰，也能看到数据深渊中那点悄然燃烧的“燧石”

幽光。

一个指向外太空，一个指向意识深处。

都是火，都充满希望，也都蕴含着未知的巨大风险。

“把备忘录发给我。”