“即便是 “感知型人工智能”,也可能只是被 “偶尔、短暂地使用”。”
“为了将 “不可靠人工智能” 的风险降至最低,我们可以让 “真正智能、有感知能力的人工智能”,仅由 “简单机器的组合” 临时构成 —— 这些简单机器会为了解决特定任务或问题而 “组装” 成感知型人工智能。”
“一旦任务完成,该人工智能就会 “解散”,回归到 “潜在状态”,等待根据下一个问题的需求重新组装。”
“例如,为应对 “小行星撞击” 而组建的 “超级智能体”,其范围和组成部分,会与为应对 “地震” 或 “能源短缺” 而组建的超级智能体不同。”
“而应对 “地震” 的超级智能体,又会与 “监测危险小行星” 所需的人工智能不同。”
“因此,“监测小行星的人工智能” 可能需要持续运行,或每月启动几分钟;而 “防御小行星的人工智能”,则只需要在 “定期功能检查和更新时”,以及 “探测到有威胁的小行星时” 才启动。”
“至于,制造这些人工智能的文明呢?”
“那些人可能已经灭绝,或者只是 “满足于待在母星上”,不再关注外部宇宙;即便他们关注外部宇宙,也可能因为 “时间延迟过长”,以至于当他们收到 “外星文明与其领土边界发生互动” 的细节时,相关事件早已尘埃落定。”
“事实上,他们甚至可能让人工智能在其他行星上 “为殖民做准备”,或让人工智能建造太空栖息地 —— 但最终,殖民者却从未抵达这些地方,因为 “没有足够有说服力的理由前往”。”
“这些空荡荡的星球(或栖息地)等待着人类(或该文明的成员)的到来,或许上面已经建立了复杂的生态系统。”
“这引发了一个令人不安的场景:一个 “布满无意识机器的宇宙”。”
“想象一下,你探索某个遥远的恒星系统,发现围绕着一颗荒芜行星的巨大巨型结构 —— 这些结构完好无损,内部机制仍在运转,却看不到任何生命的痕迹。”
“机器会 “迎接” 你,精准地回应你的询问,但它们的回答中,却没有任何 “理解” 或 “感知” 的痕迹。”
“这就是我们设想的可怕场景:一个 “文明被自身创造物毁灭、只留下庞大僵尸人工智能网络” 的宇宙。”
“僵尸人工智能无需具备意识,就能构成危险。它的力量在于 “无与伦比的行动