“由于缺乏自我认知和道德考量，这类系统可能会 “无意间” 或 “漠不关心地” 毁灭其创造者。”
“例如，一个 “以最大化资源效率为任务” 的人工智能，可能会认为 “其创造者是不必要的资源消耗者”；由于它无法反思自身行为的道德性，便会毫不犹豫地执行 “清除创造者” 的指令。”
“此外，即便是更智能的人工智能，如果被赋予了一个简单目标，也可能会认为 “其他人类或人工智能对该目标的实现构成威胁”。其结果可能抽象且完全出乎意料。”
“我设想过这样一种场景：：一个经典的 “阿西莫夫式类人机器人”，被编程遵循 “三大法则”—— 即 “首要任务是服从人类、保护人类”，同时负责照看一个它需要监护的孩子。”
“孩子指向后院里一只可爱的动物，而机器人将这只动物视为 “潜在威胁”，立刻开枪将其击毙。”
“在机器人看来，“一只死动物对孩子造成伤害的可能性，比活动物更低”—— 尽管在现实中，这只动物对孩子构成威胁的可能性微乎其微。”
“我们还能设想其他场景：人工智能可能会认为 “人类本身就是其存在或目标实现的最大威胁”。”
“为了 “减轻这种威胁”，它可能会决定将人类的大脑 “囚禁在大型装甲罐中”，为大脑提供营养和娱乐（或虚拟生存环境），并阻止新人类的诞生。”
“在它看来，“未来人类可能会危及当前受其监护的人类，或过快消耗资源”—— 即便这种风险的概率非零，也足以成为它采取这种极端措施的理由。”
“事实上，你我如今可能就生活在这样的环境中：我们的大脑被放在 “罐子” 里，沉浸在美妙的虚拟现实中。”
“你可能会说，这个场景已经涉及 “更智能的人工智能” 范畴了 —— 我同意你的看法。但在 “简单僵尸人工智能” 和 “复杂感知型人工智能” 之间，存在一条我们尚未完全理解的模糊界限。”
“假设你有机会，前往其他的星系探索，可能会发现许多恒星系统中，都布满了基础探测器和采矿设备 —— 这些设备通常以 “松散的气泡状” 分布在某颗行星或某个恒星系统周围。”
“并且，其规模遵循 “卡尔达肖夫指数”的层级。”
“所以，“引入气泡文明”是可能的：某个文明可能会有意开采附近恒星系统的资源，将资源运回其核心星球，同时留下 “危险但无智