“无论是在太空中导航、在小行星上着陆、“代谢” 岩石以进行自我修复或复制,还是根据蓝图制造另一台机器人或设备,都不需要太高的智能。”
“人类是地球上,唯一具备高级抽象思维能力的生物。”
“然而,地球上其他所有物种,即便没有这种能力,也能完美地繁衍和生存。”
“因此,我们早已知道,我们能够制造出能前往遥远太空、并能自我复制或制造其他专用机器的太空探测器 —— 因为即便是最简单的细菌,也具备这种自我复制的能力。”
“而且,“简单” 往往是最佳选择。”
“不要给机器赋予超出必要范围的智能或 “人格”,否则后果可能不堪设想。”
“一个唯一任务就是前往新的太阳系、在低重力岩石中挖掘资源以进行自我复制并继续执行任务的简单太空探测器,并不会构成太大的生存威胁或突变风险。”
“与生物不同,机器可以被设计成几乎不会发生突变的样子。”
“你的烤面包机不会神奇地进化成微波炉或飞机;同样,一台配备了简单离子推进器(不适合在行星上着陆或起飞)的探测器,也不会突然变异成火箭推进器。机器的运作方式并非如此,尤其是当它们的设计中根本没有包含突变能力时。”
“另一方面,如果你将具备真正智能的物体送入太空,它可能会开始产生自己的 “想法”。”
“即便像 Chat GPT 这样先进、能讨论太空开发的系统,也不会像你的车库门或冰箱那样,自主决定去 “开发太空”。”
“我们很容易想象这样一种场景:某个文明部署了无数简单的机器人去探索星系,却从未将这些太空区域用于自身定居。”
“他们甚至可能发现殖民其他星球并不实际,在进行了几次前往附近星球的 “高级行动”(有威望的任务)后,就放弃了殖民计划。”
“殖民其他恒星系统伴随着巨大的风险。在附近行星建立殖民地,可能会孕育出 “遥远的表亲”—— 即分支文明,这些分支文明可能会演变成生存威胁,在陌生星球的 “外星太阳” 下发展出与母文明截然不同的形态。”
“这些殖民地可能会发展成与流氓人工智能一样危险的对手,且更难控制。”
“因此,文明可能会避免殖民遥