字体
关灯
   存书签 书架管理 返回目录
损坏” 的可能性非常低。”
    “此外,僵尸人工智能的创造者,想必也不会 “完全无能”,因此,僵尸人工智能被设计成 “容易发生突变或自我损坏” 的可能性非常低。”
    “正如我常说的:在创造人工智能这件事上,只有 “天才”才蠢到足以把我们所有人都害死,而其他人根本造不出能毁灭我们的工具。”
    “我们经常会设想 “灰色粘质”这类场景:自我复制的纳米机器人将一颗行星变成由它们自身构成的 “播种海洋”。”
    “人们常常将这种场景与地球早期生命的演化进行对比 —— 地球早期生命遍布全球,并最终通过光合作用等过程改变了地球环境,为包括人类在内的更复杂生命形式的出现铺平了道路。”
    “然而,如果自我复制机器人像早期生命那样容易发生突变,那么从 “灰色粘质” 中进化出 “智能体” 可能需要数十亿年的时间。”
    “但这种情况似乎不太可能发生 —— 因为任何设计这类机器的人,都可能已经掌握了关于进化和突变的知识,也可能接触过警告 “失控人工智能” 或 “失控机器人系统” 的科幻作品。”
    “因此,有理由认为,人们会采取措施来防止不必要的突变,例如:提高复制精度、设置 “纠错算法”,以及安装物理防护装置以确保 “高保真复制”—— 这些措施都能将突变风险降至最低。”
    “僵尸人工智能,为费米悖论提供了一个合理且发人深省的解决方案。”
    “它表明,“宇宙的大寂静” 可能是文明 “败给自身技术野心” 的结果。”
    “因此,在我们继续发展先进人工智能的过程中,必须谨慎行事。宇宙之所以寂静,或许并非因为缺乏智能,而是因为 “没有意识的智能” 可能会成为自身最大的敌人。”
    “我认同这一观点,它是近年来我听到的关于费米悖论的较好解释之一。但该观点也存在一些潜在的漏洞。”
    “首先,这一观点假设 “人工智能的发展存在必然的先后顺序”。”
    “由于我们可以说 “已经拥有了基础的僵尸人工智能,且已经拥有一段时间了,但尚未拥有感知型人工智能”,因此得出 “感知型人工智能在僵尸人工智能之后出现,而非之前” 的结论,似乎是合理的。”
    “但该推理的第二部分 ——“若不先遭遇危险的人工智能,就无法拥有安全的人工智能”—— 则似乎有些牵强。”
    “对费米悖论而言,“潜在

关闭+畅/阅读=模式,看最新完整内容。本章未完,请点击下一页继续阅读》》
上一页 目录 下一页