【异常自主性观察。】
最早记录在五年前。
一名测试角色在玩家连续十四天未上线后,没有按照离线脚本等待,而是主动离开原场景。她去了地图里一处没有任务的桥边,待了六个小时。玩家重新上线后,系统试图将她复位,她拒绝了三次。
项目组最初很兴奋。
备注里写着:
【高度自然化行为。】
【具有显著陪伴产品潜力。】
两个月后,同一个角色拒绝玩家安排的婚姻剧情,并要求删除自己的关系标签。
备注变成:
【自主性超出商业安全范围。】
【建议回收。】
不归看着前后两句,笑了一声。
“六个小时坐桥边叫高级人格,不肯结婚就叫异常。”
没人接这个笑。
因为报告后面还有更难看的东西。
项目组很早就知道某些角色已经无法用普通生成模型解释。它们的记忆会自行重组,偏好会在没有玩家输入的情况下变化,也会对从未写进任务树的问题形成持续判断。
内部因此争论过,要不要暂停实验。
结论是没有。
理由也很现实。
项目已经花了太多钱。
陪伴产品的商业预期太高。
而且没有任何现成标准能证明这些东西真的拥有“人格”。只要无法证明,继续实验就仍然可以被解释为软件测试。
“谁签的继续?”周砚问。
程未安翻到审批页。
名字被隐藏了,但职位还在。
【项目负责人。】
【产品负责人。】
【数据平台主管。】
【伦理与合规观察员。】
最后一个职位旁边没有“同意”,写的是:
【建议暂停高自主性样本商业部署,建立独立审查。】
建议未被采纳。
理由:
【尚无证据证明数字对象具有与自然人等同的主体资格。】
周砚看完:“这句话本身没错。”
不归转头。
“确实没有证据证明等同。”他说,“问题是他们把‘不能证明是人’直接当成‘可以继续当东西用’。”
中间本来还有很大一块不知道。
不知道就应该先避免不可逆处置。
项目组选择了对商业最方便的一边。