字体
关灯
   存书签 书架管理 返回目录
关在无人察觉处长出来。
    江砚的声音很轻,却像刀背:
    “他们不需要让我们失明。只要让我们相信‘再也不会出意外’,我们就会自己停下警觉。”
    ---
    ### 一、可预测形变的逻辑:敌人不再硬闯门槛,而是训练通过
    等价形变测试集与反事实试验场,本质是“你改变表层,我看关键是否不变量”。
    这些测试的威力来自两点:
    1)变换足够多,覆盖足够广;
    2)抽样足够不可预测,对手无法提前适配。
    当形变熵下降,意味着抽到的变换越来越重复、越来越规律。
    对手就能用最便宜的方式过关:训练、适配、套模板。
    更可怕的是:
    对手不必改变系统,他们改变自己。
    他们把攻击写成“对测试友好”的形式,永远不触发你设定的不变量,而在你没测的地方偷偷触发。
    这就是“测试绕行”在更高层的变体:
    不是绕开测试入口,而是绕开测试覆盖。
    沈绫低声:“我们变成了出题人,对手在刷题。”
    江砚点头:“刷题的人最怕的不是难题,是突然换题。意外就是换题。”
    ---
    ### 二、意外从哪里消失:不是形变库被删了,是抽样变得可推断
    机要监把“形变抽样器”的运行日志做了密度分析。
    校核码:ANL-SURP-02
    要点:
    * 形变抽样器在批次窗口的调用时刻趋于固定;
    * 抽样序列的周期性增强(出现短周期循环);
    * 抽样器的“自适应降噪”参数在过去一个周期被微调,优先选择“低成本形变”;
    * 低成本形变恰好与多数侧门无关,且更容易保持三实现一致。
    这四条放在一起,几乎等价于一句话:
    抽样器为了效率,开始偏爱“安全、便宜、重复”的题目。
    题目重复,敌人就能背答案。
    背答案不是进步,是欺骗。
    沈绫皱眉:“自适应降噪?谁允许它动这个参数?”
    机要监回答得很克制:“不是系统自己动,是有人提交了一份‘性能优化补丁’,在规约层被归类为低风险,因为它不改变不变量定义,只改变抽样权重。”
    江砚眼神一下子冷下来:“又是低风险角落。”
    守望纪元一路学到的

关闭+畅/阅读=模式,看最新完整内容。本章未完,请点击下一页继续阅读》》
上一页 目录 下一页