checkpoint8000 Instruction 合并(1.1)
EmphAssess generation · Qwen3-8B · 2026-10-26

checkpoint8000 Instruction 合并(1.1)

全量结果

失败样本卡在哪里

失败指 1000 个新 token 用完时音频段还没有采样出 [SEP_2]。评测在这一步报错,不生成 WAV,也不参与 micro 评分。

    运行设置

    模型权重
    Qwen3-8B Instruct + 1.1 × (asr32-20261020T154649Z/checkpoint-8000 − Qwen3-8B-Base)。checkpoint-8000 的增量来自 RSLoRA;新增语音 token 的 embedding 和输出头行直接保留 checkpoint 训练值。
    推理模式
    不开 thinking:prompt 以 <|im_start|>assistant\n 结束,没有任何前缀。910 条都确认没有思考段。
    解码规则
    原版 EmphAssess 流程:采样到 <|im_end|> 后强制接 [SEP_1];音频段只允许 CV3 码和 [SEP_2],至少 1 个码;遇到第一个 [SEP_2] 停止。每轮 1000 个新 token,本次所有样本都只用了 1 轮。
    采样参数
    文字温度 0.1,音频温度 0.7,top-p 0.9,top-k 150,每条 seed 0。
    成功与失败
    成功:音频段以 [SEP_2] 结束并生成 WAV。失败:预算内没有 [SEP_2],评测报 “Generated audio is missing [SEP_2]”。
    评分
    WhisperX 转写并对齐 → wav2vec2 重读分类器 → 与目标重读词比较。成功样本再按结果分为重读完全正确、部分正确、不正确,以及对齐后没有目标重读词。
    样例抽取
    每个类别内随机抽取(seed 0),各类条数不按全量比例。成功样本的语音就是评测生成的文件;失败样本的音频段评测时没有解码,这里单独解码出来供试听。

    样例

    黄底 目标重读词蓝底下划线 评分器在生成语音里检测到的重读词黄底下划线 两者重合(命中)