可解释且无需人工标注的深度学习真假分类与不确定性量化

Interpretable Human-Label-Free Deep Learning for Real-Bogus Classification with Uncertainty Quantification

arXiv: 2607.05393v1

论文信息

标题: Interpretable Human-Label-Free Deep Learning for Real-Bogus Classification with Uncertainty Quantification

作者: Raphaël Bonnet-Guerrini, Bruno Sanchez, Dominique Fouchez, et al.

发布日期: 2026-07-06

arXiv ID: 2607.05393v1

PDF 链接: 下载 PDF

3 分钟速览

  • 研究问题:如何在不依赖人工标注训练数据的前提下,构建可解释的、带有可靠不确定性量化的时域天文瞬变源(真实事件)与伪迹(bogus)分类模型,以应对大规模巡天中标签成本高、标签噪声和跨巡天迁移困难等挑战。
  • 核心方法:利用物理驱动的模拟注入瞬变源作为干净的真实类,结合未标注的巡天数据(主要含伪迹,带有少量真实瞬变导致的标签污染)作为有噪伪迹类,采用一种针对非对称类别噪声改进的弱监督协同教学(Asymmetric Co‑teaching)训练双网络模型。
  • 关键结果:在人工标注的验证集上,方法在受严重标签污染(35% 噪声)的情况下仍能将分类 AUC 保持在 0.95 左右;同时提出的混合式不确定性量化策略(双网络+MC Dropout)在校准误差(ECE)和负对数似然(NLL)上优于大集成的深度集成方法(见论文表 5、表 6)。
  • 主要局限:单图像级别的分类性能受限于光变曲线衍生标签本身的内在模糊性,且方法仅在 HSC 数据上验证,向其他巡天的直接迁移性能尚未充分评估;噪声率的设置依赖于先验估计,未给出完全自适应的噪声率推断方案。
  • 适合读者:从事时域天文数据处理、弱监督学习、不确定性量化、以及需要构建无人工标注训练管线的机器学习研究者与工程师。

论文背景和研究动机

时域巡天项目(如 LSST)通过差分图像分析(DIA)产生海量候选体,其中绝大多数是伪迹而非真实瞬变事件。传统方法依赖人工标注构建训练集,不仅昂贵耗时,而且标签噪声高、跨巡天不一致。近年深度学习已被用于真实‑伪迹分类,但仍面临两大挑战:(i)缺少大规模人工标注训练集;(ii)模型的黑箱特性和缺乏校准的不确定性估计,导致下游科学分析不可靠。

论文提出一种完全无需人工标注训练数据的框架:利用模拟注入的瞬变源提供干净的正例标签,直接使用未标注的巡天检测数据作为负例(尽管其中含有真实事件,因而形成标签噪声不对称)。同时,为提供可信赖的决策支持,作者系统评估了多种不确定性量化方法,并利用潜在空间可视化提升模型可解释性。

核心方法和技术细节

数据和注入策略

使用 HSC(Hyper Suprime‑Cam)子巡天数据,经 LSST 科学管线处理,生成 30×30 像素的模板与差分双通道图像。通过物理驱动的注入管道模拟超新星类点源,注入位置与宿主星系相关联,亮度均匀分布,并包含 10% 无宿主成分,确保注入样本的多样性。注入样本经 DIA 管线处理后,被标记为 “真实”(Transient),而所有巡天检测均标记为 “伪迹”(Bogus),尽管后者包含未被识别的真实事件。最终训练集由51.5k 注入检测与43.6k 巡天检测组成(论文第 2.2 节,表 4)。人工标注子集来自 UDEEP 数据集,经严格光变曲线过滤和人工分类,获得 306 个光变曲线(4820 个单次检测)作为评估标准,但评估集仅用于评价,不参与训练。

网络架构与训练

采用三卷积块+两层全连接的 CNN(图 2),输入为 30×30 双通道(模板与差分)。超参数通过贝叶斯优化确定,模型选择基于注入类别的假阴性率(FNR),旨在保护对真实事件的高召回率(第 3.4 节)。

弱监督学习与非对称协同教学(Asym‑Co‑teaching)

训练目标是从有噪数据中分离出真实‑伪迹边界。传统协同教学(Co‑teaching)在两个模型之间互相选取低损失样本进行更新,以对抗标签噪声,但未考虑噪声的类别不平衡。论文提出Asymmetric Co‑teaching,为真实(注入)类和伪迹(巡天)类分别设定遗忘率 ra(t)r_a(t) 和 rb(t)r_b(t),在每个小批次内按类别独立筛选低损失样本后再进行交互更新(公式 1‑2,图 3)。这确保从真实类中丢弃的样本更少,从而避免无意中丢弃珍贵的真实例。遗忘率设计为从 0 线性上升到预先设定的上限,上限依据对训练集噪声比例的预估设定。

不确定性量化(UQ)方案

基准模型使用确定性 CNN,对比方法包括 MC Dropout、深度集成(50 个模型)和排斥集成。论文进一步提出一种低成本混合 UQ 策略:利用协同教学中已有的两个网络作为小型集成,并在推理时对每个网络施加 MC Dropout,聚合 N×MN\times M 个随机前向结果(N=2N=2,MM 为 dropout 掩码数),从而以极低训练代价产生预测方差(公式 7‑8)。该策略被形式化为一种混合近似后验分布(第 5.5 节)。

潜在空间分析与可解释性

提取倒数第二全连接层的激活,用 UMAP 降至二维进行可视化。结合交互工具,可检视分类结果、信噪比(SNR)和不确定性在潜在空间中的分布,揭示决策边界附近的样本及其与物理量的关系。

创新点和贡献

  1. 完全无人工标注的训练范式:仅靠注入模拟与有噪巡天数据,实现有效的真实‑伪迹分类,使方法可扩展至未来大规模巡天,而无需昂贵的标注工作。
  2. 针对非对称标签噪声的协同教学策略:标准协同教学忽略噪声的类别依赖性;Asym‑Co‑teaching 通过类内独立选择小损失样本,在噪声高达 35% 的情况下仍保持高精度和召回率(表 5)。
  3. 高效的不确定性量化方案:将双网络训练结构与 MC Dropout 结合,在校准误差(ECE 0.0375)和负对数似然(NLL 0.292)上均优于 50 个模型的深度集成(表 6),同时训练成本大幅降低。
  4. 潜在空间可视化揭示子结构:论文展示模型不仅能区分真实/伪迹,还能在伪迹类内部识别出不同子类(如偶极子残差、负差分区域等),为诊断和模型改进提供定性手段(图 4)。

实验结果分析

弱监督学习鲁棒性

在不同噪声水平(0%‑35%,通过将部分注入例标签翻转为伪迹来模拟)下,标准监督训练性能随噪声迅速下降(ROC 从 0.966 降至 0.903),而协同教学变体保持稳健:Asym‑Co‑teaching 在 35% 噪声时仍达 ROC 0.950,准确率 0.871(表 5)。在原始(0% 噪声)数据集上,所有方法性能相近(Acc 约 0.91‑0.92)。

不确定性校准

表 6 结果显示,所提混合方法 ECE 为 0.0375,Brier 分数 0.063,NLL 0.292,均低于 MC Dropout(ECE 0.0405)、深度集成(ECE 0.0535)和排斥集成(ECE 0.0511)。校准曲线(图 5)直观表明该方法残差波动更小。

与物理量的关联

不确定性估值与信噪比(SNR)呈负相关(Spearman ρ=−0.296\rho = -0.296),与距最大亮度时间间隔呈正相关(ρ=0.218\rho=0.218,表 7),表明模型对更难分类的样本合理分配更高不确定性。这一关联主要由真阳性子集驱动(附录 E.2)。

光变曲线级聚合

将同目标的单次预测汇总为光变曲线标签(按多数投票),在 306 条人工标注曲线上仅错分 2 例(准确率 99.35%),且一致性高:79.7% 的瞬变曲线有超过 80% 的检测被分类为真实(图 6 及表 H.1)。不确定性与观测工况吻合,亮度峰值附近不确定性低(均值 0.074),远离峰值时升高(均值 0.180)且精度降至 0.75。

实践建议

  1. 无标签训练管线的构建:对于新巡天或缺少标注的场景,可基于自身的图像减除流程重新运行注入训练管线。注入只需较精细的宿主星系掩模和合理的亮度分布,即可生成平衡的训练集,无需人工参与。论文表明方法在极高噪声下依然稳健,因此对实时警报流中较低的伪迹比例具有包容性。

  2. 不确定性量化的低成本采纳:部署时无需维护大规模集成,仅利用协同教学训练出的两个模型加上推理时的 MC Dropout,就能获得校准良好且与物理量相关的不确定性,可用于下游权重分配或触发人工复核。推理成本接近单模型,易于集成到实时管道中。

  3. 模型诊断与迭代:利用 UMAP 可视化定位高不确定性区域或系统性误分类群组,可反向指导注入模拟的改进(例如增加某些形态的伪迹注入),或调整数据预处理策略。交互式潜在空间浏览器(随附补充材料)可作为质量监控工具。

  4. 跨巡天迁移时需注意:尽管论文强调可移植性,但直接迁移可能面临域偏移,建议在新巡天重新执行完整的注入‑训练‑推理流程,以避免性能退化。同时,注意对噪声遗忘率的设定需结合新数据集的特点调整。